Soofi S 30B-A3B est un modèle MoE Mamba-Transformer ouvert activant 3,2B de paramètres 31,6B pour l'allemand et l'anglais. Le post Soofi Consortium publie Soofi S 30B-A3B : un modèle de fondation MoE Mamba-Transformer hybride ouvert…
Les nouveaux modèles repoussent les limites des capacités et du rapport qualité-prix. Les équipes réévaluent les éléments sur lesquels s'appuyer chaque fois qu'un lancement modifie ce qui est possible par dollar.
Les résumés sont regroupés à titre d’information uniquement – suivez le lien source pour l’histoire complète. Les entrées de démonstration sont illustratives.