Découvrez comment i14 a formé et servi Laplace 3B, un modèle d'attention linéaire, sur AWS Trainium2 à l'aide de PyTorch natif. Son état récurrent reste fixé à 29,5 Mo par séquence quelle que soit la longueur du contexte, évitant ainsi la croissance du ke…
Les nouveaux modèles repoussent les limites des capacités et du rapport qualité-prix. Les équipes réévaluent les éléments sur lesquels s'appuyer chaque fois qu'un lancement modifie ce qui est possible par dollar.
Les résumés sont regroupés à titre d’information uniquement – suivez le lien source pour l’histoire complète. Les entrées de démonstration sont illustratives.