NVIDIA a publié Switchyard, un proxy Apache-2.0 Rust et une bibliothèque pour le trafic LLM. Il décode les requêtes en types neutres par rapport au fournisseur, les achemine avec des algorithmes passthrough, aléatoires, de classificateur LLM ou de routeur d'étape, et…
Les pondérations ouvertes relâchent la pression sur les prix fermés et élargissent l'accès, modifiant ainsi le calcul de la construction par rapport à l'achat pour l'ensemble de l'écosystème.
Entreprises et modèles mentionnés dans cette histoire — ouvrez leurs pages et prix en direct
Les résumés sont regroupés à titre d’information uniquement – suivez le lien source pour l’histoire complète. Les entrées de démonstration sont illustratives.