Google, Red Hat et IBM ont publié llm-d 1.0, une pile open source native de Kubernetes pour l'inférence LLM distribuée. Il ajoute un contrôle de flux multi-tenant, des mises à niveau sans temps d'arrêt et un routage sensible aux agents via vLLM, SGLang, TP…
Les pondérations ouvertes relâchent la pression sur les prix fermés et élargissent l'accès, modifiant ainsi le calcul de la construction par rapport à l'achat pour l'ensemble de l'écosystème.
Entreprises et modèles mentionnés dans cette histoire — ouvrez leurs pages et prix en direct
Les résumés sont regroupés à titre d’information uniquement – suivez le lien source pour l’histoire complète. Les entrées de démonstration sont illustratives.