Google, Red Hat e IBM hanno rilasciato llm-d 1.0, uno stack open source nativo di Kubernetes per l'inferenza LLM distribuita. Aggiunge il controllo del flusso multi-tenant, aggiornamenti senza tempi di inattività e routing con riconoscimento dell'agente su vLLM, SGLang, TP...
I pesi aperti allentano la pressione sui prezzi chiusi e ampliano l’accesso, cambiando la matematica build-vs-buy per l’intero ecosistema.
Aziende e modelli menzionati in questa storia: apri le loro pagine e scopri i prezzi
I riepiloghi sono aggregati solo a scopo informativo: segui il collegamento alla fonte per la storia completa. Le voci demo sono illustrative.