A NVIDIA lançou o Switchyard, um proxy Apache-2.0 Rust e uma biblioteca para tráfego LLM. Ele decodifica solicitações em tipos neutros de provedor, roteia-as com algoritmos de passagem, aleatório, classificador LLM ou roteador de estágio, e…
Os lançamentos de pesos abertos pressionam os preços fechados e ampliam o acesso, mudando a matemática construção versus compra para todo o ecossistema.
Empresas e modelos mencionados nesta história – abra suas páginas e preços ao vivo
Os resumos são agregados apenas para fins informativos – siga o link da fonte para ver a história completa. As entradas de demonstração são ilustrativas.