NVIDIA telah merilis Switchyard, proxy dan pustaka Apache-2.0 Rust untuk lalu lintas LLM. Ini menerjemahkan permintaan ke dalam tipe penyedia-netral, merutekannya dengan algoritma passthrough, acak, pengklasifikasi LLM, atau router tahap, dan…
Rilis bobot terbuka menekan harga tertutup dan memperluas akses, mengubah perhitungan build-vs-buy untuk keseluruhan ekosistem.
Perusahaan dan model yang disebutkan dalam cerita ini — buka halaman mereka dan harga langsung
Ringkasan dikumpulkan untuk informasi saja — ikuti tautan sumber untuk cerita selengkapnya. Entri demo bersifat ilustratif.