Google hat TPU Sync veröffentlicht, eine Open-Source-C++-Bibliothek, die KV-Caches und -Gewichte über TPU-HBM, Host-DRAM, Speicher und Netzwerk verschiebt. Google meldet eine über 90 % geringere KV-Übertragungslatenz bei 235-B- bis 480-B-MoE-Modellen. Die Pos…
Open-Weights verringern den Preisdruck und erweitern den Zugang, wodurch sich die Build-vs-Buy-Mathematik für das gesamte Ökosystem ändert.
In dieser Geschichte erwähnte Unternehmen und Modelle – öffnen Sie ihre Seiten und sehen Sie die aktuellen Preise
Zusammenfassungen werden nur zu Informationszwecken aggregiert – folgen Sie dem Quelllink für die vollständige Geschichte. Demo-Einträge dienen der Veranschaulichung.