Perplexity hat Lily, die lokale Inferenz-Engine hinter Hybrid Compute in Perplexity Computer, als Open-Source-Lösung bereitgestellt. Gebaut in Rust mit benutzerdefinierten Metallkernen für ein Modell auf einer Chipfamilie, erreicht es im Durchschnitt das 1,23-fache des Vorfülldurchsatzes von MLX-LM.
Open-Weights verringern den Preisdruck und erweitern den Zugang, wodurch sich die Build-vs-Buy-Mathematik für das gesamte Ökosystem ändert.
In dieser Geschichte erwähnte Unternehmen und Modelle – öffnen Sie ihre Seiten und sehen Sie die aktuellen Preise
Zusammenfassungen werden nur zu Informationszwecken aggregiert – folgen Sie dem Quelllink für die vollständige Geschichte. Demo-Einträge dienen der Veranschaulichung.