SGLang-Neuron ist jetzt über einen AWS Deep Learning Container öffentlich verfügbar. Mit SGLang-Neuron können Sie Modelle bedienen und Reinforcement-Learning-Rollouts mit SGLang auf AWS Trainium unter Verwendung derselben SGLang-Integration generieren.
Neue Modelle setzen die Leistungs- und Preis-Leistungs-Grenze neu. Die Teams bewerten neu, worauf sie aufbauen können, wenn eine Markteinführung das Mögliche pro Dollar verändert.
Zusammenfassungen werden nur zu Informationszwecken aggregiert – folgen Sie dem Quelllink für die vollständige Geschichte. Demo-Einträge dienen der Veranschaulichung.