Deepgram arbeitete mit dem AWS Forward Deployed Engineering-Team zusammen, um sein Nova-3-Sprach-zu-Text-Modell für Offline-Batch-Inferenz auf AWS Trainium2 zu portieren. In diesem Beitrag geht es um die Portierung auf den AWS Neuron-Stack, die Optimierung auf Kernel-Ebene usw.
Neue Modelle setzen die Leistungs- und Preis-Leistungs-Grenze neu. Die Teams bewerten neu, worauf sie aufbauen können, wenn eine Markteinführung das Mögliche pro Dollar verändert.
Zusammenfassungen werden nur zu Informationszwecken aggregiert – folgen Sie dem Quelllink für die vollständige Geschichte. Demo-Einträge dienen der Veranschaulichung.