Zyphra Hierarchical Attention (ZHA) ist eine baumindizierte Sparse-Attention-Methode, die eingefrorene LLMs mit 4B-Destillationstokens nachrüstet und so eine dichte Aufmerksamkeit beim Denken und 256K-Abruf-Benchmarks erreicht. Der Beitrag Zyph…
Neue Modelle setzen die Leistungs- und Preis-Leistungs-Grenze neu. Die Teams bewerten neu, worauf sie aufbauen können, wenn eine Markteinführung das Mögliche pro Dollar verändert.
Zusammenfassungen werden nur zu Informationszwecken aggregiert – folgen Sie dem Quelllink für die vollständige Geschichte. Demo-Einträge dienen der Veranschaulichung.