Zyphra Hiyerarşik Dikkat (ZHA), dondurulmuş LLM'leri 4B damıtma jetonlarıyla güçlendiren, akıl yürütme ve 256K geri alma kriterlerindeki yoğun dikkati eşleştiren, ağaç indeksli bir seyrek dikkat yöntemidir. Zyph yazısı…
Yeni modeller kapasite ve fiyat-performans sınırını sıfırlıyor. Ekipler, bir lansman dolar başına mümkün olanı değiştirdiğinde neyin üzerine inşa edileceklerini yeniden değerlendiriyor.
Özetler yalnızca bilgi amaçlı olarak toplanmıştır; hikayenin tamamı için kaynak bağlantısını takip edin. Demo girişleri örnek niteliğindedir.