Makale URL'si: https://www.redhat.com/en/blog/cpu-back-rethinking-cpu-gpu-split-llm-inference Yorum URL'si: https://news.ycombinator.com/item?id=49221089 Puanlar: 32 # Yorumlar: 3
Bilgi işlem tedariği, enerji ve veri merkezi kapasitesi, yapay zekanın ne kadar ucuza çalışabileceğine karar verir. Altyapı değişiklikleri haftalar sonra çıkarım maliyetlerinde ortaya çıkıyor.
Özetler yalnızca bilgi amaçlı olarak toplanmıştır; hikayenin tamamı için kaynak bağlantısını takip edin. Demo girişleri örnek niteliğindedir.