URL dell'articolo: https://www.redhat.com/en/blog/cpu-back-rethinking-cpu-gpu-split-llm-inference URL dei commenti: https://news.ycombinator.com/item?id=49221089 Punti: 32 # Commenti: 3
L’offerta di elaborazione, l’energia e la capacità dei data center determinano quanto a buon mercato può funzionare l’intelligenza artificiale. I cambiamenti infrastrutturali si manifestano nei costi di inferenza settimane dopo.
I riepiloghi sono aggregati solo a scopo informativo: segui il collegamento alla fonte per la storia completa. Le voci demo sono illustrative.