Model bahasa besar (LLM) keempat OpenAI, GPT-4, membutuhkan waktu pelatihan sekitar 50 gigawatt-jam, atau setara dengan konsumsi listrik tahunan 5.000 rumah di Amerika. Itu terjadi pada tahun 2023. Sejak itu, sumber komputasi…
Menghitung pasokan, energi, dan kapasitas pusat data menentukan seberapa murah AI dapat dijalankan. Pergeseran infrastruktur muncul dalam biaya inferensi beberapa minggu kemudian.
Perusahaan dan model yang disebutkan dalam cerita ini — buka halaman mereka dan harga langsung
Ringkasan dikumpulkan untuk informasi saja — ikuti tautan sumber untuk cerita selengkapnya. Entri demo bersifat ilustratif.