Tokenmaxxing は今年のシリコンバレーで最もホットなトレンドでした。CEOたちは従業員にAIの使用を極限まで推し進めるよう促していました。そして、請求書が届きました。Uberが年間AI予算を大幅に超えたと報道されています。
コンピューティングの供給、エネルギー、データセンターの容量によって、AI をいかに安価に実行できるかが決まります。インフラストラクチャの変化は数週間後に推論コストに現れます。
概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。