ほとんどの経営幹部に AI のコストをイメージしてもらうと、おそらく GPU (ギガワットの電力を備えたアクセラレータのラック) とシリコンの順番待ちリストが目に入るでしょう。しかし、この図にはデータ ストレージのコストというものが欠けています。何が起こるのですか…
コンピューティングの供給、エネルギー、データセンターの容量によって、AI をいかに安価に実行できるかが決まります。インフラストラクチャの変化は数週間後に推論コストに現れます。
概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。