OpenAIは自社の技術スタックにカスタムハードウェアを追加しています。Broadcomと共同開発された「Jalapeño」チップは、大規模言語モデルの推論に特化しており、2026年末までにスケールアップすることを目指しています。OpenAIとBroadcom u...
コンピューティングの供給、エネルギー、データセンターの容量によって、AI をいかに安価に実行できるかが決まります。インフラストラクチャの変化は数週間後に推論コストに現れます。
概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。