こんにちは、HN、ニズです。 Pulse Local は、マシン上で実行されるモデルの支出に関する質問に答える Mac (Apple Silicon、ベータ版) 用の予算作成アプリです。ローカルモードにはアカウントは必要ありません。台帳とあなたの質問は…
コンピューティングの供給、エネルギー、データセンターの容量によって、AI をいかに安価に実行できるかが決まります。インフラストラクチャの変化は数週間後に推論コストに現れます。
概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。