OpenAI は 2 つのリアルタイム モデルを API に追加しました。 GPT-Realtime-2.1-mini は音声用のミニ推論モデルで、価格は以前の gpt-realtime-mini と同じです。 OpenAI はまた、キャッシュの改善により p95 のレイテンシーを少なくとも 25% 削減しました。彼…
コンピューティングの供給、エネルギー、データセンターの容量によって、AI をいかに安価に実行できるかが決まります。インフラストラクチャの変化は数週間後に推論コストに現れます。
この記事で言及されている企業とモデル - ページを開いて実際の価格を確認してください
概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。