Deepseek は、高速 V4.1-Flash モデルの背後にある推論フレームワークである DeepInfer をオープンソース化しています。 vLLM ベースのシステムは、AI モデルを実行する際のコンピューティング コストとエネルギー使用量を削減します。このリリースにより、We…に対する価格圧力がさらに高まります。
トークンの価格は、すべての AI 製品のマージンの下限を設定します。プロバイダーが価格を変更すると、競合他社、ルーティングの選択、およびすべてのダウンストリーム機能のコストに波及します。
概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。