100 万トークンあたりのドル数でモデルを比較すると、運用ワークロードが実際に支払うもの、つまり結果が見えなくなります。この投稿では、正解ごとのコスト、エージェントの軌跡を測定するオープンソースのベンチマーク ハーネスを共有します。
トークンの価格は、すべての AI 製品のマージンの下限を設定します。プロバイダーが価格を変更すると、競合他社、ルーティングの選択、およびすべてのダウンストリーム機能のコストに波及します。
概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。