コーディング エージェントはタスク単位で作業します。重要な数値は、トークンあたりの価格ではなく、解決されたタスクあたりのコストです。この投稿では、AWS CDK を使用して、NVIDIA NeMo Switchyard ルーティング プラグインを備えた LiteLLM を Amazon Bedrock にデプロイします。
トークンの価格は、すべての AI 製品のマージンの下限を設定します。プロバイダーが価格を変更すると、競合他社、ルーティングの選択、およびすべてのダウンストリーム機能のコストに波及します。
概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。