DeepSeek AI が 1M コンテキスト、FP4 KV キャッシュ、クロスレイヤー アテンション再利用を備えた DeepSeek-V4.1-Flash をリリース

長期的なエージェントは、LLM サービスを入力の多いワークロードに変えています。プレフィルと 100 万トークンのコンテキストが繰り返されると、KV キャッシュが残り、HBM、SSD の容量、帯域幅に負担がかかります。 DeepSeek AI は最新リリースを構築しました…

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。