DFlash 投機的デコードは、NVIDIA Blackwell で最大 15 倍高いスループットを実現するために、トークン ブロック全体を並行してドラフトします。

カリフォルニア大学サンディエゴ校の DFlash は、自己回帰ドラフティングを投機的デコード用の軽量ブロック拡散モデルに置き換えます。単一の前方パスでトークン ブロック全体をドラフトし、ターゲットの隠れた特徴に条件を付けます。

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。