Cursor オープンソース Mixture-of-Kittens (MoK): GB300 NVL72 ラック用の決定論的 MoE トレーニング メガカーネル

Cursor Research は、Composer モデルの背後にある MoE トレーニング メガカーネルである Mixture-of-Kittens (MoK) をオープンソース化しました。 MoK は、専門家が混在するすべての通信と計算を単一の決定論的カーネルに融合し、…

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。