Soofi コンソーシアムが Soofi S 30B-A3B をリリース: ドイツ語と英語向けのオープン ハイブリッド Mamba-Transformer MoE 基礎モデル

Soofi S 30B-A3B は、ドイツ語と英語の 31.6B パラメータのうち 3.2B をアクティブにするオープン Mamba-Transformer MoE モデルです。ポスト Soofi コンソーシアムが Soofi S 30B-A3B をリリース: オープン ハイブリッド Mamba-Transformer MoE 基盤モデル…

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。