百度が無制限OCRを発表、長文解析のための3BモデルでKVキャッシュをフラットに保つ

百度は、無制限OCRをオープンソース化しました。これは、単一の前向きパスで数十ページの文書を解析する3BパラメータのMoEモデルです。その参照スライディングウィンドウアテンション（R-SWA）は、KVキャッシュを一定に保ち、メモリと遅延を...

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。