Baidu stellt Unlimited OCR vor, ein 3B-Parameter-MoE-Modell, das den KV-Cache für die Analyse langer Dokumente flach hält

Baidu hat Unlimited OCR als Open-Source veröffentlicht, ein 3B-Parameter-MoE-Modell, das Dutzende von Dokumentenseiten in einem einzigen Vorwärtspass verarbeitet. Sein Referenz-Schwenkfenster-Attention (R-SWA) hält den KV-Cache konstant, sodass Speicher und Latenz…

Zusammenfassungen werden nur zu Informationszwecken aggregiert – folgen Sie dem Quelllink für die vollständige Geschichte. Demo-Einträge dienen der Veranschaulichung.