Tsinghua researchers released AKV, an SGLang-based serving system for cache engineering. LLM agents drop and reposition KV cache instead of summarizing history, cutting average cost 27.7% across 4 agent benchmarks. The…
تعمل الأوزان المفتوحة على إطلاق ضغط التسعير المغلق وتوسيع نطاق الوصول، مما يؤدي إلى تغيير حسابات البناء مقابل الشراء للنظام البيئي بأكمله.
يتم تجميع الملخصات للحصول على معلومات فقط - اتبع رابط المصدر للحصول على القصة الكاملة. الإدخالات التجريبية توضيحية.