تعرض NVIDIA كيف تعمل 3 تحسينات مكدسة على تسريع استنتاج MoE على DGX Spark واحد. في 124B Ling-3.0-flash من Ant Group، ارتفع إنتاجية فك تشفير GSM8K بنسبة 42.5% دون أي تغيير في الدقة يمكن اكتشافه. تدوينة NVID…
تحدد إمدادات الحوسبة والطاقة وقدرة مراكز البيانات مدى تكلفة تشغيل الذكاء الاصطناعي. تظهر تحولات البنية التحتية في تكاليف الاستدلال بعد أسابيع.
الشركات والنماذج المذكورة في هذه القصة – افتح صفحاتها وأسعارها الحية
يتم تجميع الملخصات للحصول على معلومات فقط - اتبع رابط المصدر للحصول على القصة الكاملة. الإدخالات التجريبية توضيحية.