يدعم Amazon SageMaker HyperPod الآن التخزين المؤقت للنماذج من أجل الاستدلال، والذي يقوم بتحميل أوزان النماذج وصور الحاويات مسبقًا على العقد العنقودية بحيث تتم قراءة البودات من وحدة تخزين NVMe المحلية بدلاً من تنزيلها عبر الشبكة. ليا…
تحدد إمدادات الحوسبة والطاقة وقدرة مراكز البيانات مدى تكلفة تشغيل الذكاء الاصطناعي. تظهر تحولات البنية التحتية في تكاليف الاستدلال بعد أسابيع.
يتم تجميع الملخصات للحصول على معلومات فقط - اتبع رابط المصدر للحصول على القصة الكاملة. الإدخالات التجريبية توضيحية.