يدعم Amazon SageMaker Inference الآن تقسيم وحدة معالجة الرسومات (GPU) باستخدام NVIDIA Multi-Instance GPU (MIG)، الذي يقسم وحدة معالجة الرسومات (GPU) واحدة إلى أقسام معزولة عن الأجهزة حتى تتمكن من تشغيل نموذج مختلف في كل منها أو أخذ جزء بالحجم المناسب...
تحدد إمدادات الحوسبة والطاقة وقدرة مراكز البيانات مدى تكلفة تشغيل الذكاء الاصطناعي. تظهر تحولات البنية التحتية في تكاليف الاستدلال بعد أسابيع.
الشركات والنماذج المذكورة في هذه القصة – افتح صفحاتها وأسعارها الحية
يتم تجميع الملخصات للحصول على معلومات فقط - اتبع رابط المصدر للحصول على القصة الكاملة. الإدخالات التجريبية توضيحية.