Les GPU NVIDIA avec Confidential Computing sont désormais utilisés pour l’inférence confidentielle dans le Private Cloud Compute (PCC) d’Apple, à mesure qu’il s’étend au-delà des centres de données d’Apple jusqu’à Google Cloud. Dévoilé lors du rassemblement annuel WWDC d’Apple…
L’approvisionnement informatique, l’énergie et la capacité du centre de données déterminent le coût de fonctionnement de l’IA. Les changements d’infrastructure apparaissent dans les coûts d’inférence des semaines plus tard.
Les résumés sont regroupés à titre d’information uniquement – suivez le lien source pour l’histoire complète. Les entrées de démonstration sont illustratives.