OpenAI와 Broadcom이 Jalapeño라는 LLM 추론을 위해 구축된 맞춤형 AI 칩을 소개하여 성능, 효율성, 그리고 AI 시스템의 규모를 향상시켰다.
컴퓨팅 공급, 에너지 및 데이터 센터 용량은 AI를 얼마나 저렴하게 실행할 수 있는지를 결정합니다. 인프라 변화는 몇 주 후에 추론 비용에 나타납니다.
이 이야기에 언급된 회사 및 모델 — 페이지를 열고 실시간 가격을 확인하세요.
관련 HotON.ai 페이지
요약은 정보 제공 목적으로만 집계되었습니다. 전체 내용을 보려면 소스 링크를 따르세요. 데모 항목은 예시입니다.