NVIDIA выпустила Nemotron 3 Ultra, открытый гибридный Mamba-Transformer Mamba-Transformer с общей емкостью 550 байт (55 байт в активном режиме) для агентов с длительным сроком службы. Он сочетает в себе контекст из 1 миллиона токенов с примерно в 6 раз большей пропускной способностью, чем у конкурентов.
Вычислительные ресурсы, энергия и мощность центров обработки данных определяют, насколько дешево может работать ИИ. Изменения в инфраструктуре отразятся на затратах на выводы несколько недель спустя.
Компании и модели, упомянутые в этой статье — откройте их страницы и узнайте цены в реальном времени.
Краткое изложение собрано только для информации — перейдите по ссылке на источник, чтобы получить полную информацию. Демонстрационные записи носят иллюстративный характер.