Liquid AI выпустила RIPL, механизм вывода в реальном времени для своих моделей LFM. На одном B200 LFM2.5-1.2B на RIPL показал задержку p95 в 14,4–28,4 раза ниже, чем Qwen3.5-0,8B на vLLM. Сообщение Liquid AI запускает RIPL, систему реального времени…
Вычислительные ресурсы, энергия и мощность центров обработки данных определяют, насколько дешево может работать ИИ. Изменения в инфраструктуре отразятся на затратах на выводы несколько недель спустя.
Компании и модели, упомянутые в этой статье — откройте их страницы и узнайте цены в реальном времени.
Краткое изложение собрано только для информации — перейдите по ссылке на источник, чтобы получить полную информацию. Демонстрационные записи носят иллюстративный характер.