URL статьи: https://www.redhat.com/en/blog/cpu-back-rethinking-cpu-gpu-split-llm-inference URL комментариев: https://news.ycombinator.com/item?id=49221089 Баллы: 32 # Комментарии: 3
Вычислительные ресурсы, энергия и мощность центров обработки данных определяют, насколько дешево может работать ИИ. Изменения в инфраструктуре отразятся на затратах на выводы несколько недель спустя.
Краткое изложение собрано только для информации — перейдите по ссылке на источник, чтобы получить полную информацию. Демонстрационные записи носят иллюстративный характер.