Вычислительные ресурсы, графические процессоры, центры обработки данных и энергетика — физический уровень, который определяет, насколько дешево будет работать ИИ.
Истории 45
Вычислительные ресурсы, энергия и мощность центров обработки данных определяют, насколько дешево может работать ИИ. Изменения в инфраструктуре отразятся на затратах на выводы несколько недель спустя.
NVIDIA использует Palantir Foundry и cuOpt для автоматизации принятия решений о распределении цепочки поставок оборудования на глобальных производственных площадках. Компания измеряет оперативную доставку от выхода пластины до первого токена. Этот ветер…
URL статьи: https://system76.com/workstations/thelio-mira-ai URL комментариев: https://news.ycombinator.com/item?id=49651372 Баллы: 18 # Комментариев: 9
Amazon SageMaker Inference теперь предлагает маршрутизацию с учетом префиксов — стратегию маршрутизации, которая отправляет запросы с одним и тем же префиксом приглашения к одному и тому же экземпляру, чтобы KV-кеш оставался теплым. В бенчмарках на Llama 3.1 70B снижение…
NVIDIA подробно описала BioNeMo Inference Runtime (BioIR), библиотеку Python, которая ускоряет модели прогнозирования биомолекулярной структуры на графических процессорах NVIDIA, оставаясь при этом в простом PyTorch. В сопоставимом тесте на 1000 человеческих десятицентовиков…
Amazon SageMaker HyperPod теперь поддерживает кэширование моделей для вывода, которое предварительно загружает веса моделей и образы контейнеров на узлы кластера, чтобы модули считывали данные из локального хранилища NVMe, а не загружали их по сети. Леа…
OpenAI выпустила общедоступную бета-версию API агентов. Он предоставляет разработчикам те же возможности и инфраструктуру, что и Codex. OpenAI размещает и поддерживает эту систему. Разработчики запускают вычисления агента в управляемой OpenAI…
URL статьи: https://www.theverge.com/ai-artificial-intelligence/993263/where-does-openai-get-mathematics-training-data URL комментариев: https://news.ycombinator.com/item?id=49641792 Баллы: 55 # Комментарии: 67
22 июля 2026 года из-за неисправности линии электропередачи в Эшберне, штат Вирджиния, — сердце крупнейшего в мире кластера центров обработки данных — за считанные секунды отключилось от сети более 3 гигаватт нагрузки. И это был не первый раз. Два года…
Агенты с дальним горизонтом превратили обслуживание LLM в трудоемкую рабочую нагрузку. Повторяющиеся предварительные заполнения и контексты с миллионами токенов оставляют кэши KV, которые нагружают HBM, емкость SSD и пропускную способность. DeepSeek AI создал свою новейшую версию…
Массачусетс стал третьим штатом за последние несколько месяцев, который ввел новые ограничения на развитие центров обработки данных.
TorchServe больше не поддерживается, и командам остается владеть всем стеком вывода графического процессора. Контейнер глубокого обучения AWS Ray Serve — это поддерживаемый, предварительно протестированный контейнер с платформой, драйверами графического процессора и уровнем обслуживания…
Kepler Computing утверждает, что новый подход к проектированию чипов и запатентованный материал могут помочь устранить узкие места в поставках, которые привели к росту цен на память.
Аргентинская Патагония привлекает внимание как возможное место для размещения крупных центров обработки данных искусственного интеллекта. Статья «В Патагонии есть то, что нужно центрам обработки данных искусственного интеллекта, включая отсутствие сопротивления», впервые появилась на сайте The Decoder.
ASML убедила Samsung, TSMC и Intel перейти на фотомаски большего размера, что должно повысить производительность новейших машин EUV на 40 процентов. Тем временем Huawei разрабатывает контрстратегию Китая, стремясь…
Новейшая модель прогнозирования погоды с использованием искусственного интеллекта от Google предсказывает скорость ветра на высоте 100 метров над землей, что примерно соответствует высоте современной ветряной турбины. Он также прогнозирует облачный покров и количество солнечного света, достигающего поверхности, и…
URL статьи: https://newsroom.arm.com/blog/arm-mali-g2-ultra-nx-ai-native-mobile-graphics URL комментариев: https://news.ycombinator.com/item?id=49605511 Баллы: 43 # Комментарии: 26
URL статьи: https://www.bbc.com/news/articles/c0m39g7xzevo URL комментариев: https://news.ycombinator.com/item?id=49604956 Баллы: 15 # Комментарии: 14
URL статьи: https://www.ft.com/content/ea9a9dcc-b1df-49b0-b80c-f320161b9efa URL комментариев: https://news.ycombinator.com/item?id=49593778 Баллы: 18 # Комментариев: 9
URL статьи: https://rocm.blogs.amd.com/ecosystems-and-partners/rocm-x-blog/README.html URL комментариев: https://news.ycombinator.com/item?id=49592508 Баллы: 15 # Комментарии: 0
Агенты-исследователи ИИ могут предложить гораздо больше экспериментов, чем они могут себе позволить. Meta FAIR, Оксфорд и UCL представляют модели предпочтений в исследованиях искусственного интеллекта — замороженные судьи LLM, которые оценивают 15 невыполненных кандидатов и исполняют только…
Опросы показывают, что подавляющее большинство американцев ненавидят центры обработки данных. Китай становится идеальным козлом отпущения для технологических лидеров и их союзников — единственная проблема — отсутствие доказательств.
Качество поиска в поисковом продукте ИИ ограничивается двумя вещами: насколько хороша модель внедрения и насколько дешево вы можете запустить ее по индексу. На этой неделе команда Perplexity Engineering опубликовала Fast Embeddings на GP…
Nous Research свела настройку локальной модели в один клик в Hermes Desktop. Приложение считывает ваше оборудование, сверяет каталог с вашим графическим процессором, выбирает наиболее подходящую сборку высочайшего качества, загружает ее и обслуживает…
Deepseek хочет разместить 160 000 чипов Huawei Ascend-950DT в дата-центре Внутренней Монголии только для вывода, а не для обучения. Это будет крупнейший из известных кластеров чипов Huawei. Но узкие места производства означают проблемы Huawei…
Осталось менее 24 часов, чтобы подать заявку на проведение параллельного мероприятия во время TechCrunch Disrupt 2026 и оставить свой след на сцене Кремниевой долины. Подайте заявку до закрытия заявки сегодня вечером в полночь по тихоокеанскому времени.
Хаб HomeAgent H100 Pro от Ugreen сочетает в себе локальное хранилище, искусственный интеллект на устройстве и новый голосовой помощник Uliya для управления вашим умным домом. | Фото Дженнифер Паттисон Туохи / The Verge Ugreen, известная своими банками питания для телефонов, ча…
PAIR (персональный AI-маршрутизатор) от Nvidia автоматически распределяет локальные запросы AI по всем доступным устройствам в домашней сети, сокращая время ожидания для параллельных задач агента. Статья Nvidia хочет, чтобы ваша домашняя сеть работала…
Perplexity представила гибридные вычисления для своего приложения для Mac, разделив одну компьютерную задачу Perplexity между передовыми моделями в облаке и компактной моделью, работающей на компьютере пользователя. Задачи начинаются в облаке для моря…
Nvidia анонсирует свой новый Personal AI Router (PAIR), бесплатный инструмент, который синхронизирует ваши домашние компьютеры для решения локальных задач искусственного интеллекта с помощью таких инструментов, как Ollama и LM Studio. Давайте выясним очевидные вещи…
Сэм Альтман предупреждает о «неустойчивой глупости» в строительстве глобального центра обработки данных искусственного интеллекта. Слишком многие провайдеры Neocloud заявляют о огромных мощностях без поддержки со стороны клиентов. Он также признает, что падение вычислительной мощности…
Президент Трамп решительно выступил против растущей оппозиции центрам обработки данных искусственного интеллекта по всей территории США. Статья «Протесты против центров обработки данных искусственного интеллекта играют на руку Китаю», по словам Трампа, впервые появилась на сайте The Decoder.
Чуть более десяти лет назад я руководил разработкой средств управления первой в своем роде полностью цифровой системой управления для атомной электростанции в США. На бумаге это была красивая машина, спроектированная так, чтобы работать так же, как современная авиакомпания…
Большинство производственных голосовых стеков представляют собой три системы, объединенные вместе. Одна модель расшифровывает, вторая отделяет говорящих, а детектор решает, когда пользователь прекратил говорить. Каждое переключение увеличивает задержку и новый момент отказа…
У агентских помощников есть структурная проблема: контекст, который делает их полезными — документы сделок, привилегированные файлы, записи клиентов — это именно тот контекст, который пользователи не могут отправить в конечную точку облака. На этой неделе Perplexity с…
Если у вас есть домашний сервер, игровой компьютер или просто ноутбук, который не пользуется особой любовью, прислушайтесь. Теперь вы можете использовать эту свободную вычислительную мощность и получать при этом некоторый пассивный доход. Компании, занимающиеся искусственным интеллектом, — это люди…
Nvidia официально запускает DLSS 5 на этой неделе после вызывающего разногласия объявления в марте, в котором мы сравнили технологию масштабирования искусственного интеллекта с «генеративным фильтром искусственного интеллекта в реальном времени для видеоигр» и «сглаживанием движения для видеоигр».
Голосовые агенты терпят неудачу с задержкой задолго до того, как они терпят неудачу с интеллектом. Время появления первого токена — это показатель, который большинство команд используют для выбора API вывода, и это правильная отправная точка и неправильная точка остановки. Эта скамейка…
Компания тестирует роботов на задачах, которые могут выполнить технические специалисты.
Новое поколение систем центров обработки данных повышает эффективность за счет более разумного управления трафиком, а не просто увеличения количества процессорных циклов.
Диктофон Comulytic Note Pro AI обладает огромной мощностью в устройстве размером с кредитную карту. Но его полезность зависит от вас.
В то время как новые центры обработки данных сталкиваются с растущей негативной реакцией со стороны соседних сообществ, Агентство по охране окружающей среды США (EPA) собирается затруднить людям оценку любого загрязнения, создаваемого этими центрами. Агентство по охране окружающей среды…
Компания тестирует роботов, которые могут менять кабели, перезагружать серверы и выполнять другие задачи, выполняемые техническими специалистами, что вызывает опасения среди некоторых работников, что их работа может оказаться под угрозой.
Технологическая индустрия озадачена планом Трампа выиграть гонку ИИ за счет налогообложения центров обработки данных.
Самостоятельный речевой ИИ требует компромисса с наблюдаемостью: цифры, которые определяют планирование мощности и управление затратами, остаются заблокированными внутри контейнера поставщика. Deepgram закрывает этот пробел в области искусственного интеллекта Amazon SageMaker с помощью двух…
Обслуживание моделей автоматического распознавания речи (ASR) в больших масштабах обходится дорого, поскольку каждый запрос использует лишь часть графического процессора. Узнайте, как использовать многопроцессный сервис NVIDIA CUDA (MPS) с сервером вывода NVIDIA Triton на Amazon EC2 G…
Краткое изложение собрано только для информации — перейдите по ссылке на источник, чтобы получить полную информацию. Демонстрационные записи носят иллюстративный характер.