TensorLean, from Columbia University and CertiK, formally verifies production GPU kernels at the PTX level using Lean. It checked 149 kernel instances, proved 83 correct, and found 38 bugs in FlashAttention, DeepGEMM an…
Вычислительные ресурсы, энергия и мощность центров обработки данных определяют, насколько дешево может работать ИИ. Изменения в инфраструктуре отразятся на затратах на выводы несколько недель спустя.
Краткое изложение собрано только для информации — перейдите по ссылке на источник, чтобы получить полную информацию. Демонстрационные записи носят иллюстративный характер.