Tác nhân AI làm được nhiều việc hơn là tạo ra câu trả lời. Họ tìm kiếm thông tin, truy vấn cơ sở dữ liệu, viết và kiểm tra mã và thực hiện hành động. Mỗi bước trong số đó đều phụ thuộc vào CPU, với các tác nhân di chuyển giữa lý luận GPU và thực thi CPU…
Tính toán nguồn cung, năng lượng và công suất của trung tâm dữ liệu quyết định AI có thể vận hành với chi phí rẻ như thế nào. Sự thay đổi cơ sở hạ tầng xuất hiện trong chi phí suy luận vài tuần sau đó.
Các bản tóm tắt chỉ được tổng hợp để cung cấp thông tin - hãy nhấp vào liên kết nguồn để xem toàn bộ câu chuyện. Các mục demo có tính minh họa.