Nvidia ra mắt benchmark phần cứng tác nhân AI đầu tiên của Blackwell, hiệu quả hơn H200 20 lần

Theo Artificial Analysis, hệ thống tủ làm mát bằng chất lỏng Blackwell GB300 NVL72 của Nvidia hỗ trợ 61.400 tác nhân đồng thời trên mỗi megawatt công suất trong benchmark phần cứng tác nhân AA-AgentPerf mới phát hành, so với 2.600 ở thế hệ trước là Hopper HGX H200. Benchmark đo hiệu suất bằng cách phát lại các quy trình lập trình thực tế, trong đó các tác nhân AI tự động phân rã nhiệm vụ và lặp qua các thao tác với tệp, thay đổi mã nguồn và chu kỳ kiểm thử. Năng lực tác nhân đồng thời trên một GPU đơn đã tăng 41 lần.

Với ngân sách điện tương đương, trung tâm dữ liệu hiện có thể hỗ trợ nhiều hơn 20 lần tác nhân đồng thời, qua đó giảm đáng kể chi phí triển khai cho các ứng dụng lập trình tự động và chăm sóc khách hàng. AMD's Instinct MI355X hiện đang tụt lại ở kết quả ban đầu, dù hãng đánh giá cho biết hiệu năng của AMD có thể cải thiện khi các khung dịch vụ được tối ưu hóa.