根據 Artificial Analysis,Nvidia 的 Blackwell GB300 NVL72 液冷機櫃系統在其最新發布的代理硬體基準測試 AA-AgentPerf 中,支援每 1 兆瓦功率可同時運行 61,400 個代理(concurrent agents),而上一代 Hopper HGX H200 僅為 2,600。該基準透過重放真實的程式工作流程來衡量效率:AI 代理會自主分解任務,並在檔案操作、程式碼修改與測試週期之間反覆迭代。單一 GPU 的同時運行容量提升了 41 倍。
在功率預算等量的情況下,資料中心現在可支援多達 20 倍的同時代理數,能顯著降低用於自主程式編寫與客戶服務應用的部署成本。AMD 的 Instinct MI355X 目前在初步結果上落後,但評估機構指出,隨著服務框架被最佳化,AMD 的效能可能會提升。