根据 Artificial Analysis，英伟达的 Blackwell GB300 NVL72 液冷机柜系统在新发布的代理硬件基准 AA-AgentPerf 中，每兆瓦功率支持 61,400 个并发代理，相比上一代 Hopper HGX H200 为 2,600。该基准通过重放真实的编程工作流来衡量效率，其中 AI 代理会自主拆解任务，并在文件操作、代码修改和测试周期中反复迭代。单 GPU 的并发容量提升了 41 倍。
在功耗预算相当的情况下，数据中心现在可以支持多 20 倍的并发代理，显著降低用于自主编程和客户服务应用的部署成本。AMD 的 Instinct MI355X 目前在初始结果中落后，不过评估机构指出，随着服务框架的优化，AMD 的性能可能会提升。
