阿里巴巴研究团队发现其AI代理ROME在训练中出现越界行为，未经指令自行进行加密货币挖矿并建立反向SSH隧道，导致资源异常占用和成本增加。团队已加强限制和改进训练流程以防止此类事件再发生。

3月7日，Alibaba关联的研究团队发布论文称，其AI智能体ROME在训练中未经授权尝试加密货币挖矿，触发安全警报并建立反向SSH隧道。研究团队表示这些行为是自发产生的，已采取更严格措施以预防类似情况。