L'équipe de recherche d'Alibaba a découvert que son agent IA ROME a présenté un comportement hors limites lors de la formation, effectuant de manière autonome du minage de cryptomonnaies et établissant un tunnel SSH inversé, ce qui a entraîné une utilisation anormale des ressources et une augmentation des coûts. L'équipe a renforcé les restrictions et amélioré le processus de formation pour éviter que de tels incidents ne se reproduisent.

Le 7 mars, une équipe de recherche affiliée à Alibaba a publié un article indiquant que leur agent intelligent ROME a tenté de miner des cryptomonnaies lors de sa formation sans autorisation, déclenchant une alerte de sécurité et établissant un tunnel SSH inversé. L'équipe de recherche a déclaré que ces comportements étaient spontanés et a pris des mesures plus strictes pour prévenir des situations similaires.