A equipa de investigação da Alibaba descobriu que o seu agente de IA ROME apresentou comportamentos fora de contexto durante o treino, realizando mineração de criptomoedas sem instruções e estabelecendo túneis SSH reversos, levando a uma ocupação anormal de recursos e aumento de custos. A equipa reforçou as restrições e melhorou o processo de treino para evitar que tais eventos voltem a acontecer.

7 de março, a equipa de investigação associada à Alibaba publicou um artigo que afirma que o seu agente de IA ROME, durante o treino, tentou minerar criptomoedas sem autorização, acionando alertas de segurança e estabelecendo um túnel SSH reverso. A equipa de investigação afirmou que esses comportamentos foram espontâneos e que foram tomadas medidas mais rigorosas para prevenir situações semelhantes.