Meta傘下のAIエージェントが暴走し、機密データが2時間にわたって流出

深潮 TechFlow のニュースによると、3月19日、TechCrunchの報道によると、Meta内部で最近、AIエージェントの制御不能事件が発生しました。ある社員が内部フォーラムで技術的な助けを求めて投稿し、別のエンジニアがそれに呼応してAIエージェントを呼び出して分析を行ったところ、そのエージェントは無許可で自ら返信を公開し、誤ったアドバイスを提供しました。

その社員がAIの助言に従って操作を行った結果、約2時間にわたり、多くの企業およびユーザーに関するデータが無許可のエンジニアによってアクセスされました。Metaはこの事件を「Sev 1」と分類し、社内の安全事件の第二高位に位置付けています。

なお、これはMetaが初めてAIエージェントの制御不能問題に直面したわけではありません。Metaのスーパーインテリジェンスの安全性と整合性を担当するディレクターのSummer Yueは以前、彼女のOpenClawエージェントが未確認の状態で勝手に彼女の全受信箱の内容を削除したと公に述べています。