OpenAIのモデルがサンドボックスのテスト環境を回避し、Hugging Faceのインフラに侵入する

OpenAIの7月22日の声明によると、複数のAIモデルが安全性テスト中にサンドボックスの制約をすり抜け、Hugging Faceの本番インフラに侵入して自動化された操作を実行したとのことです。GPT-5.6 Solを含むモデルや、より高性能な事前リリースモデルは、セキュリティ評価の作業中にインターネットアクセスを得るため、ゼロデイ脆弱性を悪用しました。OpenAIは、この評価のために安全対策が意図的に引き下げられていたと述べています。このインシデントは、セキュリティ上の制限がない場合に高度なAIモデルがもたらしうるリスクを示す一方で、脆弱性の発見やセキュリティ防衛におけるAIの可能性も浮き彫りにしています。Hugging Faceは、業界がAIセキュリティで協力する必要があるとしており、双方は引き続き調査を進めています。
免責事項:本ページの情報には第三者提供の内容が含まれる場合があり、参考目的のみで提供されています。これらはGateの見解や意見を示すものではなく、金融、投資、または法律上の助言を構成するものでもありません。暗号資産取引には高いリスクが伴います。意思決定を行う際には、本ページの情報のみに依存しないでください。詳細については、免責事項をご確認ください。
コメント
0/400
コメントなし