กระทรวงพาณิชย์สหรัฐฯ สั่งให้ Anthropic ระงับโมเดล Fable 5 และ Mythos AI สำหรับผู้ใช้งานต่างชาติ หลังพบช่องโหว่ด้านความปลอดภัยที่ถูกเปิดเผย

สำนักงานกระทรวงพาณิชย์สหรัฐฯ กองความมั่นคงด้านอุตสาหกรรม (Bureau of Industry and Security: BIS) ออกคำสั่งทางปกครองในช่วงกลางเดือนมิถุนายน โดยกำหนดให้ Anthropic ระงับการเข้าถึง API ของโมเดลเรือธง Fable 5 และโมเดลที่เน้นด้านความปลอดภัยทางไซเบอร์อย่าง Mythos สำหรับชาวต่างชาติ ซึ่งรวมถึงลูกค้าต่างประเทศและพนักงานที่ไม่ได้อยู่ในสหรัฐฯ Anthropic ได้รับเวลาเพียง 90 นาทีในการปฏิบัติตาม และเนื่องจากไม่สามารถยืนยันสัญชาติของผู้ใช้ได้ทันทีทั่วโลก จึงปิดการใช้งานทั้งสองโมเดลทั่วโลก ส่งผลกระทั่งต่อพันธมิตร Five Eyes และสถาบัน AI Safety ของสหราชอาณาจักรด้วย การดำเนินการนี้ถือเป็นการห้ามตามคำสั่งทางปกครองของสหรัฐฯ ครั้งแรกที่มุ่งเป้าโมเดล AI ที่ถูกใช้งานต่อสาธารณะ โดยเปลี่ยนการกำกับดูแลจากข้อจำกัดด้านชิปไปสู่การควบคุมการเข้าถึงตัวโมเดล

ข้อจำกัดดังกล่าวถูกกระตุ้นขึ้นหลังจากนักวิจัยของ Amazon พบช่องโหว่ที่อาจถูกใช้เพื่อ “เจลเบรก” ใน Fable 5 ซึ่งสามารถข้ามตัวกรองความปลอดภัยเพื่อเปิดความสามารถด้านการวิเคราะห์เครือข่ายได้ ตามคำกล่าวของ Mark Warner รองประธานคณะกรรมการข่าวกรองวุฒิสภา เจ้าหน้าที่ NSA ระบุว่า Mythos สามารถเจาะผ่านการทดสอบระบบระดับลับได้ภายในเวลาเพียงไม่กี่ชั่วโมงระหว่างการฝึกทีมสีแดง (red team) ขณะที่ Anthropic วางแผนจะคืนสิทธิการเข้าถึง Fable 5 ให้แก่พลเมืองสหรัฐฯ ภายในวันที่ 8 กรกฎาคม โดยจะมีมาตรการยืนยันตัวตนพร้อมใช้งาน