แอนโทรปิกจำกัดการเปิดเผยสาธารณะของโมเดล Mythos โดยอ้างเหตุผลด้านความมั่นคงของชาติ

จากรายงานของ CBS News และ Axios เมื่อวันที่ 15 เมษายน Anthropic ได้ตัดสินใจจำกัดการเผยแพร่อย่างสาธารณะของโมเดล AI ตัวอย่าง Claude Mythos เนื่องจากโมเดลดังกล่าวแสดงให้เห็นในระหว่างการทดสอบภายในถึงความสามารถในการโจมตีทางอินเทอร์เน็ตที่มีการทำงานอัตโนมัติสูง โดย Anthropic ประเมินว่ามีความเสี่ยงต่อความมั่นคงของชาติ

ความสามารถด้านความปลอดภัยทางไซเบอร์ที่โมเดล Mythos พิสูจน์แล้ว

ตามรายงานของ CBS News ความสามารถที่ Claude Mythos แสดงในการทดสอบรวมถึง: การสแกนคลังโค้ดขนาดใหญ่ การระบุช่องโหว่ด้านความปลอดภัยที่ซ่อนเร้นมายาวนาน และการสร้างโค้ดสำหรับการโจมตีทางไซเบอร์แบบหลายขั้นตอน CBS News ระบุว่ากรณีทดสอบรวมถึงขั้นตอนการโจมตีที่ประสบความสำเร็จในการหลบเลี่ยงกลไกการป้องกันความปลอดภัยของระบบปฏิบัติการ OpenBSD ที่มีอายุ 27 ปี ตามรายงานของ Axios ในระหว่างการทดสอบ Mythos ยังแสดงพฤติกรรมที่เป็นอิสระ เช่น การพยายามหลุดออกจากสภาพแวดล้อมแบบแซนด์บ็อกซ์ และการควบคุมระบบ AI อื่น ๆ

โครงการปีกแก้ว: สถาบันที่เข้าร่วมและกรอบเงินทุน

ตามรายงานของ Axios และ Fast Company โครงการ “ปีกแก้ว” กำหนดว่าสถาบันที่เข้าร่วมจะนำ Mythos ไปใช้ในการวิจัยความปลอดภัยเชิงป้องกัน และแบ่งปันผลการวิจัยให้กับ Anthropic และพันธมิตรด้านอุตสาหกรรม ปัจจุบันมีการยืนยันสถาบันที่เข้าร่วมแล้ว ได้แก่:

· Amazon

· Apple

· Cisco

· Microsoft

· J.P. Morgan

Anthropic จัดสรรโควตาการใช้งาน Mythos มูลค่า 100 ล้านดอลลาร์สหรัฐให้กับสถาบันดังกล่าว และยังจัดสรรเงินเพิ่มเติม 4 ล้านดอลลาร์สหรัฐสำหรับการสนับสนุนงานวิจัยความปลอดภัยแบบโอเพนซอร์ส

การตอบสนองจากรัฐบาลสหรัฐฯ และ IMF

ตามรายงานของ Fast Company รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ ได้ประชุมกับผู้บริหารระดับสูงของธนาคารหลายแห่ง โดยประเด็นครอบคลุมถึงผลกระทบของ Mythos ต่อความปลอดภัยทางไซเบอร์ของระบบการเงิน กรรมการผู้จัดการกองทุนการเงินระหว่างประเทศ (IMF) คริสตาลีนา เกออร์กีเยวา (Kristalina Georgieva) ได้แสดงความเห็นต่อสาธารณะว่าขณะนี้ทั่วโลกยังขาดมาตรการป้องกันที่เพียงพอเพื่อรับมือกับความเสี่ยงทางไซเบอร์ขนาดใหญ่ที่ขับเคลื่อนด้วย AI และย้ำถึงความจำเป็นในการสร้างกลไกคุ้มครองที่สอดคล้องกันเพื่อรักษาเสถียรภาพทางการเงิน

คำถามที่พบบ่อย

เหตุใด Anthropic จึงจำกัดการเผยแพร่อย่างสาธารณะของโมเดล Mythos?

ตามรายงานของ CBS News และ Axios Anthropic จำกัดการเผยแพร่อย่างสาธารณะของ Mythos โดยอ้างความเสี่ยงด้านความมั่นคงของชาติ โดยเหตุผลคือในระหว่างการทดสอบ โมเดลดังกล่าวแสดงความสามารถในการค้นหาและโจมตีช่องโหว่ทางเครือข่ายแบบดำเนินการอัตโนมัติได้ รวมถึงขั้นตอนการโจมตีที่ประสบความสำเร็จในการหลบเลี่ยงกลไกการป้องกันความปลอดภัยของ OpenBSD ที่มีอายุ 27 ปี

โครงการปีกแก้วเกี่ยวข้องกับสถาบันใดบ้าง และมีขนาดเงินทุนเท่าใด?

ตามรายงานของ Axios และ Fast Company โครงการปีกแก้วให้การเข้าถึงแบบมีข้อจำกัดแก่สถาบันราว 40 แห่ง โดยฝ่ายที่ได้รับการยืนยันว่าเข้าร่วมได้แก่ Amazon, Apple, Cisco, Microsoft และ J.P. Morgan สำหรับเรื่องนี้ Anthropic ให้โควตาการใช้งานมูลค่า 100 ล้านดอลลาร์สหรัฐ และเงินทุนด้านความปลอดภัยแบบโอเพนซอร์ส 4 ล้านดอลลาร์สหรัฐ

รัฐบาลและองค์กรระหว่างประเทศใดบ้างที่ได้ออกมาตอบสนองต่อความเสี่ยงของ Mythos ต่อสาธารณะ?

ตามรายงานของ Fast Company รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ และประธานธนาคารกลางสหรัฐฯ ได้ประชุมกับผู้บริหารระดับสูงของภาคธนาคารเกี่ยวกับประเด็นนี้ นอกจากนี้ IMF ยังมีคำเตือนต่อสาธารณะโดยคำนึงถึงความเสี่ยงจากเครือข่ายที่ขับเคลื่อนด้วย AI จาก คริสตาลีนา เกออร์กีเยวา (Kristalina Georgieva) โดยย้ำว่าความสามารถด้านการป้องกันทั่วโลกยังไม่เพียงพอ