รัฐบาลสหรัฐฯ กำลังเตรียมจะให้หน่วยงานของรัฐบาลกลางเข้าถึงโมเดล Mythos ของ Anthropic ตามรายงานของ Bloomberg ในวันพฤหัสบดีนี้ Gregory Barbaccia หัวหน้าเจ้าหน้าที่สารสนเทศระดับรัฐบาลกลาง (federal chief information officer) ประจำสำนักงานบริหารและงบประมาณทำเนียบขาว (White House Office of Management and Budget) ได้ส่งอีเมลเมื่อวันอังคารถึงเจ้าหน้าที่ระดับหน่วยงานในคณะรัฐมนตรี โดยระบุว่า OMB กำลังจัดตั้งมาตรการคุ้มครองเพื่อเอื้อให้หน่วยงานสามารถใช้งานโมเดลได้ โมเดล Mythos ถูกจำกัดไว้สำหรับกลุ่มที่ได้รับเลือก และมีจุดประสงค์เพื่อทำงานด้านไซเบอร์เชิงรับ ไม่ใช่การใช้งานเชิงพาณิชย์อย่างกว้างขวาง
มาตรการคุ้มครองของทำเนียบขาวสำหรับการเข้าถึง Mythos
ในอีเมลของ OMB ที่มีหัวข้อว่า “Mythos Model Access” Barbaccia เขียนว่า: “เรากำลังทำงานอย่างใกล้ชิดกับผู้ให้บริการโมเดล พันธมิตรในอุตสาหกรรมรายอื่น และชุมชนด้านข่าวกรอง เพื่อให้แน่ใจว่ามีการติดตั้งกรอบกำกับดูแลและมาตรการป้องกันที่เหมาะสม ก่อนที่จะอาจมีการปล่อยเวอร์ชันที่ถูกปรับแต่งของโมเดลให้หน่วยงานต่างๆ”
แผนการเปิดตัวมีขึ้นในช่วงที่เจ้าหน้าที่แสดงความกังวลเกี่ยวกับความเสี่ยงด้านความปลอดภัยไซเบอร์ หากเครื่องมือนี้ไม่ได้ถูกควบคุมอย่างเข้มงวด Anthropic ระบุว่า ความสามารถของ Mythos อาจแพร่กระจายได้อย่างรวดเร็วและไม่คงอยู่ในมือที่ปลอดภัย โดยเตือนว่า “ผลกระทบต่อเศรษฐกิจ ความปลอดภัยสาธารณะ และความมั่นคงแห่งชาติอาจรุนแรง” หากความสามารถดังกล่าวแพร่ขยายไปไกลเกินกว่ากลุ่มผู้ดำเนินการที่มุ่งมั่นในการใช้งานอย่างปลอดภัย
ประเด็นความกังวลด้านการกำกับดูแลระหว่างประเทศ
แผนการเปิดตัวระดับสหพันธรัฐสอดคล้องกับความสนใจด้านระหว่างประเทศที่เพิ่มขึ้นต่อความเสี่ยงด้านไซเบอร์ของ AI รัฐมนตรีว่าการกระทรวงการคลัง ผู้ว่าการธนาคารกลาง และหน่วยงานกำกับดูแลได้มารวมตัวกันที่กรุงวอชิงตันสำหรับการประชุมฤดูใบไม้ผลิของ IMF และ World Bank ซึ่งเจ้าหน้าที่การเงินระดับสูงเตือนว่า AI ขั้นสูงจากบริษัทเทคโนโลยีของสหรัฐฯ อาจทำให้เกิดช่องโหว่ในมาตรการป้องกันไซเบอร์ของผู้ให้กู้ และกดดันระบบการธนาคารในภาพรวม
Andrew Bailey ผู้ว่าการธนาคารแห่งอังกฤษ และประธานของ Financial Stability Board กล่าวว่า: “นี่เป็นความท้าทายที่ร้ายแรงมากสำหรับพวกเราทุกคน มันทำให้เรานึกได้ว่าโลกของ AI เคลื่อนตัวเร็วเพียงใด” Bailey ระบุว่าหน่วยงานกำกับดูแลทั่วโลกจะต้องประเมินความเสี่ยงด้านไซเบอร์ที่การนำเสนอ Mythos แบบ Preview ของ Claude ของ Anthropic อาจก่อให้เกิดกับระบบการเงินได้อย่างรวดเร็ว
Dan Katz รองหัวหน้าของ IMF กล่าวว่า: “พัฒนาการของเทคโนโลยีดิจิทัลกำลังก่อให้เกิดความเสี่ยงมหาศาลในมุมมองด้านความปลอดภัยไซเบอร์ นี่จะต้องเป็นเรื่องที่จำเป็นอย่างยิ่งในวาระระหว่างประเทศในอีกไม่กี่เดือนข้างหน้า”
Christine Lagarde ประธานธนาคารกลางยุโรป ชี้ให้เห็นถึงความกังวลด้านการใช้งานสองทาง (dual-use): “สิ่งที่เราได้เห็นกับ Anthropic และ Mythos เป็นตัวอย่างที่ดีของบริษัทที่รับผิดชอบซึ่งอยู่ดีๆ ก็กำลังคิดว่า ‘อันนี้อาจจะดีมาก’ แต่ถ้ามันตกอยู่ในมือที่ผิด มันก็อาจจะเลวร้ายมาก” Lagarde บอกกับผู้สื่อข่าวว่าเจ้าหน้าที่ต้องการกรอบการกำกับดูแล แต่ปัจจุบันยังไม่มีระบบอย่างเป็นทางการที่วางไว้: “ทุกคนต่างกระตือรือร้นที่จะมีกรอบการทำงานเพื่อใช้งานภายในนั้น ผมไม่คิดว่าจะมีกรอบการกำกับดูแลที่มีไว้เพื่อคอยจัดการเรื่องพวกนั้นจริงๆ เราจำเป็นต้องทำงานเรื่องนั้น”
การค้นพบช่องโหว่ของ Anthropic และมาตรการคุ้มครอง
Anthropic ประกาศในช่วงต้นเดือนนี้ว่า Mythos พบ “ช่องโหว่รุนแรงระดับสูงหลายพันรายการ รวมถึงบางส่วนในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักแทบทุกประเภท” บริษัทเตือนว่าความสามารถเช่นนี้อาจแพร่กระจายได้อย่างรวดเร็วและไม่คงอยู่ในมือที่ปลอดภัย โดยกล่าวว่า: “อีกไม่นาน ความสามารถเหล่านี้ก็จะเริ่มแพร่ขยาย ซึ่งอาจเกินกว่ากลุ่มผู้ดำเนินการที่มุ่งมั่นที่จะนำไปใช้งานอย่างปลอดภัย”
Pip White หัวหน้าของ Anthropic สำหรับสหราชอาณาจักร ไอร์แลนด์ และยุโรปตอนเหนือ กล่าวว่า ความสนใจจากผู้บริหารเพิ่มขึ้นอย่างรวดเร็วหลังจากมีข่าวเกี่ยวกับโมเดลนี้ ในการให้สัมภาษณ์ White ระบุว่า: “เรากำลังวางมาตรการคุ้มครองของเราเองและข้อจำกัดของเราเองไว้กับผลิตภัณฑ์นี้ เพราะเรารู้ว่ามันทรงพลังแค่ไหน”
การเปิดตัว Opus 4.7
ในวันพฤหัสบดี Anthropic เปิดตัว Opus 4.7 ซึ่งเป็นโมเดลใหม่ที่ออกแบบมาสำหรับงานด้านวิศวกรรมซอฟต์แวร์ ตามข้อมูลของบริษัท Opus 4.7 สามารถจัดการงานเขียนโค้ดที่ก่อนหน้านี้เคยต้องได้รับการกำกับดูแลอย่างใกล้ชิดมากกว่า ทำตามคำสั่งได้ดีขึ้นกว่าโมเดลรุ่นเก่า และสามารถตรวจสอบภาพที่มีความละเอียดสูงขึ้นเพื่อระบุรายละเอียดในแผนภูมิที่หนาแน่นและภาพที่ซับซ้อน
Anthropic ระบุว่า Opus 4.7 มีความสามารถน้อยกว่า Mythos รวมถึงในกรณีการใช้งานด้านไซเบอร์ ระหว่างการฝึก บริษัทได้ทดสอบวิธีการเพื่อ “ลดความสามารถด้านไซเบอร์” ของโมเดลอย่างแตกต่างกัน (differentially reduce)
