รัฐมนตรีว่าการกระทรวงการคลัง ธนาคารกลาง และนักการเงินระดับสูง กำลังให้ความสนใจเพิ่มขึ้นต่อความเสี่ยงที่อาจเกิดขึ้นจากโมเดล Claude Mythos ของ Anthropic ท่ามกลางความกังวลว่าโมเดลนี้อาจเปิดเผยจุดอ่อนสำคัญในโครงสร้างพื้นฐานทางการเงินของโลก
สรุป

• ผู้นำการเงินทั่วโลกเตือนว่า AI Mythos ของ Anthropic อาจเปิดเผยข้อบกพร่องสำคัญในระบบการเงินและระบบไอทีหลัก
• ธนาคารและรัฐบาลกำลังทดสอบโมเดลล่วงหน้าเพื่อระบุช่องโหว่ก่อนการเผยแพร่ในวงกว้าง
• เจ้าหน้าที่เตือนว่าเครื่องมือดังกล่าวอาจช่วยอาชญากรไซเบอร์ใช้ประโยชน์จากช่องโหว่ แม้ขณะเดียวกันจะช่วยเสริมความแข็งแกร่งในการป้องกัน

โมเดลนี้ได้จุดชนวนให้เกิดการหารือระดับสูงแล้ว และมีการประชุมในลักษณะฉุกเฉินหลังการทดสอบช่วงแรกเผยให้เห็นช่องโหว่ในระบบปฏิบัติการหลักๆ และแอปพลิเคชันที่ใช้อย่างแพร่หลาย เจ้าหน้าที่และผู้เชี่ยวชาญในอุตสาหกรรมกล่าวว่าระบบอาจมีความสามารถแบบ “ไม่เคยมีมาก่อน” ในการตรวจจับและใช้ประโยชน์จากข้อบกพร่องด้านความปลอดภัยทางไซเบอร์ แม้จะมีบางฝ่ายที่เตือนว่าขีดความสามารถทั้งหมดของมันยังไม่เป็นที่เข้าใจอย่างเต็มที่

François-Philippe Champagne รัฐมนตรีว่าการกระทรวงการคลังของแคนาดา กล่าวว่า ประเด็นดังกล่าวครองการสนทนาในการประชุมสัปดาห์นี้ของกองทุนการเงินระหว่างประเทศ (IMF) ที่กรุงวอชิงตัน

“แน่นอนว่ามันร้ายแรงพอที่จะรับความสนใจจากรัฐมนตรีว่าการกระทรวงการคลังทุกคน” เขากล่าว พร้อมเสริมว่า ต่างจากความเสี่ยงทางกายภาพ ความท้าทายของเรื่องนี้กับ AI คือ “สิ่งที่ไม่รู้ว่าเราไม่รู้”

เขาย้ำถึงความจำเป็นในการมีมาตรการคุ้มครอง โดยกล่าวว่า หน่วยงานต่างๆ ต้องทำให้แน่ใจว่า “เรามีกระบวนการที่วางไว้ เพื่อให้มั่นใจว่าเราจะทำให้ระบบการเงินของเรามีความทนทาน”

ธนาคารและรัฐบาลเตรียมทดสอบระบบก่อนการเผยแพร่

ธนาคารรายใหญ่และหน่วยงานภาครัฐกำลังได้รับการเข้าถึงล่วงหน้าเพื่อประเมินช่องโหว่ก่อนการเปิดตัวในวงกว้าง

C. S. Venkatakrishnan ประธานเจ้าหน้าที่บริหารของ Barclays กล่าวว่า ความกังวลดังกล่าวร้ายแรงพอที่จะต้องให้ความสนใจอย่างเร่งด่วน

“มันร้ายแรงพอที่คนต้องกังวล” เขากล่าว “เราต้องทำความเข้าใจมันให้ดีขึ้น และเราต้องทำความเข้าใจช่องโหว่ที่ถูกเปิดเผย และแก้ไขมันอย่างรวดเร็ว”

เขากล่าวเสริมว่า สถานการณ์นี้สะท้อนถึงระบบการเงินที่เชื่อมโยงกันมากขึ้น ซึ่งความเสี่ยงและโอกาสกำลังพันเกี่ยวกันอย่างมากขึ้นเรื่อยๆ

Anthropic ระบุว่า Mythos ได้ค้นพบข้อบกพร่องหลายประการแล้วในระบบปฏิบัติการ แพลตฟอร์มการเงิน และเว็บเบราว์เซอร์ ในการตอบสนอง จึงมีการจำกัดการเข้าถึงให้เฉพาะกลุ่มสถาบันขนาดเล็ก รวมถึงบริษัทเทคโนโลยีรายใหญ่และธนาคารที่มีความสำคัญเชิงระบบ เพื่อให้พวกเขาสามารถเสริมมาตรการป้องกันก่อนการเปิดเผยในวงกว้าง

หน่วยงานในสหรัฐฯ ได้ดำเนินการในลักษณะเดียวกัน กระทรวงการคลังสนับสนุนให้ธนาคารชั้นนำปรับใช้โมเดลนี้ภายในองค์กรเพื่อระบุจุดอ่อน พร้อมทั้งสำรวจวิธีการที่จะทำให้เวอร์ชันที่ควบคุมแล้วพร้อมใช้งานกับหน่วยงานของรัฐบาลกลาง มีบันทึกจากสำนักงานบริหารและงบประมาณ (Office of Management and Budget) ของทำเนียบขาว ซึ่งสรุปแผนการนำมาตรการคุ้มครองมาใช้ก่อนที่จะมีการอนุญาตการเข้าถึงดังกล่าว

Andrew Bailey ผู้ว่าการธนาคารแห่งอังกฤษ กล่าวว่า นัยต่ออาชญากรรมไซเบอร์ต้องได้รับการพิจารณาอย่างจริงจัง

“เราจำเป็นต้องพิจารณาอย่างรอบคอบในตอนนี้ว่า การพัฒนา AI ล่าสุดนี้อาจหมายถึงความเสี่ยงของอาชญากรรมไซเบอร์อย่างไร” เขากล่าว พร้อมเตือนว่า เครื่องมือดังกล่าวอาจทำให้ “ผู้ไม่หวังดี” ระบุและใช้ประโยชน์จากช่องโหว่ของระบบได้ง่ายขึ้น

เจ้าหน้าที่ระดับสูงของสหรัฐฯ รวมถึง Scott Bessent และ Jerome Powell ได้เรียกประชุมผู้บริหารจากวอลล์สตรีทแล้วเพื่อรับมือกับความเสี่ยง โดยรายงานว่าผู้เข้าร่วมรวมถึงผู้นำจากธนาคารรายใหญ่ เช่น Goldman Sachs, Bank of America, Citigroup และ Morgan Stanley ซึ่งตอกย้ำความสำคัญเชิงระบบของประเด็นนี้

เสียงจากอุตสาหกรรมชี้ว่า ความกังวลอาจไม่ได้จำกัดอยู่แค่ Anthropic แหล่งข่าวระบุว่า บริษัท AI ของสหรัฐฯ อีกแห่งอาจปล่อยโมเดลที่มีความสามารถใกล้เคียงกันโดยไม่มีมาตรการคุ้มครองที่เทียบเท่า

James Wise จาก Balderton Capital อธิบาย Mythos ว่าเป็น “โมเดลชุดแรกจากบรรดาโมเดลที่ทรงพลังยิ่งกว่านี้อีกมากมาย” ที่สามารถเปิดเผยช่องโหว่ของระบบ หน่วย Sovereign AI ของเขากำลังลงทุนในบริษัทที่มุ่งเน้นด้านความปลอดภัยของ AI พร้อมกล่าวว่า “เราหวังว่าโมเดลที่เปิดเผยช่องโหว่จะเป็นโมเดลเดียวกับที่จะช่วยแก้ไขมันด้วย”

Claude Mythos คืออะไร?

Mythos เป็นส่วนหนึ่งของตระกูลโมเดล Claude ของ Anthropic ซึ่งเป็นระบบที่แข่งขันกับข้อเสนอจาก OpenAI และ Google ต่างจากการเปิดตัวก่อนหน้านี้ บริษัทจำกัดการเข้าถึง เนื่องจากกังวลว่าเครื่องมืออาจถูกนำไปใช้ในทางที่ผิดเพื่อค้นหาช่องโหว่ที่อ่อนไหว หรือเจาะเข้าไปในระบบที่ได้รับการปกป้อง

การทดสอบภายในทำให้เกิดสัญญาณเตือนหลังจากโมเดลระบุบั๊กระดับวิกฤต ซึ่งโดยปกติแล้วต้องใช้แฮกเกอร์ที่มีทักษะสูงมากในการค้นพบ มีรายงานว่าบางช่องโหว่อาจย้อนกลับไปหลายสิบปี ซึ่งตอกย้ำถึงช่องว่างที่ระบบรักษาความปลอดภัยแบบเดิมตรวจไม่พบ

ความกังวลยังลุกลามไปสู่ข้อพิพาทด้านนโยบาย กองทัพเพนตากอนเมื่อไม่นานมานี้ได้กำหนดให้ Anthropic เป็นความเสี่ยงด้านห่วงโซ่อุปทานที่อาจเกิดขึ้น ซึ่งโดยปกติแล้วจะสงวนไว้สำหรับคู่แข่งจากต่างประเทศ บริษัทสามารถโต้แย้งการห้ามที่เสนอในศาลได้ โดยให้เหตุผลว่าจะส่งผลให้เกิดความสูญเสียทางการเงินอย่างมีนัยสำคัญ

ในแวดวงความมั่นคงแห่งชาติ Mythos ได้สร้างความไม่แน่นอนใหม่เกี่ยวกับวิธีการประเมินภัยคุกคามทางไซเบอร์ เจ้าหน้าที่คนหนึ่งอธิบายผลกระทบไว้ว่าเทียบได้กับการติดตั้งเครื่องมือแบบที่ใช้โดยผู้ปฏิบัติการระดับยอดฝีมือให้กับแฮกเกอร์ทั่วไป

แม้จะมีความเสี่ยง แต่หน่วยงานต่างๆ ยังคงมีส่วนร่วมกับ Anthropic หน่วยงานของรัฐบาลกลางกำลังเตรียมพร้อมสำหรับการเข้าถึงแบบควบคุมที่เป็นไปได้ ในขณะที่ผู้กำกับดูแลและสถาบันการเงินกำลังแข่งกันเพื่อทำความเข้าใจและรับมือกับช่องโหว่ที่โมเดลได้เริ่มเปิดเผยแล้ว