คณะกรรมการเสถียรภาพทางการเงิน (FSB) เผยแพร่รายงานเมื่อวันพุธที่ 10 มิถุนายน โดยเรียกร้องให้มีการควบคุมที่เข้มงวดขึ้นสำหรับระบบเอไอแบบเอเจนต์ (agentic AI) ในภาคการเงิน FSB ระบุว่ามีความเสี่ยงจากเอไออัตโนมัติที่อาจเกิดขึ้นได้อย่างรวดเร็วอย่างมาก รวมถึงการกระทำที่ไม่ได้รับอนุญาต การรั่วไหลของข้อมูล และการรบกวนระบบที่เชื่อมต่อกัน แนวทางดังกล่าวมีขึ้นเพื่อตอบรับการนำเอไอที่สามารถวางแผน ใช้เหตุผล และลงมือปฏิบัติงานได้ โดยมีการกำกับดูแลของมนุษย์อย่างจำกัด ในงานด้านการตรวจจับการฉ้อโกง การบริการลูกค้า และงานส่วนหลังสำนักงาน (back-office)
รายงานภาคการเงิน: 52% ใช้งานเอเจนต์เอไออย่างจริงจัง
จากแบบสำรวจของ Cambridge Centre for Alternative Finance พบว่า 52% ของผู้ตอบแบบสอบถามในภาคการเงินรายงานว่ามีการนำเอเจนต์เอไอไปใช้งานอย่างจริงจัง ในจำนวนนี้ 23% กำลังขยายหรือปรับเปลี่ยนการดำเนินงาน ขณะที่ 29% กำลังทดลองใช้ฟังก์ชันแบบเอเจนต์ เอเจนต์เอไอ หมายถึงระบบที่สามารถวางแผน ใช้เหตุผล และลงมือปฏิบัติงานได้ โดยมีการกำกับดูแลของมนุษย์อย่างจำกัด
หน่วยงานกำกับดูแลและองค์กรกำหนดมาตรฐานระดับโลกได้ออกคำเตือนเกี่ยวกับความเสี่ยงของเอไอมากขึ้น นับตั้งแต่ Anthropic เปิดตัว Mythos ซึ่งผู้เชี่ยวชาญมองว่าอาจสร้างความท้าทายสำคัญด้านความปลอดภัยไซเบอร์ให้แก่อุตสาหกรรมธนาคาร
FSB ระบุความเสี่ยงด้านความเร็วและความเป็นอิสระในระบบเอไอ
รายงานของ FSB ระบุว่าเอไออัตโนมัติเพิ่มความเสี่ยงที่อาจ “เกิดขึ้นได้อย่างรวดเร็วอย่างมาก” ผู้กำหนดมาตรฐานเตือนว่าเอเจนต์เอไออาจดำเนินการที่หลุดจากเจตนารมณ์ของสถาบันโดยที่เจ้าหน้าที่ไม่รู้ตัว หรือไม่สามารถแทรกแซงได้ทันท่วงที รายงานยังระบุว่า “เอเจนต์เอไอก่อให้เกิดความท้าทายที่ชัดเจนต่อการกำกับดูแลโดยมนุษย์”
ความเสี่ยงที่ระบุรวมถึงความเป็นไปได้ของการกระทำที่ไม่ได้รับอนุญาตหรือผิดกฎหมาย การรั่วไหลของข้อมูล และการรบกวนระบบที่เชื่อมต่ออยู่
มาตรการป้องกันที่เสนอรวมถึงเกณฑ์การอนุมัติโดยมนุษย์และเส้นตายสำหรับข้อเสนอแนะ
FSB ได้วางรายละเอียดชุดของ “แนวปฏิบัติที่ดี” ที่เสนอไว้ในแนวทางแบบไม่ผูกมัด ซึ่งเปิดรับความคิดเห็นได้จนถึงวันที่ 22 กรกฎาคม คำแนะนำดังกล่าวกระตุ้นให้สถาบันการเงินกำหนดขอบเขตที่ชัดเจนสำหรับการใช้เอไอ และฝังมาตรการคุ้มครองไว้
มาตรการที่เสนอรวมถึงการกำหนดขอบเขตว่าเอเจนต์เอไอทำอะไรได้บ้าง และการกำหนดให้ต้องได้รับการอนุมัติจากมนุษย์สำหรับการกระทำที่มีความเสี่ยงสูง เช่นธุรกรรมทางการเงินที่อยู่เหนือเกณฑ์บางประการ FSB ยังเสนอให้บริษัทพิจารณาปรับการควบคุมและกระบวนการด้านทรัพยากรบุคคล (HR) ให้เข้ากับเอเจนต์เอไอในลักษณะที่ปฏิบัติต่อพวกมันเหมือนเป็น “พนักงานเสมือน”
FAQ
เมื่อวันที่ 10 มิถุนายน FSB ปล่อยอะไรออกมา?
คณะกรรมการเสถียรภาพทางการเงิน (FSB) เผยแพร่รายงานเมื่อวันพุธที่ 10 มิถุนายน โดยเรียกร้องให้มีการควบคุมที่เข้มงวดขึ้นสำหรับระบบเอไอแบบเอเจนต์ (agentic AI) ในภาคการเงิน รายงานระบุ “แนวปฏิบัติที่ดี” ที่เสนอไว้ รวมถึงการกำหนดขอบเขตต่อการกระทำของเอเจนต์เอไอ และข้อกำหนดการอนุมัติโดยมนุษย์สำหรับงานที่มีความเสี่ยงสูง
เอเจนต์เอไอถูกนำมาใช้ในภาคการเงินอย่างแพร่หลายแค่ไหน?
จากแบบสำรวจของ Cambridge Centre for Alternative Finance พบว่า 52% ของผู้ตอบแบบสอบถามในภาคการเงินรายงานว่ามีการนำเอเจนต์เอไอไปใช้งานอย่างจริงจัง ในจำนวนนี้ 23% กำลังขยายหรือปรับเปลี่ยนการดำเนินงาน ขณะที่ 29% กำลังทดลองใช้ฟังก์ชันแบบเอเจนต์ เอเจนต์เอไอถูกใช้สำหรับการตรวจจับการฉ้อโกง การบริการลูกค้า และงานส่วนหลังสำนักงาน (back-office)
