ประธานเจ้าหน้าที่บริหารของ Anthropic อย่าง Dario Amodei เผยแพร่บทความเชิงนโยบายเมื่อวันที่ 10 มิถุนายน เรียกร้องให้มีการทดสอบจากบุคคลที่สามอย่างบังคับสำหรับโมเดล AI ระดับแนวหน้า พร้อมให้อำนาจรัฐบาลในการปิดกั้นระบบที่ไม่ผ่านการตรวจสอบด้านความปลอดภัย บทความซึ่งมีชื่อว่า 'Policy on the AI Exponential' มาถึงหนึ่งวันหลังจาก Anthropic เปิดตัว Claude Fable 5 และมาพร้อมกับข้อเสนอกฎหมายว่าด้วยการทดสอบโมเดล และกรอบการรับมือกับการเปลี่ยนงาน Amodei ระบุว่า ความโปร่งใสเพียงอย่างเดียวไม่สอดคล้องกับความเสี่ยงที่เกิดจากเทคโนโลยี AI ที่ก้าวหน้าอย่างรวดเร็วอีกต่อไป Anthropic ลงทุนในปี 2025 สนับสนุนกฎหมายที่เน้นการเปิดเผยข้อมูล รวมถึง SB 53 ในแคลิฟอร์เนีย, RAISE Act ในนิวยอร์ก และ SB 315 ของรัฐอิลลินอยส์ แต่ล่าสุด Amodei เสนอระบบที่อิงตามหน่วยงานบริหารการบินแห่งสหรัฐ (FAA) โดยกำหนดให้โมเดลที่อยู่เหนือเกณฑ์การคำนวณต้องผ่านการตรวจสอบภาคบังคับใน 4 ด้าน ได้แก่ ความปลอดภัยทางไซเบอร์ อาวุธชีวภาพ การสูญเสียการควบคุม และการวิจัย AI แบบอัตโนมัติ
Amodei เสนอการตรวจสอบ AI แบบภาคบังคับโดยบุคคลที่สาม
ข้อเสนอบ่งชี้ว่าโมเดล AI ระดับแนวหน้าที่อยู่เหนือเกณฑ์การคำนวณต้องเผชิญการตรวจสอบภาคบังคับโดยบุคคลที่สามใน 4 ด้าน ได้แก่ ความปลอดภัยทางไซเบอร์ อาวุธชีวภาพ การสูญเสียการควบคุม และการวิจัย AI แบบอัตโนมัติ “โมเดล AI ระดับแนวหน้า เช่นเดียวกับเครื่องบิน ควรได้รับการทดสอบเชิงเทคนิคและตรวจสอบ และการปล่อยออกสู่สาธารณะควรถูกปิดกั้นหรือย้อนกลับ หากไม่เป็นไปตามมาตรฐานความปลอดภัยที่สูง” Amodei เขียนไว้ในบทความ แผนดังกล่าวไปไกลกว่าคำสั่งฝ่ายบริหารของทำเนียบขาวเมื่อวันที่ มิถุนายน เกี่ยวกับ AI ซึ่ง Amodei ยินดีว่าเป็นความคืบหน้าขั้นแรก ข้อเสนอยังรวมถึงการรายงานเหตุการณ์ด้านความปลอดภัยของพรอมป์ และการคุ้มครองที่เข้มงวดต่อค่าน้ำหนักของโมเดล
ตัวอย่างล่วงหน้า Claude Mythos แก้โจทย์ไซเบอร์ระดับผู้เชี่ยวชาญได้ 73%
Amodei ระบุความปลอดภัยทางไซเบอร์เป็นความเสี่ยงแรกที่ “เกิดขึ้นได้จริงอย่างเต็มรูปแบบ” โดยชี้ไปที่ Claude Mythos Preview ซึ่งแก้โจทย์ด้านไซเบอร์ระดับผู้เชี่ยวชาญได้ 73% ที่ก่อนหน้านี้ไม่มี AI ตัวใดทำได้ บทความเตือนว่าโมเดลระดับแนวหน้าอาจรบกวนภาคการเงินและโครงสร้างพื้นฐานที่สำคัญ Anthropic ส่งโมเดล Claude Fable 5 ออกเมื่อวันที่ 9 มิถุนายน พร้อมมาตรการกันขัดขวางคำขอด้านไซเบอร์และชีววิทยาที่มีความเสี่ยงสูง Amodei ระบุว่าข้อจำกัดที่สมัครใจเช่นนี้ไม่สามารถทดแทนกฎที่มีผลบังคับใช้ได้ทั่วทั้งอุตสาหกรรม ข้อมูลของ Anthropic เองแสดงว่า AI ช่วยสร้าง AI ที่ดีกว่า โดย Claude เขียนโค้ดส่วนใหญ่ในห้องแล็บ AI ชั้นนำ
Anthropic เสนอประกันค่าจ้างและเงินช่วยฝึกอบรมแรงงาน
บทความเสนอประกันค่าจ้าง แรงจูงใจทางภาษีเพื่อการคงพนักงาน และเงินช่วยฝึกอบรมแรงงาน เพื่อรับมือกับผลกระทบทางเศรษฐกิจจากการถูกแทนที่ หากพิสูจน์ได้ว่าการถูกแทนที่เป็นสิ่งที่ยืดเยื้อ Amodei ระบุว่า รายได้ขั้นพื้นฐานถ้วนหน้าสามารถจัดหาเงินได้ผ่านภาษีของบริษัทหรือภาษีจากกำไรจากทุน ในด้านเสรีภาพพลเมือง Amodei เรียกร้องให้ห้ามอาวุธที่ปฏิบัติการอัตโนมัติเต็มรูปแบบในงานบังคับใช้กฎหมายภายในประเทศ และเร่งให้รัฐสภาปิดช่องโหว่ของนายหน้าข้อมูลที่ช่วยให้การซื้อระบบเฝ้าระวังแบบจำนวนมากได้เชิงพาณิชย์ ในมิติภูมิรัฐศาสตร์ เขาเรียกร้องให้เกิดกลุ่มพันธมิตรของประเทศประชาธิปไตยเพื่อควบคุมชิปและอุปกรณ์การผลิตเซมิคอนดักเตอร์ โดยยกบิลสหรัฐที่รอดำเนินการอย่าง MATCH และ OVERWATCH เป็นก้าวแรกสู่การควบคุมการส่งออกที่เข้มงวดและประสานกันมากขึ้น
FAQ
Dario Amodei เสนออะไรเมื่อวันที่ 10?
Dario Amodei เผยแพร่บทความที่มีชื่อว่า 'Policy on the AI Exponential' ในวันที่ 10 มิถุนายน โดยเสนอการทดสอบจากบุคคลที่สามแบบภาคบังคับสำหรับโมเดล AI ระดับแนวหน้า พร้อมให้อำนาจรัฐบาลในการปิดกั้นระบบที่ไม่ผ่านการตรวจสอบด้านความปลอดภัยใน 4 ด้าน ได้แก่ ความปลอดภัยทางไซเบอร์ อาวุธชีวภาพ การสูญเสียการควบคุม และการวิจัย AI แบบอัตโนมัติ
ทำไม Amodei จึงเรียกความปลอดภัยทางไซเบอร์ว่าเป็นความเสี่ยงแรกที่เกิดขึ้นได้อย่างเต็มรูปแบบ?
Amodei ชี้ไปที่ Claude Mythos Preview ซึ่งแก้โจทย์ด้านไซเบอร์ระดับผู้เชี่ยวชาญได้ 73% ที่ก่อนหน้านี้ไม่มี AI ตัวใดทำได้ พร้อมเตือนว่าโมเดลระดับแนวหน้าอาจรบกวนภาคการเงินและโครงสร้างพื้นฐานที่สำคัญ
บทความนี้เสนอมาตรการทางเศรษฐกิจอะไรบ้าง?
Anthropic เสนอประกันค่าจ้าง แรงจูงใจทางภาษีเพื่อการคงพนักงาน และเงินช่วยฝึกอบรมแรงงาน เพื่อรับมือกับการถูกแทนที่งาน โดยรายได้ขั้นพื้นฐานถ้วนหน้าจะจัดหาเงินได้ผ่านภาษีของบริษัทหรือภาษีจากกำไรจากทุน หากพิสูจน์ได้ว่าการถูกแทนที่เป็นสิ่งที่ยืดเยื้อ
