CEO ของ Anthropic อย่าง Dario Amodei เรียกร้องให้กำหนดกฎความปลอดภัยของ AI ที่มีผลผูกพัน ขณะที่ความก้าวหน้าเดินหน้าเร็วกว่านโยบาย

เมื่อวันที่ 10 มิถุนายน ซีอีโอของ Anthropic อย่าง Dario Amodei ได้เผยแพร่บทความเตือนว่า การพัฒนา AI ก้าวหน้าเร็วกว่าระบบการเมืองที่ตอบสนองได้ ทำให้เกิด “ช่องว่างด้านธรรมาภิบาล” อย่างเร่งด่วน เขาเสนอกรอบการทำงานที่กำหนดให้ต้องมีการทดสอบโดยบุคคลที่สามอย่างจำเป็นสำหรับโมเดลขั้นสูงก่อนการนำไปใช้งาน โดยมีการประเมินความเสี่ยงด้านความปลอดภัยทางไซเบอร์ การนำไปใช้ในทางที่ผิดด้านชีวภาพ และสถานการณ์ที่ควบคุมไม่ได้ รัฐบาลควรยังคงอำนาจในการชะลอหรือระงับการใช้งาน หากประเมินแล้วว่าความเสี่ยงไม่อยู่ในระดับที่ยอมรับได้

Amodei ยังชี้ถึงความเสี่ยงของการหยุดชะงักทางเศรษฐกิจ โดยระบุว่า AI ที่ทรงพลังอาจเข้ามาทดแทนแรงงานจำนวนมากผ่านการแทนที่งานเชิงความรู้ (cognitive labor substitution) ซึ่งอาจทำให้เติบโตอย่างรวดเร็วควบคู่ไปกับความเหลื่อมล้ำที่ยังคงอยู่ เขาเรียกร้องมาตรการด้านนโยบาย เช่น การสนับสนุนแรงงาน การประกันค่าจ้าง และโครงการฝึกอบรมทบทวนทักษะ นอกจากนี้ เขายังย้ำถึงความจำเป็นที่ระบอบประชาธิปไตยต้องประสานงานกันในห่วงโซ่อุปทานของ AI มาตรฐานด้านความปลอดภัย และนโยบายทางเศรษฐกิจ โดยเปรียบความสำคัญเชิงภูมิรัฐศาสตร์ของ AI กับพลังงานนิวเคลียร์