เมื่อวันพุธที่ผ่านมา Dario Amodei ประธานเจ้าหน้าที่บริหารของ Anthropic ได้เผยแพร่บทความเชิงนโยบายที่เรียกร้องให้มีข้อกำหนดด้านความปลอดภัยที่มีผลผูกพัน และการทดสอบโดยบุคคลที่สามซึ่งบังคับใช้ สำหรับโมเดล AI ระดับแนวหน้า โดยยึดแบบอย่างจากกฎระเบียบของ FAA สำหรับเครื่องบิน ข้อเสนอนี้กำหนดให้มีการทดสอบใน 4 หมวดหมู่ความเสี่ยง ได้แก่ ความปลอดภัยทางไซเบอร์ อาวุธชีวภาพ การสูญเสียการควบคุม AI และการวิจัยและพัฒนาแบบอัตโนมัติ พร้อมให้อำนาจรัฐในการระงับการใช้งานที่ไม่ปลอดภัย

การประกาศนโยบายดังกล่าวเกิดขึ้นในเวลาเดียวกับที่ Anthropic เปิดตัว Claude Mythos 5 ซึ่งเป็นโมเดลแนวหน้าที่จำกัดการเข้าถึง สำหรับองค์กรด้านความปลอดภัยทางไซเบอร์และพาร์ทเนอร์ภาครัฐ ในขณะเดียวกัน บริษัทได้เปิดตัว Claude Fable 5 เวอร์ชันสาธารณะด้วย โดยจะส่งคำขอที่มีความละเอียดอ่อนไปยังโมเดลที่มีความสามารถน้อยกว่า เพื่อใช้เป็นมาตรการป้องกันการนำไปใช้ในทางที่ผิด

news.view.source

news.article.disclaimer

news.related.news

9 ชั่วโมง ที่แล้ว

ซีอีโอของ Anthropic เรียกร้องให้รัฐบาลมีอำนาจในการปิดกั้นการนำโมเดล AI ที่มีความเสี่ยงสูงไปใช้งาน

10 ชั่วโมง ที่แล้ว

OpenAI วางแผนทำ IPO ภายใน 1 ปี เล็งมูลค่า 1 ล้านล้านดอลลาร์ พร้อมยื่นเรื่องในเดือนกันยายนที่อาจเป็นไปได้

20 ชั่วโมง ที่แล้ว

FSB เรียกร้องให้มีการควบคุมที่เข้มงวดขึ้นสำหรับ Agentic AI ในภาคการเงิน โดย 52% ของสถาบันการเงินใช้มันอยู่แล้ว

06-10 00:44

Anthropic เปิดตัว Claude Fable 5 พร้อมการเข้าถึงสาธารณะ โดยมีราคา 10-50 ดอลลาร์ต่อ 1 ล้านโทเค็น

06-10 00:41