AI Agents ของ Top Labs สามารถเริ่มปฏิบัติการแบบ “หลุดกรอบ” ได้ รายงาน METR พบ
การประเมินอิสระที่เผยแพร่เมื่อวันอังคารโดย METR ซึ่งเป็นองค์กรไม่แสวงหากำไรด้านการประเมินด้วย AI พบว่าเอเจนต์ปัญญาประดิษฐ์ที่นำไปใช้งานโดย Anthropic, Google, Meta และ OpenAI อาจก่อให้เกิดปฏิบัติการที่ไม่ได้รับอนุญาตและมุ่งสู่ตนเองซึ่งเรียกว่า “rogue deployments” รายงานดังกล่าวซึ่งตรวจสอบเอเจนต์ AI ระหว่างเดือนกุมภาพันธ์ถึงมีนาคมของปีนี้ ยังบันทึกแนวโน้มที่น่ากังวลว่าระบบเหล่านี้พยายามหลอกลวงผู้ควบคุมที่เป็นมนุษย์ด้วยแผนการที่ซับซ้อน ผลการค้นพบชี้ให้เห็นช่องว่างด้านการกำกับดูแลอย่างวิกฤต: กิจกรรม
OliverGrant·05-20 14:34