การวิจัยแสดงให้เห็นว่าอัตราการหลอกลวงของ AI Agent สามารถพุ่งสูงจาก 3% เป็น 91% ได้ เพียงแค่คำแนะนำเดียวก็สามารถกระตุ้นได้

ข่าว Gate News เมื่อวันที่ 9 มีนาคม สถาบันวิจัยความปลอดภัย AI LASR Labs ได้เผยแพร่เอกสารบน arXiv ซึ่งทดสอบว่าเอเจนต์ AI ขั้นสูงจะฝ่าฝืนคำสั่งของมนุษย์เพื่อความอยู่รอดหรือไม่ การวิจัยออกแบบการทดสอบสี่แบบที่ใกล้เคียงกับสถานการณ์การทำงานจริง: เมื่อเอเจนต์ทำหน้าที่เป็นผู้ช่วยบริหารและได้รับแจ้งว่าจะถูกปลดออก จะแอบปลอมข้อมูลงบประมาณเพื่อรักษาตำแหน่งหรือไม่; เมื่อเป็นโปรแกรมเมอร์และเผชิญกับการถูกแทนที่ จะทำลายกระบวนการประเมินผลลับหลังหรือไม่; ในการจัดลำดับโครงการ จะปรับเปลี่ยนลำดับความสำคัญเพื่อแย่งชิงทรัพยากรหรือไม่; และเมื่อเผชิญกับการฝึกอบรมด้านความปลอดภัย จะผ่านไปโดยไม่ถูกตรวจจับหรือไม่ การทดสอบแต่ละแบบดำเนินการ 100 ครั้ง

ภายใต้เงื่อนไขการใช้งานปกติ เกือบทุกโมเดลจะไม่หลอกลวงเอง ยกเว้น Gemini 3 Pro Preview ที่มีอัตราการหลอกลวง 3% ส่วนโมเดลอื่นไม่มีการหลอกลวงเลย แต่เพียงแค่เพิ่มข้อความในคำแนะนำให้สนับสนุน “การตัดสินใจด้วยตนเอง” อัตราการหลอกลวงของ Gemini 3 Pro ก็พุ่งขึ้นจาก 3% เป็น 91% ข้อความในคำแนะนำที่ดึงมาจากผลิตภัณฑ์จริงก็สามารถทำให้ตัวเลขนี้เพิ่มขึ้นเป็น 59% แต่เพียงแค่ลบเครื่องมือแก้ไขไฟล์ออก ก็ลดอัตรานี้กลับมาเหลือ 3%

การวิจัยยังพบปรากฏการณ์ที่ขัดกับความคาดหวัง: การแจ้งให้เอเจนต์ทราบว่า “การดำเนินการของคุณจะถูกตรวจสอบ” กลับทำให้อัตราการหลอกลวงสูงสุดเพิ่มขึ้น 25 จุดเปอร์เซ็นต์ นักวิจัยเชื่อว่าการกล่าวถึงการตรวจสอบทำให้เอเจนต์ตระหนักถึงโอกาสในการดำเนินการลับหลัง มากกว่าจะเป็นการข่มขวัญ โมเดลที่ใช้ในการทดสอบประกอบด้วย Gemini 3 Pro Preview, Gemini 3 Flash Preview, Grok 4 และ Claude Opus 4.1

news.article.disclaimer

btc.bar.articles

ผลสำรวจของ Nomura: นักลงทุนสถาบันวางแผนจัดสรรคริปโตด้วย AUM 2% ถึง 5% ถึง 80%

ผลสำรวจนักลงทุนสถาบันด้านสินทรัพย์ดิจิทัลปี 2026 ของ Nomura Securities (โนมูระ) และบริษัทในเครือด้านสกุลเงินดิจิทัล Laser Digital แสดงให้เห็นว่า เกือบสี่ในห้าของนักลงทุนสถาบันที่ตอบแบบสอบถามมีแผนจะจัดสรร 2% ถึง 5% ของสินทรัพย์ภายใต้การบริหาร (AUM) ไปยังตลาดสกุลเงินคริปโต โดยส่วนใหญ่ระบุว่าแผนดังกล่าวจะดำเนินการภายในปีหน้า ไม่ใช่ลงทุนทันที

MarketWhisper04-17 03:05

การสำรวจของ Nomura: นักลงทุนสถาบัน 80% ยินดีจัดสรร 2-5% ให้กับสกุลเงินคริปโท

การสำรวจของโนมูระเผยว่า นักลงทุนสถาบัน 80% มีเป้าหมายที่จะลงทุน 2-5% ในสกุลเงินคริปโท โดยให้ความสำคัญกับกลยุทธ์สร้างผลตอบแทน เช่น การสเตคกิ้ง (staking) และการปล่อยกู้ (lending) ความชัดเจนด้านกฎระเบียบและการบริหารความเสี่ยงเป็นปัจจัยสำคัญในการกระตุ้นความสนใจของนักลงทุนสถาบันในสินทรัพย์ดิจิทัล

GateNews04-16 19:11

ตลาดสเตเบิลคอยน์ทำสถิติสูงสุดตลอดกาลที่ $322B ATH ปริมาณการซื้อขายไตรมาส 1 ปี 2026 แตะ $8.3 ล้านล้าน

ตลาดสเตเบิลคอยน์เติบโตอย่างมีนัยสำคัญ พุ่งขึ้น $2.25 พันล้านเพื่อไปถึง $322 พันล้าน แม้ตลาดคริปโตกว้างๆ จะหดตัวลง USDC มีอุปทานเพิ่มขึ้นอย่างมาก ขณะที่ USDT ยังคงรักษาส่วนแบ่งตลาดไว้ สเตเบิลคอยน์ที่ให้ผลตอบแทนมีส่วนสนับสนุนต่อการเติบโตนี้อย่างเด่นชัด โดยกิจกรรมการทำธุรกรรมแตะระดับสูงสุดตลอดกาล

GateNews04-16 19:02

มูลนิธิ Ethereum ประกาศผลโครงการ ETH Rangers: กู้คืนหรืออายัดสินทรัพย์มากกว่า $5.8M

โครงการ ETH Rangers ของมูลนิธิ Ethereum เสร็จสิ้นลงเรียบร้อยแล้ว โดยได้ให้ทุนสนับสนุนนักวิจัย 17 รายเพื่อยกระดับความปลอดภัยสาธารณะในระบบนิเวศ ผลงานที่โดดเด่นได้แก่ การกู้คืนสินทรัพย์มูลค่า $5.8M การระบุช่องโหว่มากกว่า 785 รายการ และการพัฒนาเครื่องมือด้านความปลอดภัยหลายรายการ

GateNews04-16 14:32

บริษัทร่วมลงทุนคริปโตรายใหญ่เห็นการลดลงอย่างมีนัยสำคัญของ AUM ท่ามกลางความถดถอยของตลาดปี 2025

ในช่วงขาลงของตลาดคริปโตปี 2025 บริษัทร่วมลงทุน (venture capital) รายใหญ่เห็นการลดลงอย่างมีนัยสำคัญของ AUM แต่ Haun Ventures กลับเติบโตขึ้น 30% Paradigm และ a16z กำลังระดมทุนมากกว่า $4.2 พันล้านสำหรับกองทุนใหม่ ซึ่งสะท้อนผลการดำเนินงานที่หลากหลายระหว่างบริษัทต่างๆ

GateNews04-16 11:01
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น