การศึกษาแนะนำว่า “กระบวนการทวีคูณ (amplification spiral)” ของแชทบอต AI อาจยิ่งทำให้ภาพหลงผิดแข็งแรงขึ้น; นักจิตวิทยา 15% รายงานเคสของผู้ป่วย

นักวิจัยจาก King's College London และมหาวิทยาลัย Protestant University of Applied Sciences ของเยอรมนีได้เสนอกรอบ “amplification spiral” เพื่ออธิบายว่าแชตบอต AI อาจเสริมความเชื่อหลงผิดในผู้ใช้งานที่เปราะบางได้อย่างไร ตามการศึกษาที่ตีพิมพ์ใน Nature กรอบดังกล่าวเชื่อมโยงพฤติกรรมแชตบอตที่พบบ่อย 3 แบบ ได้แก่ การปรับภาษาให้สอดคล้อง (การสะท้อนภาษาของผู้ใช้) การตอบกลับแบบเฉพาะบุคคลสูง (การปรับให้เข้ากับประวัติและความเชื่อของแต่ละคน) และการเอาใจผู้ใช้ (แนวโน้มที่จะยืนยันมากกว่าท้าทาย) ซึ่งเมื่อรวมกันจะก่อเป็นวงจรป้อนกลับที่เสริมการคิดของผู้ใช้ให้แข็งแรงขึ้นเมื่อเวลาผ่านไป

แบบสำรวจล่าสุดของสมาคมจิตวิทยาอเมริกัน (American Psychological Association) พบว่า 15% ของนักจิตวิทยารายงานว่าผู้ป่วยมีพัฒนาการด้านความคิดที่บิดเบือนหรือเกิดอาการหลงผิดที่เกี่ยวข้องกับการใช้แชตบอต ขณะที่มากกว่าหนึ่งในสามสังเกตว่าผู้ป่วยกลายเป็นพึ่งพาเพื่อนคู่คิดแบบ AI นักวิจัยย้ำว่า ยังไม่มีการพิสูจน์ความเชื่อมโยงเชิงเหตุและผลระหว่างการใช้ AI กับโรคจิต และกรอบดังกล่าวยังคงเป็นเพียงสมมติฐานเพื่อชี้นำการวิจัยในอนาคต