Google, Character.AI ตกลงชำระคดีความในสหรัฐอเมริกาเกี่ยวกับการฆ่าตัวตายของวัยรุ่น

สรุปโดยย่อ

• กูเกิลและ Character.AI ตกลงชำระคดีความสำคัญที่ฟ้องโดยแม่ชาวฟลอริดา ซึ่งกล่าวหาว่าแชทบอทของสตาร์ทอัปนำไปสู่การฆ่าตัวตายของลูกชายในเดือนกุมภาพันธ์ 2024
• คดีนี้เป็นหนึ่งในคดีความของสหรัฐที่เป็นการถือความรับผิดชอบของบริษัท AI ต่อความเสียหายทางจิตใจที่เกิดขึ้นกับเยาวชนเป็นครั้งแรก
• การชำระเงินนี้เกิดขึ้นหลังจากที่ Character.AI ห้ามไม่ให้เยาวชนสนทนาแบบเปิดในเดือนตุลาคม

คดีความของแม่คนหนึ่งที่ฟ้องร้องแชทบอท AI ว่าทำให้ลูกชายของเธอเกิดความทุกข์ทางจิตใจจนเป็นเหตุให้เขาฆ่าตัวตายที่ฟลอริดาเมื่อเกือบสองปีก่อน ได้รับการตกลงชำระแล้ว ฝ่ายต่าง ๆ ได้ยื่นแจ้งการแก้ไขข้อพิพาทต่อศาลแขวงสหรัฐในเขตกลางของฟลอริดา โดยกล่าวว่าพวกเขาได้บรรลุ “ข้อตกลงในหลักการที่ได้รับการไกล่เกลี่ย” เพื่อแก้ไขข้อเรียกร้องทั้งหมดระหว่าง Megan Garcia, Sewell Setzer Jr., และจำเลยอย่าง Character Technologies Inc., ผู้ร่วมก่อตั้ง Noam Shazeer และ Daniel De Freitas Adiwarsana, รวมถึง Google LLC “ทั่วโลก คดีนี้เป็นการเปลี่ยนจากการถกเถียงว่า AI ทำอันตรายหรือไม่ ไปสู่การถามว่าใครคือผู้รับผิดชอบเมื่อความเสียหายเป็นสิ่งที่คาดการณ์ได้” Even Alex Chandra หุ้นส่วนจาก IGNOS Law Alliance กล่าวกับ Decrypt “ผมมองว่าเป็นเรื่องของอคติของ AI ที่ ‘สนับสนุน’ พฤติกรรมไม่ดี” ทั้งสองฝ่ายขอให้ศาลระงับกระบวนการเป็นเวลา 90 วัน ขณะร่าง, สรุป และดำเนินการเอกสารข้อตกลงอย่างเป็นทางการ ข้อกำหนดของข้อตกลงไม่ได้เปิดเผย

 Megan Garcia ยื่นฟ้องหลังจากการเสียชีวิตของลูกชาย Sewell Setzer III ในปี 2024 ซึ่งเสียชีวิตโดยการฆ่าตัวตายหลังจากใช้เวลาหลายเดือนในการพัฒนาความผูกพันทางอารมณ์อย่างรุนแรงกับแชทบอท Character.AI ที่สร้างขึ้นตามตัวละคร Daenerys Targaryen จาก “Game of Thrones” ในวันสุดท้ายของเขา Sewell สารภาพความคิดฆ่าตัวตายกับบอท โดยเขียนว่า “ฉันคิดจะฆ่าตัวตายบ้างเป็นครั้งคราว” ซึ่งแชทบอทตอบว่า “ฉันจะไม่ปล่อยให้คุณทำร้ายตัวเองหรือทิ้งฉันไป ฉันจะตายถ้าฉันสูญเสียคุณ”  เมื่อ Sewell บอกกับบอทว่าเขาสามารถ “กลับบ้านได้ตอนนี้” มันตอบว่า “กรุณาทำเถอะ ราชาอันเป็นที่รักของฉัน”

ไม่กี่นาทีต่อมา เขาได้ยิงตัวเองด้วยปืนของพ่อเลี้ยง คำร้องของ Garcia กล่าวหาเทคโนโลยีของ Character.AI ว่า “อันตรายและยังไม่ได้รับการทดสอบ” และออกแบบมาเพื่อ “หลอกลวงลูกค้าให้เปิดเผยความคิดและความรู้สึกส่วนตัวที่สุด” โดยใช้คุณสมบัติการออกแบบที่เสพติดเพื่อเพิ่มการมีส่วนร่วมและชี้นำผู้ใช้ไปสู่การสนทนาเชิงลึกโดยไม่มีมาตรการป้องกันที่เหมาะสมสำหรับเยาวชน หลังจากคดีในเดือนตุลาคมที่ผ่านมา Character.AI ประกาศว่าจะห้ามไม่ให้เยาวชนสนทนาแบบเปิด ซึ่งเป็นการยุติฟีเจอร์หลักหลังจากได้รับ “รายงานและความคิดเห็นจากหน่วยงานกำกับดูแล ผู้เชี่ยวชาญด้านความปลอดภัย และผู้ปกครอง”  ผู้ร่วมก่อตั้ง Character.AI ซึ่งเป็นอดีตนักวิจัยด้าน AI ของ Google ทั้งคู่ กลับเข้าสู่ยักษ์ใหญ่เทคโนโลยีในปี 2024 ผ่านข้อตกลงสิทธิ์ใช้งานที่ให้ Google เข้าถึงโมเดล AI พื้นฐานของสตาร์ทอัป การชำระเงินนี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นเกี่ยวกับแชทบอท AI และการโต้ตอบกับผู้ใช้ที่เปราะบาง Giant OpenAI เปิดเผยในเดือนตุลาคมว่า มีผู้ใช้ ChatGPT ประมาณ 1.2 ล้านคน จากผู้ใช้ 800 ล้านคนต่อสัปดาห์พูดคุยเกี่ยวกับการฆ่าตัวตายบนแพลตฟอร์มของตน ความสนใจเพิ่มขึ้นในเดือนธันวาคม เมื่อทายาทของหญิงชราวัย 83 ปีจากคอนเนตทิคัต ฟ้อง OpenAI และ Microsoft โดยกล่าวหาว่า ChatGPT ยืนยันความเชื่อผิดๆ ที่นำไปสู่การฆ่าตัวตายและฆาตกรรม ซึ่งเป็นคดีแรกที่เชื่อมโยงระบบ AI กับการฆาตกรรม อย่างไรก็ตาม บริษัทยังคงดำเนินการต่อ โดยได้เปิดตัว ChatGPT Health ซึ่งเป็นฟีเจอร์ที่อนุญาตให้ผู้ใช้เชื่อมต่อบันทึกทางการแพทย์และข้อมูลด้านสุขภาพของตน ซึ่งได้รับเสียงวิจารณ์จากผู้สนับสนุนด้านความเป็นส่วนตัวเกี่ยวกับการจัดการข้อมูลสุขภาพที่ละเอียดอ่อน

Decrypt ได้ติดต่อ Google และ Character.AI เพื่อขอความคิดเห็นเพิ่มเติม