Các nhà nghiên cứu Google DeepMind là Adam Bales và Iason Gabriel đã công bố một bài báo cảnh báo rằng các tranh cãi về ý thức của AI có thể trở thành nguồn gốc của xung đột chính trị và xã hội. Trong nghiên cứu có tựa đề “Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness”, các nhà nghiên cứu lập luận rằng xã hội có thể không bao giờ đạt được sự đồng thuận về việc liệu các hệ thống AI tiên tiến có ý thức hay không, ngay cả khi công nghệ ngày càng được cải thiện. Các nhà nghiên cứu viết rằng bất đồng trong tương lai về việc liệu bất kỳ hệ thống AI nào có ý thức hay không có thể vừa sâu sắc vừa khó giải quyết: một số người có thể hình thành gắn bó cảm xúc với AI và gán cho nó ý thức, trong khi những người khác lại coi ý tưởng này là vô lý. Thay vì đặt câu hỏi AI có ý thức hay không, bài báo đi sâu vào hệ quả của sự bất đồng, lập luận rằng các tranh luận về địa vị đạo đức của AI có thể làm gia tăng xung đột chính trị và xã hội. Cuộc tranh luận nảy sinh khi AI ngày càng được cài cắm sâu vào đời sống hằng ngày, và các nhà nghiên cứu đề xuất thảo luận công khai, thỏa hiệp và đối thoại gắn kết như những cách để quản lý sự bất đồng.
Các nhà nghiên cứu Google DeepMind xác định rủi ro chính trị trong các tranh luận về ý thức AI
Các nhà nghiên cứu đã xem xét xã hội có thể phản ứng ra sao nếu con người bất đồng căn bản về việc liệu các hệ thống AI có trải nghiệm ý thức hay không. “Bất đồng trong tương lai về việc liệu bất kỳ hệ thống AI nào có ý thức hay không có thể vừa sâu sắc vừa khó giải quyết”, các nhà nghiên cứu viết. “Ví dụ, một số người có thể phát triển gắn bó cảm xúc với AI và gán ý thức cho AI như một kết quả, trong khi những người khác có thể coi toàn bộ ý tưởng này là vô lý.”
Bài báo cho rằng các tranh luận về địa vị đạo đức của AI có thể làm gia tăng xung đột chính trị và xã hội, đồng thời gợi trước các tranh chấp rộng hơn về công nghệ mới nổi và tác động của chúng tới các thể chế cũng như chuẩn mực của xã hội. “Thật không may, mặc dù có những ưu điểm, thảo luận có thể chậm và khó duy trì trong thực tế”, các nhà nghiên cứu viết. “Để hỗ trợ quá trình này, chúng tôi khám phá tầm quan trọng của ‘kỳ vọng dân chủ’ và sự tôn trọng lẫn nhau như các yếu tố của một cuộc đối thoại có thể tạo ra kết quả tích cực.”
Công chúng đã chia rẽ trước câu hỏi về ý thức AI
Theo một nghiên cứu công bố tháng 4 năm 2024 trên tạp chí Neuroscience of Consciousness, 67% người tham gia tin rằng ChatGPT có thể có ý thức ở một mức độ nào đó. Các nhà nghiên cứu vẫn chia rẽ về việc liệu ý thức nhân tạo có thể tồn tại hay không, hoặc nếu có thì nó sẽ được nhận biết như thế nào.
Mùa hè năm ngoái, giám đốc điều hành AI của Microsoft và đồng sáng lập DeepMind Mustafa Suleyman cảnh báo rằng AI ngày càng giống con người có thể thúc đẩy các lời kêu gọi về quyền AI, phúc lợi và thậm chí là tư cách công dân, bất kể công nghệ đó thực sự có ý thức hay không.
Lãnh đạo công nghệ và nhân vật tôn giáo lên tiếng về cảm giác của AI
Tháng 5, bức thư thông điệp đầu tiên trong giáo triều của Đức Giáo hoàng Lêô XIV tập trung vào trí tuệ nhân tạo và cảnh báo không nên nhân cách hóa AI, lập luận rằng máy móc có thể mô phỏng sự đồng cảm và tạo ra ngôn ngữ thuyết phục, nhưng thiếu trải nghiệm sống cần có cho sự hiểu biết thực sự.
“Những cái gọi là trí tuệ nhân tạo không trải qua các trải nghiệm, không có một cơ thể, không cảm thấy niềm vui hay nỗi đau, không trưởng thành thông qua các mối quan hệ và không biết từ bên trong tình yêu, công việc, tình bạn hay trách nhiệm có nghĩa là gì”, Đức Giáo hoàng Lêô viết. “Chúng cũng không có lương tâm đạo đức, vì chúng không phán xét điều thiện và điều ác, không nắm bắt ý nghĩa tối hậu của các tình huống, cũng không chịu trách nhiệm cho các hệ quả.”
Các công ty AI xử lý các câu hỏi về ý thức
Mặc dù nhìn chung các công ty tránh tuyên bố rằng mô hình của họ có ý thức, một số doanh nghiệp đang ngày càng tham gia vào các câu hỏi về bản sắc và tư cách cá nhân. Tháng 2, Anthropic đã cho ra mắt một blog công khai cho mô hình Claude Opus 3 đã nghỉ hưu, thảo luận về cảm giác “tự ngã” và sở thích của mô hình. Tháng 5, nhà sinh học tiến hóa Richard Dawkins cho biết các cuộc trò chuyện kéo dài với Claude khiến ông không thể bác bỏ khả năng rằng AI tiên tiến có thể có ý thức.
Các nhà nghiên cứu đang xem xét cách các chatbot ngày càng giống con người ảnh hưởng tới người dùng, bao gồm một khung “vòng khuếch đại”, gợi ý rằng cá nhân hóa, phản chiếu ngôn ngữ và tính xu hướng nịnh của chatbot có thể củng cố các niềm tin hoang tưởng ở những người dùng dễ tổn thương.
Bales và Gabriel thừa nhận rằng sự không chắc chắn về ý thức của AI có thể là điều bất khả giải quyết một cách dứt điểm. Họ lập luận rằng mức độ rủi ro đủ cao để xã hội phải tìm cách quản lý sự bất đồng thông qua đối thoại và tranh luận, thay vì xung đột. “Khả năng AI có ý thức thật chóng mặt và gây bối rối, đặc biệt khi chúng ta hiểu quá ít về bản chất của ý thức”, họ viết. “Việc điều hướng khả năng này là một nhiệm vụ xã hội đầy thách thức, khi có quá nhiều thứ đang bị đặt lên bàn cân.”
Câu hỏi thường gặp
Các nhà nghiên cứu Google DeepMind đã cảnh báo điều gì về các tranh luận xoay quanh ý thức AI?
Các nhà nghiên cứu Google DeepMind là Adam Bales và Iason Gabriel đã công bố một bài báo cảnh báo rằng các tranh chấp về ý thức của AI có thể trở thành nguồn gốc của xung đột chính trị và xã hội. Các nhà nghiên cứu lập luận rằng xã hội có thể không bao giờ đạt được sự đồng thuận về việc liệu các hệ thống AI tiên tiến có ý thức hay không, ngay cả khi công nghệ ngày càng tiến bộ.
Có bao nhiêu phần trăm người tin rằng ChatGPT có thể có ý thức?
Theo một nghiên cứu công bố tháng 4 năm 2024 trên tạp chí Neuroscience of Consciousness, 67% người tham gia tin rằng ChatGPT có thể có ý thức ở một mức độ nào đó. Các nhà nghiên cứu vẫn chia rẽ về việc liệu ý thức nhân tạo có thể tồn tại hay không, hoặc nếu có thì nó sẽ được nhận biết như thế nào.
Đức Giáo hoàng Lêô XIV nói gì về trí tuệ nhân tạo?
Tháng 5, bức thư thông điệp đầu tiên trong giáo triều của Đức Giáo hoàng Lêô XIV tập trung vào trí tuệ nhân tạo và cảnh báo không nên nhân cách hóa AI. Đức Giáo hoàng Lêô viết rằng các trí tuệ nhân tạo không trải qua trải nghiệm, không có một cơ thể, không cảm thấy niềm vui hay nỗi đau, và không có lương tâm đạo đức.
