Google DeepMind попереджає, що дебати про свідомість ШІ можуть спричинити політичний конфлікт

Дослідники Google DeepMind Адам Бейлз (Adam Bales) та Ясон Ґабріель (Iason Gabriel) опублікували роботу, у якій попереджають, що суперечки навколо свідомості ШІ можуть стати джерелом політичних і соціальних конфліктів. У дослідженні під назвою «Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness» дослідники стверджують, що суспільство може ніколи не дійти згоди щодо того, чи є свідомими передові системи ШІ, навіть коли технології вдосконалюватимуться. Дослідники написали, що майбутні розбіжності щодо того, чи будь-які системи ШІ є свідомими, можуть бути водночас глибокими та важкими для розв’язання: одні люди формуватимуть емоційні зв’язки з ШІ та приписуватимуть йому свідомість, тоді як інші вважатимуть цю ідею абсурдною. Замість того, щоб питати, чи є ШІ свідомим, ця робота досліджує наслідки розбіжностей і стверджує, що дискусії про моральний статус ШІ можуть підживлювати політичні та соціальні конфлікти. Дебати виникають у міру того, як ШІ дедалі більше вбудовується в щоденне життя: дослідники пропонують публічне обговорення, компроміси та залучення як способи впоратися з розбіжностями.

Дослідники Google DeepMind визначили політичний ризик у дебатах про свідомість ШІ

Дослідники розглянули, як суспільство може реагувати, якщо люди фундаментально не погоджуються щодо того, чи мають системи ШІ усвідомлені переживання. «Майбутні розбіжності щодо того, чи будь-які системи ШІ є свідомими, можуть бути водночас глибокими та важкими для розв’язання», — написали дослідники. «Наприклад, дехто може встановити емоційні зв’язки з ШІ та приписати йому свідомість як наслідок, тоді як інші можуть бачити всю цю ідею абсурдною».

У роботі стверджується, що дебати про моральний статус ШІ можуть спричинити політичні та соціальні конфлікти, водночас передбачаючи ширші суперечки щодо нових технологій та їхнього впливу на суспільні інституції й норми. «На жаль, попри свої чесноти, обговорення може бути повільним і важким для підтримання на практиці», — написали дослідники. «Щоб підтримати цей процес, ми розглядаємо важливість “демократичної надії” та взаємної поваги як елементів діалогу, здатного сприяти позитивним результатам».

Публіка вже розділена щодо питання свідомості ШІ

Згідно з дослідженням за квітень 2024 року, опублікованим у Neuroscience of Consciousness, 67% учасників вважали, що ChatGPT може бути свідомим певною мірою. Дослідники досі розділені щодо того, чи можлива штучна свідомість, а також як її було б розпізнано, якби вона з’явилася.

Минулого літа CEO з напряму ШІ Microsoft та співзасновник DeepMind Мустафа Сулейман (Mustafa Suleyman) попереджав, що дедалі більш «людиноподібний» ШІ може спричинити заклики до прав ШІ, добробуту й навіть громадянства — незалежно від того, чи технологія справді є свідомою.

Керівники технологічних компаній і релігійні діячі висловлюються щодо «чуттєвості» ШІ

У травні перша енцикліка Папи Лева XIV (Pope Leo XIV) була присвячена штучному інтелекту та застерігала від антропоморфізації ШІ, аргументуючи, що машини можуть імітувати емпатію та створювати переконливу мову, але не мають прожитого досвіду, необхідного для справжнього розуміння.

«Так звані штучні інтелегенції не переживають досвіду, не мають тіла, не відчувають радості чи болю, не дозрівають через стосунки й не знають ізсередини, що означають любов, праця, дружба чи відповідальність», — написав Папа Лев. «Вони також не мають моральної совісті, адже не судять про добро і зло, не осягають остаточного значення обставин і не несуть відповідальності за наслідки».

ШІ-компанії розбираються з питаннями свідомості

Хоча компанії загалом уникають тверджень, що їхні моделі є свідомими, деякі дедалі активніше залучаються до запитань про ідентичність і суб’єктність. У лютому Anthropic надала публічний блог для своєї відставної моделі Claude Opus 3, досліджуючи ідеї самості та вподобання моделі. У травні еволюційний біолог Річард Докінз (Richard Dawkins) сказав, що тривалі розмови з Claude лишили його нездатним відкинути можливість того, що передовий ШІ може бути свідомим.

Дослідники вивчають, як усе більш «людиноподібні» чатботи впливають на користувачів, зокрема в межах фреймворку «спіраль підсилення», який припускає, що персоналізація, мовне дзеркалення та софістикація чатбота можуть підсилювати хибні переконання в уразливих користувачів.

Бейлз і Ґабріель визнають, що невизначеність щодо свідомості ШІ може бути неможливо остаточно розв’язати, і стверджують, що ставки є достатньо високими, тож суспільство має знайти способи керувати розбіжностями через діалог і дискусії, а не через конфлікт. «Можливість свідомості ШІ — запаморочлива та збентежлива, особливо з огляду на наше глибоке незнання природи свідомості», — написали вони. «Прокладання шляху крізь цю можливість — складне суспільне завдання, адже на кону так багато».

FAQ

Про що дослідники Google DeepMind попередили в дебатах щодо свідомості ШІ?
Дослідники Google DeepMind Адам Бейлз та Ясон Ґабріель опублікували роботу, у якій попереджають, що суперечки про свідомість ШІ можуть стати джерелом політичних і соціальних конфліктів. Дослідники стверджують, що суспільство може ніколи не дійти згоди щодо того, чи є передові системи ШІ свідомими, навіть коли технології вдосконалюватимуться.

Який відсоток людей вважає, що ChatGPT може бути свідомим?
Згідно з дослідженням за квітень 2024 року, опублікованим у Neuroscience of Consciousness, 67% учасників вважали, що ChatGPT може бути свідомим певною мірою. Дослідники досі розділені щодо того, чи можлива штучна свідомість, а також як її було б розпізнано, якби вона з’явилася.

Що Папа Лев XIV сказав про штучний інтелект?
У травні перша енцикліка Папи Лева XIV була присвячена штучному інтелекту та застерігала від антропоморфізації ШІ. Папа Лев написав, що штучні інтелегенції не переживають досвіду, не мають тіла, не відчувають радості чи болю та не мають моральної совісті.