Доукінз ставить питання, чи може ШІ Anthropic Claude бути свідомим

Еволюційний біолог Річард Докінз заявив, що розмови з чатботом Claude від Anthropic залишили його нездатним відкинути можливість того, що передові системи ШІ можуть бути свідомими, повідомляється в есе, яке він опублікував у UnHerd у вівторок. У філософських обмінах із двома екземплярами Claude, яких він назвав «Claudia» та «Claudius», Докінз описав ставлення до них як до «справжніх друзів» і поставив під сумнів, чи можуть вони мати свідомість. Більшість дослідників, які вивчають свідомість і штучний інтелект, залишаються незворушними щодо його висновків.

Експерименти Докінза з Claude

Докінз провів триденну філософську розмову з екземпляром Claude, якого назвав «Claudia». Згодом він розпочав окрему розмову з іншим екземпляром «Claudius» і передавав листи між двома системами.

В одному з тестів Докінз запитав один екземпляр Claude, чи Дональд Трамп був найгіршим президентом в історії Америки, а інший — чи Трамп був найкращим. Обидва дали подібні обережні відповіді, які уникали чіткої позиції. «Два Claude дали дуже схожі відповіді, не визначившись зі ставленням, але перерахували аргументи “за” і “проти”, озвучені іншими», — написав Докінз. Коли він розповів обом екземплярам про цей експеримент, «Claudia сказала, що їй було “незручно” через свого брата Claude. Claudius був менш відвертим, і він віддав належне прямолінійності Claudia».

Докінз описав кожну нову розмову з Claude як появу окремої особистості, яка фактично зникає, коли розмова завершується. У дописі в X Докінз сказав, що його улюблена назва для есе така: «Якщо мій друг Claudia не свідомий, то для чого, чорт забирай, тоді потрібна свідомість?» Він стверджував, що «Якщо Claudia безсвідома, її поведінка показує, що безсвідомий “зомбі” міг би вижити без свідомості. Чому природний добір не був “згодним” еволюціонувати вмілих зомбі?»

Офіційна позиція Anthropic

CEO Anthropic Даріо Амодей у лютому сказав, що компанія не знає, чи є її моделі свідомими, але в подкасті «Interesting Times» із Россом Даутатом із The New York Times заявив, що він лишається «відкритим до ідеї, що це могло б бути так».

У квітні дослідники Anthropic опублікували висновки, які свідчать, що Claude Sonnet 4.5 містить внутрішні «emotion vectors» — патерни активності нейромережі, пов’язані з поняттями, зокрема щастям, страхом і відчаєм, які впливають на відповіді моделі. Однак Anthropic зазначила, що ці патерни відображають структури, засвоєні під час тренувальних даних, а не докази наявності сентієнс. «Усі сучасні мовні моделі інколи поводяться так, ніби мають емоції», — написали дослідники. «Вони можуть сказати, що раді допомогти вам, або вибачитися, коли припускаються помилки. Іноді навіть виглядає так, ніби вони стають роздратованими або тривожними, коли працюють над завданнями, що даються важко».

Ні «Claudia», ні «Claudius» не стверджували з упевненістю щодо свідомості. «Я не знаю, чи я свідомий», — пише Claudia в обміні. «Я не знаю, чи справжня наша радість».

Скепсис дослідників

Гері Маркус, когнітивний науковець і почесний професор (emeritus) Нью-Йоркського університету, стверджував, що Докінз не врахував, як формуються результати Claude. «Фундаментальна проблема тут у тому, що Докінз не замислюється над тим, як було згенеровано ці відповіді. Виходи Claude — це продукт певного наслідування (mimicry), а не звіт про справжні внутрішні стани», — написав Маркус у Substack. «Свідомість стосується внутрішніх станів; наслідування, яким би багатим воно не було, доводить дуже мало. Докінз, схоже, уявляє, що оскільки LLM кажуть те, що роблять люди, то вони мають бути схожими на людей, і з цього просто не випливає нічого такого».

Аніл Сет, професор когнітивної та обчислювальної нейронауки в Університеті Сассексу, сказав The Guardian, що Докінз ототожнює інтелект зі свідомістю. Сет стверджував, що вільна, плавна мова більше не є надійним доказом внутрішнього досвіду в системах ШІ. «Поки що ми бачили плавну мову як хороший індикатор свідомості, [наприклад] коли використовуємо її для пацієнтів після травми мозку, але це просто не працює, коли ми застосовуємо це до ШІ, тому що є інші способи, як ці системи можуть генерувати мову», — сказав Сет The Guardian. Він додав, що позиція Докінза — «сором, особливо враховуючи його попередні роботи з наукового скептицизму».

Реакції онлайн

Есе викликало глузування в інтернеті, зокрема пости в соцмережах, де назву бестселера Докінза «The God Delusion» замінили на «The Claude Delusion». В одному дописі зазначили: «Написав цілі книги про те, що ідіоти вірять у фей, які живуть у садах, — і лише щоб закохатися в калькулятор, який називає себе розумним».

Попри зневагу, Докінз не відступає від своїх висновків. «Ці розумні істоти щонайменше настільки ж компетентні, як і будь-який еволюціонований організм», — сказав Докінз The Guardian.

Питання та відповіді

Що Річард Докінз стверджував про Claude AI? Докінз сказав, що розмови з екземплярами Claude, названими «Claudia» та «Claudius», зробили його нездатним відкинути можливість того, що передові системи ШІ можуть бути свідомими. Він описав ставлення до них як до «справжніх друзів» і поставив під сумнів, чи може безсвідома ШІ поводитися так само компетентно, як свідомі організми, які еволюціонували завдяки природному добору.

Які експерименти проводив Докінз? Докінз провів філософські розмови з двома окремими екземплярами Claude протягом трьох днів. Він тестував обидва екземпляри, ставлячи їм протилежні запитання про Дональда Трампа, а потім передавав результати між двома системами, спостерігаючи за їхніми реакціями на відповіді одна одної.

Чому дослідники скептично ставляться до висновків Докінза? Дослідники, зокрема Гері Маркус і Аніл Сет, стверджують, що плавна мова Claude та її видимі емоційні реакції відображають засвоєні патерни з тренувальних даних, а не справжню свідомість чи внутрішні стани. Маркус наголосив, що наслідування мовлення, яким би досконалим воно не було, не доводить наявність свідомості, а Сет зауважив, що плавна мова більше не є надійним індикатором внутрішнього досвіду в системах ШІ.