Большой медведь-прототип: триллионные инвестиции в ИИ — с самого начала был сделан неправильный выбор

Автор: Майкл Барри

Перевод: Deep潮 TechFlow

«Нью-Йорк Таймс», 19 июня 1880 года, суббота

Добро пожаловать в серию «История всегда рифмуется». В этой серии я смотрю на текущие события через призму ключевых моментов далекого прошлого.

В один спокойный субботний день я, как обычно, просматривал старые газеты — это мое увлечение — и случайно наткнулся на статью от 19 июня 1880 года, которая удивительным образом перекликается с нашими сегодняшними тревогами по поводу ИИ.

Это история Мелвилля Балларда. Он с детства не говорил, но смотрел на кусок дерева и задавал себе вопрос: первый человек — это не что иное, как выросшее из этого дерева существо?

Этот случай, опубликованный в официальном журнале Американского музея естественной истории 144 года назад, вызывает у нас сегодня опасные сомнения относительно больших языковых моделей и огромных инвестиций в них. Через историю обычного человека он смело заявляет: сложные мысли зарождаются в молчании до появления языка.

Сегодня, в глубине 21 века, мы ставим язык перед рациональностью не для создания интеллекта — мы лишь создаем все более изощренное зеркало.

В старой газете есть две статьи, заслуживающие внимания. Начнем с той, что на третьей странице, — под названием «Мысли без языка».

Конечно, большие языковые модели, малые языковые модели и способность к рассуждению — это самые горячие темы сегодня.

Полное название статьи: «Мысли без языка — рассказ глухонемого: его первые размышления и переживания». Статья впервые опубликована 12 июня 1880 года в «Вашингтон Стар».

Главный герой — профессор Самуэль Портер из Национального глухонемого колледжа Кендлера, он выступил с докладом в Американском музее, под названием «Могут ли быть мысли без языка? Кейсы глухонемых».

В начале он говорил о духовной деятельности глухонемых и детей без языковых форм — выражение устарело, я изначально собирался его пропустить.

Но героем этой истории был преподаватель Колумбийского колледжа для глухонемых — Мелвилл Баллард, сам глухонемой и выпускник Национального колледжа глухонемых.

Баллард рассказывал, что в детстве общался с родителями и братьями с помощью жестов и мимики. Отец верил, что наблюдение развивает его умственные способности, и часто брал его на прогулки.

Он продолжил: за пару лет до того, как его начали обучать письменному языку, во время одной из прогулок он задал себе вопрос: «Как возник этот мир?» Его очень интересовали происхождение человеческой жизни, ее появление, причина существования Земли, Солнца, Луны и звезд.

Однажды он увидел пень дерева и задал себе вопрос: «А не мог ли первый человек, пришедший в этот мир, вырасти из этого пня?» Но тут же подумал: этот пень — лишь останки древнего дерева; а как появилось то дерево? Оно выросло из земли, как и эти маленькие саженцы — и он решил, что связывать происхождение человека с гниющим пнем — глупо, и отбросил эту мысль.

Он не знал, что именно вызвало его интерес к происхождению всего сущего, но уже сформировал понятия о наследовании, размножении животных и росте растений из семян.

Самый главный вопрос, который он задавал себе: в самом начале времени, когда еще не было людей, животных и растений, — откуда взялся первый человек, первое животное, первое растение? Он больше всего думал о людях и Земле, верил, что человечество исчезнет, и после смерти ничего не будет.

К пяти годам он начал понимать концепцию наследования; к восьми — девяти начал задаваться вопросами о происхождении Вселенной. О форме Земли он предположил, исходя из карты с двумя полусферами: это два огромных диска, прилегающих друг к другу; Солнце и Луна — это два светящихся круглых плоских диска. Он испытывал к ним почтение и, наблюдая их восход и закат, делал вывод, что существует что-то могущественное, управляющее их движением.

Он думал, что Солнце в западной части входит в дыру, выходит из другой, проходя через внутреннюю часть Земли по огромной трубе, и движется по той же дуге в небе. Звезды — это точки мерцания, встроенные в небесную ткань. Он описывал, как безуспешно размышлял обо всем этом, пока не пошел в школу в 11 лет.

До этого мать рассказывала ему, что на небе есть некое таинственное существо, но когда она не могла ответить на его вопросы, он отчаялся и ушел в грусть, потому что не мог понять этого загадочного небесного божества.

В первый год обучения он учил по нескольку фраз каждое воскресенье, изучая эти простые слова, но так и не понял их смысла. Он ходил на богослужения, но из-за слабого знания жестового языка почти ничего не понимал. На втором году у него появилась небольшая катехизисная книга с вопросами и ответами.

Объединение языка и рациональных способностей постепенно развивало его понимание.

Позже он стал понимать жесты учителей. Возможно, кто-то скажет, что его любознательность должна была удовлетвориться. Но это не так — когда он узнал, что вселенная создана великим Творцом, он снова начал задавать вопросы: откуда появился сам Творец? Он продолжал искать природу и происхождение этого Творца. Размышляя, он спрашивал себя: «Когда мы войдем в царство Бога, сможем ли понять его суть и бесконечность?» Или ему следовало бы сказать, как его предки: «Можешь ли ты найти Бога, исследуя его?»

Затем профессор Портер озвучил свою основную точку зрения слушателям Американского музея в 1880 году.

Он заявил, что животные, возможно, понимают некоторые слова и различают предметы. Но он отметил:

«Даже если предположить, что у животных есть все возможные способности, разве не очевидно, что — у человека есть способности, которых невозможно представить как развитие из того, что есть у человека и низших животных, или как просто повышение этих общих качеств?»

«…Независимо от того, насколько похожи механизмы восприятия или строение органов, насколько они зависят от органической деятельности — то есть, насколько физиологически связаны, — восприятие глаза само по себе отличается от восприятия уха, носа или языка, и означает наличие особого дара или способности, не включенной в остальные. Рациональное действие и функции низших органов — не одно и то же.»

«…Общие элементы в них есть, но это не доказывает, что они принадлежат к одному порядку, и не делает возможным развитие одного из них из другого. Если глаз души — высшее рациональное зрение, позволяющее постигать вселенную — не может внутренне видеть себя, ясно понять свою природу и работу, то не стоит забывать о его функции, отрицать его превосходство и приравнивать к более низким органам, которыми можно управлять. То, что позволяет понять все — по своей сути должно быть превосходящим все, что оно понимает.»

Один из слушателей особо отметил, что взгляд Балларда превосходно передает смысл, не вызывает недоразумений:

«Самое интересное в этой встрече — это жесты Балларда, которые идеально передают, как его мать рассказывала ему, что он скоро поедет учиться в далекое место, где будет читать книги, писать письма и отправлять их ей; а также жесты, изображающие охотника, случайно застрелившего себя, убившего белку. Жесты и мимика Балларда, его глаза и выражение лица — все это идеально передавало его мысли слушателям. Как сказал один из участников, выражение глазами — это язык, который невозможно неправильно понять.»

Обратите внимание на эти два утверждения:

«То, что позволяет нам понять все — по своей сути должно быть превосходящим все, что оно понимает.»

«Выражение глазами — это язык, который не может быть неправильно истолкован.»

Итог:

Язык без рациональных способностей — не способен к пониманию.

Только при наличии рациональности язык способен раскрывать понимание.

Полное понимание превосходит сам язык.

Большие языковые модели ставят язык на первое место, создавая изначальную форму рациональности только через логические выводы. Но эта рациональность оказалась недостаточной — в пограничных областях знаний она часто вводит в заблуждение.

Рациональные способности никогда не существовали в полном объеме. Поэтому язык не может вознестись над пониманием через рациональность.

В своей работе с глухонемыми я обнаружил: истинная рациональность должна существовать раньше языка, иначе язык не сможет открыть понимание — понимание — это результат совместного действия рациональности и языка.

«Выражение глазами — это язык, который не может быть неправильно истолкован.»

Иными словами, выражение глазами — это образ совершенного понимания — без необходимости слова.

Большие языковые модели, ставя язык перед истинной рациональностью, никогда не достигнут понимания.

Если понимание действительно превосходит язык — как показывает речь в Американском музее 144-летней давности — то сегодня мы легко можем найти подтверждения этому.

Я сам ощущаю это на практике, изучая медицину. В течение всей бакалавриата и большинства медицинских курсов дедуктивная логика была инструментом организации огромной медицинской базы знаний. В клинической практике, где развиваются искусство, признаки, эмоции и гуманитарные знания, понимание приходит только после накопления опыта. Тогда все части системы связываются в сложную сеть, позволяющую опытному врачу обеспечить полноценный уход за пациентом.

Когда два хирурга проводят сложную операцию по удалению рака головы и шеи или работают с медсестрами, иногда они могут общаться только взглядом — полное понимание передается, действия запускаются, потому что все участники достигли понимания, превосходящего логические выводы и примитивные догадки ранней медицины.

Глаз дает интуитивное ощущение реальности, основанное на общем понимании, которое возникает благодаря присутствию языка и рациональности.

Большие и малые языковые модели — навсегда останутся в промежуточной зоне. Они могут моделировать рассуждение, но не обладают настоящей рациональностью, глазами или пониманием.

Тест Балларда: чтобы считать, что субъект действительно обладает пониманием, он должен продемонстрировать рациональность без языка.

Это известный недостаток, плохая отправная точка. Изначально целью исследований ИИ было создание истинной рациональности, но этого так и не достигли, и область переключилась на язык — потому что это проще.

Эта «плохая отправная точка» привела к «ловушке параметров»: бессмысленная обработка языка с помощью мощных чипов, потребляющих огромное количество энергии, стала очень ироничным узким местом.

Как я подчеркнул в разговоре с основателем Klarna Себастьяном Сиемятковским, будущее — в сжатии данных: приоритет — использование «системы 2» для рассуждения, обработки избыточной информации и ограниченного набора запросов человека, что значительно снизит требования к вычислительным мощностям.

Этот новый путь отвергает идею бесконечных зеркальных диалогов языковых моделей в погоне за сингулярностью — это бессмысленная трата ресурсов и, без экономической основы, невозможная реализация.

Передовые исследования Google (AlphaGeometry) и Meta (Coconut) движутся в сторону такой «рациональности с приоритетом», но по сути они лишь вновь открывают то, что уже было показано в 1880 году в Американском музее: язык — это результат понимания, а не движущая сила рациональности.

Эта миллиардная «мифология вычислительной мощности» может быть разрушена возвращением — возвращением к тишине языковой рациональности, — к силе молчаливых мыслей глухонемых, которые, не найдя слов, уже тянулись к звездам.

Кремниевая долина

Недавно я упоминал, что на той же странице есть еще одна статья, заслуживающая внимания. И степень ее связи с первой, вероятно, превосходит все, что могли представить в 1880-х годах.

Она называется: «Богатство Сан-Франциско: город, полный спекулянтов и быстрого обогащения».

Статья написана 1 июня 1880 года в Сан-Франциско и опубликована в «Нью-Йорк Таймс» только 19 июня.

Во французском есть выражение: «Чем больше меняется — тем больше остается прежним» (the more things change, the more they stay the same). Сейчас оно особенно актуально.

«Трудные времена» в Сан-Франциско, по словам, возможно, означают «довольно благополучные дни» в восточных городах — без расточительства и роскоши, а не нищету и нужду.

Калифорния того времени — рай для мелких инвесторов. Чтобы удовлетворить страсть к спекуляциям, возникла особая публичная система торгов: за 50 долларов можно было купить долю в руднике, по цене один доллар за акцию, или две акции по пять центов, или любую сумму по разной цене.

Когда одна акция «расцветала», это, казалось, только подстегивало желание «еще раз попробовать». В Сан-Франциско это зажгло ту же страсть к спекуляциям — люди гонялись за шансом разбогатеть, который утерян у крупных игроков; «бум» сопровождался потерями, и после пика рынок возвращался к норме.

В конце статьи ярко показано, что сегодня это ощущение не исчезло:

Кажется, жители Сан-Франциско уже привыкли к мысли, что богатство должно приходить мгновенно, и после того, как их крупное состояние в Виргинии рухнуло, они не хотят вставать и искать новые источники богатства в производстве, торговле или сельском хозяйстве. Почти весь город полон спекулятивного настроения — если бы здесь или поблизости нашли новый крупный рудник, сравнимый с Невада, акции снова бы взлетели до абсурдных высот, и Сан-Франциско снова пережило бы эпоху быстрого обогащения, а затем — все, что с этим связано.

В статье «Ключевые признаки пузыря: жадность со стороны предложения» я описал эту удивительную тенденцию, зародившуюся в районе залива Сан-Франциско: спекуляции все сильнее разгораются, стимулируя инвестиции, значительно превышающие любые ожидаемые потребности, которые можно было бы рационально поглотить за разумное время.

Читая такие старые газеты, мы можем по-особенному взглянуть на сегодняшние события. Будет ли Кремниевая долина «снова переживать эпоху быстрого обогащения, а потом — все испытать заново», как это было не раз, или же она сломает шаблон — предсказать трудно. Надеюсь, эта статья окажется для вас полезной.

И напоследок — рекомендую вам Midjourney, инструмент для генерации изображений и видео.

Он очень увлекателен и заставляет задуматься. Воплощайте свои идеи!

До встречи!