Уолш - Искусственный интеллект

Книга Тоби Уолша «Искусственный интеллект. Краткая история будущего» выходит в момент, когда сам объект ее исследования перестал быть преимущественно академической темой и превратился в массовое общественное явление. После появления ChatGPT дискуссия об искусственном интеллекте быстро сместилась из лабораторий и специализированных конференций в образование, политику, бизнес, культуру и повседневную жизнь. Поэтому историческая задача, которую ставит перед собой Уолш, имеет вполне актуальный смысл: объяснить, откуда взялись современные системы и насколько действительно новым является происходящее. Автор сопротивляется распространенному представлению о генеративном ИИ как о технологии, внезапно возникшей в начале 2020-х годов. Его основной тезис состоит в обратном: почти каждый нынешний успех является результатом длинной цепи интеллектуальных находок, неудач, периодов завышенных ожиданий и многолетней инженерной работы.

По жанру книга занимает промежуточное положение между историей науки, популярным введением в информатику и футурологическим эссе. Уолш не пытается написать исчерпывающую институциональную историю искусственного интеллекта. Его композиционный принцип намного жестче: современный ИИ предлагается понять через шесть фундаментальных идей. Такая структура делает книгу доступной, но одновременно выражает определенную историографическую позицию. История технологии здесь — это прежде всего история способов формализовать различные элементы человеческого мышления. Сначала машина учится искать путь к цели, затем выбирать ход в конкурентной ситуации, применять правила, обучаться на данных, получать подкрепление за успешные действия и, наконец, рассуждать в условиях неопределенности. Современные системы оказываются не совершенно новым явлением, а комбинациями и масштабированными версиями этих более ранних принципов.

Вводная глава начинается с Дартмутского семинара 1956 года, который Уолш принимает за условную дату рождения искусственного интеллекта как самостоятельной исследовательской области. Это удобная, хотя неизбежно условная точка отсчета. Сам автор сразу расширяет хронологию, возвращаясь к Алану Тьюрингу, Чарльзу Бэббиджу, Аде Лавлейс, Джорджу Булю, Лейбницу, Томасу Гоббсу и Раймунду Луллию, а затем еще дальше — к мифологическим сюжетам об искусственно созданных существах. Такое введение выполняет важную концептуальную функцию. Идея разумной машины оказывается частью значительно более старой человеческой мечты о механизации рассуждения и создании искусственного деятеля.

Особую роль играет Тьюринг. Его вопрос о том, могут ли машины мыслить, для Уолша важен не как чисто философская проблема сознания, а как переход от абстрактных рассуждений к операционализируемому исследованию поведения. Машина Тьюринга устанавливает пределы вычислимости, а тест Тьюринга переводит неопределенный вопрос о внутренней природе машинного мышления в вопрос о наблюдаемом поведении. Рядом с Тьюрингом оказывается Лавлейс, предвосхитившая идею компьютера как универсальной машины для обработки символов, а не только числового калькулятора. Через нее в книгу входит и одна из долговременных философских проблем ИИ: создает ли машина что-либо самостоятельно или только выполняет предписанное человеком.

Уолш сознательно пишет эту историю против мифологизации. Это особенно хорошо выражено в его предупреждении об интеллектуальных крайностях, сопровождавших ИИ почти с момента рождения дисциплины. Его собственная формула лаконична: «История искусственного интеллекта — это череда взлетов и падений». И действительно, дальнейшая структура книги постоянно возвращает читателя к циклу «обещание — успех — завышенные ожидания — разочарование — новое направление». Такой ритм позволяет автору исторически релятивизировать сегодняшнюю эйфорию и страхи. Нынешняя волна генеративного ИИ огромна по масштабу, но сама культура громких обещаний в этой области совершенно не нова.

Первая часть посвящена символическому ИИ. В ее основе лежит представление, что интеллектуальная деятельность может быть описана через явные символические структуры и операции над ними. Уолш формулирует исходную установку максимально прямо: «Символы — это основа искусственного интеллекта». Исторически он связывает ее не только с современной математической логикой, но и с античными, индийскими и китайскими традициями формального рассуждения. Это расширяет привычную западноцентричную генеалогию, хотя подобные экскурсы остаются краткими и выполняют скорее иллюстративную функцию.

Первая из шести идей — поиск. Задача представляется как пространство возможных состояний, внутри которого алгоритм должен найти путь от исходного положения к цели. Примером служит алгоритм A*, разработанный для робота Шейки. Уолш удачно показывает, насколько фундаментальна эта простая конструкция. Навигация по карте, решение головоломок, автоматическое планирование и доказательство математических теорем оказываются вариантами одной и той же логики. В результате читатель видит важную особенность информатики: задачи, чрезвычайно различающиеся на уровне содержания, могут обладать одинаковой вычислительной структурой.

Здесь появляется Logic Theorist Ньюэлла и Саймона, способный доказывать теоремы из Principia Mathematica, а затем STRIPS — система автоматического планирования для робота Шейки. Особенно важно разделение описания задачи и метода ее решения, которое Уолш считает одним из основных достижений символической парадигмы. Если формализовано состояние мира, допустимые операции и желаемая цель, универсальный решатель может искать последовательность действий самостоятельно.

Одновременно глава раскрывает фундаментальное ограничение такого подхода — комбинаторный взрыв. Пространство вариантов растет настолько быстро, что физически невозможно перебрать его целиком. Именно поэтому ранний оптимизм исследователей оказался чрезмерным. Машина способна идеально работать в небольшом формальном мире, однако увеличение масштаба задачи мгновенно превращает исчерпывающий поиск в практическую невозможность. Это объяснение особенно ценно педагогически: Уолш показывает, что недостатки раннего ИИ были связаны не только с медленными компьютерами, но и с математической структурой самих задач.

Вторая идея — сделать лучший ход — продолжает тему поиска, но переносит ее в состязательную среду. Если в обычной задаче достаточно найти хороший путь, то в игре необходимо учитывать разумного противника, который также стремится оптимизировать собственные действия. Так возникает минимакс. Уолш демонстрирует его сначала на простой числовой игре, а затем переходит к шахматам, нардам, шашкам и покеру.

Игры занимают в книге важное место не случайно. Они являются лабораторной моделью интеллекта: правила формальны, состояние можно описать, результат измерим, а качество решения сопоставимо с человеческим мастерством. Через Nimatron, Turochamp, BKG 9.8, Deep Blue, Chinook, Cepheus и Libratus Уолш показывает постепенное расширение области машинной компетентности — от полностью определенных игр до ситуаций с неполной информацией и вероятностью.

История Deep Blue особенно хорошо демонстрирует один из центральных мотивов книги: превосходство над человеком в конкретной интеллектуальной деятельности еще не означает появления человеческого разума. Компьютер способен проанализировать огромное число вариантов и благодаря вычислительной мощности принимать решения, недоступные человеку, однако это не тождественно универсальному интеллекту. Уолш последовательно отделяет «лучше человека в данной задаче» от «мыслит как человек вообще». Это разграничение приобретает еще большее значение позднее, когда речь пойдет о современных языковых моделях.

Третья идея — следование правилам — связана с экспертными системами. После первой «зимы ИИ» исследовательское сообщество частично отказывается от амбиции немедленно создать универсальный интеллект и концентрируется на узких предметных областях. Принцип выражается знаменитой формулой «Знание — сила!»: если опыт специалиста удается записать в форме правил, компьютер может применять эти правила систематически и в отдельных областях достигать экспертного уровня.

Классическим примером становится DENDRAL, предназначенный для определения структуры химических соединений. Его значение для Уолша шире конкретной химической задачи. DENDRAL показал, что интеллектуальное поведение может возникнуть не из универсальной способности рассуждать обо всем, а из сочетания общего механизма вывода и тщательно структурированных специальных знаний.

Однако именно здесь обнаруживается «узкое место приобретения знаний». Значительная часть человеческой компетентности является неявной: специалист годами учится замечать исключения, чувствовать сомнительную ситуацию и понимать, когда формальное правило неприменимо. Перенос такого опыта в тысячи явных инструкций оказывается невероятно трудоемким. По мере увеличения количества правил система становится хрупкой и плохо управляемой. Экспертные системы не исчезают совершенно, но перестают восприниматься как прямой путь к общему интеллекту. Их историческое поражение подготавливает главный поворот всей книги: вместо того чтобы вручную сообщать машине, как действовать, исследователи начинают учить ее извлекать закономерности самостоятельно.

Между двумя основными частями Уолш помещает антракт о роботах. Это композиционно важный раздел, поскольку он возвращает интеллектуальные алгоритмы в физический мир. Парадокс Моравека показывает необычную асимметрию: действия, которые люди считают интеллектуально трудными, например вычисления или шахматы, часто сравнительно легко автоматизировать, тогда как элементарные для ребенка сенсомоторные навыки чрезвычайно сложны для машины. История роботов от ранних ЭЛМЕРа и ЭЛСИ до Roomba, Stanley и Софии позволяет показать проблему воплощенного интеллекта. Роботу недостаточно «думать»; он должен воспринимать постоянно меняющуюся среду, локализовать себя, координировать движения и реагировать в реальном времени.

Вторая часть переходит к эпохе обучения. Здесь происходит главное методологическое изменение современной истории ИИ. Как пишет Уолш, «Мы прекратили попытки запрограммировать искусственный интеллект вручную, передав эту задачу самим компьютерам и позволив им обучаться самостоятельно». Это несколько упрощает реальную преемственность символических и статистических подходов, но удачно передает общий характер трансформации. Программист больше не обязан заранее описывать все правила распознавания изображения или построения предложения; он создает архитектуру, функцию ошибки и процедуру обучения, а параметры модели формируются на данных.

Четвертая идея — искусственный мозг — знакомит читателя с нейросетями. Уолш возвращается к Маккалоку и Питтсу, Розенблатту и перцептрону, затем к критике Минского и Пейперта, длительному упадку интереса и работе Джеффри Хинтона. Содержание главы построено вокруг одной базовой формулы: «Вы можете воспроизвести человеческий мозг с сетью искусственных нейронов, которые учатся на собственном опыте».

При этом слово «мозг» используется скорее историко-эвристически, чем буквально. Автор неоднократно напоминает, что искусственный нейрон является чрезвычайно грубой моделью биологического. Это важная оговорка: современная нейросеть не является цифровой копией мозга. Ее исторические корни связаны с нейробиологическими аналогиями, но развитие технологии давно стало самостоятельным математическим направлением.

Глава объясняет, почему многослойные сети, обратное распространение ошибки, большие наборы данных и резко возросшие вычислительные мощности совместно привели к революции глубокого обучения. AlexNet и соревнование ImageNet становятся символической точкой нового этапа. Здесь особенно заметен главный принцип исторического повествования Уолша: прорыв редко бывает единственным открытием. Нейронные сети существовали десятилетиями, необходимые математические идеи тоже не были совершенно новыми, но соединение алгоритмов, данных и аппаратной мощности изменило масштаб достижимого.

Затем автор переходит к трансформерам, векторным представлениям слов и большим языковым моделям. Трансформер оказывается одним из наиболее существенных архитектурных новшеств современного этапа, поскольку механизм внимания позволяет обрабатывать отношения между элементами последовательности значительно эффективнее прежних подходов. Отсюда проходит линия к BERT и GPT, а далее — к ChatGPT.

Уолш хорошо объясняет, почему способность языковой модели генерировать связный текст не требует хранения готовых ответов. Модель обучается статистической структуре огромного корпуса и прогнозирует дальнейшее продолжение. Масштабирование параметров, данных и вычислений приводит к впечатляющему росту возможностей. Но автор одновременно фиксирует слабые стороны: отсутствие гарантии истинности, склонность к выдумыванию, нестабильность рассуждения, зависимость от обучающих данных и воспроизводство содержащихся в них предубеждений.

Именно здесь становится особенно заметна одна из сильнейших сторон книги — попытка удержать различие между впечатляющим поведением системы и чрезмерными философскими выводами о природе ее разума. От раннего Logic Theorist до ChatGPT история повторяется: значительное техническое достижение почти немедленно порождает заявление о том, что проблема интеллекта практически решена. Уолш показывает, насколько регулярно история опровергала такие ожидания.

Пятая идея посвящена обучению с подкреплением. Вместо правильного ответа на каждом шаге система получает сигнал о качестве конечного результата. Ранний пример MENACE Дональда Мичи особенно выразителен потому, что фактически представляет собой обучающую машину из спичечных коробков и цветных элементов. При победе выбранные действия получают подкрепление, при поражении — наказание. Постепенно система вырабатывает стратегию, которую невозможно победить в крестики-нолики.

Через этот простейший механизм Уолш переходит к DeepMind и системам совершенно другого масштаба. AlphaGo становится важнейшим историческим примером соединения глубоких нейросетей, поиска и обучения с подкреплением. Знаменитый 37-й ход во второй партии против Ли Седоля приобретает символическое значение: машина выбирает решение, которое профессионалы первоначально считают ошибочным или странным, но которое оказывается сильным. Это возвращает вопрос Лавлейс о машинной оригинальности уже в новой форме. Система не просто воспроизводит конкретные человеческие партии, а способна обнаруживать стратегии, удивляющие экспертов.

Тот же исследовательский вектор выводит рассказ за пределы игр. AlphaFold демонстрирует, что методы ИИ способны влиять на фундаментальную науку, предсказывая структуру белков. Watson показывает иной тип системы, рассчитанной на работу с естественно-языковыми вопросами и огромным массивом знаний. Тем самым обучение с подкреплением перестает выглядеть техникой исключительно для игровых задач.

Особое место в конце главы занимает обучение с подкреплением на основе человеческой обратной связи — механизм, сыгравший существенную роль в переходе от ранних GPT к диалоговым системам вроде ChatGPT. Люди оценивают ответы модели, а эти предпочтения используются как сигнал для дальнейшей настройки. Уолш справедливо показывает, что современный генеративный ИИ является не чисто автономным продуктом огромного массива интернет-текстов: в его поведении присутствует дополнительный слой человеческого нормативного отбора.

Шестая идея — размышление об убеждениях — посвящена вероятности и теореме Байеса. В некотором смысле это наиболее фундаментальная глава книги, потому что она показывает, почему интеллектуальной системе недостаточно выдавать категорические решения. Реальный мир неопределенен. Беспилотный автомобиль не знает с абсолютной уверенностью, является ли объект пешеходом; медицинский алгоритм работает с вероятностью диагноза; почтовый фильтр оценивает вероятность спама.

На примере условной вероятности Уолш объясняет байесовское обновление убеждений: новая информация изменяет степень уверенности в гипотезе. Особенно важен медицинский пример, поскольку он показывает неинтуитивность вероятностных выводов. Даже тест с высокой чувствительностью может давать значительное число ложноположительных результатов, если сама болезнь редка. Эта логика непосредственно связана с оценкой надежности ИИ-систем.

Вторая линия главы — робототехника и автономное движение. Метод SLAM позволяет машине одновременно строить карту и определять собственное положение на ней, а вероятностные методы помогают объединять несовершенные сигналы сенсоров. Так книга возвращается к роботу Шейки и замыкает историческую дугу: проблема навигации, с которой начиналась первая идея, теперь решается уже не в идеально известной символической среде, а в неопределенном физическом мире.

Финальная часть меняет жанр. Историк технологий уступает место исследователю, размышляющему о возможных последствиях дальнейшего развития ИИ. Уолш не сомневается, что возможности систем продолжат расти, но выступает против прямолинейного перехода от нынешних успехов к неизбежному сверхразуму. Технологическая сингулярность рассматривается как серьезная интеллектуальная гипотеза, однако автор перечисляет причины сомневаться в слишком простом сценарии рекурсивного самоулучшения.

Особенно интересна его критика представления об индивидуальном интеллекте как единственном основании человеческого господства. «Интеллект — это не то, чего нужно бояться, а то, что помогает нам выжить». Для Уолша человеческая «суперсила» заключается также в социальной кооперации. Корпорации, государства и научные институты уже представляют коллективный интеллект, превосходящий способности отдельного человека. Поэтому само существование системы, интеллектуально превосходящей человека в некоторых или даже многих измерениях, еще не определяет характера отношений между ней и обществом.

Более непосредственным риском автор считает трансформацию труда. Здесь его позиция умеренна. Уолш рассматривает известные оценки автоматизируемости профессий, но подчеркивает различие между технической возможностью автоматизации задачи и реальным исчезновением рабочего места. Экономическая стоимость, социальное доверие, законодательство и организационные привычки могут сохранять человека там, где технология уже в состоянии выполнить значительную часть функций. Одновременно новые технологии порождают новые профессии, автоматизируют отдельные элементы существующих и способны сокращать рабочее время. Поэтому сценарий мгновенного исчезновения половины всех рабочих мест он оценивает как чрезмерно прямолинейный.

Значительно шире перечень общественных проблем, которыми завершается книга: алгоритмическая предвзятость, конфиденциальность, дезинформация, доступ к данным и вычислительным мощностям, непрозрачность «черного ящика», конфликт открытых и закрытых моделей, авторское право, юридическая ответственность, занятость, международное регулирование и экзистенциальный риск. Автор добавляет экологическую нагрузку крупных вычислительных систем и воздействие ИИ на демократические институты. Важный смысл этого перечня заключается в том, что большинство «будущих» проблем уже присутствуют в настоящем. Тем самым разговор о рисках перестает быть исключительно спекуляцией о сверхразуме и возвращается к конкретным институциональным решениям.

Сильнейшей стороной книги является ее концептуальная экономность. Шесть идей действительно позволяют провести читателя через большую часть истории дисциплины, не превращая текст в энциклопедию имен и дат. Поиск, минимакс, правила, нейросети, подкрепление и байесовская вероятность не исчерпывают современный ИИ, но создают хорошую интеллектуальную карту. После прочтения становится понятнее, что многие сегодняшние технологии представляют собой сложные комбинации уже известных принципов.

Второе достоинство — постоянное соединение технической идеи с конкретной историей. Алгоритм A* связан с Шейки, минимакс — с шахматами, экспертные системы — с DENDRAL, нейросети — с Розенблаттом и Хинтоном, обучение с подкреплением — с MENACE и AlphaGo, вероятностное мышление — с Байесом и автономными автомобилями. Благодаря этому математические конструкции не остаются отвлеченными.

Третье достоинство — здоровый скептицизм по отношению к сенсационным заявлениям. Уолш является специалистом по ИИ и не преуменьшает возможности технологии, но именно профессиональная перспектива позволяет ему показать повторяемость прежних циклов ажиотажа. В этом отношении книга выполняет полезную дисциплинирующую функцию: сегодняшние достижения действительно беспрецедентны по масштабу, однако история учит осторожности как по отношению к обещаниям близкого универсального разума, так и к прогнозам неминуемой катастрофы.

Методологическое ограничение книги непосредственно вытекает из ее достоинства. Сведение истории к шести идеям неизбежно делает ее селективной. Реальная история ИИ менее линейна: символические, статистические, вероятностные и нейросетевые подходы не просто последовательно сменяют друг друга, а сосуществуют, конкурируют и соединяются. Формула перехода от «эры символизма» к «эре обучения» чрезвычайно удобна педагогически, но исторически несколько сглаживает эту сложность.

Сходным образом отдельные технологические и философские споры представлены намеренно упрощенно. Например, проблема сознания, аргумент китайской комнаты, природа творчества или вопрос о том, что именно означает «понимание» у большой языковой модели, получают столько внимания, сколько необходимо для популярного введения, но не превращаются в полноценную философию искусственного интеллекта. Это не ошибка автора, а жанровая граница работы.

Русское издание частично компенсирует такие упрощения развитым аппаратом примечаний научного редактора. В ряде мест они уточняют исторические обстоятельства, исправляют распространенные легенды или обновляют информацию применительно к состоянию технологий на момент подготовки издания. За счет этого перевод приобретает дополнительную ценность: читатель получает не только текст Уолша 2025 года, но и слой редакторского комментария 2026 года.

Некоторые современные примеры неизбежно будут стареть значительно быстрее исторической части. Показатели компаний, возможности конкретных моделей, состояние автономного транспорта и юридические споры вокруг обучения на защищенных авторским правом материалах относятся к быстро меняющейся области. Поэтому долговременная ценность книги находится не столько в конкретных цифрах последних страниц, сколько в предложенной исторической перспективе.

Целевая аудитория работы довольно широка. Читатель без технической подготовки получает достаточно ясное объяснение основ ИИ, причем автор не полностью отказывается от математики и алгоритмической логики. Для студента книга может служить предварительной картой дисциплины перед более систематическим изучением машинного обучения. Для гуманитария особенно полезны исторические и философские линии — от Луллия, Гоббса и Лавлейс до Сёрла и современных споров о машинном разуме. Для разработчика ценность состоит прежде всего в историческом контексте уже знакомых методов.

В конечном счете книга рассказывает не только о машинах. Уолш использует историю ИИ как способ исследовать человеческое представление о собственном интеллекте. Каждая попытка автоматизации заставляет уточнять, что именно мы считали признаком разумности. Когда машина научилась доказывать теоремы, оказалось, что интеллект этим не исчерпывается. Когда победила чемпиона мира в шахматах — тоже. Когда научилась распознавать изображения и генерировать связный текст, граница вновь передвинулась. История искусственного интеллекта поэтому является одновременно историей постепенного расчленения понятия «мышление» на операции, которые можно формализовать, измерить и воспроизвести.

Именно поэтому подзаголовок «Краткая история будущего» оказывается содержательно оправдан. Прошлое у Уолша не служит декоративным введением к ChatGPT. Оно показывает, какие механизмы привели к современному состоянию и почему будущее невозможно оценивать без понимания прежних ошибок. Искусственный интеллект не возник внезапно и не развивается магически: за каждым сегодняшним эффектом находятся десятилетия исследований, математические ограничения, человеческие решения и социальные институты.

Финальная позиция автора поэтому остается одновременно оптимистической и настороженной. ИИ способен улучшать медицину, науку, образование, транспорт и производительность, но те же технологии усиливают существующие проблемы и создают новые формы риска. Никакой алгоритм сам по себе не определяет, каким будет общественный результат. Этот результат зависит от правил использования, распределения власти и ресурсов, правовых решений и человеческих ценностей. В этом отношении наиболее важным уроком книги становится не прогноз о конкретной дате появления общего искусственного интеллекта, а требование понимать технологию прежде, чем превращать ее либо в объект поклонения, либо в источник иррационального страха.