Как мыслит искусственный интеллект и почему ошибается

Глава 1. Самое большое заблуждение об искусственном интеллекте

Представьте, что вы открываете искусственный интеллект и пишете:

«Придумай сказку о девочке, которая нашла дверь в другой мир.»

Через несколько секунд появляется красивая история. Герои, диалоги, неожиданный финал. Кажется, будто по ту сторону экрана сидит настоящий рассказчик, который на ходу придумывает сюжет.

На следующий день вы просите:

«Объясни мне квантовую физику так, чтобы понял десятилетний ребенок.»

И снова получаете понятный ответ.

Потом спрашиваете:

«Помоги написать письмо директору.»

ИИ помогает и с этим.

Через неделю он сочиняет стихотворение, переводит текст, придумывает название книги, помогает с кодом и даже поддерживает разговор.

Невольно возникает мысль:

«Он действительно понимает, о чем говорит».

Именно здесь рождается самое большое заблуждение нашего времени.

Нам кажется, что по другую сторону экрана кто-то думает

Человеческий мозг устроен удивительно.

Мы постоянно ищем разум вокруг себя.

Мы разговариваем с автомобилем:

— Ну давай же, заводись!

Мы ругаем компьютер:

— Почему ты опять завис?

Мы благодарим навигатор.

Мы можем даже извиниться перед роботом-пылесосом, случайно ударив его ногой.

Так работает наше мышление.

Если что-то ведет себя достаточно сложно, мы начинаем видеть в этом личность.

С искусственным интеллектом происходит то же самое.

Он отвечает настолько естественно, что мозг автоматически делает вывод:

«Если он разговаривает как человек — значит, он и думает как человек.»

Но это не так.

Попробуем представить другую картину

Вообразите огромную библиотеку.

Не просто большую.

Самую большую библиотеку в истории человечества.

В ней находятся миллиарды книг.

Романы.

Газеты.

Научные статьи.

Форумы.

Энциклопедии.

Сценарии фильмов.

Учебники.

Поэзия.

Разговоры людей.

Рецепты.

Истории.

Все это не разложено по полкам.

Это превращено в невероятно сложную карту языка.

Когда вы задаете вопрос, ИИ не идет искать готовый ответ в одной книге.

Он не вспоминает страницу.

Он не открывает энциклопедию.

Вместо этого он пытается продолжить ваш текст наиболее подходящим образом, опираясь на закономерности, которые усвоил во время обучения.

Это очень важное различие.

Представьте пианиста

Допустим, человек с детства слушал музыку.

Двадцать лет.

Каждый день.

Он знает тысячи произведений.

Потом вы просите его:

— Сыграй что-нибудь в стиле Шопена.

Он не вспоминает одну конкретную пьесу.

Он начинает создавать новую музыку, используя огромный опыт.

ИИ делает нечто похожее с языком.

Только вместо нот у него слова.

Вместо мелодий — предложения.

Вместо музыкальных произведений — тексты.

Но здесь аналогия заканчивается.

Пианист переживает музыку.

Он чувствует настроение.

Он понимает, что хочет выразить.

Современный ИИ не обладает таким внутренним опытом. Он не испытывает эмоций и не осознает смысл так, как это делает человек. Он строит ответ, опираясь на статистические закономерности языка.

Почему это трудно принять

Потому что язык всегда был признаком разума.

На протяжении тысячелетий только человек мог:

рассказывать истории;

спорить;

объяснять;

шутить;

писать книги.

Теперь это умеет делать машина.

Поэтому нам кажется, что она должна обладать тем же внутренним миром.

Но способность создавать убедительный текст сама по себе еще не доказывает наличие сознания или человеческого понимания.

Иллюзия понимания

Представьте актера.

Он играет врача.

Во время фильма он произносит медицинские термины.

Уверенно ставит диагноз.

Объясняет лечение.

Для зрителя он выглядит настоящим специалистом.

Но после съемок выясняется, что актер никогда не изучал медицину.

Он великолепно сыграл роль.

ИИ тоже способен создавать впечатление глубокого понимания.

Но впечатление — не доказательство.

Это одна из главных идей всей книги.

Почему ответы кажутся такими естественными

Потому что ИИ учился на огромном количестве человеческих текстов.

За годы обучения он «увидел» бесчисленное количество примеров того, как люди:

задают вопросы;

спорят;

рассказывают истории;

пишут научные статьи;

объясняют сложные идеи;

признают ошибки;

убеждают друг друга.

Из этих примеров модель научилась воспроизводить характерные закономерности языка.

Она не копирует готовые тексты, а создает новые ответы, комбинируя усвоенные закономерности.

Главная идея этой книги

Большинство людей задают неправильный вопрос:

«Умеет ли ИИ думать?»

Но гораздо полезнее спросить иначе:

«Как именно ИИ создает ответы, которые кажутся результатом мышления?»

Это совершенно другой вопрос.

Именно ему посвящена эта книга.

Мы шаг за шагом разберем:

почему ИИ иногда отвечает блестяще;

почему иногда уверенно ошибается;

почему один вопрос может дать совершенно разные ответы;

почему ИИ может написать роман, но ошибиться в простом факте;

почему он не устает, но не обладает человеческим опытом;

и почему понимание принципов его работы делает нас не только более грамотными пользователями технологий, но и помогает лучше понять особенности собственного мышления.

Глава 2. Почему люди захотели создать мыслящую машину

Когда люди впервые услышали об искусственном интеллекте, многим показалось, что это технология XXI века. Но на самом деле мечта о мыслящей машине появилась задолго до первых компьютеров.

Чтобы понять, откуда взялся ИИ, нужно отправиться на тысячи лет назад.

Мечта, которая старше электричества

Задолго до появления программирования люди рассказывали истории о существах, созданных человеческими руками.

В древних мифах встречались оживающие статуи, механические слуги и искусственные создания, способные выполнять поручения. Эти истории не были описанием реальных технологий. Они отражали древнее желание человека: создать помощника, который мог бы действовать самостоятельно.

Позже, в эпоху Возрождения и Нового времени, появились сложные механические автоматы — устройства, которые могли двигаться, играть на музыкальных инструментах или имитировать действия человека. Они не думали, но производили сильное впечатление.

Люди снова задавались вопросом:

«А что, если однажды машина сможет не только двигаться, но и рассуждать?»

От силы мышц к силе разума

Каждая крупная технология освобождала человека от какого-то вида труда.

Плуг уменьшил физические усилия земледельца.

Паровоз заменил долгие пешие путешествия.

Автомобиль сократил расстояния.

Подъемный кран заменил тяжелый физический труд.

Компьютер ускорил вычисления.

Но оставалась одна область, которую долго считали исключительно человеческой, — мышление.

Если двигатель усиливает мышцы, то почему нельзя создать инструмент, который усиливает способность работать с информацией?

Этот вопрос и стал отправной точкой для развития искусственного интеллекта.

Что значит «думать»?

Кажется, что ответ очевиден.

Но попробуйте сами определить, что такое мышление.

Это память?

Логика?

Воображение?

Способность учиться?

Язык?

Сознание?

Чем больше ученые исследовали человеческий разум, тем яснее становилось: мышление состоит из множества разных процессов.

Человек узнает лица.

Понимает речь.

Строит планы.

Принимает решения.

Фантазирует.

Запоминает.

Ошибается.

Исправляет ошибки.

Все это разные способности, которые работают вместе.

Поэтому создать «мыслящую машину» оказалось гораздо сложнее, чем представлялось сначала.

Почему первые ожидания были слишком оптимистичными

Когда появились первые компьютеры, многие ученые были уверены, что настоящий искусственный интеллект появится очень быстро.

Логика казалась простой:

Если компьютер умеет считать быстрее человека, значит скоро научится и думать лучше человека.

Но оказалось, что считать намного легче, чем понимать окружающий мир.

Компьютер легко перемножает огромные числа.

Но долгое время ему было чрезвычайно трудно распознать кошку на фотографии или понять шутку.

Для человека такие задачи кажутся простыми.

Для машины они оказались невероятно сложными.

Почему ребенок учится иначе

Представьте двух существ.

Первое — суперкомпьютер.

Второе — трехлетний ребенок.

Положите перед ними игрушечного медведя.

Ребенок сразу поймет:

— Это игрушка.

Он сможет взять ее.

Назовет цвет.

Придумает историю.

Представит, что медведь разговаривает.

Компьютеру же потребуется множество примеров, чтобы научиться распознавать такой объект на изображениях.

Это показывает важную особенность человеческого интеллекта: мы учимся не только по словам, но и через тело, ощущения, действия и опыт взаимодействия с миром.

Два пути к искусственному интеллекту

Со временем исследователи поняли, что существуют разные подходы к созданию ИИ.

Первый путь можно сравнить с написанием очень подробной инструкции.

Представьте, что вы учите робота готовить чай.

Можно записать:

Возьми чайник.

Налей воду.

Включи чайник.

Подожди.

Возьми чашку.

И так далее.

Это подход, основанный на правилах.

Второй путь похож на обучение ребенка.

Вместо длинной инструкции вы показываете тысячи примеров.

Со временем ребенок начинает понимать закономерности сам.

Именно по этому пути развивались современные нейросети.

Им не объясняют каждое правило языка по отдельности.

Они учатся на огромном количестве примеров.

Почему это похоже на обучение музыке

Представьте человека, который никогда не слышал музыку.

Теперь дайте ему учебник по теории музыки.

Он узнает, что такое ноты.

Ритм.

Гаммы.

Аккорды.

Но вряд ли сразу станет музыкантом.

Другой человек просто слушает музыку каждый день много лет.

Со временем он начинает чувствовать стиль, ритм и гармонию.

Современные языковые модели учатся скорее вторым способом.

Они не получают полный список правил языка заранее.

Они постепенно выявляют закономерности, анализируя огромное количество текстов.

Почему ИИ — это не электронный человек

Одна из самых распространенных ошибок — представлять искусственный интеллект как цифровую копию человеческого мозга.

Но это неверная аналогия.

Самолет летает.

Птица тоже летает.

Однако самолет не машет крыльями.

Он использует совсем другие принципы.

Точно так же современный ИИ способен выполнять некоторые интеллектуальные задачи, но делает это иначе, чем человек.

Иногда результаты похожи.

Но путь к ним совершенно другой.

Настоящий вопрос

Когда мы спрашиваем:

«Может ли машина думать?»

мы часто представляем себе человека внутри компьютера.

Но современный искусственный интеллект устроен иначе.

Он не стал цифровой копией мозга.

Он нашел собственный способ работать с языком и информацией.

Именно поэтому иногда он удивляет нас своими возможностями, а иногда допускает ошибки, которые человеку кажутся странными.

Глава 3. От механических автоматов до нейросетей

Представьте, что вы заходите в музей.

В первом зале стоит деревянная механическая утка XVIII века. Она машет крыльями, поворачивает голову и кажется почти живой.

Во втором — шахматный компьютер, который однажды победил чемпиона мира.

В третьем — современный чат-бот, способный написать рассказ, объяснить квантовую физику или помочь создать бизнес-план.

На первый взгляд кажется, что между ними нет ничего общего.

Но на самом деле все эти изобретения объединяет одна идея:

Человек всегда пытался создать машину, которая сможет делать то, что раньше умел только человек.

История искусственного интеллекта — это не только история технологий. Это история человеческой мечты.

Первая мечта

Еще тысячи лет назад люди представляли искусственных существ.

В древнегреческих мифах кузнец богов Гефест создавал золотых помощников.

В еврейской традиции существовала легенда о Големе — создании из глины, которое оживляли с помощью священных слов.

В разных культурах появлялись рассказы о механических слугах, говорящих статуях и искусственных людях.

Конечно, это были легенды.

Но они показывают одну важную вещь.

Человек всегда мечтал создать разум вне самого себя.

Первые настоящие автоматы

В XVIII веке мастера начали создавать удивительные механизмы.

Появлялись часы, которые играли музыку.

Куклы, умеющие писать.

Механические музыканты.

Автоматические птицы.

Для своего времени они казались настоящим чудом.

Однако все эти устройства имели одну особенность.

Они не принимали решений.

Каждое движение заранее было запрограммировано шестеренками и пружинами.

Если открыть механизм, внутри не окажется никакого разума.

Только сложная последовательность деталей.

Машина, которая всех обманула

В 1770 году появился знаменитый автомат под названием «Турок».

Он играл в шахматы настолько хорошо, что побеждал известных игроков Европы.

Им восхищались императоры.

Его изучали ученые.

Люди были уверены:

— Наконец-то создана мыслящая машина!

Но спустя десятилетия раскрылась тайна.

Внутри автомата прятался настоящий шахматист.

Машина лишь создавала иллюзию интеллекта.

История «Турка» напоминает нам важную вещь.

Люди очень легко принимают внешние признаки интеллекта за сам интеллект.

Эта мысль окажется важной и для понимания современных языковых моделей.

Когда появились компьютеры

В XX веке произошло событие, изменившее историю.

Появились электронные вычислительные машины.

Они считали быстрее любого человека.

Если раньше сложные вычисления занимали недели, то компьютер справлялся за минуты.

Казалось, следующий шаг очевиден.

Если машина умеет считать...

Может быть, она научится рассуждать?

Первая ошибка ученых

Многие исследователи считали, что достаточно записать все правила мышления.

Например:

Если человек говорит:

— Все люди смертны.

И:

— Сократ — человек.

То компьютер должен сделать вывод:

— Сократ смертен.

Логично?

Конечно.

Так появились первые интеллектуальные программы.

Они действительно умели делать логические выводы.

Но быстро выяснилось неожиданное.

Реальная жизнь почти никогда не состоит только из четких правил.

Мир оказался слишком сложным

Представьте, что вы хотите научить компьютер отличать кошку от собаки.

Кажется просто.

Можно написать правило:

Если уши острые — это кошка.

Но некоторые собаки тоже имеют острые уши.

Хорошо.

Добавим хвост.

Но хвост есть почти у всех.

Добавим усы.

Размер.

Форму морды.

Через некоторое время становится ясно:

Правил потребуется миллионы.

И все равно они будут ошибаться.

Новая идея

Тогда ученые решили отказаться от огромного списка правил.

Вместо этого машине начали показывать примеры.

Тысячи фотографий кошек.

Тысячи фотографий собак.

Компьютер стал искать закономерности самостоятельно.

Так появились современные методы машинного обучения.

Это было похоже на обучение ребенка.

Мы редко объясняем малышу научное определение кошки.

Мы просто много раз показываем ему разных кошек.

И постепенно он начинает узнавать их сам.

Почему это стало революцией

Старые программы были похожи на повара, который готовит только строго по рецепту.

Современные нейросети больше напоминают ученика.

Они не получают готовый список всех правил.

Они постепенно замечают закономерности.

Например, ребенок не знает правил грамматики.

Но к пяти годам уже говорит почти без ошибок.

Он никогда не изучал учебник русского языка.

Он просто много слушал взрослых.

Современные языковые модели учатся похожим образом — не через заучивание правил, а через анализ огромного количества текстов.

Почему нейросети называют нейросетями

Многих вводит в заблуждение само название.

Кажется, будто внутри компьютера находится настоящий искусственный мозг.

На самом деле это не так.

Название появилось потому, что разработчики вдохновлялись очень общей идеей работы нервной системы.

Однако современные искусственные нейронные сети устроены намного проще и работают иначе, чем человеческий мозг.

Это скорее инженерная конструкция, чем цифровая копия человека.

Самый неожиданный поворот

Долгое время ученые считали, что сначала компьютер научится понимать мир, а потом уже сможет красиво говорить.

Произошло почти наоборот.

Сначала появились модели, которые научились удивительно хорошо работать с языком.

И только потом стало ясно, что умение обращаться с языком открывает путь к решению множества других задач.

Это стало одним из самых неожиданных открытий последних лет.

История продолжается

От деревянных автоматов до современных нейросетей прошло несколько столетий.

Но цель оставалась одной и той же.

Создать машину, которая сможет выполнять интеллектуальную работу.

Каждое поколение ученых думало, что до этой цели осталось совсем немного.

На практике каждый новый шаг открывал еще больше вопросов.

И главный из них звучит так:

Если современные модели не думают так, как человек, то почему они умеют разговаривать настолько убедительно?

Ответ начинается с неожиданного факта.

ИИ вообще не видит слова так, как видим их мы.

Для него слова сначала исчезают.

А затем превращаются... в числа.

Глава 4. Почему ИИ — это не человеческий мозг

Когда люди впервые начинают пользоваться ChatGPT или другими современными системами искусственного интеллекта, почти у всех возникает одна и та же мысль:

«Наверное, внутри компьютера находится что-то похожее на человеческий мозг».

Это кажется логичным.

Мы задаем вопрос.

ИИ отвечает.

Мы продолжаем разговор.

Он помнит контекст.

Иногда шутит.

Иногда ошибается.

Иногда удивляет.

Все это очень напоминает общение с человеком.

Но здесь скрывается одно из самых больших заблуждений.

Современный искусственный интеллект не является цифровой копией человеческого мозга.

И это хорошая новость.

Представьте самолет

Если спросить ребенка:

— Что общего у птицы и самолета?

Он ответит:

— Они летают.

Это правда.

Но если спросить инженера, он скажет совсем другое.

Птица машет крыльями.

Она чувствует ветер.

Меняет положение каждого пера.

Использует мышцы.

Самолет не делает ничего подобного.

Он вообще не пытается стать птицей.

Он использует законы аэродинамики совершенно другим способом.

И тем не менее прекрасно летает.

То же самое произошло и с искусственным интеллектом.

Он не стал электронным человеком.

Он нашел собственный путь к решению некоторых интеллектуальных задач.

Мы часто путаем результат со способом

Представьте двух людей.

Один умеет складывать огромные числа в уме.

Другой пользуется калькулятором.

Ответ будет одинаковым.

Но способы совершенно разные.

Или представьте фотографа.

Один рисует картину маслом.

Другой делает снимок камерой.

Получается изображение.

Но процесс создания изображения абсолютно разный.

Так и с ИИ.

Если человек и модель отвечают на один и тот же вопрос, это еще не означает, что они пришли к ответу одинаковым путем.

Как думает человек

Попробуйте вспомнить свое детство.

Первый снег.

Запах моря.

Вкус лимона.

Первую влюбленность.

Падение с велосипеда.

Объятия родителей.

Все это стало частью вашего понимания мира.

Человек познает реальность через тело.

Через чувства.

Через боль.

Через радость.

Через прикосновения.

Через запахи.

Через собственные ошибки.