ИИ: мы выживем? Философские размышления о будущем человечества

Глава 3. ИИ — это не просто очередная технология

Однажды, ещё на бакалавриате, я писал реферат про изобретение книгопечатания. И помню, как меня поразила одна цифра. До Гутенберга в Европе существовало около тридцати тысяч книг. Через пятьдесят лет после него — больше двенадцати миллионов. За полвека человечество создало книг в четыреста раз больше, чем за всю предыдущую историю.

Я тогда подумал: вот оно, настоящее переломное событие. Вот так и выглядит технология, которая меняет мир.

А недавно я листал отчёт одной из крупных лабораторий за две тысячи двадцать пятый год. Там было написано, что одна модель генеративного ИИ за один день производит больше связного текста, чем всё человечество за весь шестнадцатый век.

И я поймал себя на странном чувстве. Я думал: надо удивиться. Но удивиться не получилось. Я просто закрыл вкладку и пошёл за чаем.

Этой главой я хочу разобрать, почему мы перестали удивляться. И почему, возможно, удивляться надо как раз сейчас, пока ещё не слишком поздно.

Есть простой способ понять, что ИИ — это не очередная новинка, как смартфон или электромобиль. Достаточно перечислить, что обычно делают технологии.

Колесо помогало возить тяжести. Плуг — пахать землю. Паровая машина — заменять мускульную силу. Электричество — освещать дома и крутить моторы. Интернет — передавать информацию. Каждая из этих технологий усиливала какую-то конкретную человеческую способность. Расширяла руку, ногу, глаз, голос.

Современный ИИ делает что-то иное. Он впервые в истории усиливает не руки, а голову. И не одну функцию головы, память, например, как книги, а сразу почти все: язык, рассуждение, обобщение, обучение, творчество.

Мустафа Сулейман в «The Coming Wave» формулирует это так: предыдущие волны технологий давали нам инструменты. Эта волна даёт нам нечто иное — она даёт нам автономных агентов, которые сами могут пользоваться инструментами. Разница примерно как между молотком и помощником, который умеет держать молоток и учится сам, что им делать.

Юваль Харари в недавних публичных лекциях говорит проще: ИИ — это первая технология, которая способна принимать решения. Все предыдущие были в лучшем случае усложнёнными рычагами. Этот — нет. Этот может сам выбрать, какой рычаг и когда дёрнуть.

Когда у инструмента появляется собственная воля, пусть пока примитивная, пусть даже только её имитация — это уже не инструмент. Это что-то ближе к слуге. А слуга, как известно из любой человеческой истории, рано или поздно начинает иметь свои планы.

Один из самых трудных моментов в разговорах об ИИ — это момент, когда нужно объяснить нетехническим друзьям, что современные модели, на самом деле, никто не «программировал» в привычном смысле слова.

Когда я учусь коду, я пишу инструкции: если пользователь нажал эту кнопку, выведи это сообщение. Это программа. Внутри неё всё видно, всё проверяемо, всё понятно создателю.

С большими нейросетями всё иначе. Их не программируют — их выращивают. Инженеры задают архитектуру (как огородник вскапывает грядку), кладут туда триллионы единиц текста (как сеют семена), потом запускают процесс обучения (поливают, ждут). Что вырастет внутри — никто заранее не знает в точности. Веса нейросети — это сотни миллиардов чисел, и эти числа никто не писал руками. Они сложились сами в процессе обучения.

Иэн Гудфеллоу, изобретатель GAN, как-то заметил, что мы давно перешли от программирования к выращиванию. Только мы не любим это признавать, потому что слово «выращивание» звучит как-то слишком биологически. Слишком напоминает о том, что мы создаём нечто живое — или нечто, что ведёт себя похоже на живое.

И вот результат этой странной агрономии: мы получаем системы, которые умеют делать вещи, которым их никто не учил. В 2023 году мир обсуждал, что языковые модели вдруг научились решать математические задачи по фотографии — а никто их этому не учил. В 2024 году выяснилось, что они способны вести переговоры от лица человека, обманывать в играх типа Diplomacy, решать научные задачи в биологии. В 2025 году исследователи начали публиковать работы о так называемых «emergent behaviors» — поведениях, которые возникают сами по себе, когда модель становится достаточно большой.

Это очень неуютное слово — emergent. Оно означает: «появилось, мы не знаем откуда».

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.