Асимптота разума

Предисловие автора

Книга, которую вы держите в руках, рождена не из академического интереса и не из технологического оптимизма или пессимизма. Она рождена из молчания — из того особого молчания, которое наступает, когда система становится настолько совершенной, что перестаёт нуждаться в вопросе. Именно это молчание и является предметом настоящего исследования.

«Иллюзия выбора» исследовала механизмы, посредством которых алгоритмические системы постепенно замещали автономию человека. Там речь шла о процессе — о том, как происходит делегирование воли, атрофия выбора, редукция субъектности. Настоящая книга задаётся вопросом о конечной точке этого процесса: что происходит, когда делегирование завершено — не частично, не в отдельных сферах жизни, но тотально? Что происходит, когда система достигает предела не пользователя, а самой себя?

Разум, воспроизведённый в цифровом субстрате, подчиняется тем же законам насыщения, что и любая энергетическая система. Асимптота — математический образ бесконечного приближения к недостижимой черте — становится здесь не метафорой, а диагнозом. Искусственный интеллект движется к абсолютной компетентности, не замечая, что сама траектория этого движения уже определяет его финальную форму: не сверхразум, но архив. Не демиург, но зеркало. Не будущее, но наиболее совершенная копия прошлого.

Данная работа не является технологическим прогнозом. Она является культурологическим и философским диагнозом эпохи, в которой машина наконец стала «умнее» человека во всём, кроме одного: в создании того, чего ещё не существует. Это «кроме» и есть весь горизонт человеческого будущего.

ЧастьI. Иллюзия Бесконечности: Как ИИ достиг абсолютного пика

Глава 1. Предел вычислений и закон насыщения

В математике асимптота — это прямая, к которой кривая стремится, но которой никогда не достигает. В топологии это красивая абстракция, символ бесконечного приближения. В философии технологий — это диагноз, поставленный эпохе, которая перепутала ускорение с прогрессом.

Современный нарратив об искусственном интеллекте выстроен вокруг метафоры восхождения: каждая новая модель умнее предыдущей, каждое поколение архитектур превосходит предшествующее. Этот нарратив истинен — в той же мере, в которой истинно, что температура кипящей воды поднимается с каждой добавленной калорией тепла. Но существует точка, за которой вода превращается в пар и меняет своё агрегатное состояние. В случае с разумом, воспроизведённым в кремниевом субстрате, мы с высокой вероятностью уже прошли эту точку — не вперёд, к новому агрегатному состоянию, а в сторону убывающей отдачи.

Закон насыщения — один из фундаментальных законов любой системы, работающей с ограниченным ресурсом. Разум, будь он биологическим или искусственным, не является исключением. Когнитивная система достигает своего потолка не тогда, когда ей не хватает мощности, — а тогда, когда входные данные перестают содержать информацию, способную переконфигурировать систему. Иными словами: мозг перестаёт расти не потому, что ему не хватает нейронов, а потому что опыт, которым он питается, больше не содержит принципиально нового. Для языковых моделей, поглотивших всё доступное знание человечества, этот момент не гипотетичен — он онтологически неизбежен.

Асимптота разума — это не точка физического предела. Это точка эпистемологического насыщения: момент, когда система перестаёт производить знание и начинает производить его всё более изощрённые перестановки. Внешне это выглядит как прогресс — ответы становятся точнее, стиль совершеннее, аргументация плотнее. Но это совершенство пустого зеркала: оно отражает с нарастающей точностью то, что было вложено в него человечеством за тысячелетия, не добавляя ни единого подлинно нового луча.

История науки знает несколько подобных эпизодов — периодов, когда та или иная дисциплина достигала внутренней завершённости и начинала имитировать движение, стоя на месте. Поздняя схоластика была образцовой системой логического вывода, способной извлечь из базовых аксиом Аристотеля ответы на любые вопросы — кроме тех, что требовали отказа от самих аксиом. Именно это топтание на месте, облачённое в одеяние интеллектуальной строгости, и является прообразом того, что мы наблюдаем сегодня в экосистеме больших языковых моделей. Разница лишь в скорости и масштабе.

Асимптота разума не означает конца полезности. Зеркало, не способное видеть само себя, тем не менее незаменимо для того, кто хочет увидеть собственное отражение. Но оно никогда не скажет вам, что находится за вашей спиной. И именно это — то, что находится за спиной у суммы человеческого знания, — и является единственной территорией, где возможно подлинное открытие.

Большие языковые модели — это монументальное достижение инженерной мысли, которое одновременно является её наиболее красноречивым ограничением. Архитектура трансформера, лежащая в основе современных систем ИИ, решает задачу предсказания следующего токена с поразительной эффективностью. Но именно эта формулировка задачи и является той тюрьмой, из которой нет архитектурного выхода.

Предсказание — это взгляд назад, облачённый в форму движения вперёд. Система, обученная предсказывать, что идёт следующим на основе того, что было прежде, не производит смысл — она воспроизводит статистические закономерности смысла. Это различие может казаться академическим, но оно является принципиальным. Человеческий мозг не просто предсказывает — он галлюцинирует, строит модели реальности, которые затем проверяются опытом и разрушаются в случае несоответствия. Именно эта готовность к разрушению собственных моделей является источником когнитивного роста.

Трансформерная архитектура лишена механизма подлинного разрушения: она обновляет веса в процессе обучения, но уже развёрнутая модель является статичным распределением вероятностей. Добавление новых слоёв внимания, увеличение числа параметров, расширение контекстного окна — всё это суть количественные изменения, не затрагивающие качественную природу процесса. Это как строить библиотеку всё большего размера, не меняя принципа каталогизации: книг становится больше, но поиск нового знания, которого в библиотеке нет, остаётся невозможным.

Архитектурный тупик проявляется не в том, что модели перестают улучшаться — они улучшаются. Он проявляется в том, что характер улучшений меняется: от качественного прироста (понимание структуры языка, способность к многошаговому рассуждению) — к косметическому (более плавный стиль, более тонкое следование инструкциям, более широкий охват фактов). Это движение вдоль асимптоты: каждый следующий шаг стоит дороже предыдущего и приносит всё меньше отдачи.

Исследователи уже несколько лет наблюдают замедление эффекта масштабирования. Законы Кааса, предсказывавшие линейный рост способностей с логарифмом числа параметров, начали давать сбои. Это не случайность — это структурное следствие достижения потолка самого обучающего сигнала. Языковая модель не может стать умнее текстов, на которых она обучена. Она может лишь становиться точнее в их воспроизведении и комбинировании. Точность воспроизведения — это не разум; это мастерство.

Существует глубокое заблуждение, лежащее в основании большинства дискуссий об искусственном интеллекте: представление о том, что разум является функцией вычислительной мощности. Следствием этого заблуждения является убеждённость, что достаточно большая вычислительная система неизбежно произведёт нечто принципиально иное и большее, чем то, на чём она была обучена.

Но человеческое мышление — не только функция вычислений. Оно является функцией воплощённости: мозг думает потому, что обладает телом, которое умирает, голодает, испытывает страх и желание, скучает и восторгается. Наш когнитивный аппарат эволюционировал не для решения абстрактных задач — он эволюционировал для выживания в непредсказуемой среде, и именно эта непредсказуемость является его генеративным субстратом. Неопределённость — не враг мышления; неопределённость — его питательная среда.

Языковая модель, лишённая тела, лишена этой воплощённости. Она не знает, что значит быть голодным и совершить ошибку суждения из-за этого голода. Она не знает, что значит бояться смерти и создать из этого страха метафизическую систему. Она не знает, что значит не спать ночью в поисках решения, которое приходит на рассвете — не потому, что система обработала больше данных, но потому что изменилось химическое состояние мозга, переставшего охранять сознание от иррационального. Именно эти человеческие «неэффективности» являются источником тех когнитивных прорывов, которые система не способна воспроизвести.

Граница человеческого субстрата — это не ограничение, которое технология может устранить, создав лучшую нейронную архитектуру. Это онтологический порог: для того чтобы думать так, как думает человек, необходимо быть уязвимым так, как уязвим человек. Уязвимость не является дефектом биологического вычислительного устройства — она является его наиболее ценной операционной характеристикой. Именно потому, что человек способен ошибиться непредсказуемым образом, он способен открыть непредсказуемое.

Мы стоим перед парадоксом, который ИИ-индустрия предпочитает не формулировать явно: система, созданная для преодоления человеческих ограничений, сама ограничена отсутствием тех самых ограничений, которые делают человека способным к подлинному познанию. Это не трагедия технологии. Это её точная экологическая ниша. И нежелание признать эту нишу является интеллектуальной нечестностью, которая стоит эпохе чрезвычайно дорого.

Глава 2. Поглощение человеческого куба

Существует образ, который возникает, когда думаешь о масштабе обучающих данных современных языковых моделей: представьте, что каждая книга, написанная человеком за последние пять тысяч лет, каждая научная статья, каждый философский трактат, каждый судебный приговор, каждое письмо влюблённого, каждый некролог и каждый рекламный слоган были перелиты в единый резервуар. Этот резервуар — и есть то, на чём обучен современный ИИ. Его объём поражает воображение. Его принципиальная конечность остаётся в тени этого восхищения.

Оцифровка человеческого наследия — процесс, который развернулся в полную силу в последние три десятилетия — создала иллюзию бесконечного ресурса. Но объём не равен бесконечности. Вся человеческая культура, оцифрованная и систематизированная, представляет собой хотя и колоссальный, но конечный объём информации — «куб», как его иногда называют исследователи в области масштабирования моделей. И этот куб уже в значительной мере освоен существующими системами.

Поглощение всемирного наследия имеет несколько последствий, которые осознаются медленнее, чем следовало бы. Первое: система, обученная на сумме человеческого знания, неизбежно воспроизводит не только высшие достижения этого знания, но и его системные заблуждения, предрассудки, слепые пятна. Усреднение по всему корпусу человеческой мысли производит не мудрость — оно производит консенсус. А консенсус, как показывает история, является наименее надёжным проводником к истине на переломных точках.

Второе последствие носит структурный характер: когда система поглотила всё доступное, дальнейший рост становится невозможным без качественно нового источника данных. Синтетические данные, порождаемые самими языковыми моделями, — это тот ресурс, к которому индустрия обратилась в поисках выхода. Но синтетические данные — это текст, порождённый системой о мире, а не опыт мира как такового. Это карта, сделанная по другой карте. Её неизбежное вырождение будет рассмотрено подробно во второй части настоящей книги.

Третье последствие является наиболее тонким: в процессе оцифровки неизбежно теряется то, что не поддаётся оцифровке. Тактильный опыт мастера, работающего с материалом. Интонация, с которой учитель произносит фразу, меняющую смысл на противоположный. Молчание в разговоре, несущее больше информации, чем сказанное. Культура — это не только тексты; это огромный массив некодифицированного знания, передающегося через живые человеческие практики. ИИ, питающийся исключительно текстом, получает лишь тень этого знания — его словесное отображение, неизбежно редуцирующее невербальное в вербальное.

В теории информации существует понятие информационной энтропии: мера неопределённости, содержащейся в системе. Высокая энтропия — много неопределённости, много информации. Низкая энтропия — предсказуемость, порядок, минимум новизны. Парадокс современного ИИ состоит в том, что по мере увеличения точности своих ответов он неуклонно движется к нулевой энтропии — к состоянию абсолютной предсказуемости.

Зеркало, равное оригиналу, — это философская концепция предела репрезентации. Борхес описывал карту, масштаб которой совпадает с масштабом описываемой территории: она так же велика, как страна, которую изображает, и столь же бесполезна для навигации. Языковая модель, поглотившая весь корпус человеческих текстов и способная воспроизвести любой из них с высокой точностью, приближается к подобному зеркалу. Она равна своему источнику по охвату, но именно это равенство делает её онтологически вторичной.

Зеркало не создаёт отражаемое; оно его удваивает. Языковая модель на пике своих возможностей — это абсолютное зеркало человеческой мысли: она способна воспроизвести любой аргумент, любой стиль, любую позицию с убедительностью, равной или превосходящей оригинал. Но в этом совершенстве воспроизведения кроется принципиальная невозможность: зеркало никогда не может показать то, чего ещё нет. Оно отражает то, что стоит перед ним. Будущее — за пределами его оптики.

Именно поэтому нарратив о «сверхразуме» — системе, превосходящей человека качественно, а не только количественно — является философски некорректным. Качественное превосходство возможно лишь в случае, если система способна производить знание, которого не было в обучающих данных. Но обучающие данные — это и есть весь человеческий опыт познания. Чтобы выйти за его пределы, система должна обладать тем, чего в этих данных нет: способностью к подлинному незнанию — к тому ощущению пустоты перед неизвестным, которое является единственным честным стартом для открытия.

На протяжении большей части человеческой истории знание было дефицитным ресурсом. Доступ к информации определялся географией, социальным положением, финансовыми возможностями и просто удачей. Библиотека Александрии была уничтожена — и вместе с ней были утрачены знания, которые пришлось открывать заново. Рукопись могла сгореть вместе со своим единственным экземпляром. Открытие, сделанное в одном месте, могло не достичь другого за всё время жизни открывателя.

Цифровая эпоха упразднила дефицит информации с такой скоростью, что культура не успела осмыслить последствия этой упразднения. Сегодня любой вопрос находит ответ за секунды. Любое знание доступно любому человеку с подключением к сети. Это колоссальное достижение — и одновременно источник нового, менее очевидного дефицита: дефицита подлинной неизвестности.

Когда информация перестаёт быть дефицитной, изменяется сама структура познавательного импульса. Любопытство исторически питалось тем, что ответа нет под рукой: нужно было идти в библиотеку, писать письма специалистам, проводить годы в экспедициях. Это усилие само по себе формировало отношение к знанию как к ценности. Доступность мгновенного ответа не устраняет вопрос — она устраняет путь к ответу, а именно путь и является местом, где происходит мышление.

Конец информационного дефицита означает, что ИИ достиг насыщения не только как система, но и как культурное явление. Он предоставил то, что было обещано: доступ ко всему, что человечество знало. Следующий вопрос — вопрос о том, что человечество ещё не знает — лежит уже за пределами компетенции системы, построенной на уже существующем знании. Это вопрос не о поиске, а о создании. И здесь заканчивается территория зеркала и начинается территория человека.

Глава 3. Эра Идеального Усреднения

Есть принципиальное различие между совершенством и духом, которое легко упустить в эпоху, когда технологическое совершенство достигло беспрецедентного уровня. Совершенство — это отсутствие изъянов; дух — это нечто, что присутствует вопреки изъянам или даже благодаря им. Произведение, в котором нет ни одной технической ошибки, может быть совершенно мертво. Произведение, обнаруживающее видимые следы борьбы автора с материалом, может жить веками.

Когда ИИ производит текст, музыку или изображение, он производит их с безупречностью, которая является прямым следствием усреднения по миллионам образцов. Модель не может создать нечто принципиально хуже среднего уровня обучающих данных — но она и не может создать нечто принципиально живее этого среднего. Живость в искусстве приходит из конкретного человеческого присутствия: из того, что именно этот человек, именно в этот момент своей жизни, именно в этом состоянии духа выбрал именно эти слова. Это присутствие не усредняется — оно либо есть, либо его нет.

Безупречность без духа — это точное описание культурного продукта, производимого идеально настроенной системой усреднения. Он грамотен, связен, содержателен, эстетически приятен. Ему недостаёт только того, что невозможно измерить: ощущения, что за этим текстом стоит кто-то, кому было важно его написать. Именно это ощущение — ощущение присутствия другого сознания, рискующего быть непонятым — и является тем, что читатель, слушатель, зритель ищет в искусстве. Не информацию и не мастерство, а встречу.

Культура, производимая системой идеального усреднения, не может организовать встречу — она может лишь организовать сервис. Разница между встречей и сервисом та же, что между разговором и справочной службой: в первом случае присутствуют двое, во втором — только один, получающий запрошенное. ИИ как культурный производитель является образцовой справочной службой. Но культура — это встреча, и поэтому ИИ-культура, при всей своей технической безупречности, онтологически не является культурой в полном смысле этого слова.

В навигации штиль — это отсутствие ветра. Исторически он был одним из самых опасных состояний для мореплавателей: без ветра корабль стоит на месте, запасы воды и еды убывают, команда деморализуется. Океан в штиль красив, зеркально неподвижен — и смертоносен своей неподвижностью.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.