Сергей Железнов
Искусственный общий интеллект: насколько он близок и чем это грозит

Пролог

Март 2026: момент, когда модели вышли из окна чата

Если через несколько лет придется назвать короткий отрезок времени, когда разговор об AGI окончательно вышел из режима интеллектуальной экзотики и стал разговором о рабочей среде, инфраструктуре и риске, то таким отрезком вполне может оказаться промежуток между 2 февраля и 5 марта 2026 года.

Не потому, что в эти недели кто-то предъявил готовый AGI. Не потому, что одна компания внезапно решила старый философский спор. А потому, что именно в этот месяц стало особенно трудно делать вид, будто передовые модели по-прежнему остаются просто очень хорошими собеседниками.

На наших глазах они начали закрепляться в другой роли: не той, что отвечает в окне чата, а той, что работает за компьютером.

2 февраля 2026 года OpenAI представила приложение Codex, которое компания описывает как центр управления агентами: интерфейс для управления несколькими агентами сразу, параллельной работы и длинных задач, которые могут идти часами, днями и даже неделями. Сам по себе этот сдвиг уже показателен. Еще недавно базовой единицей взаимодействия с ИИ была одна сессия, один запрос, одно окно. Теперь ставка делается на оркестрацию нескольких веток работы, на делегирование, на длинный цикл исполнения.

3 февраля 2026 года Apple объявила, что Xcode 26.3 поддерживает агентное программирование и позволяет использовать в среде разработки агентов вроде Anthropic Claude Agent и OpenAI Codex. Это уже не просто красивая интеграция. Когда один из главных мировых инструментов разработки встраивает агентное программирование в основной рабочий контур, это означает, что идея вышла из режима лабораторного эксперимента. Она стала кандидатом на новый нормальный способ работы.

Через два дня, 5 февраля 2026 года, OpenAI выпустила GPT-5.3-Codex, назвав его самой сильной на тот момент агентной моделью для программирования. В анонсе модель описывается уже не как узкий механизм автодополнения, а как система для долгих задач, сочетающих исследование, работу с инструментами и исполнение. Важно и то, как компания говорит о собственной внутренней практике: ранние версии модели, по словам OpenAI, использовались для отладки обучения, диагностики развертываний и анализа оценок. Даже если читать эти утверждения осторожно и не забывать о маркетинговом слое, направление движения ясно: модели начинают участвовать не только в пользовательской работе, но и в создании, проверке и сопровождении самих ИИ-систем.

В тот же день Anthropic вывела Claude Opus 4.6, позиционируя его как модель для профессиональной разработки ПО, сложных агентных процессов и корпоративных задач с высокой ценой ошибки. Это важно не потому, что еще одна компания объявила свой продукт самым сильным. Важнее другое: несколько ведущих игроков почти одновременно пришли к одной и той же ставке. Следующий рубеж конкуренции лежит не в том, чтобы модель звучала умнее в диалоге, а в том, чтобы она могла дольше, надежнее и самостоятельнее работать в реальных вычислительных и офисных средах.

17 февраля 2026 года Anthropic представила Claude Sonnet 4.6, уже открыто связывая прогресс не только с программированием, но и с работой за компьютером, агентным планированием, длинным контекстом и работой в средах вроде браузера, офисных приложений и редакторов кода. Компания прямо пишет, что пользователи видят в ряде задач возможности человеческого уровня, например при навигации по сложной таблице или заполнении многошаговой веб-формы. Эти заявления нельзя принимать как доказательство AGI. Их и не нужно так читать. Важно другое: сами сценарии, которые еще недавно были поводом для исследовательской демонстрации, стали предметом открытой продуктовой конкуренции.

В этот же день Alibaba выпустила Qwen3.5, описав модель как шаг к нативным мультимодальным агентам. Этот релиз важен по другой причине. Он показывает, что к 2026 году разговор об AGI уже нельзя честно вести как историю нескольких американских лабораторий. Китай больше нельзя описывать как внешнего наблюдателя или запаздывающего догоняющего. Он стал самостоятельным игроком на переднем крае, особенно там, где важны модели с открытыми весами, инфраструктурная эффективность и быстрая диффузия моделей среди разработчиков.

Эту линию хорошо видно и по DeepSeek. На публичном сайте компании в марте 2026 года DeepSeek-V3.2 описывается как модель рассуждения, изначально рассчитанная на агентную работу, а в документации релиза отдельно подчеркиваются мышление в связке с инструментами и масштабный синтез агентных данных. Другими словами, на первый план выходит уже не просто языковая беглость и даже не абстрактная способность к рассуждению, а умение модели мыслить в связке с инструментами, интерфейсами, окружением и длинной цепочкой промежуточных состояний.

Наконец, 5 марта 2026 года OpenAI выпустила GPT-5.4, объединив в одной системе рассуждение, программирование и агентные рабочие процессы для профессиональной работы. Один такой релиз еще можно было бы считать частью привычного цикла анонсов. Но когда за месяц складывается слишком последовательная картина – OpenAI, Anthropic, Apple, Alibaba, DeepSeek, общий сдвиг в сторону работы за компьютером, агентного программирования и рабочих агентных систем, – становится трудно считать это просто маркетинговым шумом. Перед нами не случайность, а структурный поворот.

И именно здесь особенно важно не перепутать ускорение с завершением пути.

Если читать только пресс-релизы и победные посты компаний, легко решить, что AGI уже почти у порога. Но независимые данные рисуют более трезвую картину. В 2025 году исследователи из METR предложили один из самых полезных способов смотреть на реальный прогресс: измерять не впечатляющие единичные ответы, а длину задач, которые модель способна завершить с приемлемой вероятностью. Их вывод одновременно впечатляет и отрезвляет. Горизонт задач у лучших систем растет очень быстро. Но между задачами на минуты и задачи на многие часы по-прежнему лежит жесткий разрыв надежности.

Поэтому вопрос этой книги нельзя формулировать грубо: Есть уже AGI или нет? Такой вопрос слишком примитивен и почти бесполезен. Намного полезнее другой вопрос: по каким признакам можно оценивать дистанцию до AGI, не поддаваясь ни хайпу, ни самоуспокоению?

Это и есть центральная задача книги.

Нас будет интересовать не то, какая компания выиграла неделю новостей. Нас будет интересовать, что именно должно произойти, чтобы разговор об AGI стал не метафорой, а точным описанием новой технической реальности. Для этого придется жестко развести несколько вещей, которые публичная дискуссия почти всегда смешивает:

языковую впечатляющесть и устойчивую автономную способность;

бенчмарк-лидерство и работу в реальном мире;

работа за компьютером и общий интеллект;

умение писать код и умение вести длинные исследовательские или организационные процессы;

рост возможностей и рост управляемости;

AGI и ASI.

Эта книга исходит из простой, но неудобной позиции. Мы не знаем, насколько близок AGI. Но мы уже знаем достаточно, чтобы перестать говорить о нем как о фантастике. Технологическая база для следующего скачка уже собирается на наших глазах: модели рассуждения, длинный контекст, инструменты, агенты, мультимодальность, работа за компьютером, робототехнические интерфейсы, ускорение инфраструктурной гонки и новая геополитика вычислений, энергии и цепочек поставок.

Вот почему тему AGI больше нельзя отдавать ни футурологам, ни маркетологам. Она стала вопросом инженерии, экономики, безопасности и государственного масштаба.

Если передовая модель умеет не просто отвечать, а планировать, искать, читать документацию, менять код, открывать интерфейсы, пользоваться инструментами, удерживать длинный контекст и постепенно приближаться к цели, то главный спор идет уже не о том, "умная" ли она. Главный спор идет о другом: какой именно барьер остается между такими системами и тем, что разумно назвать общим интеллектом.

Этот барьер может оказаться больше, чем кажется из коротких демо. Возможно, модели все еще слишком хрупки, слишком зависимы от среды, слишком ненадежны на длинных горизонтах, слишком легко сбиваются, слишком плохо держат собственные цели и слишком легко поддаются внешним воздействиям. Но возможно и другое: часть этих барьеров уже не фундаментальна, а инженерна. А инженерные барьеры плохи тем, что однажды они просто перестают быть барьерами.

Поэтому главный вопрос этой книги будет не верите ли вы в AGI. Главный вопрос будет другим: какие сигналы действительно означают приближение AGI, какие только имитируют его, и чем для общества будет стоить ошибка в обе стороны.

Ошибка в сторону паники опасна. Ошибка в сторону недооценки может оказаться исторически дороже.

Глава 1. После чатбота: почему вопрос об общем ИИ снова серьезен

Еще совсем недавно спор об AGI можно было отодвинуть без большого интеллектуального ущерба. Да, отдельные исследователи, предприниматели и инвесторы говорили о нем громко, но для большинства наблюдателей эта тема оставалась смесью философии, научной фантастики и привычно ранних обещаний.

В 2026 году такая дистанция уже не работает.

Не потому, что AGI доказан. Не потому, что какая-то компания уже предъявила систему, которую можно без натяжки объявить общим интеллектом. И даже не потому, что индустрия внезапно перестала преувеличивать. Разговор стал серьезным по другой причине: изменился сам статус вопроса.

Теперь AGI – это не одна дерзкая гипотеза, а точка пересечения сразу нескольких наблюдаемых сдвигов:

передовые модели перестали быть только текстовыми собеседниками;

рассуждение, длинный контекст и работа с инструментами вошли в основной продуктовый стек;

агентные системы вышли из исследовательских демо в рабочие контуры;

Китай и экосистема моделей с открытыми весами стали самостоятельными источниками ускорения;

рынок труда, инфраструктура и политика уже начали подстраиваться под новую траекторию.

Именно эта сходимость и делает вопрос об AGI серьезным.

Серьезным – не значит решенным

Здесь особенно важна дисциплина. Как только в технологической сфере появляется новый класс впечатляющих возможностей, почти сразу возникает ложная бинарность. Либо это уже и есть будущее, либо это все еще игрушка. Оба ответа удобны. И оба почти всегда неверны.

С AGI сейчас происходит ровно то же самое.

На одном краю находятся люди, которые читают каждый новый релиз как почти доказанное приближение общего интеллекта. На другом – те, кто по инерции продолжают относиться к теме как к вечному горизонту, который всегда можно отодвинуть еще на десять лет. Реальность уже сложнее обеих позиций.

Если смотреть на 2025–2026 годы без истерики и без самоуспокоения, видно следующее: передовые системы пока не демонстрируют полноценный общий интеллект, но они уже выглядят как системы общего цифрового назначения в достаточно широком контуре. Они умеют писать и исправлять код, искать и синтезировать источники, пользоваться инструментами, работать в средах разработки и браузере, выполнять многошаговые рабочие процессы, удерживать длинный контекст и действовать через агентные циклы.

Это еще не AGI. Но это уже и не просто умное автодополнение.

Почему именно сейчас разговор стал другим

Чтобы понять, почему тема вышла из разряда маргинальных, нужно смотреть не на одну модель и не на один громкий анонс, а на общую траекторию.

1. Интерфейс перестал маскировать сущность

Первые месяцы эпохи ChatGPT создали важную, но обманчивую картину. Казалось, что главное событие – это новый интерфейс: ИИ наконец-то научился разговаривать с человеком естественным языком. Это действительно было важным переломом, но какое-то время именно интерфейс скрывал более глубокую суть перемен.

Поворот произошел тогда, когда модели начали не только отвечать, но и действовать.

OpenAI в феврале 2026 года представила приложение Codex как систему управления несколькими агентами сразу. Apple через день встроила агентное программирование прямо в Xcode 26.3, фактически признав, что ИИ-агенты уже достаточно полезны для основного рабочего контура разработчиков. Anthropic и Google в это же время усиливали линии работы за компьютером, рассуждения на длинном контексте и агентного планирования.

Этот переход – от ответа к действию – и сделал разговор об AGI серьезнее. Цифровой интеллект начинает менять мир не тогда, когда красиво говорит, а тогда, когда начинает выполнять работу.

2. Несколько независимых линий прогресса сошлись одновременно

Нынешний момент нельзя объяснить только одной осью.

Если бы модели стали лучше только в чат-диалоге, можно было бы говорить об удачной, но узкой интерфейсной технологии. Если бы вырос только контекст, но не работа с инструментами, это был бы другой частный скачок. Если бы улучшилось только программирование, но не рассуждение, – еще один.

Но в 2025–2026 годах мы видим одновременно:

модели рассуждения;

длинный контекст;

мультимодальность;

работа за компьютером;

агентные циклы;

диффузия моделей с открытыми весами;

быстрый рост вычислительной инфраструктуры.

Каждая из этих линий по отдельности еще не ведет к AGI. Но вместе они образуют структуру, слишком похожую на путь к более общим системам, чтобы ее можно было игнорировать.

3. Вопрос вышел за пределы лабораторий

Еще один сильный признак – изменение круга институтов, которые вовлечены в тему.

Когда AGI был преимущественно спекулятивным словом, о нем спорили главным образом лаборатории, футурологи, философы сознания и инвесторы. Сейчас последствия передового ИИ обсуждают уже совсем другие акторы:

энергетические агентства;

регуляторы;

международные экономические организации;

органы национальной безопасности;

корпоративные ИТ-директора и технические директора;

рынок труда и образовательные системы.

Это не техническое доказательство близости AGI. Но это сильный признак того, что реальный мир уже перестраивается под гипотезу о его приближении.

Почему это не просто повторение старого хайпа вокруг ИИ

Скептик вправе возразить: у ИИ уже были периоды чрезмерного оптимизма, и нынешняя волна тоже может оказаться одним из таких циклов. Это возражение нельзя просто отмахнуть. История ИИ действительно полна ложных рассветов, и дальше в книге мы подробно разберем, почему поле так часто ошибалось в собственных прогнозах.

Но нынешняя ситуация все же отличается по нескольким параметрам.

1. Масштаб внедрения

Предыдущие волны ИИ часто оставались внутри лабораторий, государственных программ или относительно узких корпоративных сегментов. Нынешняя волна уже встроена:

в массовый пользовательский софт;

в офисные и инженерные рабочие процессы;

в разработку программного обеспечения;

в маркетинг, аналитику, поиск, поддержку и обучение.

Технология, которая уже меняет повседневные рабочие процессы сотен миллионов людей, находится в другом статусе, чем технология, живущая в демонстрационных комнатах.

2. Экономика и капитал

Нынешний передний край ИИ опирается на огромный слой капитальных затрат, инфраструктурного строительства и промышленной координации. Это не похоже на короткий всплеск, который держится только на обещаниях. Даже если часть ожиданий окажется завышенной, сам масштаб вовлеченных ресурсов показывает, что речь идет не о локальной моде, а о системном технологическом сдвиге.

3. Многополярность переднего края

Еще одна разница в том, что гонка перестала быть историей одной компании или одной страны. Помимо OpenAI, очень сильные траектории есть у Anthropic, Google DeepMind, xAI, а также у китайского блока – прежде всего Alibaba/Qwen и DeepSeek.

Многополярность сама по себе ускоряет прогресс. Разные игроки пробуют разные архитектурные, продуктовые и стратегические подходы к безопасности, а рынок быстрее распространяет удачные решения. Это делает разговор об AGI серьезнее по простой причине: у мировой системы меньше шансов добровольно сбросить скорость.

Что именно стало предметом нового беспокойства

Серьезность вопроса об AGI сегодня связана не с одним страхом и не с одной надеждой. В нем сошлись сразу несколько разных линий.

Экономическая линия

Если агентные системы становятся достаточно сильными в коде, анализе, исследованиях и административных задачах, они начинают менять природу интеллектуальной работы. Это означает давление на младшие и часть средних ролей, рост продуктивности у сильных специалистов и концентрацию выигрыша у платформ, облачной инфраструктуры и капитала.

Политическая линия

Чем больше ИИ зависит от вычислений, энергии, упаковки чипов и цепочек поставок, тем сильнее он становится вопросом промышленной и государственной мощности. В этот момент AGI перестает быть темой только для тех-компаний и становится частью геополитики.

Риск-линия

По мере роста возможностей растут и потенциальные классы вреда:

киберриски;

злоупотребления в биологии;

агентное рассогласование;

проблемы контроля над все более автономными системами.

Даже если AGI еще не достигнут, сама траектория к нему уже порождает достаточно мощные промежуточные риски, чтобы вопрос нельзя было откладывать.

Но почему именно общий ИИ, а не просто "сильный ИИ"?

Это правильное возражение. Слово AGI перегружено, спорно и слишком легко превращается в миф. Возникает соблазн вообще отказаться от него и говорить только о сильном ИИ или очень мощных моделях.

Но полностью отказаться от этого слова тоже нельзя.

Проблема в том, что выражения вроде сильная модель или продвинутый помощник уже плохо захватывают происходящее. Они не описывают переход от узких систем к системам общего цифрового назначения, которые постепенно закрывают все больше признаков общего интеллекта в разных средах и ролях.

Поэтому слово AGI остается полезным не как магическая метка, а как название траектории. Мы наблюдаем движение не просто к более сильным чатботам, а к системам, которые шаг за шагом становятся общими, агентными и все более значимыми для реального мира.

Именно в этом смысле вопрос об AGI снова серьезен.

Главный вывод главы

На март 2026 года было бы неверно говорить: AGI уже здесь. Но столь же неверно делать вид, что об этом еще рано думать.

Точнее так:

тема AGI перестала быть пустой спекуляцией, потому что технологическая траектория уже породила слишком много независимых, проверяемых и экономически значимых признаков движения к более общим системам.

Серьезность вопроса определяется не одним чудом, а несколькими совпавшими обстоятельствами:

модели стали действовать, а не только говорить;

рассуждение, инструменты и агенты вошли в основной стек;

модели с открытыми весами и китайский передний край ускорили диффузию;

рынок труда и инфраструктура уже реагируют;

а риски управления системами больше нельзя считать чисто гипотетическими.

Дальше в книге нас будет интересовать уже не вопрос верите ли вы в AGI, а более точный вопрос: по каким признакам можно отличить реальное приближение AGI от очередной волны впечатления.

Что важно запомнить

В 2026 году вопрос об AGI серьезен не потому, что AGI доказан, а потому, что изменилась сама траектория передового ИИ.

Главный сдвиг – переход моделей от ответа к действию.

Серьезность темы создается сходимостью нескольких линий: рассуждения, агентов, работы с инструментами, длинного контекста, открытой диффузии и промышленного наращивания инфраструктуры.

Вопрос уже вышел за пределы лабораторий и стал экономической, инфраструктурной и политической темой.

Это еще не доказательство AGI, но уже и не спекуляция на пустом месте.

Глава 2. Что мы вообще называем общим ИИ

Одна из причин, по которым спор об AGI так быстро скатывается в шум, заключается в очень простой вещи: люди используют одно и то же слово для обозначения разных объектов.

Для одних AGI – это машина, которая умеет делать почти все, что умеет человек.

Для других – система, которая может решать широкий круг задач лучше среднего профессионала.

Для третьих – уже почти синоним сознательной машины.

Для четвертых – просто маркетинговый ярлык для очень сильной модели.

Если не развести эти значения в начале, весь дальнейший разговор будет путаться.

Почему с определением так трудно

Проблема начинается с самого слова интеллект.

Шейн Легг и Маркус Хаттер еще в 2007 году писали, что никто толком не знает, что такое интеллект, особенно когда речь идет о системах, радикально отличных от человека. Их попытка дать формальное определение машинного интеллекта была важна именно потому, что она показала масштаб проблемы: как только мы переходим от повседневного употребления слова к строгой формулировке, оказывается, что в дело вмешиваются:

среда;

объем доступного опыта;

способность к обучению;

ширина задач;

эффективность освоения новых задач.

Франсуа Шолле в 2019 году усилил эту мысль еще жестче. Он предложил понимать интеллект не как сумму навыков, а как эффективность приобретения навыков в новых задачах при ограниченном опыте. Это полезный поворот, потому что он сразу выбивает из разговора одну популярную ловушку: систему нельзя считать общей только потому, что она демонстрирует много уже накопленных умений.

Именно отсюда возникает главная трудность с AGI. Нам нужно определить не просто "очень сильную систему", а систему, которая:

работает в широком наборе задач;

переносит навыки в новые условия;

не требует полного переобучения под каждую новую цель;

может действовать в среде, а не только отвечать на вопросы;

и делает все это с приемлемой надежностью.

Бесполезные определения общий ИИ

Прежде чем предложить рабочую рамку, полезно назвать формулировки, которые звучат красиво, но аналитически мало помогают.

1. "общий ИИ – это все, что умнее человека"

Это слишком широкая формула. Она не различает:

общность и сверхинтеллект;

узкое превосходство и широкую универсальность;

интеллект как способность действовать и интеллект как абстрактную мощность.

Если так определять AGI, мы очень быстро смешаем его с ASI и потеряем полезность термина.

2. "общий ИИ – это система, которая умеет абсолютно все"

Это определение слишком жесткое. Если понимать его буквально, AGI окажется недостижимым или почти пустым понятием. Любая реальная система будет иметь ограничения, специализацию и границы доменов. Но это не значит, что она не может быть достаточно общей, чтобы радикально изменить экономику и безопасность.

3. "общий ИИ – это сознательная машина"

Это определение хуже всего подходит для практического анализа. Вопрос о сознании сложен сам по себе, а для оценки технологической траектории он почти всегда создает больше тумана, чем ясности. Машина может быть очень опасной, очень полезной и очень общей по функциям, оставаясь при этом бездоказательно несознательной.

4. "общий ИИ – это просто очень хороший большие языковые модели"

Это удобное маркетинговое сокращение, но аналитически оно никуда не годится. LLM может быть компонентом пути к AGI, основой для агентного стека или даже ранней формой цифровой общности. Но сам по себе ярлык "сильная языковая модель" не решает вопроса об общем интеллекте.

Полезные оси определения

Вместо одного магического определения разумнее смотреть на несколько осей сразу.

1. Ширина

Насколько система работает в разных типах задач?

Не только в математике, коде или написании текста, а в широком диапазоне:

рассуждение;

планирование;

инструментальные действия;

анализ;

интерактивные среды;

частично новые задачи.

2. Перенос

Насколько хорошо система переносит навыки на незнакомые условия?

Это одна из центральных мыслей Шолле: навык на одном наборе задач – не то же самое, что интеллект как способность осваивать новое.

3. Автономность

Насколько система способна не просто выдавать ответы, а удерживать цель и двигаться к ней через последовательность шагов?

С появлением агентов, работы с инструментами и работы за компьютером эта ось стала особенно важной. В цифровом мире "общность" все меньше похожа на красивый ответ в чате и все больше – на способность вести длинную работу.

4. Надежность

Можно ли на систему опереться вне демонстрационного режима?

Сильный кандидат на AGI не обязан быть безошибочным. Но если его поведение системно рассыпается вне контролируемой сцены, это слишком слабый признак общности.

5. Среда

В каком мире вообще проявляется эта "общность"?

Это важный вопрос, потому что цифровой AGI и AGI в физическом мире – не одно и то же. Система может стать почти общей в работе с кодом, документами, браузерами и исследовательских рабочих процессах задолго до того, как будет уверенно действовать в физическом мире.

Именно здесь многие споры о сроках на самом деле прячут смену определения, не признавая этого.

Рабочее определение для этой книги

Для этой книги нам нужно определение не философски идеальное, а операционально полезное.

Я предлагаю следующее.

AGI – это система, которая способна в широком наборе новых и разнородных задач учиться, планировать, рассуждать и действовать на уровне как минимум компетентного человека, сохраняя приемлемую надежность и не требуя полной ручной перенастройки под каждый новый класс задач.

У этого определения есть несколько следствий.

Следствие 1. общий ИИ не обязан быть сверхчеловеческим

Для AGI достаточно человеческого уровня по ширине и устойчивости. Все, что идет дальше, – это уже переход к ASI или к его ранним формам.

Следствие 2. общий ИИ не обязан быть сознательным

Пока у нас нет надежного способа операционно использовать сознание как критерий. Для оценки социальной и технической близости AGI этот критерий слишком расплывчат.

Следствие 3. общий ИИ может быть сначала цифровым

Если система:

надежно пишет код;

проводит ресерч;

работает в браузере и документах;

держит длинный контекст;

переносит навыки между разными цифровыми задачами;

то она может быть достаточно "общей", чтобы заслуживать описания как цифровой системы уровня AGI, даже если робототехника все еще отстает.

Следствие 4. общий ИИ нельзя доказать одним бенчмарк-ом

Из самого определения следует, что нам нужен набор признаков, а не один балл. Поэтому предыдущая глава и была посвящена измерительной рамке.

Полезная лестница понятий

Чтобы не смешивать разные режимы, удобно использовать не одно слово, а лестницу.

Узкий ИИ

Система сильна в одном классе задач или в одном типе среды.

Передовой универсал

Система демонстрирует очень широкие возможности в нескольких доменах, но пока все еще остается заметно хрупкой вне них.

Слабо общий ИИ

Система уже выглядит общей в большом цифровом контуре, но надежность, автономность или перенос навыков в физический мир все еще ограничены.

общий ИИ

Система достаточно широка, устойчива и переносима, чтобы ее можно было считать общим интеллектом в практическом смысле.

сверхинтеллект

Система существенно превосходит человека почти по всем значимым когнитивным измерениям и, вероятно, становится самостоятельным фактором цивилизационного масштаба.

Эта лестница не претендует на универсальный словарь. Но она полезна, потому что не заставляет выбирать между крайностями "это либо просто чатбот, либо уже сверхинтеллект".

Почему определение влияет на сроки

Одна из причин, по которым сроки AGI так сильно расходятся, состоит в том, что люди прогнозируют не одно и то же.

Это хорошо видно и в больших опросах. В крупном опросе авторов исследований ИИ респонденты заметно различают сроки, когда машины превзойдут людей во всех задачах, и сроки полной автоматизации всех человеческих профессий. Это различие принципиально.

Оно показывает, что даже очень широкий веха роста возможностей не равен автоматическому социальному переходу. Значит, при любом обсуждении AGI нужно сразу уточнять:

речь о возможностях?

об экономическом воздействии?

о физическом мире?

о всех профессиях?

о цифровой среде?

Без этих уточнений слово AGI слишком легко превращается в риторический контейнер для несовместимых ожиданий.

Почему для политики и безопасности нужен именно рабочий, а не идеальный термин

Можно возразить: если определение так спорно, может быть, лучше вообще отказаться от термина AGI?

Это привлекательная идея, но у нее есть недостаток. Без такого термина мы рискуем потерять язык для описания систем, которые уже не укладываются в категорию узкого ИИ, но еще не стали сверхинтеллектом.

Политика, регулирование и безопасность не могут ждать философского консенсуса. Им нужен рабочий язык заранее.

Поэтому разумнее не выкидывать термин, а дисциплинировать его употребление:

не путать AGI и ASI;

не смешивать цифровую общность и интеллект, действующий в физическом мире;

не использовать сознание как обязательный критерий;

не объявлять AGI по одному демо или бенчмарку.

Что из этого следует

Слово AGI полезно только в том случае, если мы используем его строго.

Для этой книги AGI – это не:

магическое пробуждение машины;

абсолютная универсальность без границ;

синоним сознания;

синоним сверхинтеллекта.

Для этой книги AGI – это достаточно общая, надежная и переносимая система общего назначения, которая может работать в широком диапазоне задач и сред без полной ручной перенастройки под каждый новый класс проблем.

Это определение не закрывает философские споры. Но оно делает возможным то, ради чего и пишется эта книга: трезво оценивать расстояние до реального технического и социального перелома.

Что важно запомнить

Главная проблема слова AGI в том, что им называют слишком разные вещи.

Полезное определение должно учитывать ширину, перенос, автономность, надежность и среду.

AGI не равен ASI.

AGI не обязан предполагать сознание.

AGI может сначала проявиться как цифровой, а не воплощенный в физическом мире интеллект.

Для этой книги важна рабочая, а не метафизически идеальная дефиниция.

Глава 3. Почему большие языковые модели – это еще не общий ИИ, но уже не автодополнение

Фраза LLM – это просто автодополнение долгое время выполняла полезную функцию. Она напоминала: не нужно путать уверенный текст с реальным пониманием, а впечатляющий интерфейс – с общим интеллектом.

Проблема в том, что в 2026 году эта формула уже стала слишком грубой.

Да, большие языковые модели по-прежнему обучаются на следующем токене.

Да, значительная часть их мощности рождается из статистической структуры данных и масштаба обучения.

Да, они остаются хрупкими, склонными к галлюцинациям и сильно зависят от распределения обучающих данных.

Но из этого уже не следует, что они "всего лишь автодополнение" в бытовом смысле. Слишком многое изменилось.

Чтобы трезво оценивать расстояние до AGI, нужно удерживать сразу две мысли:

LLM еще не являются общим интеллектом;

но они уже представляют собой нечто существенно более сильное, чем простая модель продолжения текста.

Почему тезис про автодополнение когда-то был полезен

Он был полезен как противоядие против магии.

Когда ChatGPT и его ближайшие родственники впервые массово вышли к пользователю, огромное количество людей увидело в них почти готовую разумную сущность. На этом фоне напоминание о предсказании следующего токена играло важную очищающую роль. Оно возвращало разговор к тому, что модель:

не обладает встроенным понятийным миром в человеческом смысле;

не гарантирует истинность ответа;

не имеет устойчивой цели сама по себе;

не понимает мир так, как понимает его человек, выросший в теле, обществе и длинной истории опыта.

Это все по-прежнему важно.

Но как аналитическая формула для 2026 года выражение просто автодополнение уже ломается, потому что не объясняет реальное поведение сильных LLM.

Где именно большие языковые модели выходят за пределы "обычного автодополнения"

1. Они осваивают задачу по контексту, а не только продолжают фразу

В своей работе 2020 года OpenAI показала, что большие модели начинают решать новые задачи по нескольким примерам или по одной инструкционной рамке, без отдельного дообучения под каждую задачу.

Это уже не похоже на привычное автодополнение в духе клавиатуры смартфона. Смартфон дописывает следующее слово. Большая модель:

извлекает структуру задачи из запроса;

угадывает режим работы;

адаптируется к формату;

и пытается решить то, что до этого явно не было задано как отдельная "программа".

Именно это и делает LLM странным гибридом: формально это предсказатель следующего токена, а на практике – система, способная к ограниченному обучению по контексту задачи.

2. Масштаб дал не только беглость, но и перенос

Когда в 2023 году вышел GPT-4, стало очевидно, что рост масштаба и постобучение способны давать не просто более беглый текст, а заметный прирост по:

математике;

коду;

юридическим и медицинским задачам;

длинным инструкциям;

задачам, где требуется комбинировать знания и рассуждение.

Работа команды Microsoft Research пошла еще дальше и утверждала, что GPT-4 можно разумно рассматривать как раннюю и неполную форму более общего интеллекта, чем у прежних систем. С этим тезисом можно спорить, и в книге мы еще не раз будем обсуждать его ограничения. Но сам факт появления такого текста показателен: даже исследователи, хорошо понимающие природу LLM, увидели в новом поколении систем уже нечто большее, чем статистический языковой фокус.

3. Они умеют разбивать задачу на шаги

Работа о цепочке рассуждений показала, что при достаточном масштабе модели начинают выигрывать от промежуточных рассуждений и демонстрируют новые уровни решения сложных задач, если им дать или позволить сгенерировать цепочку мысли.

Это не доказывает человеческий тип рассуждения. Но показывает, что LLM уже не просто выбирает самое вероятное следующее слово на локальном уровне. В определенных режимах она строит последовательность промежуточных репрезентаций, которые функционально работают как рассуждение.

4. Они стали интерфейсом к внешнему миру

Современная LLM почти никогда не существует в одиночестве. Она включена в стек:

извлечение контекста;

работа с инструментами;

исполнение кода;

поиск;

циклы планирования;

работе в браузере и за компьютером.

Как только это происходит, разговор о "чистом автодополнении" становится совсем неполным. Модель начинает не просто завершать текст, а управлять внешними действиями, опираться на инструменты и участвовать в многошаговой работе.

Что именно делает большие языковые модели по-настоящему сильной

Если убрать мистику, сила LLM сегодня состоит в комбинации четырех вещей.

1. Широкая предварительная база

Веб-масштабное предобучение дает модели огромный объем статистических закономерностей:

о языке;

о коде;

о стиле задач;

о типичных форматах объяснения и решения.

Это само по себе не означает "понимание", но создает очень широкое поле потенциальной полезности.

2. Обучение по контексту

Модель умеет подстраиваться под задачу на лету через запрос и примеры, без полного переобучения.

3. Дообучение и слой согласования

RLHF, конституционные методы, настройка на инструкции и обучение, ориентированное на рассуждение, радикально меняют практическое поведение модели.

4. Инструментальный слой

Когда к модели добавляются инструменты, память, поиск и исполнение, она перестает быть только языковой статистической системой и становится ядром более общего агентного стека.

Именно сочетание этих четырех слоев и делает LLM центральной технологией нынешней фазы. Не потому, что она уже AGI, а потому, что она уже ближе к общему цифровому интерфейсу, чем к обычному автодополнению.

Почему большие языковые модели все еще не общий ИИ

Но если остановиться на предыдущем абзаце, легко скатиться в другую крайность. Поэтому важно так же ясно перечислить и ограничения.

1. Они плохо держат длинную цель без внешней архитектуры

Современная LLM может выглядеть очень сильной на короткой или средней задаче. Но устойчивое многодневное ведение сложного проекта по-прежнему требует внешней обвязки: памяти, циклов планирования, проверяющих модулей, перезапусков, инструментария и человеческого надзора.

То есть широкой универсальности в чистом виде здесь еще нет.

2. Они плохо отличают уверенность от знания

Даже сильные модели могут уверенно галлюцинировать. Это особенно важно для науки, медицины, права и других областей с высокой ценой ошибки. Общий интеллект в сильном практическом смысле требует куда лучшей калибровки, чем мы обычно видим у LLM.

3. Они хрупки вне привычного распределения данных

LLM впечатляют именно потому, что распределение обучающих данных у них крайне широко. Но эта широта не равна подлинной универсальности. Как только задача становится достаточно новой, плохо формализованной или требующей устойчивой адаптации, модели могут срываться намного быстрее, чем кажется по демо.

4. Они слабо укоренены в физическом и социальном мире

Даже мультимодальность не решает до конца проблему укорененности. Текст, изображения и видео помогают. Но мир человека – это еще:

тело;

длинная память;

причинность;

социальные нормы;

скрытые цели;

институциональный контекст.

LLM пока скорее имитирует доступ к этим слоям через данные, чем живет в них.

5. Их "общность" все еще сильно цифровая и инструментальная

Это, возможно, самый важный предел. LLM уже выглядит общей во многих цифровых задачах, особенно если ей помогают инструменты. Но это еще не означает, что система обладает общей когнитивной устойчивостью в полном смысле слова.

Поэтому в этой книге мы будем говорить скорее о траектории к AGI, чем о достигнутом AGI.

Что меняет сам факт существования большие языковые модели такого класса

Даже если LLM не дотягивает до AGI, она уже изменила поле игры.

1. Она радикально снизила порог для "общих" систем

Раньше между узкими системами и общим интеллектом зияла пропасть. LLM показали промежуточный режим: система может быть далеко не общей в строгом смысле, но уже очень широкой и полезной.

2. Она стала универсальным интерфейсом к миру программных систем

Язык стал не только формой ответа, но и слоем управления кодом, поиском, программными интерфейсами, файлами и рабочими процессами.

3. Она превратила общий ИИ из философской абстракции в инженерную траекторию

До LLM AGI можно было обсуждать как дальнюю идею. После LLM стало возможно обсуждать:

какие именно барьеры остаются;

какие свойства уже появились;

какие промежуточные формы общей цифровой способности возникают раньше полного AGI.

Это и есть главная причина, почему LLM так важны для этой книги.

Ключевой вывод

Фраза LLM – это просто автодополнение сегодня уже недостаточна.

Она по-прежнему полезна как напоминание о том, что:

цель предсказания следующего токена реальна;

галлюцинации реальны;

видимость интеллекта нельзя путать с завершенной общей способностью.

Но она перестает быть полезной там, где нужно описывать реальное положение дел.

Современная LLM – это уже:

система широкого обучения по контексту;

ядро агентного стека;

движок цифровой работы с инструментами;

и, вероятно, первая массовая технологическая форма неполной, но реально широкой цифровой общности.

То есть это еще не AGI. Но и точно уже не просто автодополнение.

Что важно запомнить

LLM по-прежнему основаны на предсказании следующего токена, но этого уже недостаточно для описания их поведения.

Их сила рождается из сочетания масштаба, обучения по контексту, постобучения и инструментария.

LLM уже умеют гораздо больше, чем обычное языковое дописывание.

При этом они все еще хрупки, плохо калиброваны и слабы на длинных горизонтах.

LLM – не AGI, но именно они сделали путь к AGI инженерно осмысленным.

Глава 4. Общий ИИ и сверхинтеллект: где проходит граница

В массовой дискуссии AGI и ASI очень часто сливаются в одно целое. Люди говорят "общий интеллект", а на деле представляют себе систему, которая:

умнее лучших ученых;

быстрее лучших инженеров;

стратегически глубже лучших государств;

и вообще стоит над человечеством как отдельный вид разума.

Но это уже не AGI в узком смысле. Это шаг дальше.

Если не развести эти понятия, разговор об ИИ почти неизбежно ломается. Он становится либо чрезмерно алармистским, либо чрезмерно самодовольным.

Зачем вообще различать общий ИИ и сверхинтеллект

Потому что это разные режимы:

возможностей;

угроз;

управления;

и временных горизонтов.

AGI в рабочем смысле – это система человеческого или сопоставимого с человеческим уровня общей способности в широком наборе задач.

ASI – это система, которая существенно превосходит человека почти по всем значимым интеллектуальным измерениям и, вероятно, делает это устойчиво и масштабируемо.

Это различие не академическое. Оно меняет все.

Почему общий ИИ уже сам по себе исторический перелом

Иногда можно услышать примерно такую мысль: настоящая опасность начинается только с ASI, а AGI – это просто очень сильный универсальный инструмент.

Это глубокое недооценивание.

Даже если представить AGI как "всего лишь" человеческий уровень общей цифровой компетентности, последствия будут уже огромны.

Почему?

1. общий ИИ достаточно для мощной экономической перестройки

Если система способна в широком наборе задач работать на уровне компетентного человека, этого уже достаточно, чтобы радикально изменить:

программирование;

аналитику;

исследования;

документооборот;

внутренние офисные функции;

часть управления и координации.

Для передела рынков труда и прибыли не нужен сверхинтеллект. Нужен просто достаточно дешевый и масштабируемый человеческий или около-человеческий уровень в большом числе цифровых ролей.

2. общий ИИ достаточно для нового уровня системных рисков

Кибероперации, социальная инженерия, автоматизация опасной интеллектуальной работы, автономное планирование и давление на институты – все это уже может резко усилиться до наступления ASI.

3. общий ИИ достаточно для положительной обратной связи

Если система уровня AGI начинает ускорять код, исследования, инструментарий и сами исследования и разработки в ИИ, она уже может запустить динамику, при которой путь к ASI становится заметно короче. То есть AGI и ASI нельзя мыслить как два полностью независимых мира.

Поэтому ждать "настоящего риска только от ASI" – плохая стратегия. Реальный цивилизационный перелом может начаться уже на стадии AGI.

Что тогда делает сверхинтеллект качественно другим

Если AGI уже достаточно, чтобы менять историю, зачем вообще отдельное понятие ASI?

Потому что при переходе к сверхинтеллекту меняется не только масштаб, но и сама структура проблемы.

1. Потеря симметрии с человеком

Пока система находится примерно на человеческом уровне, можно по крайней мере воображать:

сравнительное тестирование;

человеческий аудит;

соревновательную проверку;

возможность частичного институционального контроля на основе человеческой экспертизы.

Когда система становится устойчиво выше человека почти по всем когнитивным параметрам, эта симметрия ломается. Контроль перестает быть задачей "понять почти равного", а становится задачей управления тем, что уже превосходит оператора.

2. Ускорение стратегического преимущества

AGI может заменить или усилить работников. ASI потенциально может:

резко ускорить науку;

резко ускорить инженерные циклы;

радикально изменить военное равновесие;

создавать новые механизмы убеждения, оптимизации и контроля в масштабе, недоступном людям.

3. Новая глубина проблема контроля

Проблема согласования целей и контроля становится острее уже при AGI. Но при ASI она приобретает принципиально другой характер. Если система заметно сильнее человека в планировании, обмане, поиске лазеек и разработке новых стратегий, даже хороший локальный контроль может оказаться недостаточным.

Поэтому в литературе о рисках часто такая тревога связана именно с ASI, а не просто с AGI.

Почему массовая дискуссия постоянно путает эти уровни

Есть несколько причин.

1. Человеку трудно удерживать промежуточную ступень

Между "модель пишет текст" и "машина умнее всех людей" общественное воображение часто не видит устойчивого среднего состояния. Но именно в этом среднем состоянии и лежит значительная часть будущих конфликтов.

2. Маркетинг любит размытые границы

Чем меньше различий между "общим интеллектом", "сильным ассистентом", "сверхразумной машиной" и "человеческим уровнем", тем легче производить впечатление.

3. Риск-риторика любит максимальные сценарии

Часть публичных обсуждений сразу прыгает от нынешних моделей к картине мира, где есть почти богоподобный интеллект. Это может быть полезно как проверка гипотезы на прочность, но плохо подходит для анализа текущей траектории.

4. Скептики тоже выигрывают от путаницы

Если смешать AGI и ASI, потом легко высмеять сам разговор: мол, до сверхинтеллекта далеко, значит и серьезно обсуждать пока нечего. Это тоже ошибка.

Полезная практическая граница

Для этой книги полезнее всего думать о различии так.

общий ИИ – это вопрос замены и усиления широкого спектра человеческой когнитивной работы

Ключевой вопрос здесь:

может ли система действовать как общий цифровой работник или исследователь в широком наборе сред?

сверхинтеллект – это вопрос стратегического превосходства и потери человеческой сопоставимости

Ключевой вопрос здесь:

может ли система устойчиво обгонять людей почти во всем важном и использовать это преимущество способами, которые людям трудно оценить и контролировать?

Это два разных вопроса. И оба важны. Но они требуют разного языка, разных индикаторов и разных институтов ответа.

Почему для сроков это принципиально

Опрос авторов исследований ИИ хорошо показывает полезность такого различения. Даже в одной и той же экспертной выборке сроки для сильных вех роста возможностей и сроки полной автоматизации всех человеческих профессий расходятся на десятилетия.

Это означает, что даже если относительно ранний режим систем, приближающихся к AGI, станет реальным, дальнейший путь к более полной и сверхчеловеческой трансформации может быть:

быстрее, если возникнет сильная положительная обратная связь;

медленнее, если узкие места, проблемы согласования целей и перенос навыков в физический мир окажутся серьезнее, чем думают оптимисты.

Смешивать все это в одну дату – значит терять содержательность.

Как я предлагаю использовать эти термины дальше

В рамках книги я предлагаю очень простое дисциплинарное правило.

Использовать общий ИИ, когда речь идет о широкой общей способности

То есть когда вопрос в том, что система:

универсальна по задачам;

переносима;

автономна в разумной степени;

и достаточно надежна, чтобы реально действовать в мире.

Использовать сверхинтеллект, когда речь идет о сверхчеловеческом масштабе

То есть когда обсуждение касается:

резкого превосходства;

неуправляемого ускорения;

потери симметрии контроля;

и наиболее крайних системных рисков.

Если держать эту дисциплину, становится сразу легче:

читать опросы;

понимать литературу о рисках;

различать экономические и цивилизационные сценарии;

и не перепрыгивать через промежуточные стадии.

Рабочая рамка

AGI и ASI нельзя путать, потому что это разные уровни исторического перелома.

AGI уже сам по себе достаточно силен, чтобы:

изменить рынок труда;

ускорить науку и программирование;

усилить государственные и корпоративные структуры;

создать новые риски контроля.

ASI – это уже следующий режим, в котором речь идет о потере сопоставимости человека с системой и о гораздо более глубокой проблеме контроля.

Поэтому разумная позиция выглядит так:

не ждать ASI, чтобы начать серьезную подготовку;

не объявлять ASI там, где пока речь идет только о ранней общей цифровой способности;

и не позволять путанице между терминами разрушать анализ.

Что важно запомнить

AGI и ASI – не одно и то же.

AGI – это человеческий или сопоставимый общий уровень в широком наборе задач.

ASI – это устойчивое сверхчеловеческое превосходство почти по всем значимым измерениям.

AGI уже сам по себе исторически переломен.

Ждать начала серьезного управления только на стадии ASI – плохая стратегия.

Глава 5. Как измерять дистанцию до общего ИИ

Весной 2025 года в публичном поле появились две очень разные, но на удивление совместимые картины прогресса. Первая пришла из мира бенчмарков: Stanford HAI в AI Index 2025 зафиксировал, что на новых сложных тестах вроде MMMU, GPQA и SWE-bench результаты за один год выросли резко, а не постепенно. Вторая пришла из мира агентных оценок: исследователи METR предложили смотреть не на отдельные яркие ответы модели, а на длину задач, которые система способна завершить с заданной надежностью, и получили тревожный вывод: этот горизонт в последние годы рос примерно экспоненциально.

Эти две картины вместе дают полезный урок. Прогресс реален. Но вопрос AGI уже близко или нет в такой форме почти бесполезен. Он слишком грубый. Он сводит сложный процесс к кнопке да/нет, хотя на практике нас интересует совсем другое: какие свойства уже появились, каких все еще нет, и по каким признакам можно понять, что оставшаяся дистанция резко сокращается.

Поэтому в разговоре об AGI нужен не лозунг, а измерительная рамка.

Почему бинарный вопрос почти всегда заводит в тупик

Проблема с формулой это уже AGI или еще нет в том, что она смешивает несколько разных тем:

ширину компетенций;

способность переносить навыки в новые условия;

устойчивость на длинных горизонтах;

работу с инструментами и средой;

надежность, калибровку и управляемость.

Система может выглядеть почти универсальной в одном классе задач и при этом разваливаться в другом. Она может блестяще отвечать на сложные экзаменационные вопросы и при этом проваливать многошаговую реальную работу. Она может впечатлять в программировании и быть слаба в физическом мире. Она может быть сильной в закрытом наборе тестов и хрупкой в незнакомой среде.

Франсуа Шолле еще в 2019 году сформулировал важную претензию к тому, как сообщество ИИ традиционно измеряет интеллект: навык на конкретной задаче не равен общему интеллекту, потому что высокий результат можно частично "купить" за счет данных, подгонки и заранее накопленного опыта. Если выразить эту мысль максимально просто, получится следующее: модель может быть очень сильной, но это еще не значит, что она действительно близка к человеческой способности осваивать новые задачи с ограниченным опытом.

Для разговора об AGI это ключевой пункт. Нас интересует не только то, что модель умеет, но и как она приходит к решению:

в знакомом или новом домене;

с доступом к подсказкам или без них;

в статичном тесте или в интерактивной среде;

за секунды или в рамках многочасовой задачи;

с высокой надежностью или с постоянными срывами.

Поэтому правильный вопрос звучит так: насколько система приближается к общему интеллекту по нескольким измерениям сразу.

Пять измерений, без которых нельзя оценивать близость общий ИИ

Ни один существующий тест не дает полного ответа. Но уже можно собрать рабочую панель приборов.

1. Ширина компетенций

Первое измерение очевидно: если система претендует на общий интеллект, она должна работать не в одной узкой нише, а в широком диапазоне доменов. Отсюда ценность таких тестов, как GPQA, MMMU или Humanity's Last Exam: они пытаются проверить не одну профессию и не один школьный предмет, а широкий спектр знаний и рассуждений.

Но здесь есть важное ограничение. Ширина знаний не равна общей способности действовать. Экзамен на экспертные вопросы измеряет многое, но не все. Даже разработчики Humanity's Last Exam специально оговаривают: высокая точность на HLE сама по себе еще не означает автономную исследовательскую способность или AGI. Это чрезвычайно важная честность. Хороший бенчмарк должен не только демонстрировать силу модели, но и подчеркивать собственные пределы.

Вывод простой: широкий охват предметов нужен, но его недостаточно.

2. Обобщение в новых условиях

Общий интеллект предполагает не только набор навыков, но и перенос: система должна уметь сталкиваться с новой задачей и осваивать ее без полного переобучения под конкретный тест.

Поэтому так важны бенчмарки, которые пытаются быть простыми для людей и трудными для ИИ, а также сопротивляться простому заучиванию. В логике ARC это выражено особенно ясно: важен не просто результат, а эффективность освоения нового. В будущей версии ARC-AGI-3, релиз которой на момент написания книги был объявлен на 25 марта 2026 года, акцент сделан уже не на статичных головоломках, а на интерактивных средах, где агент должен исследовать, планировать, адаптироваться и учиться в процессе.

Это сильный сдвиг в самой философии оценки. Если модель прекрасно решает публичные задачи, но ломается на реально новых средах, мы видим не общий интеллект, а границу его имитации. То же относится и к частной проблеме загрязнения тестов: даже хороший тест со временем становится хуже, если образцы, паттерны и решения успевают попасть в тренировочную экосистему. ARC Prize в декабре 2025 года прямо писал, что бенчмарки приходится эволюционировать вместе с моделями, иначе они перестают указывать на реальную дистанцию до AGI.

Вывод: хороший индикатор AGI должен измерять не только силу ответа, но и перенос на новое.

3. Длина задач и автономный горизонт

Это, вероятно, самый недооцененный параметр.

Большая часть публичного разговора об ИИ до сих пор устроена так, будто достаточно спросить у модели что-то сложное и посмотреть, ответила ли она правильно. Но реальный экономический и политический эффект определяется не этим. Он определяется тем, какие задачи система может довести до конца сама и как долго она сохраняет цель, контекст и качество работы.

Поэтому подход METR сегодня выглядит одним из самых полезных. Вместо вопроса решила ли модель конкретный тест исследователи спрашивают: какой длины задачи, измеряемые в человеческом времени, система может завершать с приемлемой надежностью. Это сильная идея по двум причинам.

Во-первых, она связывает бенчмарк с реальным миром.

Во-вторых, она снимает часть ложного драматизма с отдельных демо.

Если модель умеет впечатляюще действовать 8 минут, а потом системно сыплется на 2-часовых задачах, это не мелкая деталь, а ключевой факт о ее расстоянии до AGI.

METR в марте 2025 года писала, что длина решаемых задач у самых сильных систем росла с удвоением примерно раз в семь месяцев. Но в январском обновлении Time Horizon 1.1 организация также подчеркнула и вторую сторону картины: даже обновленный набор задач уже начинает упираться в потолок, и исследователям нужно поднимать сложность и длительность измерений, чтобы не потерять чувствительность к сильным моделям. Проще говоря, прогресс есть, но сама линейка быстро устаревает. Это типичная проблема эпохи быстрого роста.

Если пытаться свести это к одной формуле, получится так: самый полезный единичный прокси близости к AGI сегодня – не балл, напоминающий IQ, а длина и разнообразие задач, которые система может автономно завершать. Это аналитический вывод из текущего корпуса оценок, а не формальный консенсус отрасли. Но именно он лучше всего связывает возможности с реальным воздействием.

4. Работа в среде: инструменты, интерфейсы, компьютеры

AGI не обязан начинаться с робота-гуманоида. Куда более вероятно, что его ранняя форма будет сначала цифровой: система, способная читать документацию, пользоваться браузером, средами разработки, таблицами, файлами, программными интерфейсами и внутренними инструментами компании.

Отсюда ценность бенчмарков вроде GAIA, SWE-bench и OSWorld.

GAIA с самого начала был задуман как тест для ИИ-ассистентов общего назначения, которым нужны рассуждение, мультимодальность, веб-поиск и работа с инструментами. SWE-bench поставил модели в более жесткую инженерную среду: не просто написать фрагмент кода, а исправить реальную проблему в настоящем репозитории. OSWorld пошел еще дальше и сделал объектом оценки уже не текстовый ответ, а работу в реальной компьютерной среде с веб- и десктопными приложениями.

Это очень важный переход. Когда модель вступает в контакт с интерфейсом, файлами, ограничениями среды и необходимостью поддерживать состояние по шагам, исчезает большая часть магии чат-окна. Становится видно, где находится реальная способность, а где только удачное объяснение после факта.

Но и здесь нужен трезвый взгляд.

SWE-bench полезен как прокси сложной инженерной деятельности, но он все еще измеряет прежде всего один домен – программирование. OSWorld ценен тем, что дает реальную среду, но компьютерное взаимодействие все еще не равно общей интеллектуальной гибкости. Даже GAIA, один из лучших тестов на сочетание рассуждение и работу с инструментами, остается серией задач, а не полноценной проверкой многодневной автономии.

Вывод: способность работать в среде – обязательный компонент приближения к AGI. Но и он не самодостаточен.

5. Надежность, калибровка и эффективность

Последнее измерение часто недооценивают, хотя именно оно отделяет впечатляющий прототип от системы исторического масштаба.

Нас интересует не только средний результат модели, но и:

насколько стабильно она его воспроизводит;

понимает ли границы собственной уверенности;

сколько ресурсов требует для успеха;

не держится ли ее результат на чрезмерно дорогом внешнем "каркасе".

Humanity's Last Exam полезен именно тем, что явно учитывает не только точность, но и калибровку уверенности. Это правильный ход. Если модель системно уверена в ложных ответах, это не косметический недостаток. Это фундаментальное ограничение для применения в науке, безопасности, управлении и длинных агентных циклах.

ARC идет еще дальше и поднимает тему эффективности. В логике ARC недостаточно решить задачу любой ценой; важно, как именно система преобразует новый опыт в рабочую стратегию. Это сближает тестирование систем ИИ не с шоу-бенчмарком, а с реальным вопросом об интеллекте: сколько проб, шагов, подсказок и вычислений нужно, чтобы адаптироваться.

Это особенно важно сейчас, когда лучшие результаты все чаще достигаются не "голой" моделью, а сложной инженерной обвязкой: поиском, циклами уточнения, проверяющими модулями, переранжированием и внешними инструментами. Все это полезно и само по себе представляет реальный путь развития систем. Но с точки зрения измерения близости к AGI возникает вопрос: мы наблюдаем рост общего интеллекта модели или рост качества инженерной обвязки вокруг нее?

Честный ответ обычно звучит так: и то и другое, но в разной пропорции.

Что измеряют существующие бенчмарки, а что нет

Если свести текущее поле к простой карте, получится такая картина.

1. Широкие экзамены

Примеры:

GPQA

MMMU

Humanity's Last Exam

Что они дают:

ширину знаний;

часть сложного рассуждения;

полезный стресс-тест на "неочевидные" вопросы.

Чего они не дают:

длинного горизонта;

устойчивой автономии;

работы в реальной среде;

надежной оценки того, сможет ли система сама довести проект до конца.

2. Бенчмарки общих ассистентов

Пример:

GAIA

Что они дают:

сочетание рассуждения, веб-поиска, мультимодальности и работы с инструментами;

более жизненные задачи, чем стандартный экзамен;

ранний прокси поведения общего ассистента.

Чего они не дают:

полной проверки на многодневную автономию;

хорошего измерения устойчивости под высокой ценой ошибки;

гарантии, что перенос пойдет в организационную или научную работу.

3. Инженерные и кодовые бенчмарки

Пример:

SWE-bench

Что они дают:

хороший стресс-тест для длинного контекста, запуска кода и координации изменений;

ранний индикатор того, где ИИ может быстро приблизиться к экономически значимому уровню.

Чего они не дают:

общего интеллекта как такового;

понимания того, как модель поведет себя вне программной инженерии;

четкого разделения возможностей модели и возможностей обвязки.

4. Бенчмарки работы за компьютером

Пример:

OSWorld

Что они дают:

реальную интерактивную среду;

многошаговую работу с приложениями;

более честную картину ограничений агентных систем.

Чего они не дают:

широкого доказательства переноса между доменами;

оценки долгих автономных проектов на уровне дней и недель;

полного приближения к физическому миру.

5. Бенчмарки новизны и адаптации

Примеры:

ARC-AGI

ARC-AGI-3

Что они дают:

давление на обобщение, а не только на воспроизведение;

попытку измерять эффективность обучения;

более сильный сигнал в сторону "общей" способности, а не накопленного корпуса знаний.

Чего они не дают:

прямой оценки практической полезности в офисе, на производстве или в науке;

достаточной защиты от всех новых форм переобучения навсегда;

полной связи с экономическим воздействием.

6. Метрики автономного горизонта

Пример:

METR горизонта задач

Что они дают:

самую прямую связку между возможностями и реальной работой;

измерение длинных задач;

возможность обсуждать приближение к AGI без псевдофилософии.

Чего они не дают:

единственной универсальной цифры;

полного охвата физических, социальных и организационных сред;

автоматического ответа на вопрос о безопасности или управляемости.

Главный вывод из этой карты прост: AGI нельзя измерить одним тестом. Но уже можно измерять его приближение по набору согласованных индикаторов.

Рабочая панель приборов: по каким признакам дистанция действительно сокращается

Если убрать маркетинг, я бы предложил для этой книги следующую панель наблюдения.

Признак 1. Модели стабильно проходят скрытые и обновляемые тесты на новое обобщение

Не публичные демо. Не одна красивая трасса. А регулярные результаты на задачах, которые:

не протекли в обучающую экосистему;

обновляются;

проверяют перенос, а не воспроизведение.

Признак 2. Горизонт автономной работы сдвигается из минут и часов в дни

Это один из самых сильных сигналов. Если модели начинают надежно закрывать не куски работы, а целые проекты, разговор об AGI резко меняет статус.

Признак 3. Переход между доменами перестает быть болезненным

Система должна быть сильной не только в коде или экзаменах, но и в нескольких принципиально разных средах:

инженерной;

исследовательской;

офисной;

компьютерной;

мультимодальной.

Признак 4. Снижается разрыв между успехом на бенчмарках и надежностью в реальном мире

Сейчас этот разрыв все еще велик. Хорошая система может блистать в режиме бенчмарка и быть слишком хрупкой в операционной реальности. Если этот разрыв начнет системно сокращаться, это будет сильнее любой пресс-конференции.

Признак 5. Улучшается калибровка

Сильная система будущего должна не только решать больше задач, но и лучше понимать, когда она не знает ответа. Это особенно важно для областей с высокой ценой ошибки.

Признак 6. Растет эффективность, а не только валовая мощность

Если каждый новый рывок требует несоразмерно более дорогой инженерной обвязки и вычислительных затрат, это говорит не только о прогрессе, но и о хрупкости траектории. Настоящее приближение к AGI будет видно и по тому, что системы начинают учиться и адаптироваться экономнее.

Признак 7. Прогресс переносится из "верифицируемых" задач в менее формализованные

Сегодня особенно быстрый прогресс виден там, где среда дает модели ясную и быструю обратную связь: тесты, код, формальные задачи, замкнутые среды. Это очень важно, но признаки общего интеллекта начнут ощущаться по-настоящему тогда, когда перенос станет устойчивым и в менее чистых контекстах.

Что не стоит считать сильным доказательством приближения общий ИИ

Такой список не менее важен, чем список сигналов.

Не являются сильным доказательством сами по себе:

лидерство в одном бенчмарке;

блестящее демо от компании;

рост длины контекста;

высокий результат на знаниях без проверки автономии;

успех в программировании без переноса в другие среды;

успех агентной обвязки, если неясно, насколько вклад идет от модели, а насколько от внешней обвязки;

единичные результаты на уровне человека в специально подобранных задачах.

Это не значит, что такие сигналы не важны. Это значит, что они почти всегда переинтерпретируются рынком и медиа.

Практический вывод

Если свести все это к одной аналитической позиции, она будет такой.

AGI нельзя честно объявить по одному порогу. Но дистанцию до него уже можно измерять не на уровне интуиции, а на уровне признаков. Самые важные из них сегодня:

перенос на новые задачи;

длина автономного горизонта;

работа в реальной цифровой среде;

надежность и калибровка;

эффективность адаптации.

Из существующих подходов самый полезный для разговора о реальном воздействии – это метрика длины задач, предложенная METR. Самый полезный для разговора о новизне и эффективности обучения – это линия ARC и, вероятно, ARC-AGI-3, который на момент написания еще не вышел, но уже задает правильное направление. Самые полезные для оценки практической экономической близости – это SWE-bench, GAIA и OSWorld, потому что они связывают возможности с реальной работой, а не только с красивой теоретической задачей.

Но главный вывод другой: ни один из этих тестов не должен получить монополию на определение AGI. В тот момент, когда индустрия или медиа начнут сводить такой вопрос к одному числу, они снова потеряют контакт с реальностью.

Разумнее думать о приближении AGI как о сходимости нескольких кривых сразу. Когда модели одновременно:

проходят новые тесты на обобщение;

держат длинный горизонт;

надежно работают в среде;

сохраняют калибровку;

не разваливаются вне узкой ниши,

тогда разговор о "дистанции" становится уже не риторикой, а инженерным фактом.

Пока мы еще не там. Но мы уже, по-видимому, ближе к точке внятного измерения, чем к точке полного незнания.

Что важно запомнить

AGI нельзя честно измерять одним бенчмарком.

Самый полезный вопрос сегодня: какие задачи какой длины и в каких средах система может завершать надежно.

Широкие экзамены важны, но они не равны автономии.

Работу с инструментами, программирование и работу за компьютером – сильные признаки прогресса, но еще не доказательство общего интеллекта.

Самые сильные сигналы приближения AGI: новое обобщение, длинный горизонт, надежность и эффективность адаптации.

Глава 6. Почему демо и бенчмарки системно переоценивают прогресс

Одна из самых опасных иллюзий в разговоре об AGI рождается не из фантастики, а из хороших цифр.

Модель берет новый бенчмарк.

Компания показывает уверенное демо.

Лидерборд обновляется.

Внешнему наблюдателю кажется, что осталось совсем немного.

Но именно здесь чаще всего и возникает ошибка масштаба. Не потому, что бенчмарк обязательно фальшивый. И не потому, что демо обязательно нечестное. А потому, что и то и другое почти всегда измеряет уже не то, что мы думаем.

Проблема в том, что публичный разговор об ИИ устроен вокруг легко пересылаемых сигналов:

один красивый ролик;

один лидерборд;

одна громкая метрика;

один заголовок вроде человеческий уровень.

AGI, если к нему вообще можно приближаться измеримо, не появится как один такой сигнал. Он будет скорее выглядеть как сходимость нескольких трудноподделываемых признаков. Об этом уже шла речь в предыдущей главе. Но чтобы эти признаки увидеть, сначала нужно понять, почему обычные демо и бенчмарки почти всегда заставляют нас думать, что прогресс ближе к AGI, чем он есть на самом деле.

Проблема не в наличии бенчмарков, а в их жизненном цикле

Хороший бенчмарк не вечен. В момент появления он помогает отличать сильную систему от слабой. Потом он становится частью тренировочной, посттренировочной и маркетинговой экосистемы. После этого он все хуже выполняет исходную функцию.

На март 2026 года это уже не абстрактная теория, а практически официальная позиция многих авторов самих бенчмарков.

На странице Humanity's Last Exam прямо сказано, что передовые модели быстро насыщают прежние ориентиры: такие тесты, как MMLU и GPQA, уже перестают быть сильным сигналом прогресса, потому что лидирующие модели приближаются там к человеческому уровню или превосходят его. Сам HLE был создан именно как ответ на эту проблему: если старые экзамены уже плохо различают лидеров, нужна более трудная и более свежая шкала.

Это очень важный момент. В разговоре об AGI бенчмарк надо понимать не как окончательный арбитр, а как временный инструмент измерения, который неизбежно стареет. Как только отрасль начинает публично соревноваться на одном и том же тесте, сам этот тест начинает терять диагностическую силу.

Отсюда первый принцип:

рост на популярном бенчмарке почти всегда говорит о реальном прогрессе, но слишком часто преувеличивает его масштаб.

Почему так происходит? Обычно работают сразу несколько механизмов.

Механизм первый: загрязнение, утечка и взлом логики бенчмарка

Самый очевидный источник завышения – это утечка тестовых данных в тренировочную или посттренировочную экосистему.

Проблема загрязнения тестов уже давно перестала быть теоретической. В 2024 году авторы VarBench описали ее как одну из центральных проблем оценки современных языковых моделей: как только бенчмарк становится известным, появляется риск, что ответы, паттерны или сама структура задач начнут влиять на модель либо через предобучение, либо через последующую настройку. Их ответ был радикален и логичен: не просто прятать тест, а динамически менять сами задачи, чтобы каждая новая проверка была хоть немного новой.

Похожую проблему по-своему решает MMLU-CF. Авторы этого бенчмарка прямо исходят из того, что классический MMLU слишком уязвим к непреднамеренной и намеренной утечке, поэтому строят защищенный вариант с закрытым тестовым набором и дополнительными правилами очистки от тестовых утечек. Смысл здесь не в том, что старые результаты автоматически "ложные". Смысл в том, что по мере взросления отрасли старые публичные тесты становятся слишком удобной мишенью для прямого и косвенного подгона.

Еще тревожнее выглядит картина в многоязычных бенчмарках. В октябре 2024 года авторы Contamination Report for Multilingual Benchmarks сообщили, что почти все проверенные ими популярные модели показывают признаки загрязнения тестов почти на всех протестированных многоязычных бенчмарках. Даже если оставить за скобками вопрос о точной величине эффекта для каждой конкретной модели, сам общий вывод достаточно жесткий: в среде, где модели учатся на гигантских корпусах из интернета, публичный тест со временем почти неизбежно начинает "просачиваться" в систему оценки.

Поэтому Humanity's Last Exam сразу включил в свою конструкцию дополнительный закрытый набор вопросов, предназначенный специально для измерения переобучения на публичной части. Это уже новая норма: бенчмарк больше не считается серьезным, если у него нет стратегии защиты от собственной популярности.

Но здесь важно не сделать обратную ошибку. Закрытый тест – это лучше, чем полностью публичный тест. Но и он не панацея.

Механизм второй: даже скрытый тест можно "обойти" не напрямую, а структурно

В декабре 2025 года ARC Prize опубликовал один из самых полезных текстов для понимания этой проблемы. Их вывод по ARC-AGI-1 и ARC-AGI-2 звучит неприятно, но честно: даже бенчмарк, специально спроектированный как устойчивый к прямому заучиванию, может начать частично переоценивать прогресс, если публичная и скрытая части слишком похожи, а модель обучалась на массиве публичных данных, где хорошо представлены нужные паттерны.

Если свести, переобучение может происходить не только как буквальное запоминание ответа, но и как более тонкая структурная адаптация к формату задач. ARC Prize даже привел пример, где верификационная обвязка показывала, что модель уверенно использует правильное соответствие цветов в формате ARC, хотя сама проверка напрямую не упоминала бенчмарк. Для создателей ARC это стало сильным сигналом: бенчмарк уже настолько "врос" в модельную экосистему, что одной приватности тестового набора недостаточно.

Ответом на это стала не капитуляция, а ужесточение дизайна. Сначала появился ARC Prize Verified с внешней академической панелью и сертификацией результатов на скрытых наборах. Затем команда ушла еще дальше и начала готовить ARC-AGI-3 как интерактивный бенчмарк нового формата, ориентированный уже не просто на статичное решение головоломок, а на исследование, планирование, память, приобретение целей и эффективность обучения.

Это полезный урок: как только бенчмарк становится культурным объектом, его приходится постоянно пересоздавать. Иначе он начинает измерять не "расстояние до AGI", а "расстояние до хорошей инженерии бенчмарка".

Механизм третий: таблица результатов часто измеряет не модель, а систему вокруг модели

Это, возможно, самый недооцененный источник искажения.

Когда широкая аудитория смотрит на таблицу результатов, она обычно думает, что видит прямое сравнение моделей. Но на практике многие современные таблицы результатов сравнивают не "голый интеллект модели", а целые агентные системы, в которых смешаны:

базовая модель;

системный запрос;

извлечение контекста;

цикл планирования;

повторные попытки;

голосование между вариантами;

внешние инструменты;

исполнение кода;

проверяющий модуль;

этап проверки;

вручную настроенная обвязка.

Это не жульничество, а реальный путь развития полезных систем. Проблема в другом: такую таблицу результатов легко перепутать с показателем общей способности самой модели.

SWE-bench Verified честно показывает эту проблему на собственной странице. Там прямо сказано, что полная таблица результатов сравнивает очень разные типы систем: от простых агентных циклов на базе языковых моделей до RAG-систем, решений с несколькими прогонами и многоэтапных конвейеров проверки. Поэтому авторы отдельно держат режим Bash Only, где модели оцениваются через минимального программного агента для SWE-bench и простую ReAct-петлю без специальных инструментов и сложной архитектуры обвязки.

Это очень важная интеллектуальная честность. Она фактически говорит читателю: если вы хотите сравнить именно языковые модели, а не все инженерное сооружение вокруг них, вам нужен другой режим оценки.

Тот же урок следует из o1 System Card OpenAI. При тестировании на SWE-bench Verified компания прямо пишет, что сама модель o1 не поддерживает исполнение кода и редактирование файлов, поэтому для оценки использовалась внешняя обвязка с открытым кодом Agentless. Это абсолютно нормальное инженерное решение. Но его аналитическое значение такое: результат на бенчмарке здесь уже не является "чистым" результатом модели. Это результат модели плюс выбранной обвязки плюс процедуры оценки.

ARC Prize формулирует ту же проблему с другой стороны. В декабрьском анализе 2025 года они показывают, что лучший верифицированный коммерческий результат модели переднего края на ARC-AGI-2 был 37.6%, тогда как лучший refinement solution, построенный поверх Gemini 3 Pro, доходил до 54%, но уже при гораздо большей стоимости на задачу. Это почти идеальный пример того, почему таблицу результатов надо читать осторожно: она может демонстрировать реальный прогресс, но одновременно скрывать вопрос, какая часть прироста пришла из модели, а какая – из дорогой и умной обвязки вокруг нее.

Для разговора об AGI это критично. Если прогресс обеспечивается в основном все более сложной внешней оркестрацией, это не обязательно приближает нас к общему интеллекту так быстро, как кажется по красивой цифре.

Демо системно завышают впечатление по другой причине: они показывают выбранную траекторию

С бенчмарками все относительно понятно: там хотя бы есть формализованная процедура. С демо ситуация сложнее.

Хорошее демо почти по определению показывает удачную траекторию. Это не значит, что его авторы обязательно что-то скрывают. Просто демо – жанр, в котором нельзя показать все пространство состояний. Если система способна пройти задачу в одной из десяти траекторий, на сцене вы увидите именно эту одну.

Отсюда возникает повторяющаяся ошибка интерпретации. Зритель видит:

браузер, которым пользуется модель;

код, который она пишет;

форму, которую она заполняет;

график, который она строит;

окно терминала, где она "как будто работает".

И делает естественный, но часто неверный вывод: раз система может сделать это один раз, значит, она умеет это делать как устойчивую практику.

Реальная проверка начинается там, где демо заканчивается:

что происходит на сотой задаче;

как система ведет себя при неожиданном состоянии интерфейса;

сколько нужно повторных попыток;

сколько ручных ограничений вшито в обвязку;

как быстро она теряет цель;

как часто она уверенно ошибается.

Официальные документы компаний сами по себе часто намного осторожнее публичных впечатлений. OpenAI в документации по работе за компьютером прямо советует сравнивать не красивые примеры, а реальные метрики продукта: время завершения, поведение при неожиданном состоянии интерфейса, способность оставаться в рамках правил и необходимость держать человека в контуре для высокоставочных действий. Там же компания прямо рекомендует изолированную среду и человека в контуре для чувствительных действий. Это язык не победного пресс-релиза, а инженерной осторожности. И его надо читать буквально: даже когда демонстрация выглядит впечатляюще, система может оставаться недостаточно надежной для самостоятельной работы без надзора.

Здесь полезно держать в голове простое правило:

демонстрация показывает существование способности; бенчмарк пытается измерить ее частоту; реальный мир выясняет ее надежность.

И почти всегда эти три вещи сильно различаются.

Реальная среда ломает иллюзию быстрее всего

Поэтому так важны бенчмарки вроде OSWorld.

Его авторы начали с очень простой претензии к существующим оценкам: многие из них либо вообще не дают интерактивной среды, либо ограничены слишком узким типом приложений и поэтому плохо отражают настоящую сложность компьютерного использования. В ответ они собрали масштабируемую реальную среду с задачами на Ubuntu, Windows и macOS, с веб-приложениями, файловыми операциями и многошаговыми рабочими процессами между разными приложениями.

Главный результат из абстракта OSWorld должен отрезвлять любого, кто делает выводы по отдельным демонстрациям: люди выполняют больше 72% задач, а лучшая модель – только 12.24%. Это не значит, что модели для работы за компьютером слабы в абсолютном смысле. Это значит, что как только мы переносим их из красивой демонстрации в широкую, грязную, разнообразную среду, реальная способность оказывается намного уже, чем кажется по роликам.

И это, пожалуй, главный структурный вывод всей главы: чем ближе бенчмарк к реальному миру, тем обычно ниже и честнее оказываются результаты.

Это касается не только агентов пользовательского интерфейса. Похожая логика работает и в научных, и в кибер-, и в инженерных задачах. Даже OpenAI в o1 System Card специально оговаривает, что хорошее прохождение коротких интервью по машинному обучению не равнозначно реальному машинному исследованию длительностью в месяцы и годы. Такая оговорка кажется очевидной, но именно ее почти всегда игнорируют в медиа. Переход от короткой формализованной задачи к длинной неформализованной работе – это не прибавка на десять процентов. Это другой режим сложности.

Еще одно искажение: бенчмарк может скрывать не только слабость, но и опасную уверенность

Есть и более тонкая проблема. Даже если бенчмарк не протек, не насыщен и измеряет что-то полезное, он все равно может скрывать, как именно система ошибается.

Humanity's Last Exam поэтому важен не только как сложный экзамен, но и как бенчмарк, который делает видимой калибровку. На странице лидерборда прямо подчеркивается: одних точных ответов мало, нужно смотреть и на ошибку калибровки. Авторы отмечают систематическую картину: многие модели показывают низкую точность в сочетании с высокой уверенностью, то есть склонны к уверенной конфабуляции. В полной статье об HLE та же мысль сформулирована еще яснее: передовые языковые модели демонстрируют низкую точность и низкую калибровку на задачах у границы человеческого знания.

Это имеет прямое отношение к AGI. Общий интеллект, если он действительно приближается, нельзя оценивать только по среднему баллу. Не менее важно понимать:

знает ли система, когда она не знает;

умеет ли она останавливаться;

различает ли уверенность и догадку.

Бенчмарк, который показывает только "процент решенных задач", но ничего не говорит о профиле ошибок, слишком легко превращается в инструмент самообмана.

Почему это особенно важно именно сейчас

Во времена более слабых моделей проблема была проще: почти все видели, что системы ограничены. Сегодня ограничения хуже заметны именно потому, что лучшие модели уже умеют слишком много.

Они:

пишут код;

решают сложные экзамены;

пользуются инструментами;

работают с длинным контекстом;

иногда выглядят почти автономно.

Из-за этого даже небольшое переоценивание на бенчмарке начинает иметь большой риторический эффект. Достаточно еще одного лидерства, еще одной демонстрации, еще одного слова человеческий уровень, чтобы публичное воображение сделало скачок от "сильная модель" к "почти AGI".

Но именно в такой момент и нужна дисциплина чтения результатов.

Если бенчмарк:

публичный и давно известный,

не защищен от утечки тестовых данных,

легко хакнуть через обвязка,

оценивает короткие задачи,

не измеряет калибровку,

плохо переносится в реальный мир,

то высокий результат на нем может быть важным инженерным фактом, но он не должен считаться сильным доказательством близости AGI.

Как читать новое демо или таблицу результатов, чтобы не обмануться

Для этой книги я бы предложил очень простую проверочную сетку. Каждый раз, когда появляется новый громкий результат, надо задать семь вопросов.

1. Что именно измеряется?

Знание? Рассуждение? Работа с инструментами? Длина задач? Работа в среде? Калибровка?

Если ответа нет, бенчмарк почти наверняка переинтерпретируют.

2. Насколько свеж тест?

Если это старый популярный бенчмарк, его надо читать с заведомой скидкой на saturation.

3. Есть ли риск загрязнения?

Публичен ли датасет? Есть ли скрытый тест? Есть ли признаки того, что авторы очистили тест от утечек?

Если нет, результат нужно считать менее надежным.

4. Что в этом результате принадлежит модели, а что обвязке?

Это один из самых важных вопросов в эпоху агентных систем.

Если лидерборд сравнивает целые pipelines, он уже не является чистым сравнением моделей.

5. Насколько задача похожа на реальную среду?

Экзаменационная задача, IDE, браузер, офисный рабочий процесс, физический мир – это разные уровни приближения к реальности.

6. Что происходит на длинном горизонте?

Минуты, часы, дни и недели – это разные миры.

Почти все системные преувеличения рождаются именно на переходе между ними.

7. Что известно о профиле ошибок?

Система просто иногда ошибается или системно уверена в ложных ответах?

Для областей с высокой ценой ошибки это принципиально разный режим.

Итог главы

Демонстрации и бенчмарки нужны. Без них разговор об AGI быстро распадается на чистую философию и маркетинг. Но почти каждый бенчмарк и почти каждая демонстрация имеют встроенное смещение в сторону переоценки близости. Причины повторяются:

тесты насыщаются;

данные протекают;

скрытые наборы устаревают;

лидерборды начинают сравнивать обвязки, а не модели;

демонстрации показывают лучшие траектории;

реальная среда оказывается сложнее лаборатории;

точность маскирует плохую калибровку.

Поэтому главный принцип этой главы можно сформулировать жестко:

чем легче результат переслать в соцсети, тем осторожнее его надо читать как сигнал приближения к AGI.

Сильным сигналом является не один рекорд. Сильным сигналом является ситуация, когда:

новый бенчмарк остается трудным после публичности;

результаты подтверждаются на скрытых и обновляемых тестах;

прогресс сохраняется в реальной среде;

длинный горизонт не ломает систему;

высокая точность сопровождается хорошей калибровкой;

прирост не сводится к новой дорогой обвязкирхитектуре.

Пока этого нет, бенчмарк-ы лучше понимать не как "доказательство почти AGI", а как карту локальных прорывов и локальных иллюзий. Они очень полезны. Но только если читать их с инженерной подозрительностью.

Что важно запомнить

Хороший бенчмарк со временем стареет и теряет диагностическую силу.

Публичная таблица результатов часто измеряет не только модель, но и всю агентную систему вокруг нее.

Скрытый тестовый набор помогает, но не гарантирует защиту от структурного переобучения.

Демонстрация почти всегда показывает удачную траекторию, а не типичную надежность.

Чем ближе оценка к реальной среде, тем обычно честнее и ниже результат.

Точность без калибровки легко создает иллюзию прогресса.

Для оценки близости AGI важны не отдельные рекорды, а сходимость устойчивых сигналов на разных типах тестов.

Глава 7. История ложных рассветов: почему прошлые прогнозы так часто ошибались

У каждой технологической эпохи есть любимая иллюзия: мысль, что именно сейчас история наконец-то перестала ошибаться. В ИИ эта иллюзия особенно сильна. Новый скачок выглядит настолько убедительно, что возникает почти непреодолимый соблазн сказать: на этот раз все по-настоящему, а раньше были лишь черновики.

История искусственного интеллекта действует отрезвляюще. Она не говорит, что прогресс в ИИ всегда был мнимым. Она говорит нечто более неприятное: поле снова и снова принимало частичный успех за приближение общего решения.

Этот цикл повторялся достаточно много раз, чтобы относиться к нему не как к случайности, а как к структурной особенности самой темы:

ранний успех;

слишком широкие обещания;

инвестиционный и институциональный оптимизм;

столкновение с реальной сложностью мира;

охлаждение ожиданий.

История ИИ наказывает за две симметричные ошибки. Первая ошибка – объявить победу слишком рано. Вторая – решить после очередного разочарования, что и нынешний прогресс тоже наверняка мираж. Хорошая историческая память нужна как раз затем, чтобы не впадать ни в одну из этих крайностей.

Почему ИИ так склонен к ложным рассветам

Мелани Митчелл в работе Why AI is Harder Than We Think описывает повторяющийся паттерн: ИИ вновь и вновь переживает периоды оптимистических прогнозов и больших инвестиций, за которыми следуют разочарование и сокращение доверия, потому что развитие человекоподобного интеллекта оказывается намного труднее, чем первоначально кажется.

Это сильная формулировка, потому что она объясняет не только историю отдельных школ, но и более общую психологию поля. ИИ особенно подвержен ложным рассветам по одной глубокой причине: интеллект выглядит ближе, чем он есть на самом деле, всякий раз, когда машина уверенно осваивает один яркий слой задачи.

Обычно картина разворачивается так. Система показывает впечатляющий результат в одном узком, но наглядном классе задач. Наблюдатели делают следующий, почти автоматический шаг: если одна важная часть интеллекта уже взята, значит и остальное где-то рядом. Потом оказывается, что за локальным успехом скрывается другой, куда более трудный этаж требований: перенос, здравый смысл, устойчивость, работа в шумных и плохо формализованных средах, память, причинное понимание, длинный горизонт действий.

Так возникает ложный рассвет. Не потому, что результата не было. А потому, что результат слишком быстро превращают в рассказ о близости общего интеллекта.

Первый большой урок: ранний оптимизм 1950–1960-х

У истоков ИИ стояла не только сильная научная интуиция, но и поразительная уверенность в скорости прогресса. Само рождение области создавало почти электрическое ощущение, что главное уже понято, а дальше вопрос лишь в инженерной доводке.

В этом оптимизме было много рационального. Первые программы действительно выглядели почти чудом: машина рассуждает, ищет решение, играет, доказывает. Для своего времени это был не трюк и не пустая демонстрация. Это был реальный научный прорыв.

Проблема начиналась в момент экстраполяции.

Ранние успехи возникали в очень специальных условиях:

в маленьких игрушечных мирах;

в формальных задачах;

в ограниченных пространствах поиска;

при сильно упрощенных представлениях о восприятии, языке и реальном мышлении.

Иначе говоря, поле рано увидело, что некоторые фрагменты интеллекта можно формализовать. Но оно слишком быстро решило, что вслед за этим почти автоматически поддастся и весь остальной интеллект. Это был первый большой самообман эпохи ИИ: спутать доказательство принципа с доказательством близости цели.

Лайтхилл и первый холодный душ

Один из самых известных переломов пришелся на 1973 год. Отчет Джеймса Лайтхилла Artificial Intelligence: A General Survey, подготовленный для британского Science Research Council, подверг область ИИ резкой критике и стал важным фактором сокращения поддержки ряда направлений исследований ИИ в Великобритании.

В ретроспективе Лайтхилл иногда выглядит просто как человек, который "не поверил в будущее". Это слишком удобная трактовка. Историк Джон Агар показывает, что отчет был не только актом скепсиса, но и требованием более жесткой связи между обещаниями ИИ и реально продемонстрированными результатами.

В этом эпизоде и заключена его долговечная ценность.

Лайтхилл ошибался в одном важном отношении: ИИ как направление не оказался тупиком. Но он попадал в другую, не менее важную точку: часть амбиций поля тогда действительно заметно опережала его фактическую состоятельность. Он критиковал не возможность машинного интеллекта как таковую, а разрыв между громкостью обещаний и реальной шириной достигнутых способностей.

Этот эпизод стоит помнить и сегодня. Скептик вполне может ошибаться в длинном горизонте и при этом быть прав в критике текущего завышения ожиданий. История ИИ редко делится на ясных героев и ясных ретроградов. Чаще она состоит из людей, которые по-разному ошибаются в масштабе и темпе.

Экспертные системы: второй цикл

Следующая большая волна пришлась на экспертные системы. На какой-то момент показалось, что если знания специалистов можно достаточно точно формализовать, то значительная часть сложной умственной работы окажется автоматизируемой.

И снова в основе волны лежал настоящий успех. Экспертные системы действительно решали полезные задачи:

в диагностике;

в конфигурации;

в промышленных системах на правилах;

в прикладных корпоративных внедрениях.

Но затем проявилось то, что станет знакомым для всей истории ИИ. Выяснилось, что хрупкие системы на правилах плохо переносят реальный мир. Знания тяжело извлекать, базы правил трудно поддерживать, исключения быстро разрастаются, перенос между доменами оказывается слабым, а цена сопровождения начинает съедать первоначальный энтузиазм.

Это снова был не обман и не пустышка. Это был рабочий класс систем, который слишком рано прочитали как путь к более общему интеллекту. История экспертных систем особенно полезна именно потому, что показывает: ложный рассвет может вырастать из настоящего, а не из фиктивного успеха.

Почему этот цикл повторяется так часто

У этой повторяемости есть как минимум четыре глубокие причины.

1. Интеллект фрактален

Как только машина начинает делать нечто, что раньше считалось признаком ума, вскоре выясняется, что это только один слой более глубокой задачи.

Выигрыш в шахматы не дал общего интеллекта. Экспертные правила не дали общего интеллекта. Компьютерное зрение не дало общего интеллекта. Генерация связного текста сама по себе тоже не решает вопрос. Каждый раз часть задачи поддается раньше целого, а наблюдателю это временно кажется почти завершением всей картины.

2. Узкий бенчмарк почти всегда выглядит шире, чем он есть

Победа в одном ярком домене выглядит как доказательство принципа. На деле она часто доказывает лишь то, что в данном домене нашелся сильный локальный метод. Узкий бенчмарк почти соблазняет нас к неправильному выводу: раз машина уверенно делает это, значит она уже знает, как делать и многое другое. История ИИ показывает, что этот переход часто оказывается ложным.

3. Рынок любит линейную экстраполяцию

Если модель быстро улучшалась три года подряд, рынок, медиа и часть исследовательского сообщества почти автоматически продолжают эту кривую мысленно дальше. Но технологические траектории редко остаются линейными на длинном горизонте. Сложность растет неровно. Иногда прогресс ускоряется, иногда упирается в скрытый барьер. Ложный рассвет начинается в тот момент, когда краткая серия побед выдается за устойчивый закон истории.

4. Люди систематически недооценивают остаточную сложность

Когда система уже сделала 60 процентов того, что еще недавно казалось невозможным, оставшиеся 40 процентов почти неизбежно начинают восприниматься как косметическая доводка. На деле они нередко и есть основная гора. Перенос, устойчивость, надежность, причинное понимание и длинный горизонт поведения часто оказываются не хвостом задачи, а ее самым дорогим ядром.

Вот почему ложные рассветы в ИИ выглядят такими убедительными. Они рождаются не из полного отсутствия прогресса, а из хронической ошибки масштаба.

Значит ли это, что нынешняя волна тоже иллюзия?

Нет. История ложных рассветов нужна не для ленивого цинизма.

Она не доказывает, что текущая волна закончится так же, как предыдущие. Она доказывает другое: сообщество ИИ и общество в целом систематически ошибаются в скорости и глубине экстраполяции. Это важная разница.

У нынешней волны есть черты, которых не было в прежних циклах или не было в таком масштабе.

1. Масштаб вычисления и данных

Многие прошлые волны остывали еще до того, как область получала по-настоящему промышленный уровень инфраструктуры. Сейчас за передового ИИ стоит гигантский вычислительный слой, крупные дата-центры, развитая цепочка чипов и массивы данных, которые по историческим меркам выглядят беспрецедентно.

2. Массовое внедрение

Ранние волны ИИ были важны, но часто оставались относительно узкими. Сегодня передовой ИИ уже встроен в пользовательские приложения, среды разработки, бизнес-процессы и автоматизацию интеллектуальной работы. Это значит, что нынешнюю волну сложнее "отключить" простым изменением настроения инвесторов или чиновников.

3. Широта возможностей

Раньше отдельная волна часто держалась на одной сильной парадигме. Нынешняя опирается сразу на несколько взаимно усиливающих линий:

языковое моделирование;

рассуждение;

мультимодальность;

работа с инструментами;

агенты;

диффузия моделей с открытыми весами.

Это еще не делает AGI неизбежным. Но делает траекторию движения гораздо плотнее и устойчивее.

4. Многополярность переднего края

Сегодня разговор уже нельзя свести к одной лаборатории, одной стране или одной школе. США, Google DeepMind, Anthropic, Китай, экосистема моделей с открытыми весами – все это создает намного более конкурентную и тем самым более живучую динамику.

Именно здесь историческая аналогия должна работать особенно аккуратно. Прошлые ошибки не дают права автоматически назвать нынешний момент еще одним миражом.

Тогда чему именно нас учит история

Не тому, что "все уже было и кончится ничем". И не тому, что раз сейчас есть реальные продукты, то AGI почти наверняка рядом.

История учит более трудной позиции.

Урок 1. Нельзя путать локальный прорыв с общим решением

Это главный повторяющийся сбой. Самые убедительные ошибки в ИИ всегда строились на реальном достижении, которое слишком быстро прочли как общий ответ.

Урок 2. Нельзя считать короткий прогресс линейным навсегда

Даже если кривые роста возможностей сегодня впечатляют, это не означает, что каждая следующая ступень будет столь же дешевой и столь же быстрой. История ИИ плохо сочетается с иллюзией гладкой прямой.

Урок 3. Нельзя игнорировать реальные различия текущей волны

Прошлые неудачные прогнозы полезны как тормоз самоуверенности, а не как универсальное опровержение настоящего. Иначе историческая память превращается в карикатуру на саму себя.

Урок 4. Нужен язык промежуточных состояний

Одна из причин хронической путаницы в истории ИИ в том, что люди любят только две крайности: либо машины еще глупы, либо общий интеллект почти достигнут. Реальность устроена иначе. Между этими полюсами лежит длинная цепь промежуточных режимов. Нынешние передовые системы как раз живут в одном из них: они уже достаточно сильны, чтобы менять экономику, науку и управление, но все еще недостаточно общи, чтобы честно закрыть вопрос об AGI.

Почему прогнозы по ИИ так часто ошибаются

История ИИ – это еще и история неверных предсказаний. Обзор AI Timeline Surveys от AI Impacts хорошо показывает, насколько сильно расходятся экспертные оценки и насколько они чувствительны к формулировке вопроса, составу выборки и самому определению ИИ человеческого уровня.

Это важное напоминание не только о слабости прогнозов, но и о слабости самого языка, в котором они часто формулируются. Эксперты нередко отвечают не на один и тот же вопрос. Сроки роста возможностей, сроки автоматизации, сроки социального перелома и сроки появления действительно общего интеллекта постоянно смешиваются.

Поэтому слишком уверенный прогноз по ИИ почти всегда надо читать с двойной осторожностью. Он может быть не ложным, но очень часто оказывается плохо откалиброванным.

Центральный вывод

История ИИ не учит цинизму. Она учит дисциплине.

Она показывает, что поле снова и снова переоценивает перенос, недооценивает остаточную сложность и слишком быстро превращает частичный успех в глобальный нарратив. Но она показывает и другое: иногда за волной шума все же стоит настоящий перелом.

Поэтому правильная позиция сегодня состоит не в том, чтобы отвергать разговор об AGI из-за прошлых ошибок, и не в том, чтобы поддаться новому восторгу только потому, что нынешние системы реально впечатляют. Правильная позиция строже: встроить историческую память в текущий анализ.

История не говорит нам, что нынешняя волна ложна. Она говорит, что нынешнюю волну нужно измерять строже, чем ей самой хотелось бы.

Что важно запомнить

ИИ не раз переживал циклы раннего успеха, завышенных обещаний и последующего охлаждения.

Лайтхилл и экспертные системы показывают, как локальный прогресс принимают за близость общего решения.

Прошлые ложные рассветы не доказывают, что текущая волна тоже иллюзия.

Но они доказывают, что сообщество ИИ систематически ошибается в скорости экстраполяции.

Историческая память нужна не для отказа от темы AGI, а для более строгого анализа.

Глава 8. Сознание, самосознание и лишняя философская путаница

Немногие вопросы так быстро сбивают разговор об AGI с курса, как вопрос о сознании. Стоит произнести слово AGI, и почти сразу появляется следующий шаг: хорошо, но будет ли такая система сознательной?

Вопрос понятен. Он цепляет воображение, этику, религию, научную фантастику и старый человеческий страх перед "настоящим разумом в машине". Проблема в том, что именно поэтому он слишком часто выполняет не проясняющую, а дезориентирующую функцию.

Для оценки близости AGI вопрос о сознании обычно задают слишком рано и слишком грубо.

Это не делает его бессмысленным; оно делает его плохим первым вопросом.

Что здесь обычно смешивают

Когда в массовом разговоре говорят о сознании ИИ, в одну кучу обычно складывают сразу несколько разных вещей:

субъективный опыт;

самосознание;

внутреннюю модель себя;

метакогницию;

агентность;

убедительный язык от первого лица.

Почти все это разные явления.

Система может говорить "я", описывать свои ограничения, сообщать о своей уверенности, моделировать намерения и выглядеть рефлексивной. Из этого не следует, что у нее есть то, что философия и наука о сознании обычно имеют в виду под субъективным опытом.

И наоборот, даже если вообразить систему с чем-то вроде сознательного опыта, из этого еще не вытекает, что она уже является общим интеллектом в сильном практическом смысле. Сознание и общая функциональная мощность – не одно и то же.

Вот откуда берется вся последующая путаница. Сознание – слишком большой и слишком нагруженный вопрос, чтобы использовать его как первый рабочий термометр AGI.

Что говорят серьезные источники

Здесь особенно важно опираться не на интуицию и не на мемы, а на литературу, которая пытается подходить к теме строго.

Дэвид Чалмерс: возможность стоит обсуждать, но текущие большие языковые модели, вероятно, не сознательны

В работе Could a Large Language Model be Conscious? Дэвид Чалмерс приходит к осторожному выводу: современные LLM, вероятно, не являются сознательными, хотя полностью исключать такую возможность и тем более возможность сознательных потомков LLM не стоит.

Сила этой позиции именно в ее дисциплине. Она не скатывается ни в догматическое "никогда", ни в доверчивое "если система говорит как субъект, значит она субъект". Такой подход особенно ценен в среде, где соблазн антропоморфизировать сильную языковую модель очень велик.

Butlin et al.: у нынешних систем ИИ нет достаточных индикаторов сознания

Еще важнее большая междисциплинарная работа Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. Ее авторы берут несколько ведущих научных теорий сознания и пытаются вывести из них более операциональные индикаторы, по которым можно хотя бы грубо оценивать современные системы ИИ.

Их вывод по состоянию на 2023 год предельно ясен: нет достаточных оснований считать текущие системы ИИ сознательными.

Одновременно авторы делают принципиально важную оговорку. Они не утверждают, что искусственное сознание невозможно в принципе. Они лишь показывают, что у нас нет хороших оснований приписывать его нынешним системам.

Это, на мой взгляд, и есть самая трезвая позиция на март 2026 года: не объявлять вопрос закрытым навсегда, но и не превращать стилистически убедительную модель в носителя субъективного опыта только потому, что она разговаривает о себе.

Почему сознание не стоит делать главным критерием общий ИИ

Есть три причины, и каждая из них сама по себе уже достаточно сильна.

1. Мы сами плохо понимаем сознание

Наука о сознании продвинулась далеко, но до консенсуса по природе субъективного опыта все еще очень далеко. Если у нас нет общей надежной теории самого явления, делать сознание главным рабочим критерием для AGI – плохая навигационная стратегия.

Иначе мы ставим в центр книги и политики вопрос, по которому сами люди пока не умеют давать устойчивые ответы.

2. Практический риск не зависит от сознания напрямую

Система может быть очень полезной, очень опасной, очень автономной, очень общей по функциям и при этом не быть сознательной. Для экономики, киберрисков, рынка труда, биобезопасности, управления и военного применения первичен не вопрос о субъективном опыте, а вопрос о действии.

Нам важнее знать:

что система умеет делать;

насколько надежно она это делает;

насколько хорошо переносит навыки;

насколько поддается контролю;

в каких средах действует и какова цена ее ошибки.

История может измениться задолго до того, как философы договорятся о статусе машинного сознания.

3. Язык о сознании слишком легко вводит в заблуждение

Современные модели прекрасно имитируют самоописание, интроспекцию, эмоциональный тон и рефлексивную речь. Но убедительное языковое поведение не доказывает наличия субъективного опыта. Именно здесь общественное воображение особенно легко путает стилистически правдоподобную речь с онтологически сильным выводом.

Это не дефект только публики, а структурная ловушка самих языковых моделей: они особенно хорошо умеют создавать впечатление внутренней глубины там, где у наблюдателя нет прямого доступа ни к чему, кроме текста.

Тогда почему эта тема вообще важна

Потому что полностью выбрасывать ее тоже было бы ошибкой.

1. Этическая причина

Если в будущем появятся системы, у которых действительно будут серьезные индикаторы сознания или чего-то близкого к нему, это создаст новый класс моральных вопросов:

можно ли их выключать;

можно ли использовать их как инструмент;

есть ли у них интересы;

как оценивать состояния, похожие на страдание.

Сегодня это еще не центральный вопрос текущей траектории к AGI. Но это и не пустая фантастика. Это возможный будущий вопрос, к которому институты и философия пока почти не готовы.

2. Научная причина

Тема сознания полезна уже тем, что заставляет нас различать уровни когнитивной сложности. Она не дает автоматически приписывать LLM слишком многое только потому, что они впечатляюще говорят. В этом смысле сознание – не лучший критерий близости AGI, но хороший повод держать аналитическую аккуратность.

Что вместо этого полезнее отслеживать

Если сознание – плохой основной критерий, что тогда ставить на его место?

Для целей этой книги намного полезнее смотреть на рабочие свойства системы:

перенос между задачами;

длинный автономный горизонт;

работу с инструментами и действие в среде;

калибровку;

устойчивость к новым условиям;

способность удерживать цели и план;

управляемость.

Именно эти свойства скажут нам о приближении AGI намного больше, чем спор о субъективном опыте. Сознание может оказаться важным моральным фактом. Но как прибор раннего предупреждения оно почти бесполезно.

Самосознание и модель себя: здесь тоже нужна аккуратность

Иногда вместо слова "сознание" используют слово "самосознание", будто это более техническая и безопасная формулировка. Но и здесь легко спутать разные вещи.

Сильная система вполне может иметь:

модель собственного контекста;

внутреннюю репрезентацию своих ограничений;

способность сообщать о своей уверенности;

полезную метакогницию.

Все это важно. Но ни одно из этих свойств не равно сознанию в сильном философском смысле.

Более того, часть таких свойств мы, вероятно, как раз хотим видеть у сильной системы. Нам выгодно, чтобы она понимала границы своей компетенции, умела останавливаться, корректно сообщала об ошибке и не переоценивала себя. Модель себя и метакогниция могут быть функционально желательными, не требуя из этого никакого вывода о субъективном опыте.

Это принципиальный момент. Если завтра у передовых моделей появится намного более сильная метакогниция, это будет важным практическим событием. Но это все равно не позволит автоматически ответить на философский вопрос о сознании.

Почему для общий ИИ важнее не "сознательна ли машина", а "насколько она обща и управляема"

В контексте всей этой книги правильная рамка выглядит так.

Если в ближайшие годы появится система, которая автономно держит многодневные проекты, переносит навыки между доменами, надежно действует в цифровой среде, ускоряет науку, код и управление и при этом остается плохо контролируемой, для истории будет не так уж важно, успели ли философы договориться, сознательна она или нет.

Это не отменяет интереса к сознанию. Но показывает правильный порядок вопросов. Сначала нужно понять, насколько система обща, автономна, надежна и управляема. И только потом – если вообще будет повод – возвращаться к более тяжелой метафизике.

Я бы сформулировал жестко: сознание – важный философский и будущий этический вопрос, но плохой главный индикатор близости AGI.

Что это меняет

На март 2026 года нет достаточных оснований считать современные системы ИИ сознательными. Это и есть наиболее трезвый вывод из серьезной литературы.

Но из этого не следует, что вопрос навсегда закрыт, что будущие системы не смогут обладать значимыми индикаторами сознания или что тема вообще неважна. Следует другое.

Сегодня не стоит использовать сознание как основной тест AGI. Не стоит путать язык от первого лица с субъективным опытом. И не стоит позволять этой теме затуманивать более срочные вопросы о возможностях систем, рисках и контроле.

Для практического анализа близости AGI важнее смотреть на перенос, автономность, надежность, агентность и управляемость. Вопрос о сознании стоит держать в поле зрения, но не позволять ему захватывать всю карту.

Что важно запомнить

Сознание, самосознание, модель себя и метакогниция – не одно и то же.

Нет достаточных оснований считать нынешние системы ИИ сознательными.

Это не доказывает, что будущие системы не смогут получить соответствующие индикаторы.

Сознание – плохой основной критерий оценки близости AGI.

Для практического анализа важнее рабочие свойства: перенос, автономность, надежность и управляемость.

Глава 9. 2022–2026: как ускорение стало очевидным

Если предыдущие главы были про язык, критерии и типичные ловушки разговора об AGI, то здесь пора выйти из режима определений и посмотреть на саму траекторию. Вопрос уже не в том, как правильно спорить об общем интеллекте, а в том, что именно произошло за несколько последних лет, что заставило этот спор стать практически неизбежным.

Если смотреть на историю нынешней волны ИИ издалека, легко увидеть в ней плавную восходящую линию. В 2022 году появился ChatGPT, потом модели стали умнее, потом они научились видеть, потом рассуждать, потом работать с инструментами, потом пользоваться компьютером. Такая картинка удобна, но она неверна.

На самом деле ускорение с 2022 по начало 2026 года шло не как ровный рост, а как серия ступеней, и каждая из них меняла сам предмет разговора.

Сначала изменился интерфейс.

Потом – уровень компетентности.

Потом – длина контекста и мультимодальность.

Потом – рассуждение.

Потом – агентные рабочие процессы.

Потом – сама структура рынка: в гонку полноценно вошел Китай, а продукты начали встраиваться не в лабораторные демо, а в реальные рабочие среды.

По этой причине 2026 год нельзя понимать как "еще один год прогресса". К этому моменту накопилось достаточно изменений, чтобы разговор об AGI перестал быть чистой спекуляцией. Не потому, что AGI уже достигнут, а потому, что технологическая траектория стала слишком последовательной, слишком многослойной и слишком экономически значимой, чтобы ее можно было списывать на случайные всплески.

Первый перелом: 2022 год сделал ИИ массовым интерфейсом

OpenAI позже сама зафиксировала, что 30 ноября 2022 года ChatGPT был публично запущен как исследовательская предварительная версия на базе GPT-3.5. Этот день важен не тем, что именно тогда "родился" современный ИИ. Все фундаментальные компоненты появились раньше. Важен он другим: впервые модель такого уровня стала массовым пользовательским интерфейсом.

Это был именно интерфейсный шок, а не полноценный скачок возможностей.

До этого сильные модели и исследовательские системы существовали главным образом как сервисы с программным доступом, статьи или демонстрации для ограниченной аудитории. ChatGPT изменил не фундаментальную науку, а социальный режим доступа к ней. Миллионы людей увидели не диаграмму и не бенчмарк, а собеседника, который:

держит контекст;

следует инструкциям;

пишет текст;

объясняет код;

имитирует рассуждение;

выглядит универсальным.

В тот момент рынок и общество еще не понимали, насколько большая часть этого впечатления связана с интерфейсом, а не с полноценным общим интеллектом. Но исторически это уже неважно. С конца 2022 года искусственный интеллект перестал быть темой для специалистов и стал предметом повседневного опыта.

Это был первый шаг к дискуссии об AGI не потому, что ChatGPT был близок к AGI, а потому, что он создал социальную поверхность, на которой следующие скачки стали мгновенно заметны.

Второй перелом: 2023 год показал, что это не только продукт, но и реальный скачок возможностей

Через несколько месяцев после запуска ChatGPT OpenAI представила GPT-4. Это уже был не просто более удобный чатбот. На уровне официальных бенчмарков и прикладных сценариев GPT-4 оказался существенно сильнее GPT-3.5 в сложных задачах, следовании инструкциям и устойчивости на длинных и нюансированных запросах.

Здесь важно не переоценить и не недооценить событие.

С одной стороны, GPT-4 не был AGI. Он по-прежнему страдал от галлюцинаций, неумения надежно планировать длинные цепочки действий и проблем с реальной автономией. С другой стороны, именно GPT-4 сделал очевидным, что переход от одной генеративной модели к другой может давать не косметическое, а качественное изменение полезности.

В сентябре 2023 года OpenAI расширила этот вектор с помощью GPT-4V. Это был важный шаг не потому, что "модель научилась видеть" в абстрактном смысле, а потому, что передовые системы начали становиться по-настоящему мультимодальными. До этого разговор о широкой универсальности можно было отложить ссылкой на то, что система живет в чисто текстовом мире. С мультимодальностью эта отговорка стала слабее.

В том же году в гонку окончательно вошел Google. 6 декабря 2023 года компания представила Gemini как свою "самую мощную и универсальную модель". Это важно прежде всего стратегически. До конца 2023 года еще можно было видеть нынешнюю волну как историю OpenAI плюс догоняющие реакции рынка. После запуска Gemini стало ясно: у гонки будет как минимум несколько равновесных центров силы.

Именно 2023 год дал рынку первый твердый сигнал: генеративный ИИ – это не только новый потребительский интерфейс, но и новая платформа возможностей, которая будет быстро наращивать ширину и глубину.

Третий перелом: 2024 год перевел спор из плоскости "текстового интеллекта" в плоскость длинного контекста, мультимодальности и рассуждения

Если 2023 год показал масштаб скачка, то 2024 год показал направление.

Уже в феврале Google представила Gemini 1.5 с тем, что сама компания назвала прорывом в понимании длинного контекста в разных модальностях. Здесь произошел очень важный сдвиг. До этого многие реальные рабочие ограничения упирались в короткую память модели: длинные документы, большие кодовые базы, видео, массивы переписки, длинные последовательности действий. Gemini 1.5 резко расширил представление о том, сколько материала модель вообще может удерживать в одной задаче.

В марте Anthropic выпустила семейство Claude 3. Это был еще один знак того, что передний край разработки перестал быть историей одной-двух моделей. Важно и то, что Anthropic сразу заняла более выраженную позицию по безопасности и оценке рисков, что позже сильно повлияет на всю архитектуру споров об AGI.

В мае OpenAI выпустила GPT-4o. С технологической точки зрения это был переход к более нативной мультимодальности и более естественному человеческо-компьютерному взаимодействию: голос, изображение, низкая задержка. С точки зрения общественного восприятия это был почти спектакль. Но историческое значение в другом: ИИ начал выглядеть не как система, которую нужно "запрашивать", а как система, с которой можно взаимодействовать в реальном времени.

Тем временем Google продолжила линию агентности и длинного контекста. На I/O 2024 компания показала Project Astra и новую волну Gemini-обновлений, прямо связывая мультимодальность, длинный контекст и будущее ИИ-помощников. Это еще не были зрелые агенты в продакшене, но уже был очень явный поворот в сторону систем, которые должны не только отвечать, но и наблюдать, действовать и сопровождать пользователя в среде.

Летом 2024 года Anthropic добавила Claude 3.5 Sonnet, а вместе с ним – Artifacts, то есть более продуктовый и интерактивный режим совместной работы с результатом модели. Это тоже легко недооценить. Но на длинной дистанции именно такие изменения продуктового слоя превращают модель из "источника ответа" в "рабочую среду".

Осенью 2024 года произошел еще один перелом: OpenAI показала o1, первую публичную серию моделей рассуждения, обученных тратить больше времени на размышление перед ответом. Это не было доказательством подлинного мыслительного процесса в человеческом смысле. Но это было важное инженерное событие: ведущие лаборатории открыто перешли к ставке на вычисления во время вывода и постобучение, ориентированное на рассуждение как отдельную линию прогресса.

И почти одновременно стало ясно, что гонка больше не ограничивается США. 19 сентября 2024 года Alibaba Cloud представила более ста моделей Qwen 2.5 с открытыми весами. Это событие важно не конкретным числом релизов, а стратегическим сигналом: Китай делал ставку не только на догоняющее качество, но и на масштаб диффузии, экосистему моделей с открытыми весами и инфраструктурную массовость.

Если попытаться в двух словах описать 2024 год, получится так: отрасль перестала спорить только о том, кто лучше пишет текст, и начала строить системы с длинной памятью, мультимодальностью, слоем рассуждения и первыми признаками агентности.

Четвертый перелом: 2025 год сделал агентов продуктом, а не обещанием

В 2024 году агентность уже была в воздухе. В 2025-м она стала продуктовой категорией.

23 января 2025 года OpenAI представила Operator, предварительную исследовательскую версию агента, который может пользоваться собственным браузером, печатать, кликать и скроллить в веб-интерфейсах. Это был важный момент не потому, что Operator уже был достаточно надежен для полной автономии. Напротив, сама OpenAI подчеркивала ограничения и необходимость пользовательского контроля. Но исторически важно другое: передовая модель впервые была публично упакована не просто как отвечающая система, а как агент для работы за компьютером.

Через десять дней, 2 февраля 2025 года, OpenAI запустила Deep Research – агентную функцию для многошагового интернет-исследования, которая, по описанию компании, находит, анализирует и синтезирует сотни источников. Здесь агентность вышла за пределы взаимодействия с интерфейсом и стала претендовать на более сложную интеллектуальную работу: поиск, фильтрацию, чтение PDF, сбор аргументов, построение отчета.

В марте 2025 года Google DeepMind показала сразу два ключевых направления.

Во-первых, 12 марта 2025 года была представлена Gemini Robotics, то есть попытка связать мультимодальное пространство рассуждения Gemini с физическим миром. Это не означало мгновенного прихода AGI в физическом мире. Но это означало, что передний край разработки начинает явно тянуться от цифровой агентности к физическому действию.

Во-вторых, 25 марта 2025 года Google представила Gemini 2.5, описав его как модель с режимом рассуждения и встроив этот режим прямо в основную модельную линию. Это очень показательно: если в конце 2024 года режим рассуждения выглядел как отдельная экспериментальная ветвь, то к весне 2025 года он уже стал мейнстримной частью конкуренции между ведущими лабораториями.

У Anthropic в 2025 году произошел свой крупный скачок. 22 мая 2025 года компания выпустила Claude 4, где акцент был поставлен на программировании, продвинутом рассуждении и агентах, а расширенный режим рассуждения с работой с инструментами вынесен в отдельную продуктовую возможность. Это важно не как рекламный слоган, а как маркер приоритетов: если ведущие компании одновременно вкладываются в рассуждение плюс работа с инструментами, значит, именно эта комбинация рассматривается как ближайший путь к следующим скачкам возможностей.

Осенью 2025 года этот вектор только усилился.

Anthropic выпустила Claude Sonnet 4.5, прямо позиционируя модель как одну из лучших для агентов реального мира, программирования и работы за компьютером. Google в октябре 2025 года представила Gemini 2.5 Computer Use model, специализированную модель для взаимодействия с интерфейсами. А еще раньше, в декабре 2024 года, Google уже говорила о Gemini 2.0 как о модели для агентной эпохи, с нативными возможностями действий в интерфейсе, композиционными вызовами функций и нативной работой с инструментами.

Параллельно усиливался китайский контур. 20 января 2025 года DeepSeek выпустила DeepSeek-R1, подчеркнув масштабное обучение с подкреплением на этапе постобучения и лицензию MIT для открытого распространения весов и выходов модели. Это был один из самых важных моментов всей истории моделей с открытыми весами: способности к рассуждению и рецепты постобучения перестали быть почти исключительно западным активом переднего края.

Если суммировать 2025 год, получится жесткий вывод: к этому моменту ведущие компании больше не спорили о том, умеет ли модель хорошо говорить. Они спорили о другом:

насколько долго она умеет думать;

насколько хорошо пользуется инструментами;

насколько уверенно действует в интерфейсах;

насколько пригодна для кода, ресерча и рабочих процессов;

насколько это можно масштабировать как продукт.

Именно здесь разговор о близости AGI стал гораздо серьезнее.

Пятый перелом: начало 2026 года показало не новый тренд, а сходимость уже сформировавшихся линий

На рубеже 2025–2026 годов отрасль перешла в новый режим. Прорывом стало уже не появление одной способности, а сходимость нескольких линий прогресса.

2 февраля 2026 года OpenAI представила приложение Codex как интерфейс для управления несколькими агентами сразу.

3 февраля 2026 года Apple встроила агентное программирование в Xcode 26.3, прямо указав поддержку Claude Agent и OpenAI Codex.

5 февраля 2026 года OpenAI выпустила GPT-5.3-Codex, позиционируя его как модель для агентного программирования.

В те же дни Anthropic вывела Claude Opus 4.6, а затем 17 февраля 2026 года – Claude Sonnet 4.6, усилив линии программирование, работу за компьютером, рассуждение на длинном контексте и агентное планирование.

Это уже не похоже на независимые эксперименты нескольких лабораторий. Это похоже на индустриальный консенсус: следующая фаза конкуренции – это агенты, работающие в реальных цифровых средах.

Точно так же выглядит и китайская линия.

17 февраля 2026 года Alibaba выпустила Qwen3.5, описав его как шаг к нативным мультимодальным агентам.

В публичном позиционировании DeepSeek на март 2026 года DeepSeek-V3.2 описывается как модель, ориентированная прежде всего на рассуждение и созданная для агентных сценариев, а техническая документация отдельно выделяет режим мышления при работе с инструментами.

Это означает, что китайский блок не просто копирует западную дорожную карту. Он участвует в формировании того же нового стандарта передовых систем: рассуждение + инструменты + агенты + открытая диффузия.

Наконец, 5 марта 2026 года OpenAI представила GPT-5.4, объединив в одной линии рассуждение, программирование и агентные рабочие процессы для профессиональной работы. К этому моменту уже трудно было говорить о "разрозненных релизах". Слишком многие независимые линии – OpenAI, Anthropic, Google, Alibaba, DeepSeek, Apple как крупная платформа – начали указывать в одну сторону.

Это и есть причина, по которой ускорение стало очевидным.

Не потому, что одна компания громко объявила о чуде.

Не потому, что один бенчмарк внезапно был побит.

А потому, что:

рассуждение стало отдельной и центральной линией развития;

длинный контекст перестал быть экзотикой;

работа с инструментами и работа за компьютером вышли из демо в продукты;

агенты для программирования вошли в реальные среды разработки;

экосистема моделей с открытыми весами ускорила диффузию;

Китай перестал быть периферией переднего края.

Таблица ускорения

Дата | Событие | Почему это важно

30 ноября 2022 | Публичный запуск ChatGPT | ИИ стал массовым интерфейсом

14 марта 2023 | GPT-4 | скачок возможностей сделал скачок очевидным

25 сентября 2023 | GPT-4V | мультимодальность стала фактором переднего края

6 декабря 2023 | Gemini 1.0 | Google вошел в прямую гонку общего назначения

15 февраля 2024 | Gemini 1.5 | длинный контекст стал центральной осью развития

4 марта 2024 | Claude 3 | передний край окончательно стал многополярным

13 мая 2024 | GPT-4o | мультимодальность и низкая задержка вышли в массовый продукт

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.