Нейросети человеческим языком. Освойте ИИ и станьте востребованным специалистом

30 ноября 2022 года OpenAI открыла публичный доступ к ChatGPT. Под ним работала уже существовавшая модель той же линейки, дообученная на человеческих оценках: людям показывали варианты ответов, они отмечали лучшие, модель подстраивалась под предпочтения. Технически это было развитием того, что существовало два года. Изменилось другое: результат положили в окно чата, куда можно написать словами, без программирования и без документации. За два месяца сервис набрал около ста миллионов пользователей и стал самым быстрорастущим потребительским приложением в истории на тот момент.

Обратите внимание, что именно случилось в ноябре 2022 года. Сдвинулась доступность: технология, существовавшая к тому моменту два года, оказалась в руках у всех сразу.

Лестница: отвечать, рассуждать, действовать

Дальнейшее удобно представлять как три ступени, и вы застали все три.

Отвечать — то, чем модели были в 2022—2023 годах. Один проход от вопроса к ответу, без остановки и обдумывания. Именно об эту ступень разбился ваш первый опыт.

Мой, кстати, тоже. В 2024 году я решил вернуться к программированию через модель: техническое образование есть, любопытство есть, времени на курсы нет. Ответы получались развёрнутые и убедительные, код регулярно не работал. Я списывал это на себя примерно полгода. Дело было в потолке той ступени, и через год на той же задаче с новыми инструментами всё пошло иначе.

Рассуждать. 12 сентября 2024 года OpenAI выпустила модель o1, устроенную по новому принципу: перед ответом она тратит время на внутреннее рассуждение, разбирая задачу по шагам. До этого качество росло за счёт размера модели и объёма обучения; здесь его стали наращивать за счёт вычислений в момент ответа. Результат на отборочной математической олимпиаде AIME: 83% решённых задач против 13% у предыдущей модели.

Механика проще, чем звучит слово «рассуждение». Модель сначала пишет черновик для себя: разбивает задачу на шаги, проверяет промежуточный результат, при неудаче возвращается и пробует другой ход. Ответа приходится ждать от нескольких секунд до нескольких минут. Учат этому отдельно: модель многократно решает задачи с проверяемым ответом, и закрепляются те цепочки шагов, которые к нему привели. Когда за такую модель стоит платить, а когда нет, разбирается в главе 2.

Действовать. Весной 2024 года в широкий оборот вошёл термин агентные сценарии (agentic workflows) — схемы, в которых модель работает циклом: планирует, вызывает инструменты, проверяет себя, переделывает. В 2025 году это стало массовыми продуктами: агент, работающий в браузере вместо вас; режим глубокого исследования, самостоятельно собирающий отчёт по десяткам источников; инструменты, которые пишут и запускают код.

Есть и измеримая шкала этого движения. Исследовательская группа METR меряет, задачу какой длины по времени человека-специалиста модель доводит до конца самостоятельно хотя бы в половине случаев. С 2019 года этот горизонт удваивался примерно каждые семь месяцев, а с 2024-го — примерно каждые три. Оговорка от самих авторов: измеряют они в основном программирование и исследовательскую работу, доверительные интервалы широкие, и переносить эти цифры на любую офисную работу нельзя.

Октябрь 2024: наука подписывается под результатом

8 октября 2024 года Нобелевскую премию по физике присудили Джону Хопфилду и Джеффри Хинтону с формулировкой «за основополагающие открытия и изобретения, которые сделали возможным машинное обучение с помощью искусственных нейронных сетей».

Премия по физике за это выглядит странно ровно до того момента, когда смотришь, за что именно. Хопфилд в 1982 году построил сеть, которая хранит образы как состояния с минимальной энергией и по обрывку восстанавливает целое, — та же математика, которой физики описывают магнитные материалы и спиновые стёкла. Хинтон в середине 1980-х предложил машину Больцмана, названную по имени физика и построенную на статистической физике. Председатель комитета так это и объяснила: лауреаты применили фундаментальные понятия статистической физики к устройству искусственных сетей.

На следующий день, 9 октября, Нобелевскую премию по химии получили Дэвид Бейкер за компьютерный дизайн белков и Демис Хассабис с Джоном Джампером за AlphaFold — программу, предсказывающую трёхмерную форму белка по цепочке аминокислот. Задаче, которую она закрыла, было около полувека.

Связь с остальной главой прямая. AlphaFold — это нейронная сеть, обученная ровно тем способом, что описан выше: на примерах с известным ответом. Примерами были структуры белков, расшифрованные экспериментально за десятилетия лабораторной работы, — к моменту обучения их накопилось около двухсот тысяч. Сеть подкручивала веса, пока не научилась выдавать форму по последовательности, и то, на что у лаборатории уходили месяцы, стало занимать минуты. У Бейкера сюжет зеркальный: его группа десятилетиями конструировала белки с нужными свойствами вычислительными методами старого типа, а в последние годы перевела эту работу на те же обучаемые сети.

Здесь стоит остановиться на секунду. Премии по физике и по химии в один и тот же год достались работам, у которых общий корень: подкрутка весов на примерах. Тот самый цикл, который в 1958 году крутил электромоторами ручки потенциометров.

Обеим премиям больше сорока лет по возрасту работ, за которые их дали. Наука подписалась не под идеей, а под моментом, когда идея начала работать.

Те, кто это предвидел, и в чём именно они ошиблись

История ИИ хорошо иллюстрирует одно правило: направление угадывают, сроки — почти никогда.

Алан Тьюринг, октябрь 1950 года, журнал Mind. В статье «Вычислительные машины и разум» он предложил заменить неразрешимый вопрос «может ли машина мыслить» на проверяемый: сможет ли собеседник в переписке отличить машину от человека. И дал прогноз с числами: «Я полагаю, что примерно через пятьдесят лет станет возможно программировать компьютеры с объёмом памяти около 10⁹ так, чтобы они играли в имитацию настолько хорошо, что у среднего собеседника будет не больше 70 процентов шансов на правильное опознание после пяти минут беседы». Сроком он ошибся примерно на двадцать лет. Постановкой вопроса — нет: тест носит его имя, а формат «переписка в окне чата» стал тем самым интерфейсом, через который технология пришла к массовому пользователю.

Ирвинг Джон Гуд, 1965 год. Криптограф, работавший с Тьюрингом в Блетчли-парке над взломом немецких шифров, а позже консультировавший Стэнли Кубрика при создании компьютера HAL 9000 для «Космической одиссеи 2001 года». В работе «Размышления о первой сверхразумной машине» он описал сюжет, который сегодня обсуждают в комиссиях по регулированию: машина, способная проектировать машины лучше себя, запускает цепную реакцию улучшений. Отсюда его фраза о том, что такая машина будет последним изобретением, которое человеку понадобится сделать.

Станислав Лем, «Сумма технологии», 1964 год. Книга, которую в русском переводе читали несколько поколений инженеров. Лем разбирал машинный разум в главе «Интеллектроника», описал виртуальную реальность под названием «фантоматика» за четверть века до появления слова virtual reality, предсказал молекулярные технологии и обсуждал то, что позже назовут технологической сингулярностью. У него же есть «ариаднология» — теория поиска в океане накопленного знания, то есть поисковые системы за тридцать лет до их появления.

Вернор Виндж, 1993 год. Профессор математики университета Сан-Диего и фантаст, автор «Истинных имён» (1981) про сетевое пространство, написанных до всякого интернета, и «Пламени над бездной» (1992, премия «Хьюго»). В докладе на симпозиуме NASA он ввёл в широкий оборот термин «технологическая сингулярность» и дал сверхчеловеческому интеллекту тридцать лет. Тридцать лет истекли в 2023 году, и спор о том, что считать таким интеллектом, продолжается.

Рэй Курцвейл, «Эпоха мыслящих машин», 1990 год. Редкий случай точного попадания: он предсказал, что компьютер обыграет чемпиона мира по шахматам до конца 1990-х. Deep Blue обыграл Гарри Каспарова в 1997-м.

Практический вывод для читателя простой. Когда вам показывают прогноз с датой, смотрите на то, какой ограничитель называет автор, а не на дату. Тьюринг называл память машины и ошибся, потому что дело оказалось не в памяти. Экспертные системы 1980-х упёрлись в стоимость ручного ввода знаний. Сегодняшний ограничитель — вычисления и электричество, и разговор о нём идёт в главе 4.

Где ломается

Изложенное выше легко прочитать как ровную восходящую линию. Линия не ровная, и вот три места, где это видно.

Прогресс идёт очень неравномерно по типам задач. Тест ARC-AGI специально устроен так, чтобы его нельзя было решить запоминанием: там нужно уловить новую закономерность с двух-трёх примеров. В декабре 2024 года лучший результат на нём подскочил с примерно 5% до 75,7%, и это подавали как перелом. По итогам 2025 года на усложнённой версии того же теста лучший результат — 37,6%. Там, где задача устроена против зубрёжки, движение заметно медленнее.

Главный дефект не устранён. Модель выдаёт правдоподобное, а не проверенное; в отрасли это называют галлюцинациями. Механика этого разбирается в главе 2, процедура проверки — в главе 9. Пока достаточно знать, что за прошедшие годы дефект уменьшили, но не убрали.

Рост вычислений в 4,7 раза в год не может продолжаться бесконечно. Он упирается в деньги, в производство чипов и в электричество. Что из этого следует для цен на подписки и для устойчивости всей конструкции — предмет главы 4.

И последнее, одной строкой: ступень «действовать» пока целиком происходит внутри экрана, а следующая, судя по вложениям крупных лабораторий, будет про физический мир. Это разговор глав 24 и 25, и я не буду забегать вперёд.

Что это значит для вас

Экономисту эта история объясняет природу происходящего роста: он идёт от подешевевших вычислений, а не от новых идей, и потому его пределы считаются в киловаттах и долларах.

Юристу и врачу-администратору она объясняет, почему автоматизация подошла к их работе только сейчас: их документы — это язык, а язык поддался машине последним из всех задач, лет на пять позже картинок.

Руководителю она даёт критерий для чтения новостей: спрашивать не «насколько это умно», а «на каких задачах измеряли и сколько стоит проверить ответ».

Три тезиса

1. Идее семьдесят лет, и дважды она умирала от того, что её нечем было накормить: не хватало способа обучать глубокие сети, дешёвых вычислений и размеченных данных.

2. Работать всё начало от схождения этих трёх условий в 2012 году и от того, что счёт подешевел. Горький урок Саттона: масштаб побеждает экспертизу.

3. Изобретение технологии прошло за десятилетия до вас. Вы застали момент, когда она стала доступна с обычного компьютера: ноябрь 2022 года был событием в доступности.

Сделайте сейчас

Возьмите рабочий вопрос, с которым вы на этой неделе пошли бы к младшему коллеге. Настоящий, со всеми неудобными деталями, а не учебный пример. Задайте его любой бесплатной модели, без покупки подписки.

Оцените ответ по одному критерию: отдали бы вы этот результат дальше сами, не переделывая. Запишите «да» или «нет» и одну фразу почему. Сохраните этот файл — к тому же вопросу вы вернётесь в главе 9, когда научитесь проверять ответы, и разница будет наглядной.

Промпт

Вот рабочая задача, с которой я обычно иду к коллеге:

[опишите задачу так, как объяснили бы человеку: контекст, что нужно на выходе, ограничения]

Сначала перечисли, каких данных тебе не хватает, чтобы ответить как следует.

Потом дай лучший ответ, который возможен без этих данных.

Где ломается: модель почти никогда не отказывается отвечать, даже когда контекста мало. Она достроит недостающее сама и не отметит это. Поэтому вопрос о нехватке данных задаётся отдельно и первым.

Глава 2. Как это работает: без математики и кода

В сентябре 2025 года исследователи OpenAI и Технологического института Джорджии опубликовали статью с прямым названием: «Почему языковые модели галлюцинируют». В ней есть эпизод, который стоит всей статьи.

Авторы спросили у распространённого чат-бота название диссертации одного из них, Адама Таумана Калаи. Бот уверенно выдал ответ. Спросили ещё раз — другой ответ, тоже уверенный. И третий раз. Все три названия оказались неверными. Спросили дату рождения и получили три разные даты, ни одна из которых не совпала с настоящей.

Разбираться в этом пришлось людям, которые эти модели и делают. Вывод их статьи неприятный и полезный: так устроена машина, причина не в недоработке, которую скоро починят.

Эта глава — про устройство. Пять свойств ниже объясняют почти всё, что раздражает вас в работе с моделью, и подсказывают, как обходить каждое.

Вы это уже видели

Модель уверенно назвала закон, которого нет. Вы загрузили договор на сорок страниц, спросили про пункт в середине, а ответ пришёл о чём-то другом. Вы поправили её: «нет, ставка другая» — она немедленно согласилась и переписала расчёт, хотя правы были не вы. Вы задали один вопрос в двух чатах и получили два разных ответа.

Ни один из этих случаев не является поломкой. Каждый вырастает прямо из устройства, и дальше разберём по порядку.

Сначала три слова, которые путают чаще всего

Прежде чем разбирать свойства, разведём понятия: дальше они встречаются постоянно, а в новостях их регулярно смешивают.

Модель (model) — это файл. Точнее, набор файлов: описание конструкции и очень большая таблица чисел, тех самых весов. Правил внутри нет, исполняемого кода тоже. Сама по себе модель ничего не делает, как ничего не делает документ на диске.

Обучение (training) — процесс, в котором эти числа настраивают. Идёт он стадиями, разными по смыслу и на порядки разными по цене.

1. Предобучение (pre-training) — самая дорогая часть. Модель месяцами предсказывает продолжение текста на корпусе размером с заметную долю интернета. Здесь оседают язык и фактические знания. Стоят такие прогоны десятки миллионов долларов и требуют тысяч видеокарт.

2. Дообучение (fine-tuning) — доводка на отобранных примерах: как отвечать, в каком формате, каким тоном. Дешевле предобучения на порядки.

3. Доводка на оценках — модель много раз отвечает, а люди отмечают, какой ответ лучше; это называют обучением с подкреплением на человеческих оценках (RLHF). Там, где правильность проверяется автоматически, оценку вместо человека ставит программа.

Инференс (inference) — то, что происходит, когда вы нажимаете «отправить». Ваш текст прогоняется через готовые веса, и модель порождает продолжение. Веса при этом не меняются ни на одно число. Каждое сообщение в чате — отдельный инференс, и стоит он копейки против миллионов, потраченных на обучение.

Отсюда ответ на вопрос, который часто задают: почему одну и ту же модель обучают несколько раз и разные компании?

Если лаборатория опубликовала веса (такие модели называют моделями с открытыми весами, open weights, так делает, например, Meta1 со своей линейкой Llama), любая компания может взять их и дообучить под себя: на своих договорах, на переписке с клиентами, на медицинских записях. Публикуют обычно не сырые веса сразу после предобучения — с таким текстом неудобно работать, он только предсказывает продолжение и не умеет вести диалог, — а уже прошедшую и дообучение, и доводку на оценках версию. Скачавшая веса компания дообучает эту готовую модель ещё раз, уже под свою задачу, поверх чужой доводки. Дорогую часть, предобучение, при этом уже оплатил кто-то другой.

Есть и обратный ход — дистилляция (distillation): большая модель обучает маленькую копировать своё поведение, а не веса. Доступ к чужим весам для этого не нужен: достаточно собрать много её ответов через обычный интерфейс и обучить свою модель их повторять. Ровно в этом в феврале 2026 года OpenAI публично обвинила DeepSeek: в меморандуме для комитета Конгресса США по Китаю компания заявила, что сотрудники DeepSeek обходили ограничения доступа через сторонние сервисы-посредники и собирали ответы ChatGPT для обучения собственных моделей; похожие претензии в июне 2025 года разработчики предъявляли и по поводу Gemini от Google. DeepSeek обвинения не признала. Это спор сторон, суда по нему не было.

Поэтому «сделать модель» и «обучить модель» — разные вещи. Сделать значит выбрать конструкцию, собрать данные и разметить их для корпуса, провести предобучение, отладить поведение, проверить безопасность, наладить работу под нагрузкой — в такой лаборатории, как OpenAI или Anthropic, этим заняты разные команды: исследователи архитектуры, инженеры данных, команда доводки и отдельная команда безопасности. Обучение — лишь одна стадия из этого списка, пусть самая заметная в бюджете.

Свойство первое: модель предсказывает продолжение

Внутри самой модели нет базы данных с фактами, нет папки с документами и нет поиска по интернету (к поиску вернёмся ниже: современные сервисы подключают его отдельно). Есть очень большая таблица чисел, которые называют весами (weights), и настроена она на одной-единственной задаче: по началу текста предсказать его продолжение. Кусок за куском, каждый раз выбирая самое вероятное продолжение из миллионов вариантов. Уточнение: это описание чистой модели, без надстроек, которые вокруг неё строит сервис. Поиск в интернете, память между чатами, вызов других программ, проверка ответа на безопасность — отдельный код поверх весов, о нём дальше в этой главе. Сама же модель внутри всегда работает только так, что бы вокруг неё ни построили.

Всё, что модель «знает», осело в этих весах во время обучения как статистика: какие слова с какими встречаются, в каком порядке и контексте. Записей, которые можно открыть и прочитать, там нет: знание нельзя посмотреть или удалить поштучно.

Отсюда рабочая аналогия, которой я пользуюсь всю книгу. Модель — это начитанный стажёр без доступа к вашим документам. Он прочитал огромную библиотеку и помнит общий смысл, но не помнит источники дословно. Он никогда не видел вашей переписки, вашей папки с договорами, вашей таблицы с цифрами. И он очень старается быть полезным.

Отсюда практическое следствие. Модель не ищет ответ, она его порождает. Правдоподобие и правда для неё — одно и то же: и то и другое выглядит как хорошее продолжение текста.

Свойство второе: токены и контекстное окно

Текст модель видит не буквами и не словами, а токенами (tokens), то есть кусками слов. В среднем токен это несколько символов: «дого», «вор», окончание, пробел с началом следующего слова.

Для русскоязычного читателя здесь неприятная деталь: токенизаторы обучались в основном на английском, и кириллица режется мельче. По измерениям августа 2025 года современные токенизаторы тратят на украинский текст (ближайшее опубликованное измерение по кириллице) около 1,9 токена на слово против 1,07 на английском. Тот же смысл на русском занимает вдвое больше места и стоит вдвое дороже.

Всё, что модель видит в момент ответа, лежит в контекстном окне (context window). Туда помещается ваш вопрос, история переписки в этом чате, приложенные файлы, инструкции сервиса и результаты поиска, если он подключён.

Контекстное окно — это стол, а не память. Вы кладёте на стол документы, модель работает с тем, что на нём лежит. Стол большой, но конечный: когда места не хватает, старое сдвигается за край. Между чатами стол чистый — то, что вы объясняли вчера, там не лежит.

И главное, что стоит знать про стол: чем больше на нём навалено, тем хуже модель находит нужное. В июле 2025 года исследователи Chroma проверили восемнадцать моделей на задачах, где росла только длина текста, а сложность оставалась прежней. Качество падало у всех. Причём модели лучше справлялись с перемешанным набором документов, чем с логично выстроенным, а один-единственный отвлекающий фрагмент рядом с нужным заметно снижал точность.

Отсюда правило, к которому мы вернёмся в главе 8: длинный документ, заброшенный в окно целиком, вовсе не означает «модель всё прочитала». Означает он «модель всё увидела и часть потеряла».

Сейчас (проверено 05.09.2026)

Окно у ведущих моделей достигает миллиона токенов; в семействе Claude это Opus 5, Sonnet 5 и Fable 5.1, у младшей Haiku 4.5 оно составляет 200 тысяч. Миллион токенов это примерно полмиллиона русских слов, около двух тысяч книжных страниц.

Дата отсечения знаний у этих же моделей приходится на период с января по июнь 2026 года.

Источник: platform.claude.com/docs. Цифры меняются каждые несколько месяцев, проверяйте по документации.

Свойство третье: обучение и работа — разные режимы

Обучение модели закончилось до того, как вы открыли чат. Веса на этом заморожены. Когда вы с ней разговариваете, вы не обучаете её и ничего в ней не меняете.

Это объясняет три вещи сразу.

Модель не знает свежего. У неё есть дата отсечения (knowledge cutoff): момент, на котором закончились тексты для обучения. Всё, что случилось позже, в весах отсутствует.

Здесь нужна оговорка, иначе ваш опыт разойдётся с книгой. Спросите крупный чат-сервис про новость этой недели — скорее всего, получите верный ответ. Противоречия нет: сервис сходил в поиск, нашёл страницы и положил их текст в окно, а модель прочитала их там же, где читает ваш вопрос. Поиск встроен в массовые продукты с 2024—2025 годов и включается обычно сам. Знание при этом пришло со стола, а не из весов, и качество ответа равно качеству найденных страниц. Модель же, запущенная на вашем компьютере без поиска, честно останется в границах своей даты отсечения.

Ваш файл её не «доучивает». Загруженный документ попадает на стол, а не в веса. Закончился чат — закончился и документ. Существует отдельная процедура дообучения на своих данных, но это работа через программный интерфейс (API), за отдельные деньги, и почти никому из читателей этой книги она не нужна: то же самое дешевле решается контекстом и базой знаний, о чём глава 8.

Функция памяти (memory) — это не память в человеческом смысле. Оговорка нужна и здесь: за последние два года функция стала массовой и у крупных сервисов включена по умолчанию.

Работает она так: сервис ведёт отдельный файл заметок о вас (чем занимаетесь, как просите отвечать, над чем работали) и незаметно подкладывает нужное в окно нового чата. Туда же кладётся системная инструкция сервиса: правила поведения, которых вы не видите, зато модель видит их первыми.

Значит, «между чатами стол пустой» точнее звучит так: пустым его оставляет модель, а сервис может накрыть его заново вашими же заметками. Разница в вашу пользу: заметки можно прочитать и удалить, а веса — нельзя.

Свойство четвёртое: почему выдумывает и почему звучит уверенно

Теперь вернёмся к статье из начала главы. Её главный вывод про механику обучения, а не про мораль.

Модель оценивают тестами, где считают долю верных ответов. Представьте экзамен, где за неверный ответ не штрафуют, а за пропуск ставят ноль. Разумная стратегия на таком экзамене — угадывать всегда. Ровно эту стратегию и закрепляет обучение: модель, которая на неизвестном вопросе называет наугад правдоподобную дату, в среднем набирает больше баллов, чем модель, которая честно говорит «не знаю».

Цифры из статьи наглядные. На тесте с фактическими вопросами одна модель воздержалась от ответа в 52% случаев и ошиблась в 26%. Другая воздерживалась в 1% случаев и ошиблась в 75%. Доля верных ответов у них при этом почти одинаковая: 22% и 24%.