Как попасть в ответы нейросетей

Глава 1. Что происходит за секунду, пока ИИ печатает ответ

Ответ, который стоил 100 миллиардов долларов

Представьте: вы задаёте вопрос нейросети и через секунду получаете аккуратный, уверенный ответ. Ни тени сомнения. Складно, по делу, будто отвечает эксперт, который знает предмет назубок.

Этот уверенный тон однажды стоил компании около 100 миллиардов долларов.

8 февраля 2023 года Google показал миру свой новый чат-бот Bard. В рекламном ролике боту задали простой вопрос про телескоп имени Джеймса Уэбба. Bard ответил чётко и уверенно: телескоп сделал первые в истории снимки экзопланет. Проблема одна — это неправда. Первые такие снимки получил совсем другой телескоп, ещё в 2004 году. Ошибку первым заметило информационное агентство Reuters. В тот же день, в среду 8 февраля 2023 года, когда об ошибке стало известно, акции материнской компании Alphabet рухнули на 7,7% — около 100 миллиардов долларов рыночной стоимости испарились за один день.¹ ²

Один неверный факт, сказанный тем же ровным и уверенным тоном, каким нейросеть отвечает вам про лучший кофе в городе или про то, какую компанию выбрать для ремонта.

С этого начинается и книга, и вся новая сфера продвижения в нейросетях: уверенный тон ответа ИИ ничего не говорит о его правдивости. А раз так, придётся разобраться, что вообще происходит за ту самую секунду, пока ассистент «печатает» ответ. Потому что именно в эту секунду машина решает, чей бренд, чей продукт, чью статью показать миллионам людей. И на это решение можно влиять — но только если вы понимаете, как оно устроено.

Даже человек, который создал самый популярный ИИ в мире, предупреждает об этом прямо. В июне 2025 года сооснователь и глава OpenAI Сэм Альтман сказал: «У людей очень высокая степень доверия к ChatGPT, что интересно, потому что ИИ галлюцинирует. Это должна быть технология, которой вы не доверяете так сильно». ³

Почему создатель советует не доверять собственному детищу слепо и что это меняет лично для вас — об этом дальше. Эта глава работает как карта: показывает, какими дорогами машина приходит к решению.

Два «мозга» ассистента

Начнём с главного недоразумения. Люди думают, что нейросеть «знает» ответы, как знает их энциклопедия: где-то внутри лежит полка с фактами, машина туда заглядывает и зачитывает нужный. Это не так.

У современного ИИ-ассистента как будто два разных «мозга». И работают они совершенно по-разному.

Первый мозг — память из обучения. Когда нейросеть создают, её «кормят» гигантским объёмом текстов: книгами, статьями, сайтами. Модель не запоминает их дословно. Она усваивает закономерности — как устроен язык, какие факты обычно идут рядом, как выглядит хороший ответ. Специалисты называют это параметрической памятью: знания как бы «зашиты» в саму структуру нейросети во время обучения.⁴

У этой памяти есть коварное свойство. Она застывает. После обучения модель не обновляет себя на лету — всё, что произошло в мире после даты, на которой закончили её учить (эту дату называют knowledge cutoff, «дата отсечки знаний»), для неё просто не существует.⁵

Есть точная и немного жутковатая аналогия. Модель без доступа к свежим данным похожа на человека с антероградной амнезией. Такой человек прекрасно помнит всё далёкое прошлое, но не может сформировать новых воспоминаний — для него каждый новый день «начинается» в одной и той же давней точке. Так и нейросеть: она застряла на дате своего обучения и не в курсе, что было дальше, пока ей не подключат что-то ещё.⁶

Это «что-то ещё» и есть второй мозг: живой поиск в интернете прямо сейчас. В момент вашего вопроса модель выходит в сеть, находит свежие страницы, читает их и отвечает уже на их основе. Внешние источники, к которым модель обращается на лету, называют непараметрической памятью — знанием, которое лежит не внутри модели, а снаружи, в документах и проиндексированном интернете.⁷

Запомните эту пару, к ней мы будем возвращаться всю книгу:

— Память из обучения — что модель выучила когда-то. Огромная, но застывшая.

— Живой поиск — что модель видит в сети прямо сейчас. Свежий, проверяемый, со ссылками.

Разница простая. Спросите ассистента без поиска, кто выиграл вчерашний матч, — и он либо честно скажет, что не знает, либо, что хуже, уверенно придумает счёт. Спросите ассистента с поиском — он сходит в сеть, найдёт новость и ответит по факту, да ещё и ссылку приложит.

Отсюда и мысль, которая проходит через всю книгу: на первый мозг вы повлиять почти не можете, а на второй — можете. Переписать то, что модель выучила во время обучения, вам не под силу. А вот попасть в те страницы, которые она находит через живой поиск прямо сейчас, — это уже задача, у которой есть решение. Именно этому и посвящена сфера GEO. Но чтобы туда добраться, сначала разберёмся, почему первый мозг так любит сочинять.

Почему ИИ уверенно врёт

У этого сочинительства есть название — галлюцинация. Так называют ответ языковой модели, который звучит грамотно и убедительно, но фактически неверен или полностью выдуман. Причём текст не «выглядит» как ошибка: модель не колеблется, не оговаривается, не пишет «я не уверена». Она врёт с тем же спокойным лицом, с каким говорит правду.⁸

Откуда это берётся, точнее всех объяснил Андрей Карпати — бывший директор по ИИ в Tesla и один из основателей OpenAI. Он сказал: «Галлюцинация — это всё, что делают LLM. Это машины снов. Мы направляем их сны с помощью промптов». ⁹

По Карпати выходит, что нейросеть не «вспоминает» факты — она видит своего рода сон по мотивам всего, что читала. Ваш вопрос запускает этот сон. Чаще всего сон попадает в полезную, правдивую область — и мы получаем хороший ответ. А «галлюцинацией» мы называем только те случаи, когда сон уходит в область, которой не существует. То есть выдумка — не поломка, которую забыли починить. Это оборотная сторона самого механизма, которым ИИ вообще порождает текст.

Почему же сон так часто звучит уверенно, даже когда врёт? Самое авторитетное объяснение дала сама OpenAI в статье «Почему языковые модели галлюцинируют» в сентябре 2025 года. Вывод исследователей неожиданный: галлюцинации — это не случайный сбой, а естественное следствие того, как модели учат и как их оценивают.¹⁰

Представьте экзамен, где за любой ответ дают балл, а за честное «не знаю» — нет. Как поведёт себя умный студент? Он будет угадывать всегда, потому что так в среднем получается больше баллов. Модели проходят через тысячи таких «экзаменов» при обучении. И система награждает уверенную догадку щедрее, чем честное «не знаю». В итоге получается ассистент, который скорее уверенно придумает ответ, чем скажет «данных нет». Он не злонамеренный — он просто натренирован казаться уверенным.¹⁰

Есть и более старое, но меткое имя для этого явления — «стохастический попугай». Его ввели исследователи Эмили Бендер, Тимнит Гебру и коллеги ещё в 2021 году. Смысл: языковая модель — это статистический подражатель, который складывает внешне связный текст, не понимая его. Когда текст звучит осмысленно, модель не выражает знание — она повторяет подхваченные паттерны.¹¹

Звучит абстрактно — ровно до того момента, пока за его выдумки не приходится платить. Три истории, каждая из которых обошлась людям очень дорого.

История первая: «наш чат-бот отвечает сам за себя». Клиент Air Canada по имени Джейк Моффатт обратился к чат-боту авиакомпании после смерти бабушки — уточнить правила льготного тарифа на похороны. Бот уверенно ответил, что можно оформить возврат части стоимости в течение 90 дней после покупки билета. На самом деле политика компании такого возврата не давала. Когда дошло до суда, Air Canada попыталась защититься почти комичным аргументом: мол, чат-бот — это «отдельное юридическое лицо» и компания не отвечает за его слова. Суд аргумент не принял, признал случай «небрежным введением в заблуждение» и обязал авиакомпанию выплатить клиенту 812,02 канадского доллара. Прецедент простой и важный: компания отвечает за то, что говорит её ИИ.¹²

История вторая: шесть судебных дел, которых не было. Адвокаты истца готовили ходатайство в суд и попросили помощи у ChatGPT. Модель услужливо привела шесть подходящих судебных прецедентов с цитатами. Все шесть оказались выдумкой. Самое показательное — не первая ошибка, а вторая: когда адвокат переспросил, действительно ли эти дела существуют, ChatGPT подтвердил, что да, и заявил, что их можно найти в авторитетных юридических базах вроде LexisNexis и Westlaw. Модель уверенно держалась за собственную выдумку. Суд дел не нашёл и оштрафовал адвокатов на 5000 долларов. Судья Кастель отказался принуждать их к извинениям, заметив, что «принуждённое извинение не бывает искренним». Вывод для вас: галлюцинация — это не разовый сбой, который легко поймать. Модель будет отстаивать выдумку, даже если её перепроверить.¹³ ¹⁴

История третья: клей в соус для пиццы. В мае 2024 года ИИ-сводки Google (AI Overviews) отвечали на вопрос, как удержать сыр на пицце. Система нашла на форуме Reddit шуточный комментарий одиннадцатилетней давности и выдала его как серьёзный совет: «добавьте примерно 1/8 стакана нетоксичного клея в соус для липкости». Интернет хохотал неделями. А урок за этой шуткой серьёзный: модель не отличает сарказм от факта, если это просто текст в её данных. Для неё шутка про клей и настоящий кулинарный совет — одинаково «правдоподобное продолжение» вопроса про липкость сыра. После этой и других осечек Google, по данным SEO-компании BrightEdge, за считанные недели сократил показ AI Overviews в выдаче с 84% до менее чем 15% — правда, сам Google назвал эту оценку нерепрезентативной.¹⁵ ¹⁶

Три разные сферы — авиаперевозки, юриспруденция, кулинария. Одна и та же механика. Модель не проверяет факт. Она выдаёт наиболее вероятное продолжение текста и делает это с невозмутимой уверенностью.

Заземление: как лечат уверенное враньё

С галлюцинациями, впрочем, научились бороться. Лекарство — тот самый второй «мозг»: живой поиск.

Приём называется заземление (по-английски grounding). Идея в самом слове: не давать модели парить в облаках собственной памяти, а «заземлить» её ответ на конкретные документы. Технически это значит — подключить модель к внешним данным и заставить строить ответ на них, а не только на том, что она когда-то выучила.¹⁷

Тот же подход в связке с поиском называют RAG — Retrieval-Augmented Generation, «генерация, дополненная поиском». Метод придумали ещё в 2020 году в Facebook AI Research (подразделение компании Meta, признанной в России экстремистской организацией и запрещённой; здесь и далее это относится ко всем её продуктам и подразделениям) — во второй главе разберём его подробно. Суть можно уместить в одну фразу, и её стоит запомнить: не «что ты помнишь про X», а «что говорят вот эти документы про X». Вместо того чтобы полагаться на застывшую память, модель на лету получает свежие фрагменты текста и отвечает на их основе.¹⁸

Вернёмся к метафоре Карпати. Если чистая модель — это стопроцентный сон, то заземление на источники — способ «привязать» этот сон к реальным данным, чтобы он не улетал в выдумку. И это не догадка энтузиастов, а работающая практика крупнейших компаний.

— У Google есть функция «заземление с помощью Google-поиска»: она подключает модель Gemini прямо к живому поиску, и заявленный эффект — меньше галлюцинаций плюс цитаты, по которым пользователь может проверить, откуда ответ.¹⁹

— У Anthropic ассистент Claude умеет «заземлять» ответы на выданные ему документы и указывать конкретные предложения-источники, из которых собран ответ.²⁰

— Подтверждают это и со стороны: исследователи Meta AI показали, что RAG «рассеивает» галлюцинации уже обученной модели, дополняя её поиском по внешним источникам в момент ответа.²¹

Заземление снижает галлюцинации, но не устраняет их полностью. Если поиск вернёт модели нерелевантные или противоречивые документы, она всё равно может ошибиться. Заземление необходимо, но само по себе недостаточно.²²

Для вас, будущего специалиста по GEO, здесь важно одно: заземление превращает поиск в «слой влияния». Раз ассистент всё чаще строит ответ на найденных страницах — значит, попав в эти страницы, вы попадаете в ответ. Не нужно перепрограммировать нейросеть. Нужно оказаться среди тех документов, на которые она заземляется. Это и есть точка приложения ваших усилий.

Путь запроса за одну секунду

Картина складывается так. За ту секунду, пока ассистент «печатает», ваш запрос успевает пройти четыре простых шага. Запомните их — это скелет всей книги.

Шаг 1. Вопрос. Вы что-то спрашиваете. Первое, что делает система, — решает: лезть ли вообще в живой поиск или хватит памяти из обучения. У ChatGPT Search это происходит автоматически — система сама «умно определяет», когда нужна свежая информация (курсы акций, погода, новости), а когда можно ответить из головы.²³

Шаг 2. Поиск. Если свежие данные нужны, система идёт в поисковый индекс и вытаскивает пул страниц-кандидатов по вашему запросу. Это тот самый второй «мозг» в действии.

Шаг 3. Отбор. Из широкого пула найденного система выбирает лучшее — заново, более придирчиво переоценивает страницы и оставляет несколько самых релевантных.²⁴

Шаг 4. Сборка ответа. Отобранные куски текста «склеивают» и передают модели, а она формулирует единый ответ — обычно уже со ссылками на источники.²⁵

Вопрос → поиск → отбор → сборка. Четыре шага, доли секунды.

И здесь кроется то, что отличает нейросеть от привычного поисковика. Раньше поиск выдавал вам список из десяти синих ссылок, и вы сами их сравнивали. Нейросеть так не делает. В научной работе «GEO: Generative Engine Optimization» — той самой, что дала имя всей нашей сфере (исследователи из Принстона и соавторы, впервые опубликована 16 ноября 2023 года), — это описано точно: генеративные движки синтезируют ответ из нескольких источников сразу, компилируя их в один текст, а не раскладывают ссылки списком.²⁶

Разница огромная. В списке из десяти ссылок место найдётся многим. В синтезированном ответе упомянут двоих-троих. Всё остальное для пользователя просто не существует. Попасть в эту короткую сборку — и есть новая задача продвижения.

Как это выглядит в России

Всё сказанное — не только про западные ChatGPT и Gemini. Российские ассистенты устроены по той же логике, и знать это нужно, если ваши клиенты в Рунете.