Эпоха нейрослопа: Почему искусственный контент захватывает интернет

Машина уверенного тона

Гладкий текст уже научился проходить первый контроль: он не спотыкается на фразах, не выглядит случайным набором слов и быстро создаёт ощущение, будто автор разобрался в теме. После дешёвой скорости это следующий поворот: проблема возникает не там, где машина пишет плохо, а там, где она пишет достаточно хорошо, чтобы человек перестал проверять.

Анна Воронцова заметила это не по одной явной ошибке. Её насторожило другое: несколько материалов подряд выглядели законченными, но после публикации не выдерживали простого вопроса: «Что читатель должен сделать с этой информацией?» В тексте о перекрытии улицы были даты, причины и обещание следить за обновлениями, но не было номера распоряжения, схемы объезда и точного времени начала работ. В справке о льготах перечислялись категории граждан, но отсутствовало условие, от которого зависело право на выплату. Форма сообщала о готовом знании, а внутри лежала лишь его оболочка.

Редактор открыла документ и позвонила Илье Сафронову, который помогал ей с частью материалов.

— Ты проверял этот текст?

— Конечно. Он собран по официальным данным.

— По каким именно?

На том конце повисла короткая пауза.

— Я дал системе ссылки и попросил сделать справку. Она всё аккуратно свела.

— Это не ответ. Какие сведения ты проверил сам?

— Анна, там же нет ничего спорного. Обычная городская информация.

Именно здесь обычно и начинается психологический конфликт. Один человек защищает не конкретный факт, а ощущение проделанной работы. Другой пытается выяснить, где заканчивается удобная форма и начинается ответственность. Машина в этой сцене не спорит, не оправдывается и не краснеет. Она выдаёт новый абзац тем же ровным голосом. Поэтому человеческий спор часто ведётся не с системой, а с собственным желанием поскорее закрыть задачу.

Как текст продолжает сам себя

Генеративная система не открывает в голове справочник готовых истин и не достаёт из него предложение, соответствующее вопросу. Она строит продолжение текста: оценивает, какие слова, обороты и фрагменты вероятнее всего появятся после уже заданного контекста, а затем формирует последовательность, похожую на связный человеческий ответ.

Это объяснение упрощённое, но для редакторской работы достаточно точное. Система хорошо улавливает языковые связи: как обычно описывают городскую программу, в каком порядке оформляют инструкцию, какие фразы встречаются в деловом письме, как звучит вывод учебной работы. Она может собрать из этих закономерностей убедительный текст, даже если у неё нет надёжного основания для конкретного утверждения.

Представьте опытного имитатора делового стиля. Попросите его написать уведомление о переносе приёма в учреждении — и он без труда расставит знакомые элементы: причину, новую дату, извинение за неудобства, порядок действий. Но если не дать ему реальную дату и не показать распоряжение, он может вставить правдоподобное число просто потому, что письмо без даты кажется незавершённым. Язык будет уместным, а сведения — вымышленными.

У системы есть сильная сторона: она быстро распознаёт форму задачи. Нужно объяснить термин — появится определение. Нужно сравнить варианты — возникнет таблица различий. Нужно составить ответ клиенту — текст получит вежливое начало, аргументы и завершение. Но форма задачи не равна её фактическому содержанию.

Эта разница особенно опасна в текстах, где структура заранее создаёт доверие. Читатель видит заголовок, короткое введение, несколько разделов и вывод. Его мозг получает сигнал: перед ним материал, который кто-то собрал и проверил. На самом деле это может быть лишь очень удачное продолжение вероятного текста.

Полевой сигнал первый: ответ звучит так, будто вопрос был проще, чем есть на самом деле.

Если вы спрашиваете о процедуре, зависящей от региона, даты, статуса заявителя или конкретного документа, а получаете универсальную инструкцию без условий, перед вами не готовая справка, а черновая модель ответа. Чем сложнее предмет и чем ровнее звучит обобщение, тем важнее проверка.

Например, запрос «Как оформить пособие?» слишком широк. Реальный порядок может зависеть от вида выплаты, возраста ребёнка, дохода семьи, регистрации, места работы и канала подачи заявления. Система, продолжая типичный справочный текст, легко напишет: «Для оформления необходимо подать заявление через Госуслуги или МФЦ, приложив документы, подтверждающие право на выплату». Это предложение может быть полезным началом поиска, но оно ничего не говорит о том, какие именно документы нужны, кто имеет право на выплату и что делать при отказе.

Проверка здесь проста: найдите в ответе все места, где читателю нужно действовать, и спросите, указаны ли там конкретные условия. Если нет, текст нельзя выпускать как инструкцию. Его можно использовать как список вопросов для дальнейшей проверки.

Анна ввела в редакционный чат такой вопрос: «Что нужно жителю Екатеринбурга, чтобы получить компенсацию за проезд?» Система ответила несколькими абзацами о льготных категориях, заявлении, подтверждающих документах и сроках рассмотрения. Ответ выглядел настолько привычно, что его можно было сразу поставить в публикацию.

Но редактор изменила один параметр: попросила перечислить основания с точными названиями документов и указать, какой орган принимает решение. Во втором ответе появились осторожные формулировки, а затем — ссылки. Одна вела на страницу с другим видом льготы, вторая открывалась с ошибкой, третья действительно относилась к теме, но не подтверждала указанную сумму.

Первый запрос произвёл текст, похожий на справку. Второй показал, что для справки в нём не хватает опор.

Правдоподобие не является точностью

Люди часто проверяют текст на уровне интонации. Если он не содержит странных оборотов, не повторяется и не противоречит бытовому опыту, его принимают за достоверный. Машина особенно сильна именно в этой зоне. Она убирает грубые признаки некомпетентности: повторы, неуместную эмоциональность, резкие переходы. Ошибка получает аккуратную упаковку.

Правдоподобие отвечает на вопрос: «Может ли такое быть?» Фактическая точность требует другого: «На чём основано утверждение и воспроизводится ли оно при проверке?»

Фраза «решение по заявлению обычно принимается в течение десяти рабочих дней» звучит реалистично. Но для читателя важны не слова «обычно» и «рабочих», а конкретный вид услуги, действующий порядок и последствия пропуска срока. Если срок зависит от полноты документов, текст должен это сказать. Если цифра относится к одному региону, нельзя подавать её как общую норму.

Полевой сигнал второй: точные числа появляются без происхождения.

Даты, проценты, суммы, количество этапов, сроки и номера документов делают текст убедительнее. Поэтому именно их система может добавлять особенно охотно: число создаёт впечатление предметности. Но если рядом нет источника или понятного способа проверки, цифра превращается в декоративную деталь.

У редактора есть рабочая привычка: каждое число в материале должно иметь «адрес». Это может быть официальный документ, страница органа власти, опубликованный отчёт, первичное интервью или расчёт, который можно повторить. Если адреса нет, число либо удаляют, либо помечают для обязательной проверки.

Анна составила для команды короткое правило: не спрашивать у текста, «похож ли он на правду». Спрашивать: «Какой фрагмент подтверждает эту цифру?»

Илья сначала воспринял это как недоверие к его работе.

— Если мы будем проверять каждую строчку, мы никогда не выпустим материал вовремя, — сказал он.

— Мы не проверяем каждую строчку одинаково, — ответила Анна. — Мы проверяем те, от которых зависит действие читателя.

Это важное различие. Вводный абзац о том, что проблема волнует жителей, можно переписать по смыслу. А срок подачи заявления, размер выплаты, адрес учреждения и юридическое условие требуют подтверждения. Цена ошибки у них разная.

Где возникает «галлюцинация»

В прикладной работе галлюцинацией называют уверенно сформулированный фрагмент, у которого нет надёжного фактического основания: выдуманный факт, смешанная биография, несуществующая цитата, неверная дата, поддельный документ или ссылка, которая не подтверждает сказанное.

Это не всегда результат случайной поломки. Часто система пытается удовлетворить форму запроса. Если пользователь просит «привести три исследования», ответ должен содержать три исследования. Если в доступном контексте нет подходящих материалов, система может продолжить привычный шаблон научного обзора: название, авторы, год, журнал, вывод. Получится объект, похожий на исследование, хотя такого текста не существует.

Полевой сигнал третий: источник выглядит конкретно, но его нельзя быстро найти или его содержание не совпадает с выводом.

Особенно подозрительны ссылки, в которых есть длинный адрес, название учреждения и дата публикации. Внешняя детализация не доказывает подлинность. Проверять нужно не только существование страницы, но и соответствие: действительно ли документ говорит то, что ему приписывает текст.

Анна попросила систему подготовить заметку о ремонте городского моста и добавить ссылки на официальные сообщения. В ответе появились названия ведомств, дата заседания и номер постановления. Одна ссылка вела на раздел новостей, где такого материала не было. Вторая открывала документ, но в нём речь шла о другом объекте. Третья состояла из адреса, похожего на официальный, однако страница не существовала.

Илья пожал плечами:

— Значит, ссылки она составила неудачно. Сам текст-то нормальный.

— Нет, — сказала Анна. — Ссылки не отдельный аксессуар. Они должны показать, откуда взялись утверждения. Если опора выдумана, мы не знаем, что в тексте настоящее.

Это момент истины для редакции: ошибка обнаруживается не в одной ссылке, а в самом способе производства материала. Система не сообщила: «Я не нашла подтверждение», потому что её задача состояла в продолжении ответа, а не в признании незнания. Если человек не задал режим работы с источниками и не проверил результат, уверенная форма скроет отсутствие основания.

Скрипт проверки источника

Для любого важного утверждения полезно пройти четыре вопроса, даже если вы не произносите их вслух.

«Какой именно тезис подтверждает этот источник?»

«Где в документе находится подтверждение: в каком разделе, пункте, абзаце или таблице?»

«Не перепутаны ли дата, регион, вид услуги или адресат?»

«Что в тексте изменится, если источник окажется неприменимым?»

Если на второй вопрос невозможно ответить, ссылка пока не является доказательством. Если на третий ответ отрицательный, источник может быть настоящим, но использован неправильно. Если четвёртый показывает, что рушится весь вывод, публикацию нужно остановить до проверки.

Не просите систему просто «проверить себя». Это полезный промежуточный шаг, но не замена внешнему подтверждению. Система может сгенерировать убедительное объяснение собственной ошибки и снова ошибиться. Её самокритика остаётся текстом, произведённым тем же механизмом.

Почему формулировка запроса меняет ответ

Один и тот же вопрос способен дать разные тексты не потому, что система внезапно получила новые знания, а потому, что изменился контекст, задающий направление продолжения.

Сравните два запроса.

«Напиши статью о причинах роста цен на аренду жилья».

«Подготовь список проверяемых гипотез о росте арендных ставок в Екатеринбурге за последний год. Для каждой гипотезы укажи, какие данные нужны, чтобы её подтвердить или опровергнуть. Не называй причины установленными фактами».

Во втором случае система получает другую задачу. Ей уже недостаточно создать гладкое объяснение. Нужно разделить гипотезы и факты, обозначить пробелы, предложить способы проверки. Ответ, скорее всего, станет менее эффектным и более полезным.

Полевой сигнал четвёртый: запрос требует готового вывода там, где сначала нужно исследование.

Фразы «убедительно докажи», «напиши без сомнений», «сделай экспертный текст», «подтверди, что» подталкивают систему к риторике уверенности. Они могут быть уместны для рекламного черновика, но опасны для аналитики, справки и новостного материала. Запрос заранее задаёт не только тему, но и степень напора.

В контексте срабатывает и человеческая предвзятость. Если редактор считает, что жители недовольны новой транспортной схемой, он может попросить: «Объясни, почему новая схема ухудшила ситуацию». Система начнёт подбирать аргументы в пользу ухудшения: пробки, пересадки, жалобы, увеличение времени в пути. Если поставить вопрос иначе — «Какие есть данные за и против ухудшения ситуации?» — появятся и противоположные факторы: сокращение интервалов, изменение маршрутов, различия между районами.

Машина не устраняет предубеждение автора. Она помогает ему быстро развернуть собственную установку в связный текст.

Именно поэтому запрос нельзя считать нейтральным техническим вводом. Это редакторская гипотеза, иногда скрытая. В нём уже могут быть виновник, причина, оценка и желаемый вывод.

Проверка на скрытую установку

Перед генерацией сложного материала уберите из запроса оценочные слова и посмотрите, изменится ли сама задача.

Вместо «почему подростки перестали читать» напишите: «Какие данные нужны, чтобы проверить изменение читательских привычек подростков, и какие объяснения конкурируют между собой?»

Вместо «почему программа провалилась» — «Какие показатели могут свидетельствовать о провале, а какие — о частичном результате?»

Вместо «докажи, что покупатели недовольны» — «Найди признаки удовлетворённости и недовольства, разделив отзывы, измеримые показатели и предположения».

Это не сделает ответ истинным. Зато снизит риск, что система примет мнение пользователя за установленное условие задачи.

Марина Климова увидела тот же механизм в колледже. Студенты сдавали работы о влиянии цифровых технологий на профессию. Тексты различались по стилю, но почти все строились одинаково: сначала общее обещание изменений, затем перечень преимуществ, после — осторожный абзац о рисках и вывод о необходимости «ответственного подхода». На защите выяснялось, что автор не мог объяснить, откуда взялась конкретная цифра и почему один источник считался надёжным.

Марина изменила задание. Теперь студент должен был принести не только текст, но и карту решений: какие утверждения он проверил, какие оставил гипотезами, какие источники отверг и почему. Объём работ сократился. Их качество стало заметнее.

— Вы хотите, чтобы я отвечала за каждую фразу? — спросила одна студентка.

— Я хочу, чтобы вы знали, какие фразы в вашей работе требуют ответа, — сказала Марина. — Сама гладкость текста не показывает, что вы разобрались.

Уверенный тон как средство снижения бдительности

Редактор редко принимает ошибку только из-за красивого слога. Обычно срабатывает сразу несколько психологических сигналов.

Текст звучит спокойно. В нём нет заметного сомнения, резких скачков и пустых признаний. Он организован: каждая мысль будто ведёт к следующей. Читатель или редактор узнаёт знакомый жанр и переносит доверие к жанру на содержание.

Есть и эффект завершённости. Когда ответ заканчивается выводом, мозгу проще считать задачу закрытой. Незаконченный список воспринимается как работа в процессе, а законченный материал — как результат. Система почти всегда стремится дать завершение: резюме, рекомендации, финальную формулировку. Но завершённость текста не означает завершённость исследования.

В редакции это усиливается дедлайном. У Анны оставалось двадцать минут до выпуска городской подборки. Она видела перед собой пять готовых карточек: где перекроют дороги, как записаться в поликлинику, какие мероприятия пройдут в выходные, как получить компенсацию за проезд и что изменится в оплате парковки. Все тексты были короткими, вежливыми и понятными.

Один человек мог проверить всё поверхностно. Но если он исправит только орфографию и заголовки, машина получит от него немой сигнал: фактическая часть принята. Так появляется опасная цепочка: система производит гладкий черновик, редактор полирует гладкость, а публикация превращает её в социально подтверждённую информацию.

Анна остановилась на карточке о перекрытии. В ней было сказано: «Движение ограничат с 8:00 15 мая в связи с ремонтными работами». Она открыла официальный канал городской администрации и обнаружила, что ограничение начиналось 16 мая и касалось соседнего участка. Ошибка была небольшой по объёму и большой по последствиям: жители могли изменить маршрут, опоздать на работу или решить, что редакция не умеет проверять даже практические сведения.

Она не стала переписывать все материалы вручную. Вместо этого разделила их по цене ошибки.

Карточки с адресами, датами, суммами и правилами отправились на отдельную проверку.

Материалы с общими рекомендациями остались черновиками, но получили пометку: нужно добавить конкретные действия.

Фразы о причинах и оценках переписали так, чтобы предположение не выглядело установленным фактом.

Так появился новый баланс: нейросеть могла ускорять подготовку формы, но не имела права единолично определять содержание, на котором строится действие читателя.

Скрипты для редактора, автора и заказчика

Работа с уверенным тоном требует не общего недоверия, а точных реплик. Они помогают остановить спор о впечатлениях и вернуть разговор к проверяемым действиям.

Если автор говорит: «Текст звучит профессионально», редактор отвечает: «Назови три утверждения, без которых читатель примет неправильное решение, и покажи подтверждение каждого».

Если заказчик говорит: «Нам нужен уверенный материал без оговорок», ответ может быть таким: «Уверенный тон возможен там, где подтверждены факты. Для непроверенных мест я могу сделать ясную формулировку с указанием ограничения, но не буду превращать гипотезу в факт».

Если система выдала список источников, полезно попросить: «Отдели источники, которые подтверждают тезис напрямую, от материалов общего характера. Для каждого укажи, какой именно фрагмент использован».

Если времени мало: «Не расширяй текст. Оставь только утверждения, которые можно проверить сегодня, и выдели места, требующие отдельного подтверждения».

Если материал уже написан: «Перепиши текст в формате: факт, источник, условие применимости, действие читателя. Если одного элемента нет, пометь его как пробел».

Последняя реплика особенно полезна для справочных материалов. Она заставляет перестать оценивать текст как литературное произведение и посмотреть на него как на маршрут. Факт сообщает, что происходит. Источник показывает, откуда это известно. Условие определяет, к кому и когда это относится. Действие объясняет, что делать читателю.

Короткое упражнение: разоблачить гладкость

Возьмите любой сгенерированный ответ объёмом от пяти до десяти абзацев. Не переписывайте его и не оценивайте стиль. Выполните три прохода.

Первый проход. Подчеркните все утверждения, которые можно проверить внешним источником: даты, суммы, имена, должности, названия документов, причинно-следственные связи, слова «всегда», «обычно», «чаще всего», «эксперты считают».

Второй проход. Отметьте места, где текст использует переходы «поэтому», «таким образом», «это приводит», «главная причина». Каждый такой переход утверждает связь между фактами. Проверьте не только сами факты, но и право соединять их в вывод.

Третий проход. Найдите предложения, которые звучат полезно, но не дают читателю действия. Например: «Важно учитывать индивидуальные обстоятельства» или «Следует внимательно изучить требования». Спросите, какие именно обстоятельства и требования нужно проверить. Если ответ не помещается в одну конкретную инструкцию, предложение является заполнителем.

После упражнения обычно обнаруживаются три слоя текста. Первый можно оставить после проверки. Второй требует уточнения. Третий создаёт впечатление компетентности, но не меняет решения читателя. Именно третий слой чаще всего и формирует нейрослоп.

Машина усиливает не только ошибки, но и иерархии

Уверенный тон опасен ещё по одной причине: он способен маскировать не только незнание, но и предубеждение. Если в исходных материалах чаще описываются одни группы людей, районы, профессии или способы поведения, система может продолжить эту неравномерность. Ей не обязательно «придумывать дискриминацию» в прямой форме. Достаточно связать привычные слова и роли.

Запрос о причинах просрочек может привести к тексту, где ответственность возложена на «неорганизованных клиентов», хотя реальная причина — сложная процедура и неясные уведомления. Запрос о безопасности района может подтолкнуть к общим характеристикам жителей вместо анализа статистики и освещения улиц. Запрос о качестве образования может сделать виноватыми студентов, не учитывая нагрузку, доступ к материалам и организацию курса.