Проверка на здравый смысл: Как не попадаться на ошибки нейросетей

Сначала назовите конечное действие. Коммерческое предложение должно привести к согласованию встречи, запросу документов или началу обследования. Аналитическая записка должна помочь выбрать вариант, отложить решение или запросить дополнительные данные. Внутреннее сообщение должно зафиксировать решение и ответственных, а не просто звучать вежливо.

Запрос «Сделай предложение убедительным» слабее запроса «Подготовь предложение для руководителя производственной компании, который решает, давать ли согласие на обследование процессов. Цель текста — показать состав работ и условия следующего шага, но не продавать неподтверждённую экономию».

Сигнал: адресат обозначен слишком широко — «для бизнеса», «для руководства», «для клиентов», «для обычного человека».

В этом случае модель не знает, какие знания уже есть у читателя, чего он опасается и какое решение принимает. В результате текст пытается понравиться всем и становится одинаково бесполезным для каждого.

Укажите не только аудиторию, но и её роль в решении. Руководитель может оценивать бюджет и риск, технический специалист — совместимость и нагрузку, юрист — условия ответственности, закупщик — сопоставимость предложений. Один и тот же материал для этих ролей должен иметь разный порядок аргументов.

Если адресатов несколько, попросите сделать один основной текст и коротко указать, какие части потребуют адаптации для каждой роли. Не нужно заставлять нейросеть писать три полноценных документа, если задача пока состоит только в подготовке основы.

Сигнал: в вопросе есть слова «рынок», «конкуренты», «практика», «тренды», но не указаны период, территория и требования к источникам.

Без этих границ модель может выдать обобщения, которые звучат аналитически, но не имеют определённой области применимости. Рынок России и рынок отдельного региона — не одно и то же. Данные за разные годы нельзя смешивать без пояснений. Отраслевой обзор и статистика конкретной компании отвечают на разные вопросы.

Задайте географию, период и допустимые источники. Для российской аналитики это могут быть данные Росстата, Банка России, ФНС, профильных государственных органов, раскрытая компаниями информация и внутренние отчёты. Если нужен обзор публикаций, потребуйте указывать дату, источник и связь конкретного вывода с ним.

Рабочая формулировка: «Используй данные за 2024–2025 годы, отделяй официальную статистику от экспертных оценок, не называй текущим показатель, если дата публикации не указана. Если источник не подтверждает вывод напрямую, пометь вывод как гипотезу».

Сигнал: пользователь заранее запрещает вопросы: «Не уточняй, просто сделай».

Иногда так пытаются ускорить работу, но вместе с вопросами убирают механизм обнаружения критических пробелов. Если без уточнения нельзя ответить надёжно, нейросеть всё равно продолжит — только молча выберет значения сама.

Разделите задачу на два режима. Сначала попросите назвать от трёх до семи вопросов, без которых результат может оказаться неверным. Затем разрешите подготовить предварительный вариант с явными пометками допущений. Это быстрее, чем исправлять готовый текст, в котором неизвестные сведения уже смешаны с фактами.

Сигнал: в одном запросе объединены исследование, расчёт, написание текста и финальная рекомендация.

Разные задачи требуют разных стандартов доказательности. Сбор фактов, интерпретация, вычисление и редактура — не один процесс. Если попросить сделать всё сразу, красивый итог может скрыть слабость исходного анализа.

Попросите сначала выдать рабочую записку: факты, неизвестные данные, допущения и варианты решения. Только после этого закажите финальный текст. Если времени мало, всё равно добавьте в один запрос требование показать промежуточные основания перед выводом.

Пять блоков запроса

Для большинства рабочих задач достаточно пяти обязательных блоков: контекст, цель, ограничения, формат результата и критерии проверки. Они не превращают запрос в бюрократический бланк. Их задача — заранее ответить на пять вопросов: что происходит, зачем нужен результат, чего нельзя делать, как должен выглядеть ответ и по каким признакам его принимать.

Контекст

Контекст описывает не всю историю проекта, а только данные, которые способны изменить ответ. Здесь уместны факты, текущая ситуация, участники процесса, уже принятые решения и доступные материалы.

Не пишите: «У нас сложная ситуация с продажами».

Пишите: «За последние три месяца отдел обработал 840 входящих обращений. Среднее время первого ответа известно только за последний месяц. Доля обращений, завершившихся заказом, не рассчитана. Руководству нужно решить, менять ли график работы операторов или сначала проверить качество распределения обращений».

В контексте полезно сразу разделить статусы:

«Дано пользователем» — сведения, которые вы передаёте модели как исходные.

«Предположение пользователя» — объяснение или интерпретация, ещё не подтверждённые данными.

«Проверено» — утверждение, для которого есть документ, расчёт или источник.

«Неизвестно» — важная информация, которой пока нет.

Такое разделение защищает от распространённой ошибки: пользователь пишет «клиенты уходят из-за высокой цены», а нейросеть принимает причину оттока за доказанный факт. Правильнее записать: «Известно: число повторных заказов снизилось. Предположение: причина связана с ценой. Неизвестно: какие причины клиенты называют при отказе и как они соотносятся с ценой, сроками и качеством обслуживания».

Цель

Цель должна описывать не производство текста, а решение или действие после его получения.

«Написать статью о преимуществах системы» — это задача на форму.

«Подготовить материал, после которого руководитель сможет решить, нужно ли проводить обследование процессов» — это цель.

У цели должны быть адресат и критерий результата. Можно добавить ограничение по стадии работы: первая встреча, внутреннее обсуждение, предварительная оценка, согласование пилота, подготовка к закупочной процедуре.

Одна и та же тема при разных целях даёт разные ответы. Для первой встречи нужны понятные границы и вопросы. Для закупки — сопоставимые условия и документы. Для внутреннего решения — расчёт, риски и альтернативы. Нейросеть не должна угадывать, на какой стадии находится задача.

Ограничения

Ограничения уменьшают не творческую свободу, а область опасных домыслов. Сюда входят срок, объём, география, бюджет, аудитория, доступные источники, запрещённые обещания, требования к точности и перечень того, что не входит в задачу.

Укажите, нужно ли использовать только предоставленные материалы или допустимы внешние источники. Назовите дату, на которую сведения должны быть актуальны. Если расчёт ведётся в рублях, уточните, нужно ли показывать НДС отдельно. Если предложение не является договором, напишите об этом прямо, чтобы модель не создавала видимость юридически завершённых условий.

Полезная формула ограничения выглядит так: «Не делай X без данных Y; если Y отсутствует, сделай Z».

Например: «Не указывай точный срок внедрения без перечня интеграций и числа маршрутов согласования; вместо этого назови эти данные и предложи способ первичной оценки».

Формат результата

Формат определяет, как читатель будет использовать ответ. Укажите объём, порядок разделов, необходимость таблицы, краткого вывода и отдельного блока для неизвестных данных.

Формулировка «Подготовь подробный анализ» почти ничего не говорит о готовом продукте. «Сделай записку на две страницы: сначала вывод для руководителя, затем факты и методика, после этого три сценария, риски, неизвестные данные и список решений, которые требуют подтверждения» — уже рабочее задание.

Если нужно сравнить варианты, не просите просто «выбрать лучший». Потребуйте для каждого варианта одинаковые поля: затраты, срок, ожидаемый результат, риски, условия применимости и данные, которых не хватает. Тогда варианты будут сопоставимыми.

Критерии проверки

Здесь задаются правила приёмки. Ответ должен показывать источник каждого числа, отделять наблюдение от интерпретации, объяснять расчёты, называть ограничения и не скрывать противоречия.

Критерии можно сформулировать так:

«Отдели факты от предположений».

«Для каждого существенного вывода укажи основание».

«Назови неизвестные данные, которые способны изменить рекомендацию».

«Покажи формулу расчёта или объясни, почему расчёт невозможен».

«Дай предварительный уровень уверенности и условия, при которых он изменится».

«Найди три слабых места собственного ответа».

Последняя команда особенно полезна. Нейросеть, которую попросили только написать рекомендацию, будет стремиться завершить задачу рекомендацией. Нейросеть, которую попросили найти основания для отказа от собственной рекомендации, чаще обнаружит скрытые допущения.

Уровень уверенности и его границы

Просьба указать уровень уверенности не превращает самооценку модели в измеренный показатель. Это не вероятность истины и не замена источнику. Уровень уверенности — дополнительная метка, которая заставляет раскрыть основания вывода.

Попросите использовать не одно слово, а связку из трёх элементов:

«Уровень уверенности: низкий, средний или высокий».

«Основание: какие данные и источники использованы».

«Что может изменить оценку: какой неизвестный параметр или новый факт повлияет на вывод».

Высокий уровень уместен только тогда, когда есть прямые и актуальные данные, они относятся именно к вашей ситуации, а результат не зависит от крупных непроверенных предположений. Средний означает, что часть основания есть, но остаются существенные пробелы. Низкий применяется к гипотезам, переносам из другого контекста и выводам, сделанным при недостатке данных.

Если модель пишет «уверенность высокая», но не называет ни источника, ни условия, ни возможного опровержения, это просто ещё одна уверенная фраза. Её нужно считать сигналом для проверки, а не доказательством качества.

Разделение фактов и предположений: короткая мастерская

Возьмём типичный сырой бриф:

«Нужно увеличить продажи на 20 процентов в следующем квартале. Клиенты недовольны долгим ответом менеджеров. Новый лендинг должен решить проблему. Бюджет небольшой, а конкуренты уже активно продвигаются».

В таком виде рядом стоят цель, наблюдение, гипотеза и оценка. Если сразу попросить нейросеть написать план, она легко превратит всё это в причинно-следственную цепочку: долгий ответ снижает продажи, новый лендинг ускорит решение, небольшой бюджет ограничивает рекламу, активность конкурентов требует срочных действий.

Но из исходного текста это не следует.

Разложение будет выглядеть так.

«Увеличить продажи на 20 процентов» — целевой показатель, а не факт. Неизвестно, от какой базы он считается, за какой период проводится сравнение и почему выбран именно такой уровень.

«Клиенты недовольны долгим ответом» — сообщение пользователя о проблеме. Оно может быть подтверждённым наблюдением, если есть записи обращений и результаты опроса, но пока источник не указан.

«Долгий ответ вызывает потерю продаж» — предположение о причине. Его нужно проверять отдельно.

«Новый лендинг решит проблему» — гипотеза о способе решения. Она требует проверки: возможно, проблема находится не на странице, а в обработке заявок, цене или условиях доставки.

«Бюджет небольшой» — неопределённая оценка. Для одного проекта это 50 тысяч рублей, для другого — 500 тысяч. Пока нет суммы и состава работ, такое ограничение нельзя использовать в расчёте.

«Конкуренты активно продвигаются» — наблюдение или предположение без периода, каналов и источников.

После такой разметки запрос может звучать иначе:

«Разбери исходный бриф. Сначала раздели утверждения на цели, сообщения пользователя, проверяемые факты, предположения и неизвестные данные. Не принимай гипотезу о причине снижения продаж за установленный факт. Затем предложи три возможные группы причин: обработка обращений, посадочная страница, предложение и цена. Для каждой укажи, какие данные нужны для проверки. Только после этого предложи план действий с приоритетами. Отдельно назови, какие решения нельзя принимать на имеющейся информации».

Такой запрос может дать менее вдохновляющий, но гораздо более полезный результат. Он не позволяет начать с любимого решения и подгонять под него объяснение.

Практика занимает десять минут. Возьмите задачу, которую действительно планируете поручить нейросети. Запишите исходный короткий запрос. Затем каждое утверждение пометьте одним из четырёх статусов: дано пользователем, предположение, проверено, неизвестно. Всё, что невозможно уверенно отнести к первой или третьей категории, не нужно вычёркивать. Покажите это как рабочую гипотезу или пробел.

После этого добавьте к исходному запросу одну фразу: «Сначала покажи эту классификацию и не смешивай категории в итоговой рекомендации». Уже это часто меняет ответ сильнее, чем просьба «сделай подробнее».

Режимы работы: что именно попросить у нейросети

Один и тот же запрос может дать разные результаты в зависимости от режима. Если режим не указан, модель обычно выбирает самый прямой путь: быстро предлагает один связный ответ. Для простых задач этого достаточно. Для решений с риском нужны дополнительные команды.

Режим вариантов

Используйте его, когда стратегия ещё не выбрана.

Формулировка: «Предложи три варианта решения. Для каждого укажи цель, преимущества, недостатки, стоимость или ресурсные требования, риски и условие, при котором этот вариант следует предпочесть. Не называй один вариант лучшим, пока не объяснишь критерий выбора».

Количество вариантов лучше держать ограниченным. Десять идей создают ощущение выбора, но затрудняют сравнение. Обычно достаточно двух или трёх действительно разных подходов: осторожного, сбалансированного и более рискованного.

Режим критики

Используйте его после черновика или перед принятием решения.

Формулировка: «Проведи критический разбор. Найди скрытые предположения, неподтверждённые числа, пропущенные ограничения, конфликтующие цели и места, где читатель может понять текст иначе. Для каждого замечания предложи способ проверки или исправления».

Критика не должна превращаться в ритуальное перечисление общих рисков. Попросите привязать каждое замечание к конкретному абзацу, числу или выводу.

Режим контрпримера

Он нужен, когда рекомендация выглядит универсальной.

Формулировка: «Приведи два сценария, в которых эта рекомендация окажется неэффективной или создаст дополнительный риск. Укажи, какой ранний сигнал покажет, что мы попали в такой сценарий».

Контрпример полезен не для того, чтобы разрушить любое решение, а чтобы определить границы его применимости. Если совет работает только при наличии свободного бюджета, стабильного спроса и готовой команды, это должно быть написано прямо.

Режим вопросов

Используйте его, когда критических данных не хватает.

Формулировка: «Сначала задай не более семи вопросов, ответы на которые способны изменить решение, стоимость, срок или содержание результата. Раздели вопросы на обязательные для продолжения и желательные для уточнения. Если ответов не будет, подготовь предварительный вариант с явными допущениями».

Это лучше, чем разрешать модели задавать вопросы без ограничения. Иначе уточнение превращается в длинную анкету, а работа не сдвигается.

Режим комбинирования

Для серьёзной задачи можно задать последовательность: сначала вопросы, затем варианты, черновик, критика и контрпример. Не обязательно получать всё одним ответом. Разделение на этапы снижает риск, что первоначальная гипотеза незаметно станет основой финального текста.

Два готовых шаблона

Ниже приведены не универсальные заклинания, а заполненные образцы. Их можно копировать и менять под конкретную задачу. В обоих шаблонах намеренно оставлены места, где нейросеть должна признать отсутствие данных.

Коммерческое предложение

Контекст.

«Мы готовим коммерческое предложение для российской производственной компании. По информации потенциального заказчика, в компании 120 сотрудников, 35 постоянных пользователей системы, два юридических лица и около 6000 входящих и исходящих документов в месяц. Эти сведения предоставлены со слов заказчика и пока не подтверждены первичными документами. Предполагаемый предмет проекта — настройка электронного документооборота и маршрутов согласования. Используемые информационные системы, требования к интеграциям, перечень типов документов и текущие сроки обработки неизвестны.

Наша задача — подготовить предварительный материал для первой встречи. Нельзя выдавать его за договор, окончательную смету или гарантированное обещание экономического эффекта».

Цель.

«Цель предложения — получить согласие на обследование процессов и собрать данные для расчёта. Текст должен показать, что именно будет изучено, какие этапы возможны, что входит в предварительный объём работ и какие сведения потребуются от заказчика».

Ограничения.

«Не выдумывай название программного продукта, опыт в конкретной отрасли, реализованные проекты, отзывы, точную стоимость, срок внедрения и процент экономии. Если без этих данных нельзя сделать вывод, прямо укажи это. Цены, если они всё же приводятся как ориентир, указывай в рублях, отдельно показывай стоимость работ, лицензий и дополнительных расходов, а также объясняй, на каких допущениях построен диапазон. Не используй слова “гарантированно”, “без рисков”, “всегда” и “для любой компании”. Не включай в проект работы, если они не перечислены».

Формат.

«Сначала составь блок “Что известно”: перечисли только данные из контекста и укажи, что они не подтверждены. Затем составь блок “Что предполагается” и блок “Что неизвестно”. После этого подготовь коммерческое предложение объёмом до двух страниц со следующими разделами: задача заказчика, предлагаемая последовательность работ, предполагаемый результат каждого этапа, границы проекта, условия оценки сроков и стоимости, следующий шаг. В конце добавь список вопросов для обследования.

Предложи две версии структуры: краткую для руководителя и более подробную для технического специалиста. Не пиши два длинных текста; сначала объясни разницу в акцентах, затем подготовь основной вариант».

Критерии проверки.

«Для каждого числа укажи статус: предоставлено пользователем, рассчитано или требует подтверждения. Для каждого обещания укажи условие, от которого оно зависит. Отдельно назови три слабых места предложения и один контрпример, при котором внедрение не даст ожидаемого эффекта. Проверь, не создаёт ли текст впечатление окончательной цены или гарантированного результата. Если данных не хватает для предложения по стоимости, оставь стоимость незаполненной и объясни, какие параметры нужны для расчёта».

Режим работы.

«Сначала задай не более семи вопросов, которые могут изменить объём работ, сроки или стоимость. Затем подготовь предварительный вариант, не скрывая допущений. После черновика проведи критический разбор».

Обратите внимание на цель такого шаблона. Он не заставляет нейросеть отказаться от коммерческого текста и не делает предложение сухим или бесполезным. Он удерживает границу между продажей следующего шага и обещанием результата, который пока невозможно обосновать.

Аналитическая записка

Контекст.

«Руководству розничной компании нужно оценить целесообразность пилотного запуска доставки заказов день в день в двух городах России. Внутренние данные, предоставленные для предварительного анализа: около 18 000 заказов в месяц, средняя стоимость доставки 340 рублей, планируемая плата клиента 199 рублей, около 42 процентов заказов приходится на зону до 10 километров. Период, за который рассчитаны показатели, не указан. Данные не проверены по первичной отчётности.

Неизвестны фактическая доля отказов, распределение заказов по часам, стоимость курьерского часа, доступная инфраструктура, загрузка складов, сезонность и минимальный объём, необходимый для безубыточности. Внешние сведения о спросе, конкурентах и тарифах пока не собраны».

Цель.

«Подготовь основу для решения: запускать ли пилот, при каких условиях и какие показатели нужно отслеживать. Записка должна помочь руководству выбрать между запуском, дополнительным сбором данных и отказом от проекта на текущем этапе. Не подменяй решение рекламным текстом».

Ограничения.

«Не считай внутренние показатели подтверждёнными фактами. Не используй сведения о российском рынке без указания источника и даты. Если для внешних данных требуется поиск, перечисли, какие источники нужно проверить: официальную статистику, внутреннюю отчётность, данные логистических подразделений и другие относящиеся к вопросу материалы. Не придумывай ссылки, проценты и значения, которых нет в исходных данных.

Не смешивай затраты пилота и постоянные затраты. Покажи, какие расходы зависят от числа заказов, расстояния, времени доставки и размера команды. Все расчёты сопровождай формулой и перечнем допущений. Если расчёт невозможен, укажи, какой показатель отсутствует».

Формат.

«Сначала подготовь краткий вывод для руководителя не более чем на 150 слов, но в нём отдельно укажи, какие части вывода предварительные. Затем составь записку со следующими разделами: исходные данные и их статус, неизвестные параметры, методика оценки, три сценария — осторожный, базовый и благоприятный, риски, критерии успешного пилота, данные для следующего этапа и возможные решения.

Для каждого сценария укажи не только ожидаемый результат, но и условия, при которых он становится реалистичным. Не называй сценарий благоприятным только потому, что в нём выше прибыль. В конце предложи перечень контрольных вопросов и способ проверки каждого существенного предположения».

Критерии проверки.

«Для каждого вывода укажи предварительный уровень уверенности: низкий, средний или высокий. Рядом напиши основание и данные, способные изменить оценку. Отдели наблюдаемые факты от гипотез о спросе. Найди минимум два контрсценария: ситуацию, когда запуск увеличит расходы без роста повторных заказов, и ситуацию, когда ограничение проекта находится не в доставке, а в ассортименте или обработке заказа. Проверь, не используется ли одно и то же число одновременно как факт и как допущение».

Режим работы.

«Начни с семи вопросов, которые могут изменить решение о запуске. Затем подготовь предварительную записку на доступных данных. После этого проведи критику: какие выводы выглядят наиболее убедительно, но опираются на самые слабые основания».

Этот шаблон заставляет модель не просто «проанализировать рынок», а показать устройство анализа. Если внешних данных нет, результатом становится не придуманный обзор, а карта того, что нужно собрать. Для руководителя это может быть ценнее красивой записки с неподтверждёнными цифрами.

Проверка после генерации

Хороший запрос не отменяет проверку ответа. Он лишь делает её быстрее, потому что заранее требует показать допущения, источники и неизвестные данные.

После получения результата проверьте четыре слоя.

Сначала — соответствие задаче. Нейросеть достигла цели или только выполнила формальную команду написать текст? Коммерческое предложение ведёт к нужному следующему шагу или обещает слишком много? Аналитическая записка помогает принять решение или пересказывает общие сведения?

Затем проверьте входные данные. Все ли числа действительно были в исходных материалах? Не поменяла ли модель период, единицы измерения или смысл показателя? Не стала ли пользовательская оценка «примерно» точным значением?

Третий слой — логика. Следует ли вывод из приведённых данных? Есть ли переход от наблюдения к гипотезе, от гипотезы к проверке и только потом к решению? Не появился ли вывод раньше основания?

Четвёртый слой — внешние подтверждения. Существенные цены, сроки, юридические условия, статистические показатели, технические ограничения и обещания результата нужно проверять по документам, расчётам и у ответственных специалистов. Если в ответе есть ссылка на источник, проверьте не только сам источник, но и то, действительно ли он подтверждает конкретную фразу.

Можно использовать короткий контрольный лист:

«Какие три утверждения в ответе сильнее всего влияют на решение?»

«Какой источник подтверждает каждое из них?»