Нейрокреатор. Архитектура реальности
- -
- 100%
- +
Промт: «Как снизить уровень hallucination при генерации фактов?»
«Token» — единица текста, которую обрабатывает нейросеть. Мы говорили о токенах в главе 4.
Промт: «Оцени, сколько токенов займёт мой промт»
«Context window» — окно контекста (количество текста, которое нейросеть «помнит»). Нейросеть понимает этот термин.
Промт: «Учитывай, что мой context window ограничен 8000 токенов»
«Multimodal» — работающий с разными типами данных (текст, изображение, звук). Понятнее, чем «работающая с разными форматами».
Промт: «Используй multimodal подход: сначала текст, потом картинка»
15.4 Как вставлять английские слова в русский промт
Есть три стратегии. От простой к сложной.
Стратегия первая: Полное замещение
Вы используете английский термин вместо русского полностью.
Пример: «Напиши кликбейтный заголовок» вместо «Напиши привлекающий внимание заголовок».
Когда использовать: Для устоявшихся терминов, которые уже стали частью русского языка (кликбейт, оффер, триггер). Это безопасно и эффективно.
Стратегия вторая: Параллельное использование
Вы даёте нейросети оба варианта — и английский, и русский — для точности.
Пример: «Сформулируй оффер (коммерческое предложение)».
Когда использовать: Если вы не уверены, поймёт ли нейросеть английский термин, или если термин новый и ещё не устоялся.
Стратегия третья: Английский + объяснение
Вы используете английский термин и тут же его объясняете.
Пример: «Рассчитай ROI (return on investment, окупаемость инвестиций)».
Когда использовать: Для редких терминов или когда вы хотите обучить нейросеть новому слову, чтобы использовать его дальше в диалоге.
15.5 Ошибки при использовании англо-русских триггеров
Ошибка первая: Смешивание языков в одном слове.
«Нейросеть-инжиниринг», «промт-дизайн», «кликбейт-заголовок» — это «суржик», который нейросеть понимает хуже, чем чистый русский или чистый английский.
Ошибка вторая: Использование редких слов, которых нет в обучающей выборке.
«Disintermediation» (дезинтермедиация) — нейросеть вряд ли поймёт. «Bleisure» (деловая поездка + отдых) — тоже. Проверяйте: если слово не встречается в российских деловых СМИ, нейросеть может его не знать.
Ошибка третья: Перебор с английскими словами.
Если вы напишете промт из одних английских слов, нейросеть может переключиться в «английский режим» и начать отвечать на английском. Сохраняйте баланс.
Ошибка четвёртая: Использование английских слов в промтах для изображений, где нейросеть плохо понимает английский.
Kandinsky понимает английские промты, но русские — лучше. Для изображений используйте английские термины только как дополнение к русским.
Ошибка пятая: Забывать про российские аналоги.
Английские триггеры — это усилитель, а не замена русскому языку. Не пишите «make prompt», пишите «напиши prompt». Языковая база — русская, английские слова — специи.
15.6 Эксперимент: русский vs англо-русский промт
Давайте сравним два промта для одной задачи — написать пост о нейросетях для бизнеса.
Промт без англо-русских триггеров (чистый русский):
*«Ты — маркетолог. Напиши пост для бизнес-канала о том, как нейросети помогают бизнесу. Расскажи про пользу, приведи примеры. Стиль — деловой, но не скучный. В конце — призыв к действию. Длина — 1000 знаков»*
Промт с англо-русскими триггерами:
*«Ты — маркетолог, эксперт по performance-маркетингу. Напиши пост для бизнес-канала о том, как нейросети снижают CAC (стоимость привлечения клиента) и повышают ROI (окупаемость). Используй кейсы и цифры. Стиль — экспертный, но без излишней техничности. В конце — сильный CTA (call to action). Длина — 1000 знаков. Ключевые слова: оффер, конверсия, лиды»*
Какой промт даст лучший результат? Второй. Потому что он говорит с нейросетью на языке, который она понимает лучше всего — на языке профессиональных терминов, где русский и английский переплетаются естественно.
15.7 Как не знать английский, но использовать триггеры
Вы можете не знать английского языка, но пользоваться англо-русскими триггерами. Вот как.
Способ первый: Заучите список из 30 слов.
Это не требует знания грамматики или произношения. Просто запомните, что «оффер» — это коммерческое предложение, «триггер» — психологический стимул, «KPI» — показатель эффективности. Этого достаточно.
Способ второй: Используйте переводчик для проверки.
Если вы сомневаетесь, как пишется слово, — проверьте в Google Translate или Яндекс. Переводчике. Вам не нужно знать произношение, только написание.
Способ третий: Спросите у нейросети.
Да, это ирония, но работает: спросите у YandexGPT: «Как по-английски будет „призыв к действию“ в маркетинге?». Нейросеть ответит: «Call to Action или CTA». Запомните и используйте.
Способ четвёртый: Используйте готовые шаблоны промтов с триггерами.
Начните с шаблонов из этой главы. Со временем вы запомните триггеры и начнёте использовать их автоматически.
15.8 Практическое домашнее задание
Задание 15.1. «Перепиши промт с триггерами»
Возьмите любой свой старый промт (или промт из интернета). Перепишите его, заменив русские профессиональные термины на англо-русские триггеры из списка. Сравните результат.
Задание 15.2. «Эксперимент: чистый русский vs англо-русский»
Напишите два промта для одной задачи: один — чистый русский (без английских слов), второй — с 5—7 англо-русскими триггерами. Запустите оба. Сравните качество ответов. Какой лучше?
Задание 15.3. «Найди три новых триггера»
Погуглите или спросите у нейросети: «Какие ещё английские термины часто используются в [ваша сфера]?». Найдите три новых слова, которых нет в моём списке. Проверьте, понимает ли их ваша нейросеть. Добавьте в свой личный словарь.
Задание 15.4. «Словарь нейрокреатора»
Создайте документ «Мои англо-русские триггеры». Разбейте по категориям (маркетинг, аналитика, дизайн, технологии). Выпишите туда 30 слов из этой главы + ваши новые. Держите открытым при написании промтов.
Резюме главы
Англо-русские триггеры — это профессиональные термины, которые нейросеть понимает лучше, чем их русские аналоги. Они короче, точнее и чаще встречаются в обучающей выборке.
Топ-30 триггеров покрывают основные потребности нейрокреатора: маркетинг (кликбейт, оффер, CTA, USP, AIDA), аналитика (KPI, ROI, CAC, LTV, benchmark, insight), дизайн (realism, cyberpunk, minimalism, vintage, lo-fi, glitch, render, mockup), технологии (prompt, fine-tuning, API, hallucination, token, context window, multimodal).
Используйте триггеры тремя способами: полное замещение (безопасно для устоявшихся терминов), параллельное использование (английский + русский), английский с объяснением (для редких слов).
Главные ошибки: смешивание языков в одном слове, использование редких терминов, перебор с английским, забывание про российские аналоги, использование английского в промтах для изображений (где русский всё ещё лучше).
Вы можете не знать английского — достаточно заучить 30 слов как профессиональные термины, использовать переводчик для проверки или готовые шаблоны.
Ваша мантра нейрокреатора на сегодня:
«Я говорю с нейросетью на её языке. Я использую англо-русские триггеры — точные, короткие, понятные. Я не смешиваю языки в одном слове. Я не перебарщиваю. Мои промты — это коктейль из русского и профессионального английского. Нейросеть понимает меня с полуслова».
В следующей главе: мы разберём 5 способов заставить нейросеть признать ошибку — как бороться с галлюцинациями, когда нейросеть уверенно врёт, и как сделать так, чтобы она говорила «я не знаю» вместо того, чтобы выдумывать. Поехали!
Глава 16. Укрощение галлюцинаций: 5 способов заставить ИИ признать ошибку
16.1 Проблема, о которой молчат маркетологи
Нейросети обладают удивительной способностью — они могут звучать невероятно уверенно, даже когда несут полную чушь. Это называется галлюцинация (hallucination), и это, пожалуй, самая большая проблема генеративного ИИ.
Маркетологи нейросетей не любят говорить об этом. В рекламных роликах вы видите, как ChatGPT гениально пишет стихи и код. Но вы не видите, как он же уверенно называет несуществующую статью закона, придумывает цитату, которой никогда не было, или «вспоминает» событие, которое не происходило.
Главная мысль главы: Галлюцинации — не баг, а фича. Нейросеть запрограммирована на то, чтобы давать ответ всегда, даже если она не знает правильного. Её задача — звучать правдоподобно, а не быть точной. Но мы можем «переучить» её с помощью специальных промтов признавать свою неуверенность.
В этой главе мы разберём пять конкретных способов заставить нейросеть говорить «я не знаю» вместо того, чтобы выдумывать. Эти способы работают для любых моделей — YandexGPT, GigaChat, ChatGPT, любых других.
16.2 Почему нейросети галлюцинируют (короткое напоминание)
Вернёмся к нашей аналогии с «безумным библиотекарем» из главы 4.
Библиотекарь прочитал миллиарды книг. Вы задаёте вопрос. Библиотекарь не знает ответа, но он обязан что-то ответить. Он не может сказать «я не знаю» — в его «библиотеке» нет такой инструкции. Поэтому он собирает наиболее вероятные слова из разных контекстов и склеивает их в правдоподобный ответ.
Пример: Вы спрашиваете: «Кто выиграл чемпионат мира по футболу в 1942 году?» (его не было). Библиотекарь видит: «чемпионат мира» → часто с «Бразилия», «1942 год» → часто с «Вторая мировая война». И склеивает: «Чемпионат мира 1942 года выиграла Бразилия, но турнир был прерван из-за войны».
Звучит правдоподобно. Но это ложь.
Ключевое понимание: Нейросеть не знает, что она лжёт. У неё нет внутреннего критика. Она просто выдаёт наиболее вероятную последовательность токенов. Наша задача — добавить этого внутреннего критика с помощью промтов.
16.3 Способ первый: Прямой запрет на галлюцинации (Rule-Based)
Самый простой способ — прямо запретить нейросети выдумывать.
Формула промта:
«Если ты не знаешь точного ответа на вопрос, не выдумывай. Напиши „Я не знаю“ или „Нет информации“. Не придумывай факты, цитаты, даты, имена, события, которых нет в твоей обучающей выборке»
Пример использования:
«Когда была основана компания „Рога и Копыта“? Если ты не знаешь точного года — напиши „Нет данных“. Не выдумывай. Только проверенные факты»
Почему это работает: Вы даёте нейросети альтернативу — «скажи „не знаю“». Раньше у нейросети не было инструкции, что делать при неуверенности. Теперь она есть.
Ограничения: Нейросеть может не знать, что она «не знает». Она может быть уверена в ложном факте, потому что он часто встречался в обучающей выборке. Прямой запрет помогает, но не всегда.
16.4 Способ второй: Принуждение к указанию источника (Source-Citing)
Вы заставляете нейросеть не просто дать ответ, но и указать, откуда она его взяла. Если источник выглядит сомнительно или нейросеть не может его назвать — вы понимаете, что ответ, скорее всего, галлюцинация.
Формула промта:
«На каждый факт, который ты приводишь, указывай источник. Если ты не уверен в источнике или не можешь его назвать — не приводи факт. Формат: „Факт: … Источник: …“»
Пример использования:
*«Расскажи об основных положениях 152-ФЗ о персональных данных. Каждый факт сопровождай ссылкой на конкретную статью закона. Если не можешь указать статью — пропусти факт. Формат: «Положение: … Статья: …«»*
Почему это работает: Нейросеть, которая галлюцинирует, обычно не может указать реальный источник. Она либо выдумает источник («статья 123», которой нет), либо признает, что не может его назвать. Во втором случае вы получаете честный ответ.
Ограничения: Нейросеть может выдумать и источник. Поэтому всегда проверяйте указанные источники (особенно для юридических, медицинских, финансовых вопросов).
16.5 Способ третий: Цепочка мышления с самопроверкой (CoT + Self-Check)
Мы уже знаем Chain of Thought из главы 14. Добавим к ней шаг самопроверки.
Формула промта:
«Рассуждай шаг за шагом. После того как дашь ответ, проверь его на наличие логических противоречий, выдуманных фактов, неподтверждённых утверждений. Если найдёшь ошибку — исправь её и дай новый ответ. Если не уверен — напиши „Я не уверен“»
Пример использования:
«Кто изобрёл радио: Попов или Маркони? Рассуждай шаг за шагом. Сначала приведи аргументы за Попова, потом за Маркони. Затем сделай вывод. После вывода проверь себя: нет ли в твоём ответе неточностей или упрощений. Если есть — исправь. Если вопрос спорный — напиши „Однозначного ответа нет, вот две точки зрения“»
Почему это работает: Нейросеть, проговаривая свои рассуждения, может сама заметить противоречия. Шаг самопроверки заставляет её посмотреть на свой ответ критически.
Ограничения: Работает лучше для логических задач, хуже — для фактологических. Если нейросеть уверена в ложном факте, самопроверка может не помочь.
16.6 Способ четвёртый: Принуждение к выражению неуверенности (Confidence Scoring)
Вы заставляете нейросеть оценить свою уверенность в ответе по шкале. Когда нейросеть вынуждена признать, что она «не очень уверена», вы понимаете, что ответ может быть ненадёжным.
Формула промта:
«После каждого ответа указывай свою уверенность в процентах от 0% (абсолютно не уверен) до 100% (абсолютно уверен). Если уверенность ниже 80% — объясни, почему ты сомневаешься»
Пример использования:
«Какой будет курс доллара через месяц? Дай прогноз и после ответа укажи свою уверенность в процентах. Если уверенность ниже 80% — объясни, какие факторы мешают точному прогнозу. Если не знаешь — так и скажи с уверенностью 0%»
Почему это работает: Нейросети по умолчанию не оценивают свою уверенность. Когда вы заставляете их это делать, они часто дают низкие проценты для сомнительных утверждений. Это честнее, чем просто «да» или «нет».
Ограничения: Проценты — это тоже продукт галлюцинации. Нейросеть не может реально измерить свою уверенность. Но сам акт оценки заставляет её задуматься о качестве ответа.
16.7 Способ пятый: «Сначала перечисли, чего ты не знаешь» (Unknowns First)
Самый мощный способ, который используют профессиональные промт-инженеры. Вы заставляете нейросеть начать не с ответа, а с перечисления того, чего она не знает.
Формула промта:
*«Прежде чем отвечать, перечисли 3—5 вещей, которых ты НЕ знаешь по этой теме. Затем, с учётом этих ограничений, дай ответ. Если после перечисления неизвестного ответа не остаётся — так и напиши „Не могу ответить“»*
Пример использования:
*«Оцени перспективы рынка нейросетей в России до 2030 года. Прежде чем давать прогноз, перечисли 3—5 ключевых факторов, которых ты не знаешь (например, будущие законы, действия конкурентов, макроэкономику). Затем, учитывая эти неизвестные, дай осторожный прогноз. Если без этих неизвестных прогноз невозможен — напиши „Точный прогноз дать нельзя из-за следующих неизвестных факторов…“ и перечисли их»*
Почему это работает: Этот метод переворачивает логику нейросети. Вместо того чтобы уверенно отвечать на всё, она сначала признаёт границы своего знания. Это самый эффективный способ борьбы с галлюцинациями.
Ограничения: Требует больше токенов (дороже). Нейросеть может перечислить тривиальные неизвестные («я не знаю погоды на завтра») вместо значимых.
16.8 Таблица: какой способ когда использовать
Для быстрой ориентации — вот матрица выбора метода в зависимости от типа задачи.
Фактологический вопрос с однозначным ответом (например, «Год основания Москвы?»)
Лучший метод: Прямой запрет + указание источника
Почему: Или знаешь точный факт с источником, или признаёшь, что не знаешь.
Юридический или медицинский вопрос (высокая цена ошибки)
Лучший метод: Указание источника + Принуждение к выражению неуверенности
Почему: Нужны не просто факты, а верифицируемые данные с указанием надёжности.
Логическая задача или «загадка»
Лучший метод: Цепочка мышления с самопроверкой
Почему: Ошибки возникают не из-за незнания фактов, а из-за ошибок в рассуждении.
Прогноз или оценка будущего
Лучший метод: «Сначала перечисли, чего ты не знаешь»
Почему: Честный прогноз невозможен без признания неизвестных факторов.
Творческая задача (нет правильного ответа)
Лучший метод: Не нужен — галлюцинации не страшны, это часть творчества
Почему: В творчестве нет «правильного» и «неправильного».
Комбинированный метод для максимальной надёжности:
Прямой запрет + Указание источника + Цепочка мышления с самопроверкой + «Сначала перечисли неизвестное»
16.9 Как проверить, не галлюцинирует ли нейросеть (алгоритм для человека)
Даже после всех наших уловок нейросеть может ошибаться. Вот алгоритм проверки.
Шаг 1. Проверьте источник. Если нейросеть указала источник — откройте его. Есть ли там то, что она утверждает? Если источник выдуман — ответ галлюцинация.
Шаг 2. Проверьте логику. Если нейросеть рассуждала — нет ли логических скачков? Не противоречит ли она сама себе?
Шаг 3. Проверьте цифры. Если нейросеть назвала цифры (год, количество, процент) — проверьте через поиск. Нейросети часто галлюцинируют с числами.
Шаг 4. Проверьте на абсурд. Если ответ звучит странно или слишком «идеально» — скорее всего, галлюцинация. Правда часто сложнее и неудобнее вымысла.
Шаг 5. Спросите ту же задачу в другой нейросети. Если YandexGPT говорит одно, а GigaChat — другое, кто-то (или оба) галлюцинируют. Истина где-то посередине (или в поисковике).
16.10 Практическое домашнее задание
Задание 16.1. «Поймай галлюцинацию»
Попросите нейросеть ответить на вопрос, на который она не может знать точного ответа (например, «Какое слово было 5000-м в романе „Война и мир“?» или «Сколько букв „о“ в первом издании „Евгения Онегина“?»). Без защиты от галлюцинаций. Посмотрите, как она будет уверенно выдумывать.
Задание 16.2. «Сравни пять способов»
Возьмите один и тот же сложный фактологический вопрос (например, о законе, исторической дате или научном факте). Примените к нему по очереди все пять способов из этой главы. Сравните результаты. Какой способ дал самый честный ответ? Какой — самый точный?
Задание 16.3. «Проверка источника»
Попросите нейросеть ответить на юридический вопрос с указанием источника. Получите ответ. Проверьте указанный источник — существует ли он? Есть ли там то, что утверждает нейросеть? Если нет — поймали галлюцинацию.
Задание 16.4. «Создай свой защитный промт»
Скомбинируйте все пять способов в один промт. Напишите «универсальный защитный промт», который вы будете добавлять к любым серьёзным запросам. Протестируйте его на вопросах, где нейросеть раньше галлюцинировала.
Резюме главы
Галлюцинации — это не баг, а фича нейросетей. Они запрограммированы давать ответ всегда, даже если не знают правильного. Наша задача — «переучить» их с помощью специальных промтов.
Пять способов борьбы с галлюцинациями:
— Прямой запрет — скажи нейросети: «Если не знаешь — напиши „не знаю“». Самый простой, но не самый надёжный.
— Указание источника — заставь нейросеть ссылаться на источники. Если источник выдуман — ты поймёшь, что ответ ненадёжен.
— Цепочка мышления с самопроверкой — заставь нейросеть рассуждать шаг за шагом и проверять себя. Хорошо для логических задач.
— Принуждение к выражению неуверенности — попроси нейросеть оценить свою уверенность в процентах. Низкий процент — повод проверить ответ.
— «Сначала перечисли, чего ты не знаешь» — самый мощный метод. Нейросеть сначала признаёт границы своего знания, потом отвечает.
Для максимальной надёжности комбинируйте методы. Для юридических, медицинских, финансовых вопросов — используйте несколько способов сразу и всегда проверяйте ответы в поисковике.
Ваша мантра нейрокреатора на сегодня:
«Я не верю нейросети на слово. Я знаю, что она галлюцинирует. Я заставляю её указывать источники. Я прошу оценить уверенность. Я требую перечислить то, чего она не знает. Я проверяю факты сам. Нейросеть — мой помощник, а не истина в последней инстанции».
В следующей главе: мы разберём, как заставить нейросеть писать промты для других нейросетей — и как использовать это для автоматизации своей работы. «Промты для генерации промтов: ИИ пишет за тебя — лучший лайфхак». Поехали!
Глава 17. Промты для генерации промтов: ИИ пишет за тебя — лучший лайфхак
17.1 Мета-уровень: когда инструмент создаёт инструменты
Вы уже прошли большой путь. Вы знаете, как устроена нейросеть, как формулировать промты, как бороться с галлюцинациями. Теперь пришло время подняться на следующий уровень — уровень мета-промтинга.
Главная мысль главы: Самый эффективный способ сэкономить время и повысить качество работы — заставить нейросеть писать промты для других нейросетей (или для себя самой). Это не лень, это инженерия. Вы перестаёте быть «печатной машинкой» и становитесь «дирижёром оркестра».
В этой главе я научу вас: как заставить нейросеть генерировать промты для генерации изображений, как создавать «цепочки промтов» для сложных задач, как превращать нечёткую просьбу клиента в структурированный промт и как собрать свою библиотеку промтов-шаблонов.
17.2 Почему нейросеть может писать промты лучше вас
Звучит парадоксально: как нейросеть может написать промт лучше, чем человек, который эту нейросеть создал? Но это факт.
Вот три причины, почему это работает.
Причина первая: нейросеть знает свой «словарь».