Доверяй, но проверяй: Как распознавать убедительные ошибки ИИ
- -
- 100%
- +
Три дополнительных эпизода
В финансовой работе особенно опасны ошибки, которые выглядят как обычная сверка. ИИ может сопоставить счёт с договором, найти совпадающую сумму и уверенно назвать дату оплаты. Но если в запрос попала старая редакция договора, совпадение суммы ничего не говорит о сроке. Финансовый документ часто строится из нескольких версий: договора, дополнительного соглашения, счёта, акта и переписки. Ошибка возникает не обязательно в расчёте. Она может появиться в тот момент, когда система выбрала не тот документ.
В продажах риск появляется в момент обещания. Алина Власова готовила материалы для клиента и попросила ИИ сократить описание проекта и посчитать ориентировочный срок поставки. В ответ попали семь производственных дней из старого заказа. Текст звучал убедительно, а дата завершения получилась удобной для клиента. Если бы это осталось внутренним черновиком, достаточно было бы проверить один параметр. После отправки коммерческого предложения клиент мог бы назначить монтажную бригаду, зарезервировать склад и объявить собственным заказчикам дату запуска. Даже быстрое исправление письма не вернуло бы потраченное им время.
В закупках история Ирины показывает другой механизм: ложная предпосылка может не просто дать неверную цифру, а изменить выбор между сценариями. Пока сравнивают цены, срок выглядит одной из строк. Но когда на его основе отказываются от резервного поставщика, срок становится условием непрерывности производства. Одно значение начинает управлять всей архитектурой решения.
Для каждой из этих ситуаций действует один принцип: сначала определить действие, затем оценивать, насколько глубоко нужно проверять ответ. Не наоборот. Можно потратить час на проверку несущественной формулировки и пропустить единственную цифру, от которой зависит платёж или дата поставки.
Что делать, если времени почти нет
Срок сам по себе не отменяет контроль, но меняет форму работы. Если до совещания десять минут, не нужно пытаться проверить всю справку построчно. Нужно найти утверждения, которые меняют решение.
У Ирины такими утверждениями были срок поставки, наличие производства и фиксация цены. Название организации и дата регистрации для конкретного выбора были вторичными: проверять их тоже нужно, но они не объясняли, почему компания должна отказаться от действующего поставщика.
В условиях дефицита времени можно разделить документ на три слоя.
Первый слой — данные, без которых решение невозможно. Их проверяют немедленно или выносят в статус неизвестного.
Второй слой — данные, которые влияют на удобство, цену или обоснование, но не меняют безопасный сценарий. Их можно уточнить следующим шагом.
Третий слой — описание, фон и стилистические формулировки. Их нельзя позволять себе проверять дольше, чем критические условия.
Фраза «у нас нет времени на проверку» обычно означает, что не выбран объект проверки. На проверку всех слов времени действительно не будет. Но на проверку трёх входных данных, от которых зависит решение, время нужно заложить даже в сжатый график. Иначе компания не экономит время, а переносит его в будущее — на исправление срочной закупки, пересборку бюджета или разговор с клиентом.
Взрослая пауза
Ирина боялась не самого вопроса директора. Она боялась сорвать срок. Если не отправить справку вечером, утром придётся объяснять, почему сравнение не готово. Ей хотелось выглядеть человеком, который приносит решение, а не список сомнений.
Именно этот страх часто делает ошибки, звучащие убедительно, опасными. Сотрудник не обязательно слепо верит ИИ. Иногда он видит пробел, но считает его слишком маленьким, чтобы останавливать процесс. Он знает, что ссылка не открылась, срок взят из старого письма, а расчёт построен на предположении. Однако дедлайн подталкивает превратить «нужно уточнить» в «можно использовать».
Пауза перед отправкой не замедляет работу, если предотвращает неверное действие. Она возвращает вопрос на правильный уровень: не «успеем ли мы красиво оформить ответ», а «какое решение начнётся после этого ответа».
Ирина не остановила закупку навсегда. Она остановила только превращение неподтверждённой информации в управленческое основание. Это и есть граница разумного контроля.
Перед использованием любого ответа ИИ задайте три вопроса. Что случится, если он неверен? Кто будет вынужден исправлять последствия и кто пострадает? Можно ли быстро вернуть ситуацию в безопасное состояние? Ответы покажут, достаточно ли лёгкой правки, нужна ли полноценная проверка или действие следует остановить до подтверждения ключевых данных.
В следующей главе речь пойдёт о более тонкой ловушке: источник у утверждения может существовать, но сам по себе источник ещё не превращает его в доказательство. Мы разберём, как отличать найденный документ от подтверждённого вывода и почему наличие ссылки иногда лишь создаёт новую видимость надёжности.
Источник есть, но доказательства нет
В 11:47 Ирина Соколова переслала директору справку о поставщике. Она уже отделила уверенный тон от достроенного контекста и оценила цену ошибки. Теперь предстояло сделать следующий шаг: не просто заметить риск, а найти место, где каждое существенное утверждение либо подтверждается, либо перестаёт выглядеть фактом.
В конце второго абзаца стояла синяя гиперссылка с подписью: «Официальные сведения о поставщике и требованиях к заключению договора». Рядом было написано:
«ООО “Северная оснастка” является действующей организацией, зарегистрированной 14 июня 2019 года. Генеральный директор Петров Алексей Сергеевич вправе подписать договор поставки на сумму 18,4 млн рублей. Компания не числится среди недобросовестных поставщиков, имеет опыт поставок промышленным предприятиям, а срок исполнения заказа составляет 30 календарных дней. Сведения актуальны на март 2025 года».
На совещании директор пролистал страницу до ссылки и спросил:
«Если источник официальный, можно запускать согласование?»
Дмитрий Орлов, юрист компании, не стал обсуждать, насколько убедительно выглядит адрес. Он спросил другое:
«Что именно подтверждает эта ссылка?»
Попробуйте ответить на этот вопрос до того, как читать дальше. Она подтверждает существование компании? Имя руководителя? Его право подписать именно этот договор? Отсутствие записи в реестре? Срок поставки? Актуальность сведений на март? Или только общий порядок проверки поставщика?
Один URL способен создать ощущение доказанности, хотя внутри абзаца может не быть ни одного подтверждённого факта.
Ссылка, источник и доказательство
Дмитрий предложил Ирине не проверять абзац целиком. Сначала нужно было разобраться, что именно скрывается за каждым термином.
Ссылка — это адрес, по которому можно попытаться найти материал. Она показывает путь, но не гарантирует, что по этому пути находится нужное место.
Источник — документ, запись или публикация, содержащие сведения. Источником может быть выписка из ЕГРЮЛ, запись в реестре, договор, техническое задание, официально опубликованный нормативный документ, решение о назначении руководителя или акт выполненных работ.
Доказательством конкретного утверждения становится не сам найденный источник, а точный фрагмент, который соответствует утверждению по предмету, дате, территории, версии и области действия.
Разница видна на простом примере. Статья о том, как проверять полномочия директора, может быть хорошим источником для общего контекста. Но из неё нельзя узнать, кто руководит конкретным ООО сегодня. Выписка из ЕГРЮЛ может показать лицо, имеющее право без доверенности действовать от имени юридического лица. Однако сама по себе она не отвечает на вопрос, требуется ли для конкретного договора отдельное корпоративное одобрение. Старый договор может подтвердить, что поставщик когда-то поставлял похожую продукцию, но не доказывает, что нынешний заказ будет выполнен за тридцать дней.
Официальность источника и соответствие утверждению — разные свойства. Документ может быть официальным, но не иметь отношения к нужному факту. И наоборот, частный договор между двумя компаниями может оказаться самым сильным источником для вопроса о согласованном сроке поставки, хотя его нет на сайте государственного органа.
Четыре функции одного источника
Дмитрий предложил Ирине разделить абзац на отдельные утверждения. У каждого из них своя доказательная задача.
Факт отвечает на вопрос: произошло ли событие, существует ли организация, внесена ли запись, подписан ли документ.
Дата отвечает на вопрос: когда это произошло, на какой момент сведения были актуальны, с какого дня действует правило, к какой редакции относится документ.
Полномочие отвечает на вопрос: имеет ли конкретное лицо право совершить конкретное действие — подписать договор, выдать доверенность, принять обязательство, представить организацию.
Общий контекст отвечает на вопрос: как устроена процедура, какие документы обычно используются, почему запись появляется в реестре, какие требования применяются к определённой категории сделок.
Одна публикация иногда выполняет сразу две функции. Например, официально опубликованный нормативный документ может подтвердить содержание правила и дату его вступления в силу. Но он не докажет, что конкретная компания соблюла это правило. Запись в реестре может подтвердить статус организации на дату проверки, но не её деловую репутацию и не способность выполнить крупный заказ.
Эта классификация сняла спор о «надёжности» ссылки. Дмитрий не говорил, что сайт плохой или статья недостойная доверия. Он возвращал разговор к главному — к совпадению между источником и утверждением:
«Нам не нужно решать, хороший это сайт или плохой. Нужно понять, есть ли в нём точный фрагмент, который подтверждает именно нашу фразу».
Как устроено расследование
Ирина открыла справку и нажала на синюю ссылку. Страница не загрузилась: браузер показал сообщение об отсутствии документа. Ссылка могла выглядеть как официальный адрес, но страница, на которую она вела, больше не существовала или никогда не существовала в таком виде.
Это был первый неприятный, но полезный результат: ссылка не вела к доступному документу. Значит, использовать её как доказательство нельзя. Даже если текст справки окажется верным, у проверяющего сейчас нет пути к его основанию.
Ирина скопировала название поставщика и фразу про тридцать календарных дней в поисковую строку. В выдаче появилась короткая подпись:
«ООО “Северная оснастка” — поставщик промышленного оборудования, срок поставки по закупке составляет 30 дней».
Рядом находилась ссылка на статью о проверке поставщиков. В статье рассказывалось, что сведения о компаниях можно искать в ЕГРЮЛ, проверять наличие записей в реестре недобросовестных поставщиков и изучать историю заключённых договоров.
Директор снова сказал:
«Вот же подтверждение: поставщика проверяют по реестрам, срок есть».
Дмитрий ответил:
«Статья подтверждает, что такие способы проверки существуют. Но где в ней название “Северная оснастка”? Где дата регистрации? Где тридцать дней именно для нашего заказа?»
Появление названия компании в поисковой выдаче тоже ничего не решило. Поисковая выдача собирает совпадения, а не доказательства. Она может показать старую публикацию, страницу с пересказом, копию документа, карточку другой организации с похожим названием или фрагмент, вырванный из таблицы.
На следующем шаге Ирина открыла официальный документ, на который ссылалась статья. Это была документация по старой закупке, размещённая в Единой информационной системе в сфере закупок. В ней действительно было указано: «Срок поставки — 30 календарных дней». Но закупку опубликовали в 2023 году, заказчик был другим, номенклатура отличалась, а срок отсчитывался от даты, указанной в прежнем договоре.
Документ был настоящим. Ссылка на него работала. Фраза про тридцать дней находилась в конкретной таблице. Но документ подтверждал только одно: в одной прошлой закупке существовало такое условие.
Он не подтверждал, что:
1. нынешний договор содержит тот же срок;
2. срок считается от той же даты;
3. поставщик обязан принять прежние условия;
4. поставщик способен выполнить нынешний заказ;
5. условие действует в марте 2025 года.
Сила документа не исправила ошибку применения. Для старой закупки это был первичный источник, но для нынешнего решения он оставался лишь косвенным и неподходящим основанием.
Дальше Ирина запросила актуальные сведения о поставщике через сервис ФНС России. В выписке из ЕГРЮЛ были указаны дата регистрации, статус юридического лица и лицо, имеющее право без доверенности действовать от имени компании. Петров Алексей Сергеевич, названный в справке ИИ, фигурировал в старой выписке, приложенной к предыдущей закупке. В актуальной выписке руководителем значился Сидоров Андрей Викторович.
Так обнаружилось первое существенное смешение: ИИ объединил сведения из документов разных дат и представил их как одну текущую картину.
Дмитрий выделил фразу «Петров Алексей Сергеевич вправе подписать договор» и разделил её на две части:
«В старой выписке Петров был указан руководителем» — это утверждение можно проверить по конкретному документу и его дате.
«Петров вправе подписать нынешний договор» — уже другое утверждение. Оно не следует из старой выписки. Более того, актуальная запись указывает на другого руководителя.
Но и актуальная запись ЕГРЮЛ не исчерпывает вопрос о полномочиях. Она показывает, кто указан как лицо, имеющее право действовать от имени организации без доверенности, на дату формирования выписки. Для проверки конкретного договора могут потребоваться устав, решение о назначении, доверенность, сведения об ограничениях полномочий и документы об одобрении сделки, если для неё есть соответствующие основания.
Дмитрий сформулировал вывод без юридического тумана:
«ЕГРЮЛ подтверждает, кто указан в реестре как лицо, имеющее право действовать от имени организации. Но он не превращает любую сделку в автоматически согласованную и не подтверждает, что старый руководитель может подписать новый договор».
Проверка реестра недобросовестных поставщиков дала ещё один промежуточный результат. По ИНН и ОГРН компании на дату проверки записи в реестре не обнаружилось. Это полезное сведение, но из него нельзя вывести, что компания надёжна.
Корректная формулировка выглядела так:
«По состоянию на 12 марта 2025 года при проверке по ИНН и ОГРН ООО “Северная оснастка” запись о включении в реестр недобросовестных поставщиков не обнаружена».
Некорректная формулировка выглядела так:
«Компания является надёжным поставщиком».
Первая фраза описывает конкретный результат поиска. Вторая делает широкий вывод о финансовом состоянии, качестве работы, дисциплине поставок и репутации. Ни один из этих выводов из отсутствия записи не следует.
Затем Ирина открыла текущий проект договора, техническое задание и коммерческое предложение поставщика. В старой закупке срок составлял тридцать дней. В новом проекте значилось сорок пять календарных дней с даты передачи окончательного технического задания. Кроме того, коммерческое предложение содержало оговорку о сроке изготовления отдельных позиций, которой не было в старой документации.
Фраза ИИ «срок исполнения заказа составляет 30 календарных дней» оказалась собрана из старого условия и общего описания товара. Единого источника у неё не было.
Директор посмотрел на документы и спросил:
«Значит, от ссылки не было пользы?»
«Не совсем, — ответил Дмитрий. — Она помогла начать поиск. Но полезной оказалась не ссылка сама по себе, а найденные затем документы. Ссылка была указателем, старый файл — доказательством другого факта, актуальная выписка — доказательством записи на конкретную дату, а текущий проект договора — основанием для обсуждения нового срока».
Источник должен выдерживать путь назад
Хороший источник позволяет другому человеку повторить проверку. Он должен ответить не только на вопрос «где это написано», но и на вопросы «в какой версии», «на какую дату», «для кого», «при каких условиях» и «где именно в документе».
Для каждой части справки Ирина стала составлять маршрут.
Утверждение о регистрации и действующем статусе компании проверяют по актуальным сведениям ЕГРЮЛ. В рабочей версии нужно сохранить дату формирования выписки и искать организацию по ИНН или ОГРН, а не только по названию.
Утверждение о руководителе проверяют по разделу выписки, где указано лицо, имеющее право без доверенности действовать от имени юридического лица. Здесь особенно важна дата получения сведений. Выписка, сформированная год назад, не доказывает, кто руководит компанией сегодня.
Утверждение о праве подписать конкретный договор требует более узкого маршрута. Нужно установить, кто представляет организацию, на каком основании действует, нужна ли доверенность и есть ли специальные условия для сделки. Для этого могут потребоваться ЕГРЮЛ, устав, решение о назначении, доверенность и документы об одобрении.
Утверждение о сроке поставки проверяют только в текущем проекте договора, согласованной спецификации, техническом задании или ином документе, из которого этот срок прямо следует. Старые условия можно использовать для сравнения, но не как доказательство нынешнего обязательства.
Опыт поставок подтверждают отдельные документы. Запись о размещении или заключении контракта в официальном реестре показывает сам факт такой закупки, но не всегда подтверждает качество исполнения. Для этого вывода нужны акты, отзывы, документы о приёмке или другие материалы, соответствующие задаче.
Формулировку «компания не является недобросовестным поставщиком» нужно заменить узким описанием результата проверки реестра. Отсутствие записи не равно положительной характеристике.
Так абзац перестал быть гладким, зато стал проверяемым. В нём появились разные статусы:
«Подтверждено актуальной выпиской ЕГРЮЛ».
«Подтверждено только для старой закупки».
«Не подтверждено».
«Требует получения документов от поставщика».
Именно эти статусы нужны руководителю. Ему не требуется иллюзия, что все вопросы закрыты. Ему нужно видеть, какие основания уже достаточны для решения, а какие создают остаточный риск.
Три развилки, на которых сбивается проверка
Первая развилка: официальный документ подтверждает общее правило, но не конкретный случай.
Представьте, что ИИ ссылается на официально опубликованный нормативный документ. В нём действительно сказано, как работает определённая процедура и с какой даты применяется правило. Это может подтвердить содержание нормы и указанную в документе дату её вступления в силу. Но из него ещё не следует, что конкретный поставщик выполнил требования, что правило распространяется на вашу сделку или что у директора есть все необходимые полномочия.
В такой ситуации нужно разделить формулировку:
«Правило предусматривает...» — подтверждается официальной публикацией.
«Поставщик соответствует правилу...» — требует документов о конкретном поставщике.
«Компания обязана применить правило в нашем договоре...» — требует проверки области действия нормы и характера сделки.
Вторая развилка: источник правильный, но дата неправильная.
Именно это произошло при проверке данных о руководителе и сроке поставки. Старый документ не был подделкой. Он просто относился к другому моменту. Если утверждение включает слова «сейчас», «на дату подписания», «актуально на март» или «действует», дата источника становится частью доказательства.
При смене руководителя, редакции договора, условий закупки, тарифов или нормативных требований старая публикация может объяснить прошлое, но не описать настоящее.
Если актуальный документ пока не найден, безопасная формулировка звучит так:
«В архивной документации от 2023 года указано... Актуальность этого условия для текущего договора не подтверждена».
Третья развилка: источник показывает отсутствие записи, а ИИ превращает это в положительный вывод.
Поиск не обнаружил запись в реестре — это ограниченный результат поиска. Он зависит от даты, идентификаторов, правильности написания и состояния базы. Запись могла отсутствовать в момент проверки, появиться позже или относиться к другой организации с похожим названием.
Поэтому в справке нужно сохранять параметры проверки: какой идентификатор использован, в каком реестре выполнен поиск, на какую дату и какой результат получен. Чем выше цена ошибки, тем меньше места должно оставаться для слов «проверено» без описания того, что именно проверялось.
Карточка доказательства для спорного пункта
Дмитрий предложил не ограничиваться правками в тексте. Для каждого рискованного утверждения он завёл отдельную карточку. Она не предназначалась для публикации директору в неизменном виде. Это был рабочий лист, позволяющий отделить факт от вывода и быстро передать проверку другому сотруднику.
Для спорного пункта о праве подписания карточка выглядела так.
Утверждение: «Генеральный директор Петров Алексей Сергеевич вправе подписать договор поставки на сумму 18,4 млн рублей».
Что именно требуется подтвердить: кто указан руководителем ООО «Северная оснастка» на дату проверки; имеет ли это лицо право действовать без доверенности; есть ли для конкретного договора дополнительные ограничения, доверенность или одобрение.
Тип источника: актуальная выписка из ЕГРЮЛ; устав и документ о назначении руководителя; доверенность или документы об одобрении сделки, если они необходимы.
Адрес и реквизиты источника: сервис ФНС России по предоставлению сведений из ЕГРЮЛ/ЕГРИП; поиск по ИНН или ОГРН из договора; сохранённая электронная выписка с датой формирования. Для дополнительных документов — полученные от поставщика копии с указанием названия документа, даты и подписанта.
Точный фрагмент: раздел выписки «Сведения о лице, имеющем право без доверенности действовать от имени юридического лица». В актуальной выписке указан Сидоров Андрей Викторович. Петров Алексей Сергеевич в актуальном фрагменте не указан.
Дата формирования и актуальность: выписка сформирована 12 марта 2025 года. Данные подтверждают состояние сведений на дату формирования, но должны быть повторно проверены перед подписанием, если между проверкой и сделкой прошёл значительный срок.
Область действия: сведения о зарегистрированном руководителе юридического лица. Они не подтверждают финансовую устойчивость, опыт исполнения заказов, согласование сделки и соответствие товара техническому заданию.
Ограничения: выписка не подтверждает, что Петров вправе подписывать новый договор; актуальная запись указывает на другое лицо. Для оценки полномочий Сидорова нужны документы о назначении, возможная доверенность и проверка специальных условий сделки.
Статус подтверждения: исходное утверждение не подтверждено. Более узкое утверждение «на 12 марта 2025 года в ЕГРЮЛ руководителем указан Сидоров Андрей Викторович» подтверждено актуальной выпиской.
Следующий шаг: запросить у поставщика документы о полномочиях подписанта, проверить проект договора и при необходимости получить корпоративное одобрение. До этого нельзя писать, что договор может быть подписан Петровым или что полномочия полностью подтверждены.
Карточка заставила переписать справку. Вместо уверенного предложения появился такой фрагмент:
«По актуальной выписке из ЕГРЮЛ от 12 марта 2025 года руководителем ООО “Северная оснастка” указан Сидоров Андрей Викторович. Документы, подтверждающие полномочия подписанта по договору на сумму 18,4 млн рублей, на момент подготовки справки не представлены. Требуется запросить их до подписания договора».
Текст стал менее гладким, зато руководитель теперь видит и решение, и его условие. Он может поручить запрос документов, изменить порядок согласования или отказаться от сделки. В прежней версии справка скрывала неизвестное за деловым тоном.
Как этот принцип работает за пределами одной справки
Алина Власова готовила презентацию для клиента и показала руководителю слайд: «Рынок вырос на 18 процентов за год». Внизу стояла ссылка на отраслевой обзор. Руководитель открыл статью и увидел, что в ней действительно упоминался рост на 18 процентов. На этом проверка могла бы закончиться, если бы не один вопрос:
«За какой год и по какой категории считали?»