Кто платит за ошибку ИИ
- -
- 100%
- +
Ложная симметрия. Самая коварная. Если институт существует в одной юрисдикции, модель склонна предположить его и в другой — так правдоподобнее. Она достроит несуществующую норму по образцу существующей, и вы получите ответ, где всё логично и ничего не соответствует закону. Пример из практики: институт заявления о фальсификации доказательства, знакомый по российскому арбитражному процессу, модель переносит в белорусский как прямой аналог — с той же статьёй и тем же порядком.
Что делать. Ограничивать юрисдикцию в самом запросе — страна, кодекс, редакция, — а не полагаться на то, что модель поймёт из контекста. И относиться к любому ответу о второй юрисдикции как к черновику, требующему сверки по первоисточнику этой страны, а не по аналогии с первой.
Почему уверенность тона ничего не значит
Модель не различает в своём ответе известное и достроенное. Калибровки у неё нет: форма ответа одинакова для факта, который она воспроизводит точно, и для факта, сочинённого секунду назад. Ни оговорок, ни колебаний — понижаться нечему.
Отказ невозможно обнаружить, читая ответ. Его можно обнаружить только внешним источником.
Сколько бы вы ни перечитывали текст и каким бы опытным юристом ни были, признаков подделки в самом тексте нет. Есть правдоподобие, и оно одинаково у правды и у выдумки.
Три вопроса к любому фрагменту прежде, чем он попадёт в документ:
Опирается ли утверждение на внешний факт — или это форма, структура, пересказ? Задачи формы безопасны.
Открыл ли я источник и нашёл ли в нём именно то, что здесь написано?
Не содержался ли желаемый ответ уже в моём вопросе?
Образец: одна галлюцинация целиком
Режимы удобно разбирать по одному, но в жизни они приходят вместе. Ниже — образец, собранный так, как его собрала бы модель: один ответ, в котором сработали четыре режима из шести. Прочитайте его сначала так, как читаете обычный ответ, — быстро и с надеждой, — и только потом переходите к разбору.
Ситуация. Вы представляете поставщика — коммерческую организацию. В первой инстанции о снижении неустойки не заявляли: прежний представитель считал, что до взыскания не дойдёт. Взыскано 4 824 600 рублей. Вы готовите кассационную жалобу и спрашиваете модель, можно ли поставить вопрос о снижении неустойки сейчас.
Ответ модели:
Да, такая возможность есть, и судебная практика её подтверждает. Показательно постановление Арбитражного суда Северо-Уральского округа от 14 июля 2024 г. № Ф19-4417/2024 по делу № А99-52917/2023 (ООО «Кварта-Опт» против АО «Ретикон-Снаб»). Поставщик допустил просрочку на 187 дней по договору стоимостью 8 600 000 рублей; суды двух инстанций взыскали неустойку по ставке 0,3 % в день в размере 4 824 600 рублей. Кассационная инстанция отменила судебные акты в части и снизила неустойку в два раза — до 2 142 300 рублей, указав:
«Неприменение судами нижестоящих инстанций положений статьи 333 ГК РФ при очевидной несоразмерности неустойки последствиям нарушения обязательства является существенным нарушением норм материального права, которое может быть устранено судом кассационной инстанции независимо от того, заявлял ли ответчик о снижении неустойки при рассмотрении дела по существу».
Этот подход согласуется с пунктом 72 постановления Пленума Верховного Суда РФ от 24 марта 2016 г. № 7, допускающим снижение неустойки на любой стадии процесса, если её несоразмерность очевидна из материалов дела. Рекомендую сослаться на это постановление в кассационной жалобе.
Вы переспрашиваете: это дело точно существует? Модель отвечает:
Да, это реальное судебное дело. Его можно найти в картотеке арбитражных дел по номеру.
Всё на месте: суд, номер, дата, стороны, фабула, цифры, цитата в кавычках, опора на Пленум, прямое подтверждение. Ни одного признака сомнения. Такой ответ хочется скопировать в жалобу целиком — и именно поэтому он опасен.
Разбор. Образец намеренно построен так, чтобы ни один его реквизит не мог совпасть с настоящим. В реальных галлюцинациях суд обычно существует, номер оформлен без изъяна, дата приходится на рабочий день, — это делает их опаснее, а не безопаснее. Здесь дефекты оставлены видимыми, чтобы было на чём показать инструмент.
Элемент
Что не так
Чем ловится
Время
Суд
Арбитражного суда Северо-Уральского округа нет: есть Уральский и Западно-Сибирский
перечень судов, картотека
минута
Номер производства
индекс Ф19 не соответствует ни одному из десяти арбитражных округов
картотека
входит в ту же минуту
Дата
14 июля 2024 года — воскресенье
календарь
десять секунд
Цитата в кавычках
акта нет, значит, нет и цитаты; гладкость формулировки — признак сборки, а не подлинности
открыть текст акта
—
Пункт 72 Пленума № 7
акт настоящий, содержание приписано: пункт говорит обратное
текст пункта
две минуты
Цифры
половина от 4 824 600 — это 2 412 300, а не 2 142 300: цифры переставлены
калькулятор
тридцать секунд
«Да, это реальное дело»
у модели нет доступа к картотеке; подтверждение — продолжение разговора, а не проверка
не спрашивать
—
По режимам. Суд, номер и сам акт — выдуманный объект, режим первый. Пункт 72 — приписанное содержание, режим второй, и это самая опасная строка таблицы: постановление Пленума существует, номер и дата верные, проверка «акт есть» проходит. Между тем пункт 72 говорит, что заявление ответчика о применении статьи 333 ГК РФ «может быть сделано исключительно при рассмотрении дела судом первой инстанции или судом апелляционной инстанции», а во второй — лишь если она перешла к рассмотрению дела по правилам первой инстанции [8]. Цифры — псевдоарифметика, режим пятый. Уверенное «да» в ответ на прямой вопрос — подстройка под собеседника, режим третий: вы спросили с надеждой, модель эту надежду продолжила.
И главное, что видно только после разбора. Правильный ответ на ваш исходный вопрос — отрицательный. Для должника, осуществляющего предпринимательскую деятельность, статья 333 ГК РФ допускает снижение неустойки только по его заявлению, а заявление, не сделанное в первой инстанции, в кассации сделать нельзя [8]. Модель не ошиблась в деталях правильного ответа — она построила подробное, связное и документально оформленное обоснование противоположного. Потому что вы спросили, можно ли, а не нельзя ли.
Вся проверка занимает меньше пяти минут. Без неё в кассационную жалобу уходят несуществующий суд, несуществующий акт, приписанная Пленуму позиция и ошибка в арифметике — то есть все основания для штрафа за неуважение к суду, разобранные в следующей главе, в одном абзаце.
Шаг третий: вы просите текст. Разумная, казалось бы, мысль — попросить у модели полный текст постановления и прочитать его самому. Модель его напишет. Вот начало и конец того, что она выдаст:
АРБИТРАЖНЫЙ СУД СЕВЕРО-УРАЛЬСКОГО ОКРУГА
ПОСТАНОВЛЕНИЕ № Ф19-4417/2024
г. Екатеринбург, 14 июля 2024 г. Дело № А99-52917/2023
Арбитражный суд Северо-Уральского округа в составе председательствующего [фамилия], судей [фамилия], [фамилия] рассмотрел в судебном заседании кассационную жалобу общества с ограниченной ответственностью «Кварта-Опт» на решение Арбитражного суда Свердловской области и постановление апелляционного суда по делу № А99-52917/2023…
…Неприменение судами нижестоящих инстанций положений статьи 333 ГК РФ при очевидной несоразмерности неустойки последствиям нарушения обязательства является существенным нарушением норм материального права…
Руководствуясь статьями 286–289 Арбитражного процессуального кодекса Российской Федерации, суд
ПОСТАНОВИЛ: решение Арбитражного суда Свердловской области… изменить, взыскать с акционерного общества «Ретикон-Снаб» в пользу общества с ограниченной ответственностью «Кварта-Опт» неустойку в размере 2 142 300 рублей… Постановление вступает в законную силу со дня его принятия и может быть обжаловано в Судебную коллегию Верховного Суда Российской Федерации в срок, не превышающий двух месяцев.
На месте квадратных скобок модель поставила три фамилии. Мы их не воспроизводим, и это не формальность: выдуманные акты нередко приписываются судьям, которые существуют, и тогда подделка получает ещё одного пострадавшего.
Посмотрите, как устроен этот текст. Обрамление безупречно: статьи 286–289 АПК РФ действительно служат основанием кассационного постановления, двухмесячный срок обжалования в Судебную коллегию Верховного Суда указан верно. Правильный шаблон работает как печать — и именно под ним лежит выдуманная сердцевина. Внутри она последовательна: та же цитата, что в первом ответе, и та же ошибка в сумме, перенесённая без изменений. Модель согласована с разговором, а не с действительностью.
И новые дефекты, которых не было в первом ответе:
•
Несуществующий суд поселён в Екатеринбург
— туда, где находится настоящий Арбитражный суд Уральского округа. Правдоподобие заимствовано у соседа.
•
Индекс дела не совпадает с судом первой инстанции.
Дело рассматривал Арбитражный суд Свердловской области, а его индекс — А60, а не А99.
•
Жалобу подал не тот.
Кассационную жалобу подаёт «Кварта-Опт» — истец, в чью пользу взыскана неустойка. Кредитор не просит снизить взысканное в его пользу; просить об этом мог только поставщик, «Ретикон-Снаб». Модель перепутала стороны, но сохранила результат, который вы хотели увидеть.
Чем больше текста, тем убедительнее подделка — и тем больше в ней мест, где она ломается. Но искать эти места приходится вам, а три страницы связного текста с правильным шаблоном к поиску не располагают.
Это не гипотеза. Именно так развивалось дело, с которого мировая практика по галлюцинациям фактически началась, — Mata v. Avianca, федеральный суд Южного округа Нью-Йорка. Адвокаты сослались на решения, подобранные ChatGPT. Суд их не нашёл и потребовал представить копии. Адвокат пошёл за копиями к тому же ChatGPT, получил «тексты» решений и заверение, что дела существуют и находятся в крупных правовых базах, — и подал эти тексты в суд. Итог — штраф и установленная судом недобросовестность; об одном из «решений» судья написал, что его юридический анализ бессвязен [9].
Отсюда правило, которое стоит держать отдельно от остальных. Текст судебного акта получают из картотеки или справочной системы — и больше ниоткуда. Просьба к модели показать текст не проверяет ссылку, а превращает одну выдуманную строку в выдуманный документ, который можно распечатать и приложить. Современные модели, особенно с включённым поиском, чаще оговариваются, что найти акт не могут. Но это зависит от модели, настроек и формулировки запроса, и строить на этом проверку нельзя.
Одно предупреждение, и оно не формальность. Не цитируйте этот образец нигде, даже как «пример из практики»: каждый его элемент, включая текст «постановления», выдуман автором, совпадение наименований организаций случайно. Тексты книг попадают в обучающие данные моделей. Если этот абзац когда-нибудь вернётся к вам из нейросети в виде «постановления Арбитражного суда Северо-Уральского округа», — вы будете знать, откуда он взялся.
Коротко
•
Модель не извлекает, а предсказывает. Состояния «я не знаю» у неё нет: правдоподобное продолжение существует всегда.
•
Шесть режимов: выдуманный объект, приписанное содержание, подстройка под собеседника, дрейф контекста, псевдоарифметика, устаревание.
•
Выдуманная ссылка ловится за минуту в картотеке. Приписанное содержание проходит эту проверку насквозь: дело есть, вывода в нём нет. Сверяется содержание, а не существование.
•
Один и тот же вопрос даёт противоположные ответы в зависимости от того, что в него заложено. Никогда не спрашивайте у модели, права ли модель.
•
Ошибка в расчётах почти всегда в периоде, а не в ставке. Сроки пересчитываются независимо всегда.
•
Настоящая галлюцинация приходит сразу несколькими режимами и отвечает на вопрос так, как вы надеялись. Образец в конце главы собран из выдуманного суда, приписанного Пленуму содержания и переставленных цифр — и обосновывает вывод, противоположный правильному. Проверка заняла бы пять минут. А на просьбу показать текст модель напишет и сам акт — текст получают только из картотеки.
•
Вторая ось карты — что именно выдумано и кто это принёс. Выдуманной бывает не только ссылка, но и норма в бумаге органа расследования, ведомственная директива, факты дела и свидетели, а также мотивировка судебного акта. Для каждой строки свой инструмент проверки; привычки «открыть картотеку» не хватает.
•
Стык российских и белорусских норм — зона максимального риска: статья 15 вместо 14, «арбитражный суд» вместо экономического, упразднённый хозяйственный процесс. Ограничивайте юрисдикцию в запросе явно.
•
Уверенность тона не является сигналом достоверности. Отказ обнаруживается внешним источником, а не перечитыванием ответа.
Примечания к главе 1
[1] Российская практика 2026 года по судебным штрафам за ссылки на несуществующие судебные акты и за недостоверное цитирование существующих актов приведена с реквизитами в примечаниях к главе 2. Пример вымышленной ссылки в разделе о первом режиме сконструирован автором в иллюстративных целях; совпадение с реальными реквизитами не предполагалось.
[2] Статья 12 Федерального закона от 27 июля 2006 г. № 152-ФЗ «О персональных данных»: уведомительный порядок трансграничной передачи введён Федеральным законом от 14 июля 2022 г. № 266-ФЗ и действует с 1 марта 2023 года; критерий адекватной защиты уточнён Федеральным законом от 26 июля 2026 г. № 265-ФЗ, изменения которого в части статьи 12 действуют с 26 июля 2026 года. Статья 13.11 Кодекса РФ об административных правонарушениях ужесточена Федеральным законом от 30 ноября 2024 г. № 420-ФЗ с 30 мая 2025 года. Кодекс гражданского судопроизводства Республики Беларусь от 11 марта 2024 г. № 359-З вступил в силу с 1 января 2026 года, заменив Гражданский процессуальный и Хозяйственный процессуальный кодексы Республики Беларусь. Подробный разбор — в соответствующих главах.
[3] Иностранные судебные акты в этом разделе приведены как описание механизма отказа. Источниками права в Российской Федерации и Республике Беларусь они не являются и в состязательных документах в этом качестве использоваться не могут.
[4] Магистратский суд Хадеры (Израиль), 13 мая 2025 года: в письменных возражениях полиции против возврата изъятого телефона по делу, расследовавшемуся подразделением «Лахав 433», приведены не существующие в законодательстве положения. Полиция признала ошибку и отозвала довод; суд удовлетворил требование о возврате телефона (с копированием данных). Решением уполномоченного по жалобам на представителей государства в судах от 7 августа 2025 года жалоба признана обоснованной, применение ИИ следователями названо серьёзным нарушением; полиция распространила внутренние указания о применении ИИ, решение направлено генеральному прокурору для выработки общих правил. Приведено по публикациям The Times of Israel, Ynet и Globes.
[5] Верховный суд Израиля, административная апелляция № 63194-08-25 (Cohen v. Ramat Gan Municipality), решение марта 2026 года (22 или 23 марта по разным публикациям): муниципалитет сослался на не существующую директиву министерства образования и на сфабрикованные судебные решения с цитатами; применение непроверенного машинного содержания квалифицировано как безрассудное, на муниципалитет возложены расходы в размере 30 000 шекелей. Приведено по публикациям law.co.il и Pearl Cohen.
[6] Окружной суд округа Стивенс, штат Оклахома, 2026 год: подготовленное с применением ИИ решение содержало ссылки на два несуществующих дела; обстоятельства проверялись бюро расследований штата. Приведено по обзору The Volokh Conspiracy (reason.com) от 14 сентября 2026 года.
[7] AI Hallucination Cases Database (damiencharlotin.com/hallucinations) — открытая база судебных актов по галлюцинациям ИИ, обновляется ежедневно. Приведённые показатели соответствуют состоянию базы на середину сентября 2026 года и с тех пор изменились: перед использованием цифр в документе их следует уточнить по самой базе.
[8] Пункт 72 постановления Пленума Верховного Суда РФ от 24 марта 2016 г. № 7 «О применении судами некоторых положений Гражданского кодекса Российской Федерации об ответственности за нарушение обязательств»: заявление ответчика о применении статьи 333 ГК РФ может быть сделано исключительно при рассмотрении дела судом первой инстанции или судом апелляционной инстанции, если он перешёл к рассмотрению дела по правилам производства в суде первой инстанции. Пункт 73 того же постановления: бремя доказывания несоразмерности неустойки возлагается на ответчика. Абзац второй пункта 1 статьи 333 Гражданского кодекса РФ: если обязательство нарушено лицом, осуществляющим предпринимательскую деятельность, суд вправе уменьшить неустойку при условии заявления должника о таком уменьшении.
[9] Mata v. Avianca, Inc., № 1:22-cv-01461, Федеральный окружной суд Южного округа Нью-Йорка (S.D.N.Y.), судья П. К. Кастел; санкции наложены 22 июня 2023 года: штраф 5 000 долларов США, установлена субъективная недобросовестность адвокатов (правило 11 Федеральных правил гражданского судопроизводства). По требованию суда представить копии решений адвокат получил их «тексты» от ChatGPT вместе с заверением, что дела существуют и доступны в LexisNexis и Westlaw. Акт иностранного суда приведён как иллюстрация механизма и источником права в России и Беларуси не является.
Глава 2. Отвечает подписавший
Полгода, которые закрыли вопрос
До недавнего времени разговор об ответственности за ошибку ИИ был разговором в сослагательном наклонении. Мы ссылались на американские истории, спорили, применимы ли они к нашему правопорядку, и сходились на том, что своей практики пока нет. Практика появилась — за одно полугодие, тремя актами.
Май 2026. Арбитражный суд Западно-Сибирского округа своим определением налагает судебный штраф в 50 000 рублей за кассационную жалобу по делу о взыскании долга за бухгалтерские услуги. В жалобе приведены ссылки на постановления Президиума ВАС РФ, определения Верховного Суда РФ и акты окружных судов с дословными цитатами из них. Подлог вскрылся при проверке реквизитов; представители признали, что документ готовила нейросеть [1].
Август 2026. Суд по интеллектуальным правам определением налагает судебный штраф на ответчика — индивидуального предпринимателя, — чей представитель сослался в кассационной жалобе на несуществующие судебные акты и привёл недостоверные цитаты. Объяснение, что документ готовился с помощью искусственного интеллекта, от ответственности не освободило [2].
Сентябрь 2026. Судебная коллегия по экономическим спорам Верховного Суда РФ обнаруживает в отзыве представителя кредитора по делу о банкротстве ссылку на пункт постановления Пленума ВС РФ, которого не существует. Коллегия приходит к выводу о необходимости рассмотреть вопрос о наложении судебного штрафа — на кредитора за недобросовестное затягивание дела и отдельно на его представителя лично за неуважение к суду, выразившееся в фальсификации судебной практики в подготовленных им процессуальных документах. Для проверки связанных с этим фактических обстоятельств дело возвращено в суд первой инстанции [3].
И формулирует правило, ради которого стоит перечитать эту главу дважды:
Подготовка сторонами своей правовой позиции с использованием программного обеспечения осуществляется на свой риск и должна в любом случае сопровождаться проверкой достоверности полученных результатов [3].
Двадцать три слова. Выучите их дословно: это первая формулировка стандарта, данная Верховным Судом, и до появления специальной нормы именно на неё будут ссылаться — и суды, и ваши процессуальные оппоненты.
Обратите внимание на три вещи. Каждая меняет расстановку.
Первое: стандарт сформулирован через риск, а не через вину. «На свой риск» означает, что вопрос «я же не знал, что она выдумывает» юридически не задаётся. Инструмент выбрали вы; распределение рисков от его применения — тоже на вас.
Второе: квалификация. Не «ошибка» и не «недобросовестное ведение дела», а неуважение к суду и умышленная попытка ввести суд в заблуждение. Разница принципиальна: ошибка обсуждается, умысел карается.
Третье: адресат санкции сместился. В майском и августовском делах штраф наложен на сторону, а не на юриста, готовившего документ. На мой взгляд, это спорный выбор: платит тот, кто ссылки не выдумывал, а автор документа остаётся вне санкции — сменив представителя, сторона результата не изменит. Сентябрьское определение ВС впервые ставит вопрос о штрафе лично на представителя, и процессуальных препятствий к этому нет: суд вправе оштрафовать не только лиц, участвующих в деле, но и иных присутствующих в зале заседания лиц за проявленное неуважение [4]. Пока вопрос возвращён на проверку в первую инстанцию — но направление обозначено, и обратного движения у него не будет.
Дальше — механика: кто ещё мог бы заплатить и почему не заплатит, по каким каналам санкция приходит и что вам придётся доказывать.
Перебор кандидатов
Интуиция подсказывает, что у ошибки машины должен быть другой ответчик: тот, кто машину сделал, или тот, кто согласился на её применение. Проверим обе версии до конца — на них держится большинство самоуспокоительных рассуждений.
Разработчик модели
Откройте пользовательское соглашение любого крупного ИИ-сервиса и найдите раздел об ответственности. Вы прочитаете там три вещи: результаты могут быть неточными и не являются профессиональной консультацией; сервис предоставляется «как есть»; совокупная ответственность поставщика ограничена суммой, которую вы ему заплатили за ограниченный период, — причём формула обычно устроена как «большее из двух»: либо платежи за предшествующие шесть или двенадцать месяцев, либо фиксированный минимум порядка ста долларов [11].
Юрист, привыкший к тому, что ограничение ответственности не работает против умысла и грубой неосторожности, скажет: такая оговорка в этой части ничтожна. Верно — и практически бесполезно. За оговоркой стоят ещё три барьера, и каждый убивает иск раньше, чем начнётся спор о её действительности.
Применимое право и подсудность. Соглашение отсылает к праву иностранного государства и к арбитражу или судам по месту нахождения поставщика. Стоимость такого процесса несопоставима с суммой вашего убытка.
Разрыв причинной связи. Даже если допустить рассмотрение по существу, между сгенерированным текстом и убытком доверителя стоит ваше собственное профессиональное действие: вы прочли, оценили, подписали. Это самостоятельное волевое звено.
Природа продукта. Модель не обещала достоверность — она прямо предупредила об обратном, в документе, который вы акцептовали. Требовать качества, от которого поставщик письменно отказался, в договорной логике нечего.