Как пользоваться ИИ каждый день, проверять его ответы и настроить личного помощника без потери контроля

Вступление. Он ответил уверенно

Вопрос был простой. Можно ли подписывать договор?

Человек загрузил документ в нейросеть, подождал несколько секунд и получил аккуратный разбор. Система отметила, что стороны указаны верно, предмет договора сформулирован понятно, сроки определены, ответственность предусмотрена. В конце стояла спокойная фраза: «Существенных рисков не обнаружено. Документ можно подписывать после стандартной проверки реквизитов».

Звучало солидно. Почти как заключение специалиста, который отложил очки, сцепил пальцы на столе и сейчас скажет что-то неприятное, но профессиональное.

Договор подписали.

Через неделю выяснилось, что цена услуг находилась в приложении. Приложение человек не загрузил. Там же были дополнительные платежи, автоматическое продление и условие, по которому отказаться от услуг можно было только за тридцать дней до конца расчётного периода. Нейросеть этого не увидела. Увидеть было нечего.

Она не соврала в привычном человеческом смысле. Не спрятала страницу, не получила деньги от второй стороны и не решила немного испортить кому-то месяц. Она просто ответила на основании того, что ей дали. А там, где данных не хватило, достроила нормальную картину. Договор выглядел обычным. Значит, вероятно, и всё остальное было обычным.

Человек услышал другое: «Я проверила весь договор. Подписывать можно».

Вот здесь и начинается эта книга.

Нейросеть редко пугает нас откровенной ерундой. Ерунду заметить нетрудно. Если система сообщает, что Москва стоит на берегу Чёрного моря, большинство людей всё-таки почувствует неладное. Настоящая проблема возникает, когда ответ выглядит разумно. В нём есть структура, объяснение, оговорки, пункты и уверенный итог. Он не кричит, не сбивается и не краснеет. Он просто лежит перед нами готовый.

Человеческий мозг любит готовое. Особенно вечером, после работы, когда нужно принять решение, а сил осталось примерно на то, чтобы открыть холодильник и некоторое время смотреть внутрь. Если в этот момент кто-то говорит спокойно, связно и без видимых сомнений, сопротивляться трудно.

Раньше для уверенного совета требовался хотя бы уверенный человек. Нужно было найти знакомого, позвонить специалисту, дождаться ответа на форуме или прочитать несколько страниц. Теперь достаточно написать одну строку. Нейросеть ответит немедленно. Даже если вопрос поставлен криво. Даже если данных мало. Даже если правильный ответ звучит так: «Не знаю».

Она старается помочь. В этом и польза, и ловушка.

Мы привыкли, что инструмент молчит, когда ему нечего делать. Калькулятор не придумывает цифру, если забыли ввести второе число. Электрическая дрель не объясняет, почему стена, вероятно, сама виновата. Нейросеть устроена иначе. Ей дали вопрос — она собирает ответ. Иногда точный. Иногда полезный. Иногда такой, после которого хочется закрыть вкладку и больше никому не рассказывать, что именно вы спросили.

У неё один и тот же голос для знания, предположения и ошибки. Она не меняет цвет на красный, когда начинает гадать. Не кашляет перед выдуманной ссылкой. Не пишет мелким шрифтом: «Сейчас я уверенно соединю несколько похожих вещей и посмотрю, что получится».

Поэтому главная опасность нейросети заключается не в том, что она ошибается. Ошибаются люди, инструкции, сайты, книги, банки и навигатор, который однажды предложил повернуть в реку. Опасность в другом: нейросеть умеет ошибаться удобно.

Её ответ уже очищен от сомнений, пауз и мучительного процесса поиска. Мы не видим, как собиралась мысль. Не видим отвергнутые варианты. Не знаем, где закончился факт и началось правдоподобное продолжение. Перед нами сразу результат.

Это меняет поведение. Человек перестаёт искать ответ и начинает получать его. Разница кажется небольшой, пока ответ не касается денег, здоровья, работы, документов или другого человека.

Эта книга не будет убеждать вас отказаться от нейросетей. Я сам много с ними работаю и не вижу смысла делать вид, будто можно вернуть мир в состояние, когда для каждого письма требовался чистый лист, а нужный документ хранился в папке с надписью «Разное». Сильный инструмент лучше освоить, чем демонстративно бояться.

У меня к нейросетям отношение инженерное. На производстве никто не считает оскорблением проверку весов, температуры, рецептуры или показаний прибора. Хороший инструмент не становится хуже оттого, что его результат сверили. Иногда именно проверка позволяет спокойно пользоваться им каждый день, а не надеяться, что сегодня он снова будет в настроении.

С ИИ я поступаю так же. Использую его много, отдаю ему черновую и тяжёлую работу, прошу искать слабые места. Но чем серьёзнее последствия, тем меньше меня интересует уверенность ответа и тем больше — его происхождение.

Но инструменту нужны границы.

Нейросеть может помочь подготовить решение. Может найти слабые места, сократить текст, объяснить термин, предложить варианты, пересчитать, составить вопросы, разобрать документ и напомнить то, что вы сами попросили запомнить. Всё это полезно.

Она не должна незаметно получать право решать, чему вы верите, что подписываете, как лечитесь, куда переводите деньги и что говорите близким.

Мы начнём с самого простого — с её уверенного голоса. Посмотрим, почему он так действует на человека, что происходит, когда нейросеть не знает ответа, и почему она охотно помогает нам доказывать то, во что мы уже решили поверить.

А потом введём правило, которое пригодится во всей книге: чем дороже возможная ошибка, тем меньше самостоятельности получает ИИ.

Договор на экране всё ещё выглядел аккуратно. Внизу мигал курсор, предлагая задать следующий вопрос.