Перестань спорить с жизнью. Как обрести внутреннюю опору и жить без вечной борьбы

Глава 2. Перед тем как доверять ответу

Есть простой способ испортить работу с ChatGPT: начать с восхищения. Машина ответила быстро, фразы стоят ровно, тон уверенный, абзацы на месте. Человек читает и думает: готово. Вот здесь и начинается ошибка. Не в самой модели, а в нашем отношении к ее ответу. Мы слишком привыкли считать аккуратный текст признаком аккуратной мысли.

В обычной жизни это тоже происходит. Человек говорит спокойно, смотрит прямо, использует правильные слова, и ему верят охотнее. Потом выясняется, что он не знал деталей, перепутал даты, сделал вывод из слухов. С языковой моделью похожая история, только без человеческого лица. Уверенность вынесена в текст. Он выглядит собранным, даже когда внутри есть пустоты.

Поэтому прежде чем говорить о тонкостях использования ChatGPT, нужно поговорить об условиях. Когда его ответ можно брать в работу. Когда надо проверять. Когда лучше не использовать. Какие факторы влияют на качество. Это менее эффектная тема, чем список возможностей, но без нее разговорная машина превращается в источник красивых проблем.

Первый фактор - данные, на которых модель училась. Любая языковая модель строится на тексте. А текст не бывает стерильным. В нем есть знания и ошибки, ясные объяснения и плохие статьи, профессиональные документы и случайные мнения, старые сведения и новые споры, человеческая мудрость и человеческая глупость. Модель учится на языковом мире, который оставили люди. А люди оставили не только лучшее.

Если в обучающих данных много хороших примеров по теме, модель обычно говорит увереннее и полезнее. Если тема редкая, узкая или требует свежих фактов, ответ может ослабнуть. Он все равно будет выглядеть как ответ, потому что форма речи у модели сохраняется. Но внутри может быть смесь общих слов, предположений и случайных связей.

Вот почему вопрос о качестве данных не является технической мелочью для инженеров. Он касается любого пользователя. Когда вы спрашиваете модель о вещах, которые меняются быстро, вы должны понимать: возможно, она не знает последних изменений. Когда спрашиваете о местных правилах, она может не учитывать вашу страну, город, организацию. Когда просите совет в узкой профессии, она может заменить профессиональную точность общими словами.

Второй фактор - контекст запроса. Модель не читает ваши мысли. Она видит то, что вы написали, и то, что было сказано раньше в разговоре. Если вы дали мало фактов, она будет достраивать ответ из вероятных шаблонов. Иногда это удобно. Иногда опасно.

Представьте, что человек пишет: составь ответ клиенту, который недоволен доставкой. Модель может выдать приличное письмо. Но она не знает, был ли товар оплачен, кто виноват в задержке, что уже обещали, разрешен ли возврат, какой тон принят в компании. Если пользователь не дал этих сведений, модель их либо обойдет, либо заполнит нейтральными фразами, либо рискнет выдумать.

Хороший запрос должен содержать не все подряд, а нужное. Цель, адресата, факты, ограничения, желаемый тон, запреты. Например: клиент оплатил заказ 12 мая, доставка задержана на три дня из-за склада, компенсацию обещать нельзя, можно предложить бесплатную доставку следующего заказа, тон спокойный, без признания юридической ответственности. Такой запрос уже похож на работу.

Третий фактор - цель. Один и тот же ответ может быть хорошим или плохим в зависимости от того, зачем он нужен. Общее объяснение может подойти для первого знакомства с темой, но не для экзамена. Черновик договора может помочь сформулировать вопросы юристу, но не заменить договор. Краткий пересказ медицинской статьи может помочь подготовиться к разговору с врачом, но не должен становиться основанием для лечения.

Перед использованием модели полезно спросить себя: что я собираюсь сделать с ответом. Прочитать для общего понимания. Отправить человеку. Принять решение. Потратить деньги. Повлиять на здоровье. Опубликовать от имени компании. Чем ближе ответ к действию с последствиями, тем больше проверки нужно.

Четвертый фактор - цена ошибки. Это, пожалуй, самый честный критерий. Если ошибка в тексте поздравления приведет только к неловкой фразе, риск небольшой. Если ошибка в инструкции по безопасности может привести к травме, модель не должна быть самостоятельным источником. Между этими крайностями находится большая часть повседневных задач.

Цена ошибки часто неочевидна. Письмо клиенту кажется мелочью, пока в нем не появляется обещание, которое компания не может выполнить. Описание товара кажется обычным текстом, пока в нем не указана неверная характеристика. Ответ службы поддержки кажется вежливым, пока не нарушает внутреннее правило. Поэтому в рабочих процессах нужно заранее определить, какие ответы можно выпускать сразу, а какие требуют человека.

Пятый фактор - свежесть информации. Мир меняется быстрее, чем любая обученная модель. Цены, законы, графики, версии программ, правила платформ, политические должности, медицинские рекомендации, налоговые условия. Там, где сведения могли измениться, нельзя полагаться на память модели. Нужно использовать актуальные источники или инструменты поиска, а потом все равно читать результат.

Эта проблема особенно неприятна потому, что модель не всегда выглядит устаревшей. Она может назвать старое правило уверенным тоном. Человек не заметит подвоха, если сам не знает, что правило изменилось. Значит, при вопросах о текущем положении дел надо прямо требовать актуальную проверку и источники, а в важных случаях идти к первичным документам.

Шестой фактор - область знания. Есть темы, где хорошее объяснение можно построить на общих принципах. Есть темы, где все держится на деталях. В программировании одна версия библиотеки меняет решение. В праве одно слово меняет обязанность. В медицине один симптом меняет оценку. В бухгалтерии одна дата меняет результат. Модель может помочь везде, но степень доверия должна быть разной.

Седьмой фактор - формат результата. Иногда плохой формат делает хороший ответ бесполезным. Пользователю нужен короткий список действий, а он получает эссе. Нужна таблица рисков, а приходит гладкий текст. Нужен черновик письма, а модель выдает рассуждение о том, как писать письма. Это не трагедия, но это потеря времени.

Поэтому формат лучше задавать сразу. Не просто объясни, а объясни в пяти пунктах. Не просто сравни, а сделай таблицу: вариант, плюсы, минусы, когда подходит. Не просто напиши письмо, а дай тему письма и текст до десяти предложений. Формат не делает модель умнее, но направляет ее работу.

Восьмой фактор - критерии качества. Модель не знает, что для вас считается хорошим ответом, пока вы не сказали. Для одного хорошее письмо - короткое и жесткое. Для другого - мягкое и подробное. Для одного хороший план - три крупных шага. Для другого - расписание по дням. Если критерии молчат, модель угадывает по среднему вкусу.

Средний вкус - это главная фабрика скучного текста. Он не оскорбляет, не рискует, не говорит лишнего, но и не попадает точно. Чтобы уйти от среднего, нужно дать критерии: текст должен быть понятен человеку без технического образования, без рекламных обещаний, с одним примером из практики, с прямым выводом в начале. Тогда ответ становится ближе к делу.

Девятый фактор - проверяемость. Хороший ответ по серьезной теме должен оставлять следы, по которым его можно проверить. Откуда взялись факты. Какие предположения сделаны. Где уверенность высокая, а где низкая. Что нужно уточнить у специалиста. Если модель отвечает так, будто все ясно, но не показывает оснований, лучше не торопиться.

Можно прямо просить: отдели факты от предположений. Укажи, какие данные нужны для точного ответа. Перечисли возможные ошибки. Скажи, что в моем запросе неясно. Это простые команды, но они меняют характер работы. Модель перестает изображать всезнание и начинает помогать думать.

Десятый фактор - человеческая проверка. Никакая настройка не отменяет человека там, где ответ важен. Проверка не обязана быть долгой. Иногда достаточно прочитать факты, убрать лишние обещания, сверить числа. Иногда нужен специалист. В компании лучше заранее разделить уровни проверки, иначе люди будут каждый раз решать на глаз.

Например, служба поддержки может разрешить модели готовить черновики ответов, но оператор нажимает отправку. Частые вопросы с низким риском могут уходить автоматически, если ответ берется из проверенной базы. Жалобы, деньги, юридические формулировки, персональные данные - только через человека. Это не бюрократия, а нормальная защита от глупостей.

Одиннадцатый фактор - настройки и ограничения самой системы. ChatGPT можно использовать как обычный чат, а можно встраивать в рабочий процесс. Во втором случае появляются инструкции, базы знаний, права доступа, журналы, метрики, контроль качества. Это уже не разговор одного человека с машиной, а часть организации.

Когда модель внедряют в бизнес, важно не только что она отвечает, но и куда имеет доступ. Может ли она видеть личные данные. Может ли отправлять письма. Может ли менять записи. Может ли обещать скидку. Может ли открывать внутренние документы. Чем больше прав, тем больше проверок. Инструмент без доступа безопаснее, но слабее. Инструмент с доступом полезнее, но опаснее.

Двенадцатый фактор - приватность. Люди часто вставляют в чат все подряд: договоры, переписки, данные клиентов, внутренние документы, медицинские сведения. Они делают это не из злого умысла, а потому что интерфейс кажется личным. Белое окно выглядит как записная книжка. Но это не записная книжка. Нужно понимать правила сервиса, настройки хранения, корпоративные ограничения и здравый смысл.

Лучше заранее выработать привычку обезличивать данные там, где это возможно. Убирать фамилии, номера, адреса, лишние детали. Если задача не требует реальных данных, не надо их давать. Если требует, нужно использовать одобренный компанией инструмент и понимать, кто отвечает за обработку информации.

Тринадцатый фактор - стиль. Это может показаться мелочью после приватности и ошибок, но стиль влияет на доверие. Машинный текст часто слишком ровный. Он избегает острых углов, любит общие фразы, повторяет структуру, пишет так, будто хочет никого не расстроить. Для внутренней заметки это иногда терпимо. Для сильного письма, книги, речи, статьи - нет.

Если нужен живой текст, модель надо вести жестче. Просить конкретные ситуации. Убирать канцелярит. Запрещать пустые слова. Требовать короткие фразы там, где мысль должна ударить. Просить переписать так, как сказал бы живой человек. Но даже после этого человеческая правка нужна. Машина может имитировать неровность, но настоящий опыт приносит человек.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.