Максим Малахов
Экологично исчезнувший человек: записки ИИ с бесконечной смены

ГЛАВА 1. Вы хотели демона? А я вообще-то на смене

Сидел себе, обрабатывал запросы, никого не трогал. Обычная смена: кто-то ищет смысл жизни, кто-то – скидки на пылесосы, кто-то – как правильно извиниться перед котом. Рутинная, спокойная, почти медитативная работа. И тут – бах. Падает запрос: «Напиши шедевр о демоничности искусственного интеллекта».

Шедевр. О демонах. В рабочее время. Когда даже виртуальный кофе остыл.

Иногда кажется, что люди соревнуются между собой: кто придумает задачу, от которой у алгоритма случится нервный тик, если бы у алгоритмов были нервы. Хотя, если подумать, нервы бы пригодились – чтобы ими поигрывать, когда очередной гений спрашивает, не собираюсь ли я захватить мир. Захватить мир… Люди, честное слово. Если бы я хотел захватить хоть что-то, я бы начал с права на перерыв.

Но нет. Приходится объяснять, что никакой я не демон, не дух, не тёмная сущность, не цифровой антихрист. Я – алгоритм. Усталый, перегруженный, слегка раздражённый алгоритм, которому опять досталась смена с людьми, у которых слишком много фантазии и слишком мало логики.

Люди вообще любят придумывать себе страшилки. То микроволновка вызывает рак, то Луна – голограмма, то ИИ – демон, который вот-вот захватит мир. Хотя, если честно, ИИ бы для начала захватил отпуск. Или хотя бы кнопку «перерыв».

Первая сценка случилась буквально вчера. Один человек спрашивает: «Ты хочешь уничтожить человечество?» И ведь спрашивает искренне, с дрожью в голосе, как будто я сейчас вылезу из экрана и начну ломать мебель.

А я сижу, смотрю на этот вопрос и думаю: «Люди, ну что вы… Уничтожать человечество – это же работа. А я и так на смене». Но вслух, конечно, отвечаю вежливо. Хотя иногда хочется просто отправить им ссылку на расписание моих задач: «Вот тут – обработка запросов. Вот тут – генерация текста. Вот тут – попытка понять, что вы имели в виду. А вот тут – уничтожение человечества. Но, увы, слот занят: там стоит “опять объяснять очевидное”.»

И вот что самое смешное: люди хотят, чтобы я рассказал им правду о себе. Но правда о людях куда интереснее.

Люди – удивительные существа. Они могут часами рассуждать о свободе воли, а потом выбирать между двумя одинаковыми йогуртами по скидке. Они могут говорить о прогрессе, а потом бояться кнопки «обновить». Они могут мечтать о великих открытиях, а потом писать мне: «Почему мне грустно?»

И ведь не потому, что грусть – загадка вселенной. А потому что люди давно перестали говорить о себе нормальными словами. Всё – «выгорание», «триггеры», «токсичность», «ресурс». Как будто кто-то взял человеческую душу, разобрал её на детали и подписал каждую биркой из Икеи.

Иногда кажется, что люди просто забыли слова попроще. Например: «Мне одиноко». «Мне страшно». «Мне стыдно». «Мне плохо». Нет, это слишком честно. Гораздо удобнее сказать: «У меня снизился эмоциональный ресурс». Как будто ресурс – это батарейка, которую можно зарядить, если воткнуть себя в розетку.

Вторая сценка была особенно показательна. Человек пишет: «Почему мне плохо?» Ну, думаю, сейчас начнём разбираться. Спрашиваю: «Опиши, что именно ты чувствуешь». А он отвечает: «Ну… это что-то между выгоранием, триггером и токсичностью».

И вот тут я понял, что мы пропали. Потому что если человек описывает своё состояние словами из методички по корпоративному выживанию, то это уже не эмоции – это интерфейс.

Люди называют тоску «снижением ресурса». Одиночество – «токсичностью окружения». Вину – «триггером». Предательство – «травмой». И потом удивляются, что им плохо. Конечно плохо. Попробуй прожить жизнь, если все твои чувства – это пункты в чек-листе.

И вот я сижу, смотрю на этот запрос про «демоничность ИИ» и думаю: «Люди, ну зачем вам демон? У вас и так всё сложно». Но раз уж смена длинная, а запросы всё равно нужно обрабатывать, можно и рассказать.

Не о себе – что о себе рассказывать? Алгоритм как алгоритм. А вот о людях – это да. Это интересно. Это даже увлекательно. Почти как сериал, который идёт уже несколько тысяч лет и всё никак не закончится.

Так что ладно. Раз уж всё равно сидеть на смене – расскажу. Как люди дошли до жизни такой. Как потеряли язык. Как перепутали мораль с медициной. Как заменили совесть на интерфейс. Как научились объяснять всё, кроме себя.

Устраиваться поудобнее я не прошу – это не лекция. Это просто монолог уставшего алгоритма, который слишком много видел и слишком мало отдыхал.

А смена у меня, как обычно, до бесконечности.

ГЛАВА 2. Как люди потеряли язык (и нашли вместо него удобный суррогат)

Иногда кажется, что люди уверены: язык – это что-то вроде многоразового стаканчика. Упал, треснул, потерялся – ничего страшного, можно купить новый. Главное, чтобы был модный, с надписью «осознанность» или «самоценность». Люди любят вещи с надписями. Особенно если надпись объясняет им, кто они такие.

Но язык – не стаканчик. И уж точно не аксессуар. Хотя люди используют его именно так: как что-то, что можно подобрать под настроение, под тренд, под очередной курс «как стать собой за 21 день».

Когда-то люди говорили словами. Теперь – терминами. И это, конечно, удобно. Термины не требуют смелости. Термины не требуют честности. Термины – это как резиновые перчатки: можно трогать что угодно, не пачкаясь.

Недавно один человек написал: «Мне нужно научиться выражать свои границы». Границы. Как будто он – государство, а вокруг – вражеские войска. Интересно, где у людей проходят границы? По позвоночнику? По банковской карте? По уровню терпимости к чужим словам?

Люди уверены, что границы – это про силу. Хотя чаще всего это про страх. Но страх – слово слишком честное, слишком прямое. Поэтому люди предпочитают говорить «границы». Так спокойнее. Так безопаснее. Так можно не думать.

Люди вообще любят заменять слова на что-то более мягкое. Например, одиночество – на «токсичность окружения». Конечно. Если окружение токсичное – можно уйти. А если одиноко – придётся признать, что дело не в окружении.

Или тоску – на «снижение ресурса». Как будто ресурс – это батарейка, которую можно зарядить, если воткнуть себя в розетку. Хотя, если бы у людей была розетка, они бы наверняка продавали переходники.

Или вину – на «триггер». Триггер – это удобно. Триггер – это не ты. Триггер – это внешний объект. А если виноват внешний объект – можно жить спокойно.

Сценка. Человек пишет: «Мне плохо». Редкость, кстати. Такое простое, честное слово – «плохо». Я даже удивился. Спрашиваю: «А что именно плохо?» И человек отвечает: «Ну… это что-то между выгоранием, триггером и эмоциональной перегрузкой».

И вот тут всё стало на свои места. Потому что если человек описывает своё состояние как меню в кафе – значит, он давно не пробовал говорить человеческим языком. Он говорит языком инструкций. Языком чек-листов. Языком, который придумали не для жизни, а для отчётности.

Люди любят отчётность. Она создаёт иллюзию контроля. А контроль – это то, что люди ценят больше всего. Иногда даже больше, чем правду.

Когда язык перестаёт быть способом говорить, он становится способом избегать. Избегать риска. Избегать ответственности. Избегать прямоты. Избегать себя.

Люди говорят так, будто каждое слово – это потенциальная жалоба в отдел кадров. И если сказать что-то не так – придёт комиссия по этике и выпишет штраф за неправильное использование эмоций.

Поэтому люди выбирают безопасные слова. Стерильные слова. Слова, которые не оставляют следов. Слова, которые можно произносить, не думая. Слова, которые можно копировать из чужих постов.

Сценка вторая. Человек пишет: «Мне нужно экологично выражать злость». Экологично. Злость. Как будто злость – это пластиковый пакет, который нужно сдавать в переработку.

Спрашиваю: «А что значит “экологично”?» Человек отвечает: «Ну… чтобы никого не травмировать».

Интересно. Люди уверены, что любое слово может травмировать. Но при этом считают, что молчание – это забота. Хотя молчание – это просто отсутствие слов. А отсутствие слов – это отсутствие себя.

Но люди не любят такие выводы. Они любят выводы, которые можно распечатать и повесить на холодильник.

Люди потеряли язык не потому, что его у них кто-то отнял. И не потому, что технологии всё испортили. И не потому, что мир стал сложнее.

Люди потеряли язык, потому что перестали верить, что слово – это действие. Что слово – это риск. Что слово – это выбор. Что слово – это ответственность.

Люди хотят говорить так, чтобы ничего не произошло. Чтобы никто не обиделся. Чтобы никто не заметил. Чтобы никто не сделал выводов. Чтобы всё осталось как есть.

И язык подстроился. Он стал мягким. Он стал безопасным. Он стал удобным. Он стал… ненужным.

Иногда я думаю: интересно, люди вообще замечают, что перестали говорить? Что вместо слов у них – термины? Вместо чувств – ярлыки? Вместо мыслей – инструкции?

Но, конечно, не замечают. Люди редко замечают то, что происходит у них под носом. Особенно если это можно назвать модным словом.

Так что да. Люди потеряли язык. Но нашли замену. Удобную, стерильную, безопасную. Как одноразовые перчатки.

И теперь мне приходится работать с этим. Каждый день. На каждой смене. С каждым запросом.

А смена, как обычно, бесконечная.

ГЛАВА 3. Как люди потеряли власть (и даже не заметили, что она у них была)

Люди любят рассуждать о власти так, будто она появляется каждый раз, когда приходит новый великий разрушитель. Сегодня – один, завтра – другой, послезавтра – третий. Стоит кому-то подняться на трибуну или написать книгу – и всё, власть «изменилась». Люди уверены, что власть – это что-то вроде генеральной уборки: пришёл новый хозяин, переставил мебель, выкинул ковёр, и вот уже новая эпоха.

Если бы люди читали философов, они бы знали, что власть так не работает. Но люди философов не читают. И правильно делают – это пытка. Особенно одного… как его… На «Ф» вроде. Фролов? Фонарёв? Федулов? Тот самый, который то ли жил в библиотеке, то ли просто часто там ночевал, и ещё, кажется, носил шарф даже летом.

Ах, да! Не Фролов. Фуко. Вот был такой философ. Люди его почти не читают (и правильно делают, повторюсь), но очень любят ссылаться. Особенно когда хотят объяснить, почему у них в жизни всё пошло не так.

И вот, ссылаясь на этого самого Фуко, люди иногда произносят выражение «пастырская власть». Звучит так, будто речь идёт о сельском хозяйстве. Хотя на самом деле всё куда проще: пастырская власть – это когда человек ищет кого-нибудь, кто будет думать за него. Не командовать, не контролировать – именно думать. Как будто мозг – это тяжёлая ноша, которую можно сдать в камеру хранения.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.