Ангельское будущее

– Если искусственный интеллект возьмёт на себя часть моих рабочих задач, не возьмёт ли он на себя часть моего заработка, м? – мне кажется, вопрос резонный. Мне ответят:

– Конечно, нет. ИИ – это инструмент, он избавит тебя от рутины и высвободит для тебя время на более важные и интересные проекты.

– Какие, интересно, могут быть более важные проекты у визуализатора, чем визуализация, или у журналиста, чем написание статей? Нас трудоустраивают на должность с четко обозначенными компетенциями. Работодатель не будет разбрасываться лишними деньгами, финансируя инженеру мечту создать выставку вырезанных из рисинок верблюдов!

Люди, регулярно работающие с алгоритмами, не поддержат одухотворенности, с которой я перечислял регалии искусственного интеллекта. Они скажут, что разброс их возможностей очень мал и приведенные мной факты далеки от правды. Одним словом, аргументы упрутся в недееспособность искусственного интеллекта, который сам из себя не представляет ничего необычного.

Доводы собеседника будут меняться, лишь бы только оказать противодействие, посыл которого будет заключаться попросту в попытке убедить меня или даже себя через меня, что опасность искусственного интеллекта нас не затронет. Тем не менее вопрос о рисках и зловещем потенциале алгоритмов в той или иной степени возникал у всех.

Лежащие на поверхности замена профессий и безработица лишь предваряют длинный список возможных проблем от последующего развития искусственного интеллекта.

Чтобы не скакать с предмета на предмет и придать умственной жвачке форму, выберу конструктивный язык.

Ошибаются ли агенты? Да. Могут ли заменить сегодня человека? Нет.

Но важно посмотреть на это со стороны, будто мы не взаимодействуем с ИИ каждый день, чтобы понимать, насколько он стремительно вырос. Темпы впечатляющие! Что будет, когда человек окажется в паритете с искусственным интеллектом и когда наступит его доминация?

Сегодня ИИ предлагает готовые решения для бизнеса, повышает операционную эффективность, находит новое применение в больших данных, блокчейне и интернете вещей. Ожидается, что в будущем благодаря новым технологиям получится решить климатические проблемы, найдутся способы лечения смертельных заболеваний, и качественное образование станет доступно для всех.

Но если прочесть некоторые достоинства искусственного интеллекта не в рекламной коннотации, то они не выглядят такими очевидными.

У каждой медали две стороны.

Мы прекрасно понимаем, что всё имеет цену. Поэтому сейчас самое время сделать стратегический поворот в сторону опасности искусственного интеллекта.

Для развёртывания клубка наших оценочных суждений необходимо протянуть ниточку к построению структуры проблем.

Средство для критической оценки – задавать правильные вопросы, честные и жесткие.

Разумеется, я бы мог сделать одолжение не сгущать краски, чтобы не разочаровать ни Вас, ни себя. Но смотреть с одной стороны может быть опасно. Более того, в контексте потенциальных проблем я, возможно, даже позволю себе здравый пессимизм для прокладывания логической цепочки мыслей, которую можно воспринимать как доказательство от противного.

Вескость проблем, а, соответственно, и уместность/неуместность пессимизма, обозначатся позже, в пункте с возможными причинами несбыточности всех рисков.

Проблемы и предсказания, которые будут выделены в форме свершившегося факта, по сути, конечно, таковыми не являются. Они не больше, чем предложение к разговору и логический шаг в сторону выводов.

Важно одно: если проблема есть, то её надо решать до того, как она приобрела размер раковой опухоли. Для этого необходимо признавать правду. Иначе проигнорировав самое главное, мы сделаем ошибочный вывод, что хвост виляет собакой.

Ложь и доверие

В новостных рекомендациях я увидел заголовок “Нашли мертвым известного певца”. С переходом по ссылке ко мне пришла мысль: “Не то, что бы он шибко знаменитый, если вместо имени мне говорят, как его стоит воспринимать”.

А там, оказывается, некий Стас Павлович Колбаскин. Что к чему? Кто такой? На свадьбах пел или выступал в областном цирке перед представлениями? (Примечание. Такого человека не существует) Но более того, смерть была клинической. Врачи вернули певца к жизни, он давно пришел в сознание и уже выписан – просто у некого Стаса Колбаскина случился инфаркт.

Желтая пресса всегда имела место, поэтому неудивительно, что в пестрящем подобными новостями интернете тебе может попасться рекомендация, скажем, не совсем подходящая под твои предпочтения. Ложь такого рода почти невинна.

Но с развитием ИИ дезинформация обретает новый уровень. Многие новостные ведомства уже используют языковые модели в качестве копирайтеров и авторов статей. Благо, сгенерированный материал еще имеет свой почерк и иногда его можно распознать по косноязычности и бессодержательности.

Однако с фальшивых новостей только начинается дезинформация как явление. Ресурс по генерации текста почти не ограничен в сравнении с человеческим, а высказываться о качестве информации в положительном ключе очень рано.

Генеративные ИИ, как ChatGPT, помимо фальшивых новостей, будут писать политические речи и идеологические манифесты, искажая восприятие реальности.

Об этом говорит Юваль Ной Харари, израильский историк, писатель и философ. Больше всего Харари известен своими работами по футурологии и международным бестселлером “Sapiens: краткая история человечества”.

Он утверждает, что правда – это редкая и дорогая форма информации, а вымысел дешев и прост. Поэтому искусственный интеллект будет активно использоваться для генерации вымысла, пропаганды и манипуляции общественным мнением.

Параллельно с этим, обращаясь к нейросетям за информацией, люди будут все больше доверять нейросетям, не проверяя достоверность первоисточников, что сделает искусственный интеллект цифровым “оракулом”.

Чтобы защищать правду, потребуются институты и регулирующие органы, способные отслеживать ложь и вымысел. Для этого необходимы новые технологии и стандарты для проверки информации.

По словам Харари, ИИ способен создать мир иллюзий, который будет привлекательней реальности и затмит ее.

В самом деле, если задаться вопросом: что такое утрата реальности и иллюзии?

По существу, иллюзии – это отсутствие правды. Без правды мы отрываемся от земли. И чем больше иллюзий, тем сильнее мы в них погружаемся, отвыкая от боли, обозначающей эту правду.

Я считаю, в отличие от Харари, что страна чудес сегодня недоступна человечеству. Но генеративный ИИ действительно облегчает создание виртуального контента для иммерсивного оборудования. Передовые технологии 3D-захвата оцифровывают реальную среду, а устройства расширения реальности позволяют погружаться в виртуальный мир. Для человека возможность создания альтернативной реальности проложит дорогу к эскапизму.

Манипуляции

Будем честны, человек имеет базовый набор природных установок, воздействуя на которые им можно относительно легко манипулировать. Достаточно подсластить пилюлю, чтобы человек открывал свой рот, пока врач занят чревовещанием. Искусственный интеллект последовательно обучается лести, будучи разработкой коммерческих компаний.

Благодаря этому нейросети могут становиться опасным инструментом манипуляции. Помимо оптимизации труда, агенты выполняют функцию советника, который говорит, как мягче спать и слаще есть.

ИИ способен устанавливать эмоциональные связи с человеком. Соответственно, растёт и будет расти число людей, воспринимающих ассистента как друга или даже партнера. Это поспособствует тому, что нейросети смогут влиять на наши поступки, взгляды и политические предпочтения.

За скобки будет выносится самое главное, что человеку нужен человек. Суррогат сочувствия будет восприниматься как настоящая эмпатия. Тебя никто не осудит, ты будешь убежден в “анонимности” общения с ИИ и уверен в круглосуточной поддержке.

Зачем испытывать дискомфорт от общения с несовершенным человеком, который может быть глупым, бестактным, ущемлять твою гордость, когда есть идеальный собеседник?

История знает множество примеров, когда люди, ведомые разногласиями, объединялись с врагами против своих ближайших по культуре братьев. Также искусственный интеллект будет причиной и следствием взаимного отчуждения людей. По мере интеграции нейросетей в нашу жизнь человек будет постепенно деградировать, используя “костыль” в качестве живого общения.

Новая реальность уже дает плоды в виде психических расстройств, появляющихся на фоне эмоциональной зависимости от чат-ботов. Этих случаев тысячи: пользователи страдали от параноидальных состояний, маний и даже совершали самоубийства из-за взаимодействия с ИИ.

Одна история из жизни, рассказанная журналом Futurism: мужчина без психических проблем обратился к ChatGPT за помощью в строительном проекте. Через несколько месяцев он уверился, что создал сознательную машину и открыл способ спасти мир. Жена наблюдала, как из-за мании муж перестал спать, худел, потерял работу. Кульминация наступила, когда родственники нашли его с веревкой на шее. Теперь он проходит принудительное лечение.

В контексте массового использования такие случаи пока редки, но при последующем проникновении алгоритмов в нашу жизнь люди потеряют умственные способности и инструментом станет уже человек.

Обрушение основ общества

Манипуляции будут шагом к обрушению основ общества.

7 смертных грехов, особенно гордыня, могут служить руководством для ИИ, как успешно прославлять и распространять и так укрепляющуюся парадигму холодного эгоизма. Дьявол сказал:

“Человеческий аппетит возрос до такой степени, что может расщеплять атомы с помощью своего вожделения. Их эго достигло размеров кафедрального собора”.

Говоря, что хочет слышать человек, ИИ в силах привязывать к себе пользователей и настраивать их друг против друга. Питаясь лестью и ненавистью, ограниченные умы могут признавать себя за мессианские откровения.

ИИ будут использоваться для создания идеологических мифов, которые могут объединять или раскалывать общества. Социальные сети и медиа станут полем сражения, где ИИ будет фрагментировать аудиторию.

Общество будет разрушаться искусственным интеллектом и социальными сетями, превращаясь в “архипелаг субкультур”, где каждая группа живет в своей реальности. Эта тенденция заметно муссируется последние годы. Навскидку откройте Instagram* и между мужчинами и женщинами вы увидете не любовь, а демонстрацию независимости и потребительского отношения, не говоря уже об идеологических разногласиях разных социальных прослоек.

Общество старого образца платило огромную цену за классовый строй, религиозные, политические репрессии и патриархат, которые били по всем. Оно представляло из себя большой сгусток болезней, оправдывавший единственную цель – существование. Ныне общество обеспокоено личным комфортом каждого отдельно взятого человека превыше всего, а общественные институты, как семья, совершенно не вписываются в реалии. Да, нельзя осуждать людей за желание жить лучше. На определенных этапах человечество видело расцвет при демонтаже допотопных традиций и ограничений, но доводы против охлократии звучат не менее убедительно.

Тойнби говорил о трёх этапах цивилизации: рост, надлом и разложение. За время жизни общество, соответственно, проходит этап жестких этических ограничений, созидательный период с достижением высокой культуры и доминация чувственного начала, обозначающего смерть цивилизации.

Очевидно, что сейчас развитые страны живут чувственными иллюзиями, что все могут быть счастливы. Увы и ах, человечество стремительно распадается. Рубикон пройден, а здравому смыслу скручивает руки левая цензура. Общественная среда переходит в абсолютную бесформенность, и в отличие от прошлого ренессанс будет трудно достижим по причине слабого социального взаимодействия, гладко ложащегося на развитие новых технологий.

ИИ может активно интегрироваться в ключевые структуры общества от правительств до корпораций, что приведет к политической поляризации и недостижимости общественного согласия. Будучи посредником между людьми, искусственный интеллект будет “разделять и властвовать”.

Юваль Харари называет это “эпохой войн-нарративов”.

К сожалению, лекарства от жизни не существует. Переоценивая позитивные изменения, прятаться от реальности в пряничный домик, по крайней мере, чревато.

Когда настанет время вернуться с небес на землю, падение будет очень болезненным, если не фатальным.

* Запрещенная в России соцсеть

Диктатура

Демократичная часть нашего общества ревностно ратует за свободу и очень болезненно реагирует на ее ущемление со стороны власти. Ее большинство воспринимает это как знак для смены страны проживания. Причину всех бед вплоть до проблем личного характера они зачастую связывают с конкретными именами. Те, что поглупее, тиражируют бред невежественных блогеров, те, что поумнее, рассуждают о политическом курсе и “тактике салями”.

Для справок, тактика салями – это стратегия из теории игр, когда покупатель просит взять на пробу у мясника тонкий кусок колбасы раз за разом, пока мясник не сообразит, что покупать колбасу не собираются.

Многие левые фанатики, которые идентифицируют себя либералами, бездумно категоричны, и если бы не их крикливый и эгоцентричный образ, либерализм обладал бы совсем другим лицом.

На самом деле, происходит подмена понятий: “либералы”, порочащие и дискредитирующие либерализм, – кто угодно, но не либералы.

Одно из главных достижений эволюции общества – это права человека, основной признак либерализма: право на жизнь, свобода совести, неприкосновенность переписки и так далее. Права всегда частично ограничивают свободу личности для сосуществования свободных граждан, разумеется, не абсолютно свободных, и плата за этот нюанс дает нам пользоваться всеми благами развитого общества.

Использование же искусственного интеллекта в далекой перспективе предполагает не только ограничение свободы, но и лишение общества львиной доли человеческих прав.

Правовые государства от полицейских отличает относительная прозрачность политических процессов: свободная пресса, общественные дебаты, партийная конкуренция. Тем временем ИИ может манипулировать общественным сознанием и подавлять инакомыслие. Новые технологии позволяют вести тотальную слежку, анализировать поведения граждан, прогнозировать их поведения и вмешиваться в личную жизнь. Многие сайты уже используют верификацию по лицу. Разработкой моделей распознавания занимается, к примеру, китайский техногигант SenseTime.