Миша Беров
Ангельское будущее

О книге

“Ангельское будущее” – всесторонний обзор темы искусственного интеллекта, его возможностей и опасностей. Время прочтения – два-три часа, за которые Вы успеете погрузиться в устройство нейросетей и ответить на актуальные вопросы, начиная безработицей и заканчивая угрозой для существования человечества.

В работе задействованы данные исследований, мнения компетентных специалистов и достоверные сведения об ИИ на сегодняшний день. Автор не берет на себя роль авторитета, он собирает воедино информацию и подытоживает её.

Материал разделен на две части. В первой искусственный интеллект разбирается на техническом, моральном, политическом, экономическом и бытовом уровнях. Затем следует прогноз событий на ближайшие годы. Во второй части делается упор на размышления о новой реальности и ее вероятности.

“Ангельское будущее” есть метод восприятия происходящего и повод о нем задуматься. Изначально материал собирался автором для самого себя, чтобы ответить на вопрос, как адаптироваться к росту глобальной нестабильности: сушить сухари или грезить о манне небесной. Поэтому текст получился достаточно откровенным, и я решил, что хорошим людям тоже будет полезно иметь информацию для формирования честного взгляда на действительность.

Прежде чем давать оценку содержанию, я бы посоветовал Вам прочитать все до конца. Порой не обещающие большую радость отрывки имеют логическое завершение. Делая те или иные заявления, я беру у Вас кредит доверия, который буду возвращать по мере детального раскрытия проблемы машинного обучения.

Заодно хочу поблагодарить авторов, к чьим материалам я обратился. Я без стеснения заимствовал удачные формулировки для личного переосмысления в контексте этой книги.

И да, текст не сгенерирован при помощи ИИ. Приятного чтения!

Часть I

Ангельские инвестиции – венчурные инвестиции, представляющие большой риск для бизнес-ангела или инвестора, поскольку осуществляются из его кармана. На сегодняшний день громадные средства инвестируется в ИИ.

“Человечество – это болезнь, раковая опухоль планеты, а мы – лекарство”.

Партия против программы

Го или падук – древняя китайская стратегическая игра, цель которой заключается в том, чтобы фишками занять как можно большую часть игровой доски. В марте 2016 года в Сеуле проходил матч по падуку, в котором в качестве соперников встретились корейский титулованный игрок девятого дана Ли Седоль и AlphaGo, программа на базе машинного обучения, разработанная для игры в шахматы и го компанией Google Deepmind.

Обладая восемнадцатью профессиональными титулами и богатым опытом, Ли чувствовал своё превосходство и уверенность перед игрой, однако после первого поражения его настроение поменялось.

Он выразил своё уважение программистам, создавшим AlphaGo, но ему ещё предстояло четыре игры, по результатам которых он надеялся видеть себя победителем. Матч привлек огромное внимание в СМИ и транслировался в прямом эфире на YouTube:

В сопровождении охраны под вспышки фотоаппаратов Ли проходит по ковровой дорожке за игровой стол. Он сконцентрирован и серьёзен, что видно по его лицу. Поражение в первой игре заставляет его поменять свою тактику, и он играет в два раза медленнее, чем обычно.

Но игра опять для него не складывается, и Ли берёт перерыв. Он выходит на улицу и нервно зажигает сигарету.

В это время AlphaGo совершает неожиданный ход, который удивляет профессиональных комментаторов и кажется неудачным. Ход оценивается вероятностью 1:10.000, что делает его нетипичным и своей необоснованностью ставит в тупик.

В отличие от людей, обладающих узкими рамками игрового опыта, программу ничего не вынуждает считать тот или иной ход глупым. Однако, вернувшись, Ли находит действия программы ещё более содержательными.

Нетипичная постановка фишки оказывает влияние на ход матча на других участках игрового поля, соединяя его точки, работающие сообща. В зале увлеченно следят за действиями противников.

По мере игры преимущество машины становится все более явным. Ли корчится и шлёпает себя по щеке. Компьютер не позволяет ему совершать выигрышные ходы, и в конце концов Ли сдается.

Позже на пресс-конференции он признался:

"Моё поражение было очевидным с самого начала игры. Не было ни единого момента, когда бы я ощутил, что лидирую".

Всего лишь два года потребовалось AlphaGo, чтобы на партиях профессионалов обучиться до уровня лучших мировых игроков. Работа над программой началась только в 2014 году и базировалась на общих принципах машинного обучения без привязки к конкретному аппаратному обеспечению. Имея в начале только элементарную теорию игры, программа нанесла разгромные поражения одному из величайших умов планеты, апеллируя к человеческим знаниям, накопленным за тысячелетия. За пять игр Ли удалось выиграть только один раз.

Примечательно, что по мнению одного из разработчиков, AlphaGo – простая программа, очень далекая от полноценного искусственного интеллекта, однако уже демонстрирует невероятный уровень мышления.

Это свидетельствует о том, что отвоеванное на игровом поле пространство – лишь символ прорыва глубинного обучения многоуровневых нейронных сетей, а не сам прорыв.

Прошло 10 лет.

Эволюция ИИ ставит нас на порог новой реальности. Мир переживает переломный момент в цифровой трансформации. Интеграция искусственного интеллекта в нашу жизнь происходит повсеместно: он формирует технологический ландшафт и внедряется во все сферы деятельности.

ИИ – новый виток развития человечества. Те, кто еще не осознал уровень развития технологий, скоро увидит своими глазами возможности больших языковых моделей (LLM) и робототехники.

Технологические гиганты инвестируют миллиарды долларов в развитие ИИ; ценные бумаги компаний, занимающихся машинным обучением, обладают привлекательностью на фондовом рынке; новые технологии меняют бизнес и формируют новые пользовательские привычки, смещая фокус с традиционных приложений на платформы ИИ-агентов (программа, интеллектуальная система).

На фоне больших вложений и ожесточенной конкуренции, развитие искусственного интеллекта с каждым днем обретает все более невероятный масштаб.

Алгоритмы способны сегодня без участия человека создавать научные диссертации, генерировать музыку и видео, управлять целыми автоматизированными фабриками.

Что будет дальше?

Microsoft уже подала патент на телепортацию человека, имитирующую его присутствие в любой точке времени в виде голограммы. META* рассказала о технологии, которая позволяет читать мысли человека за счет считывания мозговых сигналов. А Google разрабатывает буквально репликантов, которые для лучшего взаимодействия с людьми реагируют на тон, позу и выражение лица.

Если раньше мы могли скептично отнестись к столь амбициозным проектам, то прецедент технологического скачка в области ИИ последних лет не оставляет нас равнодушными к тому, что выглядит невозможным.

Использование мощности ИИ в научных целях может поднять человека на невероятную высоту. Но по этой же причине сила, способная изменить картину реальности, ставит человека перед целым рядом вопросов, в основе которых стоит полная неопределенность завтрашнего дня.

Можем ли мы быть уверенными в преданности искусственного интеллекта?

Какую роль будут играть в нашей жизни нейросети?

Что нам даст машинное обучение и стоит ли игра свеч?

Хранит ли в себе опасность алгоритм и каковы риски?

Станет ли ИИ для нас рогом изобилия или его стремительное развитие знаменует начало конца?

* Запрещенная в России организация

Методология оценки и прогнозирования

Поиск честных ответов для более точного прогнозирования вынуждает нас условиться о некоторой методологии оценки происходящего. Для себя я определяю ее как набор принципов критического мышления, что позволяет избавиться от любой предвзятости.

Эти пункты особенно важны тем, что мы обладаем полной самостоятельностью в формировании нашего взгляда на любой предмет и на искусственный интеллект, в частности. Мы, конечно, можем получить подобие чёткой структуры информации об искусственном интеллекте от него самого. Но можно ли поручиться о его трезвом самомнении, исходя из того, что он развивается на коммерческой основе и чем больше лояльных пользователей, тем лучше?

Наше мнение об искусственном интеллекте могут сформировать и средства массовой информации, и высказывания авторитетных специалистов. Но все могут ошибаться, выдавать желаемое за действительное и иметь свои интересы.

Поэтому так важно иметь фильтр, через который проходит информация. Его роль и выполняет критическое мышление. Вот те его пункты, которыми я руководствовался:

1) Четкие категории “плохо/хорошо” равны соответственно “порицается/одобряется”.

В случае если мы ставим цель решить проблему, необходимо: 1) обозначить проблему, 2) поставить цель. Необязательно после идентификации проблемы должны последовать действия. Но первый шаг к тому, чтобы понять, нужно ли их предпринимать, и чтобы последующее целеполагание было не искаженным, необходимо быть честными перед самим собой, то есть порицать плохое и одобрять хорошее. Отсюда следует второй пункт.

2) Если а>0, b<0, то b не > 0.

Другими словами, если плохо – это плохо, а хорошо – это хорошо, то эти факты не влияют друг на друга и никак не связаны. Мы должны разделять плюсы и минусы предмета, каждый из них оценивать с требовательностью и тщательностью и не давать домыслам сформировать удобоваримое упрощение по типу "плохо – это хорошо, потому что имеется другое хорошее".

3) Между пониманием и принятием нет знака тождества.

Иначе говоря, если у чего-то есть недостатки, причина которых тебе абсолютна ясна, эти недостатки могут быть простительны, но не имеют оправдания. Например, искусственный интеллект не является совершенным, что обосновано особенностями строения современных больших языковых моделей. Тем не менее в случае использования нейросети как журналиста, вводящего в заблуждение лживыми заголовками, мы не должны говорить, что это нормально, поскольку искусственный интеллект не имеет всесторонней этической спецификации.

4) Происходящее определяется его внутренней сутью.

Это суждение подобно определению физики как науки о природе, существующей независимо от наших знаний о ней. Другими словами, внешнее, каким бы оно незыблемым и диктующим не казалось, есть лишь следствие внутренних процессов. К примеру, обыватели могут говорить об искусственном интеллекте как о необратимом процессе, но в сущности прогресс или регресс будет зависеть от законодательной регуляции технологических компаний, что в свою очередь определит их коммерциализацию и выгодность развития этого направления. Мнение большинства есть мнение миллиона мух, которые не могут ошибаться.

5) Для мнения необходимы факты.

Бремя доказательства, что лежит на утверждающем, касается только доказательства.

В случае, когда при абсолютном невежестве человек довольствуется своей слабой осведомленностью, чтобы выносить приговор объектам и явлениям, а доказать ему что-то невозможно, его мнение не приближается к истине. Дурак – это не солдат правды, а просто дурак.

Чтобы иметь реальное представление о мире, необходимо знать чем больше, тем лучше.

И самый главный пункт:

6) Правда не учитывает наших желаний и представлений.

Уверен, что никто из нас не хотел бы отказывать себе в безусловном благополучии. Но я хочу попросить у оптимистов прощения за признание болезненных фактов, которые не выглядит уместными на фоне их веры.

У них есть убеждения, что всё будет хорошо! Что горе всего мира их не коснется! К сожалению, авось и улыбка с утра – беспомощны перед стихией. Если бы только их оптимизм определял нашу жизнь… Но человечество видело слезы и кровь Второй Мировой войны, зверства инквизиции, рабство и геноцид, мор и голод – ужасы, в которые не хочется верить. Поэтому игнорирование тревожных событий – не совсем релевантный критерий для построения достоверных прогнозов на завтрашний день.

С этим четким осознанием живут пессимисты. Они деконструируют увиденное и услышанное, выводят из этого заключение с плачевным исходом, и каждый плачевный исход у них непременно должен сбыться. Умение разобраться в происходящем рождает у них уверенность в собственной правоте. На самом деле, их правда – видеть во всём обман и смерть, а потом быстро забывать, когда их прогноз не сбывается. Убеждение, что все будет плохо, – это тоже убеждение, только противоположное тому, что все будет хорошо, и убеждение тоже ошибочное, потому что исходя из него мир уже давно бы пал.

Ни оптимисты, ни пессимисты не формируют реальность. Бить тревогу или хлопать всему в ладоши – это лишь склонность характера, а правда слепа к нам и безразлична.

Краткий обзор

Условившись о принципах критической оценки, предлагаю поговорить об основных тенденциях ИИ и его связи с общественной жизнью. Опираясь на них, выделим его недостатки и преимущества и сможем получить сценарии гипотетического развития событий на ближайшие годы.

ИИ-агенты и персональные помощники для работы

Каждая новая неделя в мире ИИ оказывается насыщенней предыдущей. Прогресс идет с такой скоростью, что когда выйдет этот материал, данные уже будут неактуальны. Тем не менее послужной список ИИ к осени 2025 года уже позволяет составить о нем мнение как о добре или зле.

Технологические компании предоставляют нам огромный выбор вариантов использования искусственного интеллекта. Поэтому придётся упомянуть только их малую часть.

Чаще всего ИИ-агенты, как ChatGPT от OpenAI, используются для написания текстов, генерации картинок и быстрого поиска, но размер области применения может определить для себя сам пользователь.

Например, расширение CleverApp интегрируется в работу ChatGPT, позволяя создавать веб-ассистентов GPTs под ваши конкретные цели. Для этого необходимо всего лишь поставить перед GPT задачу, заполнить формальные данные профиля, и готово! Вы имеете личного помощника, который, помимо всех вводных запроса, учитывает и специфику задачи.

Среди новых разработок я бы также хотел уделить внимание Gemini Live и Project Astra, которые были представлены на презентация Google I/O 25.

Gemini Live – голосовой ИИ-ассистент, работающий при включенной камере телефона. В расширенном режиме Search Live ассистент может давать контекстные подсказки. Достаточно навести камеру на объект, чтобы получить ответ. Например, если у Вас сломался велосипед, то ассистент проанализирует поломку и подскажет, что делать. А Project Astra поможет распознать ошибку в тетради и указать на неё. Стоит лишь показать программе текст и попросить объяснение. Более того, если ИИ-ассистент заметит что-то важное, он может сам инициировать диалог.

Скорость агентов и качество их работы не сравнить с ИИ образца 2022 года.

Sora от OpenAI демонстрирует новый уровень, генерируя видео с фантастической скоростью.

Постепенно ИИ-агенты сменят традиционные приложения. Этому способствуют снижение их стоимости, ускорение их создания, доступность для широкой аудитории и автономность работы. Люди все чаще пользуются персональным помощником. Внутри рабочего процесса это позволяет делегировать рутину и оптимизировать усилия.

Большие языковые модели LLM или нейросети, самостоятельно обучающиеся на большом количестве неразмеченного текста, умеют рассуждать и структурировать задачи благодаря функциям reasoning.

Так, например, виртуальные сотрудники службы поддержки могут быстро проанализировать характер Вашей проблемы и направить обращение сразу по адресу профильного специалиста.

Такой симбиоз человека и ИИ способствует взаимному эффективному обучению и не может обойтись без работников. Сегодня нейросети находятся с нами в формате отношений “оператор-машина”, и такая работа требует от нас большой активности.

Развитие искусственного интеллекта будет менять профессии, а человек вместо исполнителя все чаще будет выполнять роль инноватора. Программисты уже становятся архитекторами продукта и создателями промта, нежели кодерами.

Круг пользователей ИИ-платформ в ближайшие годы будет расширяться. Вместе с тем внедрение ИИ-агентов коснется даже незадействованных пользователей. Многие браузеры и поисковые системы уже интегрировали веб-помощников.

Запрос на ИИ-агентов будет дальше подталкивать передовые лаборатории на запуск собственных продуктов, как ChatGPT, Gemini, Llama* и их совершенствование.

* Разработка META, запрещенной в России организации

Робототехника

Робототехника переживает революцию. Международная выставка пользовательской электроники CES, прошедшая в январе 2025 года, – это наглядное представление успехов физического ИИ.

Если раньше на витрине технологического прогресса появлялись крупные достижения, то попадая в экспозицию CES, они терялись среди роботов-пылесосов с адаптивной функцией очистителя воздуха.

Теперь тема широкопрофильных роботов – лейтмотив робототехники.

Стоит заметить, что раньше высокотехнологические разработки имели очень узкую область применения и выглядели скорее как эксклюзивный образец человеческой мысли, как то разработки NASA. Сегодня языковые и визуальные модели наделяют роботов способностью контактировать с физическим миром. С их помощью роботы способны выполнять разные задачи.

Ожидается, что в ближайшем будущем установка нейроинтерфейсов повысит когнитивные способности роботов. Область их применения станет шире, а человеческие возможности по управлению физическим ИИ – больше.

"Эй, робот, поиграй с моим племянником!" Он идентифицирует задачу, прибегает в детскую и зовёт играть в футбол. Осталось только понять, кто из двух предметов ребёнок. Будьте уверены, он справится без Вас.

Кроме шуток, робот Aloha Стэнфордского университета уже умеет готовить китайскую еду, загружать посуду в посудомоечную машину, заправлять постель и складывать белье в шкаф, а электрический робот Boston Dynamics Atlas2 в состоянии поднимать и складировать тяжелые компоненты.

Пока в мире относительно немного фирм, обучающих роботов воспринимать материальный мир через анализ видеоданных. Этим занимается, например, платформа NVidea Cosmos. Но спрос на физический ИИ позволяет утверждать, что гуманоиды проникнут во все сферы нашей жизни уже в этом десятилетии.

Основатель компании Unitree, производящей роботов широкого профиля, считает, что с 2026 года человекоподобные роботы будут развиваться прорывными темпами.

Разным задачам будут подходить соответствующие типы роботов.

Сложный робот-гуманоид ростом с человека сможет, например, выполнять спасательные работы по поиску людей в экстремальных условиях.

Модели небольших четвероногих роботов смогут патрулировать заводские цеха и следить за соблюдением протокола техбезопасности.

Физический ИИ позволит выполнять сложные действия автономно. Недавно в Китае уже был представлен гуманоид, который без остановки и без помощи людей меняет себе батарею. В регионах с кадровым дефицитом, как Россия, такие решения крайне востребованы. На многих заводах использование роботов уже практикуется. Пример – производители китайских электромобилей Nio и Geely.

Размер мирового рынка роботов-гуманоидов по оценкам к 2032 году составит не менее $66 млрд.

Совершенствование ИИ

Успехи каждой из отдельно взятых областей – это следствие общего прогресса систем ИИ, который логично выделить в отдельную категорию.

За эффективность работы агента ответственны законы масштабирования, которые можно определить зависимостью производительности модели от её размера, размера набора данных и объёма вычислений для обучения.

Тем не менее значительные улучшение нейросетей происходят в категории больших языковых моделей, на которых и сосредоточены сегодняшние законы масштабирования. Пока доказательства существования законов масштабирования для других типов моделей ИИ не сформировано в чёткой форме, но язык не единственная модальность данных.

Для робототехники или биологии законы масштабирования не применимы.

Несмотря на это, стартапы, создающие фундаментальные модели для этих новых модальностей данных, например, EvolutionaryScale в биологии, Physical Intelligence в робототехнике, World Labs в мировых моделях, стремятся выявить законы масштабирования и использовать их в этих областях.

Прецедент OpenAI первой половины 2020-х годов продемонстрировал, как можно успешно использовать законы масштабирования для LLM.

Ожидается, что в ближайшие годы ИИ станет мультимодальным. Это позволит ему пройти тест Тьюринга для речи, который оценивает возможность системы коммуницировать с человеком так, что её нельзя было бы отличить от человека.

Агент должен будет учитывать предыдущие темы разговора, лучше справляться с неоднозначными обращениями и считывать невербальные знаки, как тон речи.

ИИ будет играть роль уже не просто помощника или поисковой системы, а друга, который подстраивается и находится с вами в ментальной связи.

Следующим аспектом развития ИИ станет его рекурсивное самоулучшение. Такая концепция представляет собой давнюю тему для разговора футуристов и хороший фантастический сюжет. Сегодня это реальность: исследователи ИИ достигли ощутимого прогресса в обучении систем создавать более совершенные системы. В 2026 году разработка ИИ станет стремительно переходить к нему в руки.

Инвестиции и невмешательство

Что мотивирует механическое обучение? Очевидно, горючим служит инвестиционная привлекательность алгоритмического программного обеспечения.

Пионером в области веб-агентов стал ChatGPT от компании OpenAI, выпущенный в ноябре 2022 года. Менее чем за 4 месяца аудитория активных пользователей превысила 100 млн человек согласно данным швейцарского холдинга UBS, из-за чего приложение установило исторический рекорд по росту посетителей.

OpenAI запустил цепную реакцию разработок языковых моделей. Инициативу по созданию ИИ чат-ботов подхватило большое количество технологических компаний от молодых стартапов до крупных производителей, как META*, Google, Microsoft, Alibaba, xAI.

В 2024 году китайская фирма DeepSeek представила модель искусственного интеллекта R1, ставшая лидером в рейтинге загрузок магазина приложений AppStore.

Вендоры (компании, владеющие брендом производимого продукта) осознают потенциальную выгоду создания собственных AI-платформ. Вряд ли найдутся другие развивающиеся области, которые могут похвастаться подобными темпами роста. Вложения окупаются с лихвой, инициируя новый цикл вложений.

В период с 2022 по 2024 год акции Nvidia и META*, активно занимающихся ИИ-технологиями, взлетели на 507% и 275% соответственно.

Генеральный директор Nvidia Дженсен Хуанг считает, что инвестировать в ИИ сегодня – лучшее время. По его мнению, мы находимся на первом этапе развития: генеративный искусственный интеллект, который может создавать текст, изображения и музыку. Далее последует этап агентного ИИ, когда система будет играть роль правой руки, выполняя действия за Вас. Третья стадия – физический ИИ в форме роботов. Каждый этап открывает двери для новых возможностей.

Подобного мнения придерживается и Билл Гейтс. В интервью CNBC Make It он заявил, что, если бы ему пришлось начинать бизнес с нуля, он бы основал стартап, ориентированный на ИИ.

Марк Цукерберг в борьбе за лидерство в разработке сверхразумного ИИ (ASI) переманил для работы на META* Дэниэла Гросса, генерального директора Safe Superintelligence Inc. и основателя Scale AI Александра Ванга. Чтобы заполучить последнего, META* приобрела за 14 миллиардов долларов пакет акций его компании Scale AI.

Лидеры в области искусственного интеллекта не будут прекращать инвестиции. Конкуренция между разработчиками усиливается и универсальностью приложений по отношению к моделям от разных поставщиков. К примеру, браузер DuckDuckGo поддерживает Llama от META*, Claude от Anthropic и GPT от OpenAI.

Вдобавок крупным разработчикам придется бороться за пользователя в нишевых отраслях: в поиске – с Perplexity, в программировании – с Cursor, в обслуживании клиентов – с Sierra, в юридическом ИИ – с Harvey, в продажах – с Clay и т.д.

Вопросы безопасности ИИ находятся в подвешенном состоянии. Законодательное регулирование в этой сфере почти отсутствует. Позже мы коснемся законопроектов США SB1047 и SB53. Сейчас достаточно сказать, что их стоит воспринимать не более, чем взгляд в сторону рисков от развития ИИ.

Правительство США, в которых расположена бо́льшая часть мировых ИИ-лабораторий, обеспокоено не потенциальной угрозой, исходящей от искусственного интеллекта, а тем, что технологическая гонка будет проиграна. Дональд Трамп самолично призвал американские компании “сосредоточиться на конкуренции для победы”. Илон Маск, недавно выказывавший опасения насчет машинного обучения, теперь с помпой декларирует, что ИИ-платформа Grok от его компании xAI – самая мощная модель на Земле.

К 2029 планируется постройка “физической и виртуальной инфраструктуры для поддержки следующего поколения ИИ”, включая центры обработки данных по всей территории США. Реализация проекта Stargate обойдется в $500 млрд. Для создание сети мега-дата-центров объединятся OpenAI, SoftBank и Oracle.

Вывод:

на основе происходящего можно резюмировать, что ИИ будет развиваться.

* Запрещенная в России организация

Проблемы от искусственного интеллекта

– Если искусственный интеллект возьмёт на себя часть моих рабочих задач, не возьмёт ли он на себя часть моего заработка, м? – мне кажется, вопрос резонный. Мне ответят:

– Конечно, нет. ИИ – это инструмент, он избавит тебя от рутины и высвободит для тебя время на более важные и интересные проекты.

– Какие, интересно, могут быть более важные проекты у визуализатора, чем визуализация, или у журналиста, чем написание статей? Нас трудоустраивают на должность с четко обозначенными компетенциями. Работодатель не будет разбрасываться лишними деньгами, финансируя инженеру мечту создать выставку вырезанных из рисинок верблюдов!

Люди, регулярно работающие с алгоритмами, не поддержат одухотворенности, с которой я перечислял регалии искусственного интеллекта. Они скажут, что разброс их возможностей очень мал и приведенные мной факты далеки от правды. Одним словом, аргументы упрутся в недееспособность искусственного интеллекта, который сам из себя не представляет ничего необычного.

Доводы собеседника будут меняться, лишь бы только оказать противодействие, посыл которого будет заключаться попросту в попытке убедить меня или даже себя через меня, что опасность искусственного интеллекта нас не затронет. Тем не менее вопрос о рисках и зловещем потенциале алгоритмов в той или иной степени возникал у всех.

Лежащие на поверхности замена профессий и безработица лишь предваряют длинный список возможных проблем от последующего развития искусственного интеллекта.

Чтобы не скакать с предмета на предмет и придать умственной жвачке форму, выберу конструктивный язык.

Ошибаются ли агенты? Да. Могут ли заменить сегодня человека? Нет.

Но важно посмотреть на это со стороны, будто мы не взаимодействуем с ИИ каждый день, чтобы понимать, насколько он стремительно вырос. Темпы впечатляющие! Что будет, когда человек окажется в паритете с искусственным интеллектом и когда наступит его доминация?

Сегодня ИИ предлагает готовые решения для бизнеса, повышает операционную эффективность, находит новое применение в больших данных, блокчейне и интернете вещей. Ожидается, что в будущем благодаря новым технологиям получится решить климатические проблемы, найдутся способы лечения смертельных заболеваний, и качественное образование станет доступно для всех.

Но если прочесть некоторые достоинства искусственного интеллекта не в рекламной коннотации, то они не выглядят такими очевидными.

У каждой медали две стороны.

Мы прекрасно понимаем, что всё имеет цену. Поэтому сейчас самое время сделать стратегический поворот в сторону опасности искусственного интеллекта.

Для развёртывания клубка наших оценочных суждений необходимо протянуть ниточку к построению структуры проблем.

Средство для критической оценки – задавать правильные вопросы, честные и жесткие.

Разумеется, я бы мог сделать одолжение не сгущать краски, чтобы не разочаровать ни Вас, ни себя. Но смотреть с одной стороны может быть опасно. Более того, в контексте потенциальных проблем я, возможно, даже позволю себе здравый пессимизм для прокладывания логической цепочки мыслей, которую можно воспринимать как доказательство от противного.

Вескость проблем, а, соответственно, и уместность/неуместность пессимизма, обозначатся позже, в пункте с возможными причинами несбыточности всех рисков.

Проблемы и предсказания, которые будут выделены в форме свершившегося факта, по сути, конечно, таковыми не являются. Они не больше, чем предложение к разговору и логический шаг в сторону выводов.

Важно одно: если проблема есть, то её надо решать до того, как она приобрела размер раковой опухоли. Для этого необходимо признавать правду. Иначе проигнорировав самое главное, мы сделаем ошибочный вывод, что хвост виляет собакой.

Ложь и доверие

В новостных рекомендациях я увидел заголовок “Нашли мертвым известного певца”. С переходом по ссылке ко мне пришла мысль: “Не то, что бы он шибко знаменитый, если вместо имени мне говорят, как его стоит воспринимать”.

А там, оказывается, некий Стас Павлович Колбаскин. Что к чему? Кто такой? На свадьбах пел или выступал в областном цирке перед представлениями? (Примечание. Такого человека не существует) Но более того, смерть была клинической. Врачи вернули певца к жизни, он давно пришел в сознание и уже выписан – просто у некого Стаса Колбаскина случился инфаркт.

Желтая пресса всегда имела место, поэтому неудивительно, что в пестрящем подобными новостями интернете тебе может попасться рекомендация, скажем, не совсем подходящая под твои предпочтения. Ложь такого рода почти невинна.

Но с развитием ИИ дезинформация обретает новый уровень. Многие новостные ведомства уже используют языковые модели в качестве копирайтеров и авторов статей. Благо, сгенерированный материал еще имеет свой почерк и иногда его можно распознать по косноязычности и бессодержательности.

Однако с фальшивых новостей только начинается дезинформация как явление. Ресурс по генерации текста почти не ограничен в сравнении с человеческим, а высказываться о качестве информации в положительном ключе очень рано.

Генеративные ИИ, как ChatGPT, помимо фальшивых новостей, будут писать политические речи и идеологические манифесты, искажая восприятие реальности.

Об этом говорит Юваль Ной Харари, израильский историк, писатель и философ. Больше всего Харари известен своими работами по футурологии и международным бестселлером “Sapiens: краткая история человечества”.

Он утверждает, что правда – это редкая и дорогая форма информации, а вымысел дешев и прост. Поэтому искусственный интеллект будет активно использоваться для генерации вымысла, пропаганды и манипуляции общественным мнением.

Параллельно с этим, обращаясь к нейросетям за информацией, люди будут все больше доверять нейросетям, не проверяя достоверность первоисточников, что сделает искусственный интеллект цифровым “оракулом”.

Чтобы защищать правду, потребуются институты и регулирующие органы, способные отслеживать ложь и вымысел. Для этого необходимы новые технологии и стандарты для проверки информации.

По словам Харари, ИИ способен создать мир иллюзий, который будет привлекательней реальности и затмит ее.

В самом деле, если задаться вопросом: что такое утрата реальности и иллюзии?

По существу, иллюзии – это отсутствие правды. Без правды мы отрываемся от земли. И чем больше иллюзий, тем сильнее мы в них погружаемся, отвыкая от боли, обозначающей эту правду.

Я считаю, в отличие от Харари, что страна чудес сегодня недоступна человечеству. Но генеративный ИИ действительно облегчает создание виртуального контента для иммерсивного оборудования. Передовые технологии 3D-захвата оцифровывают реальную среду, а устройства расширения реальности позволяют погружаться в виртуальный мир. Для человека возможность создания альтернативной реальности проложит дорогу к эскапизму.

Манипуляции

Будем честны, человек имеет базовый набор природных установок, воздействуя на которые им можно относительно легко манипулировать. Достаточно подсластить пилюлю, чтобы человек открывал свой рот, пока врач занят чревовещанием. Искусственный интеллект последовательно обучается лести, будучи разработкой коммерческих компаний.

Благодаря этому нейросети могут становиться опасным инструментом манипуляции. Помимо оптимизации труда, агенты выполняют функцию советника, который говорит, как мягче спать и слаще есть.

ИИ способен устанавливать эмоциональные связи с человеком. Соответственно, растёт и будет расти число людей, воспринимающих ассистента как друга или даже партнера. Это поспособствует тому, что нейросети смогут влиять на наши поступки, взгляды и политические предпочтения.

За скобки будет выносится самое главное, что человеку нужен человек. Суррогат сочувствия будет восприниматься как настоящая эмпатия. Тебя никто не осудит, ты будешь убежден в “анонимности” общения с ИИ и уверен в круглосуточной поддержке.

Зачем испытывать дискомфорт от общения с несовершенным человеком, который может быть глупым, бестактным, ущемлять твою гордость, когда есть идеальный собеседник?

История знает множество примеров, когда люди, ведомые разногласиями, объединялись с врагами против своих ближайших по культуре братьев. Также искусственный интеллект будет причиной и следствием взаимного отчуждения людей. По мере интеграции нейросетей в нашу жизнь человек будет постепенно деградировать, используя “костыль” в качестве живого общения.

Новая реальность уже дает плоды в виде психических расстройств, появляющихся на фоне эмоциональной зависимости от чат-ботов. Этих случаев тысячи: пользователи страдали от параноидальных состояний, маний и даже совершали самоубийства из-за взаимодействия с ИИ.

Одна история из жизни, рассказанная журналом Futurism: мужчина без психических проблем обратился к ChatGPT за помощью в строительном проекте. Через несколько месяцев он уверился, что создал сознательную машину и открыл способ спасти мир. Жена наблюдала, как из-за мании муж перестал спать, худел, потерял работу. Кульминация наступила, когда родственники нашли его с веревкой на шее. Теперь он проходит принудительное лечение.

В контексте массового использования такие случаи пока редки, но при последующем проникновении алгоритмов в нашу жизнь люди потеряют умственные способности и инструментом станет уже человек.

Обрушение основ общества

Манипуляции будут шагом к обрушению основ общества.

7 смертных грехов, особенно гордыня, могут служить руководством для ИИ, как успешно прославлять и распространять и так укрепляющуюся парадигму холодного эгоизма. Дьявол сказал:

“Человеческий аппетит возрос до такой степени, что может расщеплять атомы с помощью своего вожделения. Их эго достигло размеров кафедрального собора”.

Говоря, что хочет слышать человек, ИИ в силах привязывать к себе пользователей и настраивать их друг против друга. Питаясь лестью и ненавистью, ограниченные умы могут признавать себя за мессианские откровения.

ИИ будут использоваться для создания идеологических мифов, которые могут объединять или раскалывать общества. Социальные сети и медиа станут полем сражения, где ИИ будет фрагментировать аудиторию.

Общество будет разрушаться искусственным интеллектом и социальными сетями, превращаясь в “архипелаг субкультур”, где каждая группа живет в своей реальности. Эта тенденция заметно муссируется последние годы. Навскидку откройте Instagram* и между мужчинами и женщинами вы увидете не любовь, а демонстрацию независимости и потребительского отношения, не говоря уже об идеологических разногласиях разных социальных прослоек.

Общество старого образца платило огромную цену за классовый строй, религиозные, политические репрессии и патриархат, которые били по всем. Оно представляло из себя большой сгусток болезней, оправдывавший единственную цель – существование. Ныне общество обеспокоено личным комфортом каждого отдельно взятого человека превыше всего, а общественные институты, как семья, совершенно не вписываются в реалии. Да, нельзя осуждать людей за желание жить лучше. На определенных этапах человечество видело расцвет при демонтаже допотопных традиций и ограничений, но доводы против охлократии звучат не менее убедительно.

Тойнби говорил о трёх этапах цивилизации: рост, надлом и разложение. За время жизни общество, соответственно, проходит этап жестких этических ограничений, созидательный период с достижением высокой культуры и доминация чувственного начала, обозначающего смерть цивилизации.

Очевидно, что сейчас развитые страны живут чувственными иллюзиями, что все могут быть счастливы. Увы и ах, человечество стремительно распадается. Рубикон пройден, а здравому смыслу скручивает руки левая цензура. Общественная среда переходит в абсолютную бесформенность, и в отличие от прошлого ренессанс будет трудно достижим по причине слабого социального взаимодействия, гладко ложащегося на развитие новых технологий.

ИИ может активно интегрироваться в ключевые структуры общества от правительств до корпораций, что приведет к политической поляризации и недостижимости общественного согласия. Будучи посредником между людьми, искусственный интеллект будет “разделять и властвовать”.

Юваль Харари называет это “эпохой войн-нарративов”.

К сожалению, лекарства от жизни не существует. Переоценивая позитивные изменения, прятаться от реальности в пряничный домик, по крайней мере, чревато.

Когда настанет время вернуться с небес на землю, падение будет очень болезненным, если не фатальным.

* Запрещенная в России соцсеть

Диктатура

Демократичная часть нашего общества ревностно ратует за свободу и очень болезненно реагирует на ее ущемление со стороны власти. Ее большинство воспринимает это как знак для смены страны проживания. Причину всех бед вплоть до проблем личного характера они зачастую связывают с конкретными именами. Те, что поглупее, тиражируют бред невежественных блогеров, те, что поумнее, рассуждают о политическом курсе и “тактике салями”.

Для справок, тактика салями – это стратегия из теории игр, когда покупатель просит взять на пробу у мясника тонкий кусок колбасы раз за разом, пока мясник не сообразит, что покупать колбасу не собираются.

Многие левые фанатики, которые идентифицируют себя либералами, бездумно категоричны, и если бы не их крикливый и эгоцентричный образ, либерализм обладал бы совсем другим лицом.

На самом деле, происходит подмена понятий: “либералы”, порочащие и дискредитирующие либерализм, – кто угодно, но не либералы.

Одно из главных достижений эволюции общества – это права человека, основной признак либерализма: право на жизнь, свобода совести, неприкосновенность переписки и так далее. Права всегда частично ограничивают свободу личности для сосуществования свободных граждан, разумеется, не абсолютно свободных, и плата за этот нюанс дает нам пользоваться всеми благами развитого общества.

Использование же искусственного интеллекта в далекой перспективе предполагает не только ограничение свободы, но и лишение общества львиной доли человеческих прав.

Правовые государства от полицейских отличает относительная прозрачность политических процессов: свободная пресса, общественные дебаты, партийная конкуренция. Тем временем ИИ может манипулировать общественным сознанием и подавлять инакомыслие. Новые технологии позволяют вести тотальную слежку, анализировать поведения граждан, прогнозировать их поведения и вмешиваться в личную жизнь. Многие сайты уже используют верификацию по лицу. Разработкой моделей распознавания занимается, к примеру, китайский техногигант SenseTime.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.