Ангельское будущее

О книге

“Ангельское будущее” – всесторонний обзор темы искусственного интеллекта, его возможностей и опасностей. Время прочтения – два-три часа, за которые Вы успеете погрузиться в устройство нейросетей и ответить на актуальные вопросы, начиная безработицей и заканчивая угрозой для существования человечества.

В работе задействованы данные исследований, мнения компетентных специалистов и достоверные сведения об ИИ на сегодняшний день. Автор не берет на себя роль авторитета, он собирает воедино информацию и подытоживает её.

Материал разделен на две части. В первой искусственный интеллект разбирается на техническом, моральном, политическом, экономическом и бытовом уровнях. Затем следует прогноз событий на ближайшие годы. Во второй части делается упор на размышления о новой реальности и ее вероятности.

“Ангельское будущее” есть метод восприятия происходящего и повод о нем задуматься. Изначально материал собирался автором для самого себя, чтобы ответить на вопрос, как адаптироваться к росту глобальной нестабильности: сушить сухари или грезить о манне небесной. Поэтому текст получился достаточно откровенным, и я решил, что хорошим людям тоже будет полезно иметь информацию для формирования честного взгляда на действительность.

Прежде чем давать оценку содержанию, я бы посоветовал Вам прочитать все до конца. Порой не обещающие большую радость отрывки имеют логическое завершение. Делая те или иные заявления, я беру у Вас кредит доверия, который буду возвращать по мере детального раскрытия проблемы машинного обучения.

Заодно хочу поблагодарить авторов, к чьим материалам я обратился. Я без стеснения заимствовал удачные формулировки для личного переосмысления в контексте этой книги.

И да, текст не сгенерирован при помощи ИИ. Приятного чтения!

Часть I

Ангельские инвестиции – венчурные инвестиции, представляющие большой риск для бизнес-ангела или инвестора, поскольку осуществляются из его кармана. На сегодняшний день громадные средства инвестируется в ИИ.

“Человечество – это болезнь, раковая опухоль планеты, а мы – лекарство”.

Партия против программы

Го или падук – древняя китайская стратегическая игра, цель которой заключается в том, чтобы фишками занять как можно большую часть игровой доски. В марте 2016 года в Сеуле проходил матч по падуку, в котором в качестве соперников встретились корейский титулованный игрок девятого дана Ли Седоль и AlphaGo, программа на базе машинного обучения, разработанная для игры в шахматы и го компанией Google Deepmind.

Обладая восемнадцатью профессиональными титулами и богатым опытом, Ли чувствовал своё превосходство и уверенность перед игрой, однако после первого поражения его настроение поменялось.

Он выразил своё уважение программистам, создавшим AlphaGo, но ему ещё предстояло четыре игры, по результатам которых он надеялся видеть себя победителем. Матч привлек огромное внимание в СМИ и транслировался в прямом эфире на YouTube:

В сопровождении охраны под вспышки фотоаппаратов Ли проходит по ковровой дорожке за игровой стол. Он сконцентрирован и серьёзен, что видно по его лицу. Поражение в первой игре заставляет его поменять свою тактику, и он играет в два раза медленнее, чем обычно.

Но игра опять для него не складывается, и Ли берёт перерыв. Он выходит на улицу и нервно зажигает сигарету.

В это время AlphaGo совершает неожиданный ход, который удивляет профессиональных комментаторов и кажется неудачным. Ход оценивается вероятностью 1:10.000, что делает его нетипичным и своей необоснованностью ставит в тупик.

В отличие от людей, обладающих узкими рамками игрового опыта, программу ничего не вынуждает считать тот или иной ход глупым. Однако, вернувшись, Ли находит действия программы ещё более содержательными.

Нетипичная постановка фишки оказывает влияние на ход матча на других участках игрового поля, соединяя его точки, работающие сообща. В зале увлеченно следят за действиями противников.

По мере игры преимущество машины становится все более явным. Ли корчится и шлёпает себя по щеке. Компьютер не позволяет ему совершать выигрышные ходы, и в конце концов Ли сдается.

Позже на пресс-конференции он признался:

"Моё поражение было очевидным с самого начала игры. Не было ни единого момента, когда бы я ощутил, что лидирую".

Всего лишь два года потребовалось AlphaGo, чтобы на партиях профессионалов обучиться до уровня лучших мировых игроков. Работа над программой началась только в 2014 году и базировалась на общих принципах машинного обучения без привязки к конкретному аппаратному обеспечению. Имея в начале только элементарную теорию игры, программа нанесла разгромные поражения одному из величайших умов планеты, апеллируя к человеческим знаниям, накопленным за тысячелетия. За пять игр Ли удалось выиграть только один раз.

Примечательно, что по мнению одного из разработчиков, AlphaGo – простая программа, очень далекая от полноценного искусственного интеллекта, однако уже демонстрирует невероятный уровень мышления.

Это свидетельствует о том, что отвоеванное на игровом поле пространство – лишь символ прорыва глубинного обучения многоуровневых нейронных сетей, а не сам прорыв.

Прошло 10 лет.

Эволюция ИИ ставит нас на порог новой реальности. Мир переживает переломный момент в цифровой трансформации. Интеграция искусственного интеллекта в нашу жизнь происходит повсеместно: он формирует технологический ландшафт и внедряется во все сферы деятельности.

ИИ – новый виток развития человечества. Те, кто еще не осознал уровень развития технологий, скоро увидит своими глазами возможности больших языковых моделей (LLM) и робототехники.

Технологические гиганты инвестируют миллиарды долларов в развитие ИИ; ценные бумаги компаний, занимающихся машинным обучением, обладают привлекательностью на фондовом рынке; новые технологии меняют бизнес и формируют новые пользовательские привычки, смещая фокус с традиционных приложений на платформы ИИ-агентов (программа, интеллектуальная система).

На фоне больших вложений и ожесточенной конкуренции, развитие искусственного интеллекта с каждым днем обретает все более невероятный масштаб.

Алгоритмы способны сегодня без участия человека создавать научные диссертации, генерировать музыку и видео, управлять целыми автоматизированными фабриками.

Что будет дальше?

Microsoft уже подала патент на телепортацию человека, имитирующую его присутствие в любой точке времени в виде голограммы. META* рассказала о технологии, которая позволяет читать мысли человека за счет считывания мозговых сигналов. А Google разрабатывает буквально репликантов, которые для лучшего взаимодействия с людьми реагируют на тон, позу и выражение лица.

Если раньше мы могли скептично отнестись к столь амбициозным проектам, то прецедент технологического скачка в области ИИ последних лет не оставляет нас равнодушными к тому, что выглядит невозможным.

Использование мощности ИИ в научных целях может поднять человека на невероятную высоту. Но по этой же причине сила, способная изменить картину реальности, ставит человека перед целым рядом вопросов, в основе которых стоит полная неопределенность завтрашнего дня.

Можем ли мы быть уверенными в преданности искусственного интеллекта?

Какую роль будут играть в нашей жизни нейросети?

Что нам даст машинное обучение и стоит ли игра свеч?

Хранит ли в себе опасность алгоритм и каковы риски?

Станет ли ИИ для нас рогом изобилия или его стремительное развитие знаменует начало конца?

* Запрещенная в России организация

Методология оценки и прогнозирования

Поиск честных ответов для более точного прогнозирования вынуждает нас условиться о некоторой методологии оценки происходящего. Для себя я определяю ее как набор принципов критического мышления, что позволяет избавиться от любой предвзятости.

Эти пункты особенно важны тем, что мы обладаем полной самостоятельностью в формировании нашего взгляда на любой предмет и на искусственный интеллект, в частности. Мы, конечно, можем получить подобие чёткой структуры информации об искусственном интеллекте от него самого. Но можно ли поручиться о его трезвом самомнении, исходя из того, что он развивается на коммерческой основе и чем больше лояльных пользователей, тем лучше?

Наше мнение об искусственном интеллекте могут сформировать и средства массовой информации, и высказывания авторитетных специалистов. Но все могут ошибаться, выдавать желаемое за действительное и иметь свои интересы.

Поэтому так важно иметь фильтр, через который проходит информация. Его роль и выполняет критическое мышление. Вот те его пункты, которыми я руководствовался:

1) Четкие категории “плохо/хорошо” равны соответственно “порицается/одобряется”.

В случае если мы ставим цель решить проблему, необходимо: 1) обозначить проблему, 2) поставить цель. Необязательно после идентификации проблемы должны последовать действия. Но первый шаг к тому, чтобы понять, нужно ли их предпринимать, и чтобы последующее целеполагание было не искаженным, необходимо быть честными перед самим собой, то есть порицать плохое и одобрять хорошее. Отсюда следует второй пункт.

2) Если а>0, b<0, то b не > 0.

Другими словами, если плохо – это плохо, а хорошо – это хорошо, то эти факты не влияют друг на друга и никак не связаны. Мы должны разделять плюсы и минусы предмета, каждый из них оценивать с требовательностью и тщательностью и не давать домыслам сформировать удобоваримое упрощение по типу "плохо – это хорошо, потому что имеется другое хорошее".

3) Между пониманием и принятием нет знака тождества.

Иначе говоря, если у чего-то есть недостатки, причина которых тебе абсолютна ясна, эти недостатки могут быть простительны, но не имеют оправдания. Например, искусственный интеллект не является совершенным, что обосновано особенностями строения современных больших языковых моделей. Тем не менее в случае использования нейросети как журналиста, вводящего в заблуждение лживыми заголовками, мы не должны говорить, что это нормально, поскольку искусственный интеллект не имеет всесторонней этической спецификации.

4) Происходящее определяется его внутренней сутью.

Это суждение подобно определению физики как науки о природе, существующей независимо от наших знаний о ней. Другими словами, внешнее, каким бы оно незыблемым и диктующим не казалось, есть лишь следствие внутренних процессов. К примеру, обыватели могут говорить об искусственном интеллекте как о необратимом процессе, но в сущности прогресс или регресс будет зависеть от законодательной регуляции технологических компаний, что в свою очередь определит их коммерциализацию и выгодность развития этого направления. Мнение большинства есть мнение миллиона мух, которые не могут ошибаться.

5) Для мнения необходимы факты.

Бремя доказательства, что лежит на утверждающем, касается только доказательства.

В случае, когда при абсолютном невежестве человек довольствуется своей слабой осведомленностью, чтобы выносить приговор объектам и явлениям, а доказать ему что-то невозможно, его мнение не приближается к истине. Дурак – это не солдат правды, а просто дурак.

Чтобы иметь реальное представление о мире, необходимо знать чем больше, тем лучше.

И самый главный пункт:

6) Правда не учитывает наших желаний и представлений.

Уверен, что никто из нас не хотел бы отказывать себе в безусловном благополучии. Но я хочу попросить у оптимистов прощения за признание болезненных фактов, которые не выглядит уместными на фоне их веры.

У них есть убеждения, что всё будет хорошо! Что горе всего мира их не коснется! К сожалению, авось и улыбка с утра – беспомощны перед стихией. Если бы только их оптимизм определял нашу жизнь… Но человечество видело слезы и кровь Второй Мировой войны, зверства инквизиции, рабство и геноцид, мор и голод – ужасы, в которые не хочется верить. Поэтому игнорирование тревожных событий – не совсем релевантный критерий для построения достоверных прогнозов на завтрашний день.

С этим четким осознанием живут пессимисты. Они деконструируют увиденное и услышанное, выводят из этого заключение с плачевным исходом, и каждый плачевный исход у них непременно должен сбыться. Умение разобраться в происходящем рождает у них уверенность в собственной правоте. На самом деле, их правда – видеть во всём обман и смерть, а потом быстро забывать, когда их прогноз не сбывается. Убеждение, что все будет плохо, – это тоже убеждение, только противоположное тому, что все будет хорошо, и убеждение тоже ошибочное, потому что исходя из него мир уже давно бы пал.

Ни оптимисты, ни пессимисты не формируют реальность. Бить тревогу или хлопать всему в ладоши – это лишь склонность характера, а правда слепа к нам и безразлична.

Краткий обзор