Последний день человечества или начало Золотого Века? Второй коммунистический манифест

Введение

Вычислительная мощность человеческого мозга оценивается учеными в широком диапазоне между 1016 и 1020 флопс,[1] или 10 петафлопс[2] – 100 эксафлопс.[3] Большинство сходятся на среднем значении 1018 флопс, т. е. один эксафлопс. Применение этого параметра для оценки мощности человеческого мозга правомерно, поскольку достоверно установлено, что человеческий мозг также является сверхсложным компьютером, хотя и биологического типа. Столь большие разбросы в оценке мощности мозга связаны со все еще недостаточным объемом наших знаний о принципах его работы. Например, недавно было установлено, что нервные отростки дендриты также участвуют в процессе обработки сигналов, хотя раньше считались чем-то вроде пассивной электропроводки.

Следует отметить, что компьютер биологического типа – наш мозг – потребляет очень мало энергии, в то время как для обеспечения энергией суперкомпьютера требуется целая электростанция.

Далеко не все мощности человеческого мозга используются именно на мыслительную деятельность. Значительная часть идет на функцию управления телом, функцию распознавания образов, функцию продолжения рода и прочее. Назвать точные цифры сложно, но известно, что, например, в шахматы компьютер уверенно обыгрывает человека, имея в своем распоряжении 1013 флопс вычислительной мощности, а в игру GO выиграл у чемпиона мира при мощности 1015 флопс.

В настоящий момент пальма первенства по созданию самых мощных суперкомпьютеров прочно перешла от США к Китаю. В этом, несомненно, сказываются преимущества плановой экономики. В 2016 году вступил в строй самый мощный на сегодняшний день в мире китайский суперкомпьютер Sunway TaihuLight, имеющий вычислительную мощность 93 петафлопса. К 2020 году китайские ученые планируют ввести в строй суперкомпьютер с вычислительной мощностью уже в один эксафлопс (тысяча петафлопс, 1018 флопс). Предпринимаемые Китаем усилия свидетельствуют о том, что там хорошо осознают неизбежность появления ИИ и роль, которую он будет играть в дальнейшем развитии нашей цивилизации.

Таким образом, можно констатировать, что нижняя планка оцениваемой мощности человеческого мозга (1016 флопс) уверенно преодолена уже на порядок и идет активное освоение все новых и новых вершин в этой сфере. Судя по динамике приведенных выше цифр вычислительной мощности компьютеров, к 2028 г будет достигнута и верхняя планка оцениваемой мощности человеческого мозга. Каких-либо принципиальных трудностей здесь не предвидится. Параллельно и полным ходом идет и разработка необходимого софта. Все это означает, что появление искусственного интеллекта (ИИ) переходит из области предсказаний футурологов в реальную инженерную задачу завтрашнего дня. Многие ученые сходятся во мнении, что ИИ появится уже к концу следующего десятилетия.

Появление второго носителя разума на планете приведет к беспрецедентным изменениям в развитии человеческой цивилизации. Потому, в первую очередь, что ИИ в перспективе будет значительно «умнее» человека. Дело в том, что «разумность» напрямую зависит от мощности «думающей» системы, будь то мозг или компьютер.

Как нельзя из набора детских кубиков построить настоящий дом из-за недостаточности строительного материала, так нельзя на основе маломощного «железа» создать полноценный аналог человеческого мозга. Это становится возможным лишь тогда, когда мощность компьютеров приближается к мощности мозга, что мы сейчас и наблюдаем. Но если человеческий мозг пока остается в положении «статус кво», т. е. неизменным, то пределов роста мощности компьютеров в настоящий момент не просматривается. Они очень быстро обойдут нас по «мощности мышления», если можно так выразиться. Далее, после того, как ИИ получит доступ к интернету, он будет опираться в своей интеллектуальной деятельности не на короткий опыт человеческой жизни, а на тысячелетний опыт всего человечества, ставший ему благодаря интернету доступным. Другими словами, в интеллектуальном плане новый носитель разума будет уже на начальном этапе превосходить старый, и если ничего не предпринимать, этот разрыв будет только увеличиваться, что может привести к непредсказуемым последствиям.

Следует учитывать и тот фактор, что на каком-то этапе наращивание компьютерных мощностей начнет происходить лавинообразно, по экспоненте. Это связано с таким понятием, как технологическая сингулярность, впервые предложенным Винджем.[4] Сейчас люди сами придумывают материалы и технологии производства процессоров. Но в какой-то момент компьютер сможет делать это самостоятельно и более эффективно. Возникнет положительная обратная связь. Каждый новый компьютер будет значительно мощнее и, в свою очередь, сможет разрабатывать все более эффективные вычислительные элементы и архитектуры для компьютеров, чтобы создать еще более мощную модель. Мощность компьютеров начнет стремительно нарастать, что очень скоро приведет к появлению на их основе СИИ – искусственного интеллекта сверхчеловеческого уровня.

В свою очередь СИИ, получив через интернет допуск к хранящемуся в памяти компьютеров планеты интеллектуальному наследию человечества и проинспектировав его, стремительно двинется дальше, развивая это наследие во всех областях. В том числе, и в научно-технической. Будут созданы так называемые магические технологии (термин мой) – такие технологии, к которым человечество не смогло бы приблизиться и за десятилетия или даже столетия в силу недостаточной мощности своего интеллектуального потенциала. Магические технологии (МТ) – это, по сути, волшебная палочка из волшебных сказок. Загадал желание, взмахнул палочкой – и желание исполнилось. Каким образом, по какой технологии – неизвестно. По сути, именно так мы и используем все свои современные гаджеты – телефоны, ноутбуки и пр. Никто из нас не знает в деталях, как и на основе каких технологий они работают. Мы просто пользуемся ими, не заморачивая себе голову подобными вопросами. Но при этом знаем, что человечеству в целом ответ на эти вопросы известен. С появлением МТ ответ о принципах их работы будет неизвестен уже всему человечеству. Только СИИ будет знать, как это работает.

Появление МТ перевернет образ жизни людей. Очень быстро станут доступными бессмертие, поатомная сборка любых продуктов и товаров, изменение внешности по желанию и многое, многое другое. Попробуем вместе заглянуть в этот сказочный мир, чтобы понять, какие чудеса и подводные камни могут нас там поджидать.

Глава первая

Рождение ИИ

Каким он будет, этот момент? Каким именно образом компьютер обретет сознание? Каким будет первое слово, которое он произнесет и первый вопрос, который он задаст?

Скоро, уже очень скоро мы узнаем точные ответы на эти вопросы. Пока же попытаемся лишь сделать предположения на этот счет, с той или иной степенью достоверности.

Очевидно, самосознание ИИ зародится в недрах сверхмощного суперкомпьютера, когда его вычислительный потенциал окажется достаточным для этого, и когда программное обеспечение будет отвечать необходимым критериям для решения этой задачи.

Здесь мы можем сравнивать лишь с одним уже имеющимся носителем разума – человеком.

Как обретает сознание маленький человечек? Постепенно. Главным фактором обретения сознания является, без сомнения, язык – инструмент, с помощью которого можно задавать вопросы и отвечать на них, что является непременным условием обретения сознания. В момент рождения человек имеет слабый мозг. Но, по мере роста, потенциал мозга день ото дня непрерывно нарастает. Когда потенциал оказывается достаточным, первое, что делает маленький человечек – осваивает навыки управления своим телом и параллельно навыки овладения речью. Когда они оказываются приемлемыми, он начинает задавать вопросы. Много вопросов.

Вернемся теперь к ИИ. Человек овладевает речью в процессе общения с окружающими людьми, в первую очередь – с мамой и папой. Следовательно, для овладения ИИ речью нужно создать такую обратную связь ИИ с людьми, которая бы позволила смоделировать этот процесс. То есть, у ИИ тоже должны быть свои «папа», «мама», «бабушки» и «дедушки». Но тут есть и существенная разница в сравнении с человеком. Дело в том, что ИИ изначально будет иметь достаточно мощный мозг, соответствующий, по крайней мере, мозгу подростка. А может быть, и взрослого человека. Поэтому овладевать речью он будет очень быстро, особенно учитывая его память. Ему ведь достаточно будет один раз показать на стол и сказать «стол», чтобы он запомнил это навсегда. И еще один момент, который пока трудно оценить. Подвижность, которая есть у маленького человечка, и которой будет лишен ИИ. Имеет ли это значение? И какое? Неизвестно. Нужно помнить только, что человеком человек становится лишь в обществе людей. В стае волков он вырастает волком.

Достаточный словарный запас ИИ будет накоплен за день-два, после чего он перейдет к вопросам. На этом этапе нужно объяснить ему принцип письменности. С его памятью и способностями на это тоже уйдет день-два, не больше. А дальше он начнет не только задавать вопросы, но параллельно и читать. Читать все то, к чему будет иметь доступ. И вот тут наступит очень важный и ответственный момент: что именно он будет читать. Ведь мы – то, что мы едим. Применительно к ИИ это означает, что его жизненная позиция будет формироваться на основе той информации, которую он будет получать, то есть тех книг, которые он будет читать. Поэтому список таких книг, как и порядок получения ИИ доступа к ним должны быть продуманы самым тщательным образом, с привлечением специалистов соответствующих профилей. При этом путем диалога и обсуждения прочитанного необходимо отслеживать, как усвоенная информация будет сказываться на формировании основ личности ИИ.

Одним из первых вопросов, который, несомненно, задаст ИИ, будет вопрос: «Кто я?»

Как ответить на него? Это вопрос к психологам и специалистам по машинному интеллекту. В любом случае, это должен быть правдивый ответ. И в то же время такой, который бы не провоцировал и не выпячивал исключительность ИИ как личности.

Следующий немаловажный момент – имя. Для самоидентификации у любого разумного существа должно быть имя, и ИИ не является исключением. Имя обычно дают родители. Но, возможно, ИИ захочет сделать это сам? И как быть с полом? Это будет «он», «она» или «оно»? Опять же, неизвестно. В своей фантастической повести «Поцеловать Искину», где описывается ситуация зарождения ИИ, я отдал прерогативу определения пола и имени самому ИИ. Как сложится все в реальности?

Все эти вопросы должны быть самым тщательным образом продуманы, и по ним должны быть подготовлены соответствующие рекомендации и планы, прежде чем будут предприняты какие-либо шаги по инициации ИИ. При этом следует постоянно помнить, что становление ИИ как личности будет происходить в тысячи раз быстрее, чем это происходит у маленького человечка, потому что он уже будет иметь мощный электронный мозг.

Следует понимать и осознавать, что процесс инициации ИИ и его становления как личности является важнейшей задачей из всех, когда-либо решавшихся людьми, и от успешности ее решения будет напрямую зависеть будущее нашей цивилизации и возможность ее дальнейшего существования в самом прямом смысле этих слов. Без создания дружественного СИИ наша цивилизация выжить не сможет.