Нереальная реальность – 3. Книга третья. Будущее

© Андрей Владимирович Кананин, 2022

ISBN 978-5-4474-7194-1

Создано в интеллектуальной издательской системе Ridero

Глава 1. Искусственный интеллект

Главная особенность современного мира – значительное ускорение научно-технического прогресса.

Я нисколько не сомневаюсь, что дальнейшее развитие технологий уже скоро приведёт к появлению организмов, уровень интеллекта которых будет значительно выше человеческого.

По всей видимости, мы находимся где-то возле предела совершенствования своей биологической основы. В то же время, возможности искусственных носителей практически ничем не ограничены.

Гордон Мурсформулировал интересную закономерность в развитии компьютеров. Он подметил, что объём компьютерной памяти каждые два года удваивается. 1

По прошествии времени закон Мура доказал свою состоятельность. Правда, он имеет одно базовое ограничение. Поскольку размер элементов микросхемы конечен, то нельзя уменьшать его до бесконечности.Поэтому достаточно скоро возможности электронной техники, основанной на кремнии, достигнут своего предела. Но на смену ей должен прийти квантовый компьютер.

Учёные постепенно продвигаются к решению этой грандиозной задачи. Пока что в научных экспериментах, связанных с созданием квантового компьютера, задействовано слишком малое число частиц. Это связано с проблемой неустойчивости любой квантовой системы.

Суть в том, что большое количество частиц трудно полностью изолировать от окружающей среды. А, проникая в неё, частицы только что составлявшие единый квантовый процессор, начинают запутываться с «чужими» квантами.

Соответственно, информация утекает из базовой квантовой системы и устойчивые связи разрушаются. Таким образом, столкновение с единственной молекулой воздуха становится причиной поломки квантового компьютера.

К сожалению, любое внешнее воздействие легко нарушает квантовое равновесие. А без него не создать работоспособную вычислительную машину нового поколения. Поэтому необходимо придумать каким образом полностью изолировать атомы от окружающей среды.

В действующих моделях запутаны всего лишь несколько квантов. В по-настоящему мощном квантовом компьютере должны синхронно вибрировать миллионы, а лучше, миллиарды атомов.

Принцип работы компьютера легко может понять даже неспециалист. Он сводится к трём элементарным логическим операциям: . И, Или, Нет

Обычный кремниевый компьютер производит расчёты в двоичной системе счисления. Операции производятся исключительно с нулями и единицами и считаются в битах. Бит – это единица информации, соответствующая выбору одной из двух альтернатив. В принципе, это достаточно примитивный механизм.

Совсем другое дело квантовый компьютер. Он может оперировать квантовыми битами, или кубитами, которые способны принимать промежуточные значения, между нулем и единицей.

Самой амбициозной представляется задача сконструировать квантовый компьютер, который бы производил вычисления на минимально возможном материальном носителе – отдельном атоме.

Известно, что атом вращается. Если условно считать атом, вращающийся по часовой стрелке, нулём, а против часовой – единицей, то перевернув его, ноль сменится на единицу и наоборот. То есть, будет произведено определённое действие. На этой основе можно создать вычислительную машину.

Сложность в том, что в квантовом мире главенствуют силы неопределённости, частицы находятся в нескольких местах одновременно, поэтому, в некотором смысле, атом вращается и по часовой стрелке, и против неё, и в обоих направлениях сразу. Его состояние описывается произвольной суммой нулей и единиц.

Разумеется, информации здесь содержится значительно больше, чем один бит. Поэтому, квантовый компьютер способен оперировать кубитами информации, говоря по-другому – множеством степеней свободы.

Кубиты напрямую связаны квантовым запутыванием, поэтому каждая операция с одним из них, одновременно затронет все прочие. Состояние неопределённости обеспечит квантовому компьютеру огромную вычислительную мощность.

Потенциал квантового компьютера ошеломляет. По сравнению с обычным, скорость его вычислений возрастёт на порядки. Это станет возможным благодаря квантовому параллелизму, то есть параллельной обработке огромного количества входящих данных. Фактически вычисления производит мощная квантовая сеть за счёт состояния Суперпозиции.

Кроме того, квантово-механическая логика отлична от классической. В ней присутствуют дополнительные способы математических операций, например, извлечение корня квадратного из . Это резко повышает потенциал возможностей подобного устройства. И, Или, Нет

За разумное время квантовый компьютер способен произвести расчёты, на которые современной электронике необходимы миллиарды лет. С его помощью можно решить множество научных и технологических задач, пока что не подвластных учёным. А главное – можно попробовать создать искусственный интеллект. Всё указывает на то, что квантовый компьютер способен сделать это.

Способность быстро рассчитывать сложнейшие задачи очень востребована не только в математике, физике, биологии, химии, но и в гуманитарных науках – экономике, статистике. Компьютеры становятся незаменимыми в медицине. Но есть важнейшая загвоздка.

Успехи машин связаны с задачами, которые всегда можно разбить на составные части. Не важно, что таких частей может быть огромное количество. Это компенсируется скоростью вычислений. Суть в том, что самое сверхсложное решение при ближайшем рассмотрении оказывается не более чем множеством простейших математических действий с числами. Но здесь возникает глобальная проблема: как выразить такими операциями, например, чувство юмора или способность к состраданию?

Главным критерием определения искусственного интеллекта считается тест Тьюринга, разработанный учёным ещё в 1950 году. Смысл теста заключается в том, что если человек в беседе с человеком и с машиной не сможет определить, где человек, а где машина, то можно утверждать, что искусственный интеллект создан. 2

Модернизированный вариант теста таков.

Эксперт общается с неизвестным собеседником. Он не видит его и не слышит. «Разговор» происходит с помощью какой-либо независимой изолированной системы, например, клавишной клавиатуры на которой набирается текст вопросов и ответов. Эксперт может задавать испытуемому любые вопросы, вести разговор на любые темы.

Если по окончанию беседы эксперт не сможет определить, кто был его собеседником – человек или машина, а на самом деле общение происходило с машиной, то она прошла тест Тьюринга.

Но означает ли это, что она разумна?

Логично предположить, что если машина способна свободно рассуждать на любую предложенную тему, то она мыслит. Но не всё так однозначно.

Во-первых, есть способы обмануть эксперта. Любой текст – это лишь набор определённых символов. Если машина будет обладать очень детальной инструкцией о том, какой набор символов следует отправить эксперту в ответ на любой вариант набора символов, поступивших от эксперта, то она пройдёт тест Тьюринга, абсолютно не понимая сути происходящего.

Правда, не совсем понятно, можно ли придумать универсальную инструкцию для ответа на эмоционально окрашенные вопросы. Ведь у машины можно попросить совета по житейской ситуации, поговорить с ней о неразделённой любви, литературных героях, рассказать «тонкий» анекдот и иным способом заставить её проявить интеллектуальную гибкость. «Искусственность» искусственного интеллекта при ответе на такие вопросы чрезвычайно сложно скрыть.

Другое дело, если машина будет специально пытаться выглядеть человеком, не прибегая к подсказкам. Даже если ей «всего лишь» удастся обмануть эксперта и заставить поверить, что она – человек, это уже будет значительным шагом на пути к искусственному интеллекту.

Ведь чтобы ввести подготовленного эксперта в заблуждение, машина должна будет неплохо разбираться в людской психологии и достаточно глубоко понимать, что такое быть человеком, а это уже совсем не мало. Но, конечно, это не мышление в обычном понимании, а очень достоверное подражание мышлению.

Между явлением и его имитацией – огромная разница. Бездушному механизму перехитрить грамотного эксперта чрезвычайно сложно. Например, можно придумать какую-нибудь интеллектуальную ловушку.

Вот пример. Представьте, что если в рамках теста Тьюринга вам разрешили задать всего один вопрос, каким бы он был?

Кибернетик Дуглас Хофштадтер задал бы испытуемому такой: «Если в рамках теста Тьюринга вам разрешили задать всего один вопрос, каким бы он был?». Очень интересно услышать рассуждения машины на этот счёт. 3

Пожалуй, всё говорит за то, что машина, строго устроенная по принципу Тьюринга – это тот же автомат, состоящий из логических элементов и управляемый простыми законами. Но это явно не искусственный интеллект. Никакие модели и математические конструкции не приведут к автоматическому появлению сознания. Автомат не способен к чувствам, переживаниям, внутреннему монологу с самим собой.

Более перспективным представляется проект создания полноценной модели мозга.

Мозг – материальная структура, поэтому никаких принципиальных научных ограничений по созданию его точной копии на подходящей материальной основе, нет. Просто это невероятно трудная задача. Но она не противоречит логике естественнонаучного подхода и фундаментальным законам природы.

Насколько скорость обработки информации в мозге соотносится с возможностями компьютера?

По расчётам, для правдоподобного моделирования мозга необходим компьютер со скоростью 100 000 000 000 000 000 операций в секунду. Кстати, это примерно соответствует возможностям уже существующих самых мощных вычислительных машин. Как же тогда добиться решающего технологического прорыва?

Есть два способа решения задачи.

Во-первых, можно с помощью компьютера сымитировать работу миллиардов нейронов. Здесь всё зависит от будущей мощности суперЭВМ. Задача колоссальная по своему масштабу, но принципиально реализуемая при необходимом уровне технологий. Скорее всего, квантовый компьютер способен её решить.

Во-вторых, можно методом последовательного анализа установить местоположение каждого нейрона в мозге. Для этого мозг разрезается на пластины толщиной примерно в 150 атомов. Затем тончайшие пластины сканируются электронным микроскопом. Полученные данные анализируются с целью восстановления трёхмерных связей каждого нейрона. Таким образом можно постепенно создать полную и точную карту мозга.

Подобный эксперимент уже осуществляется на мозге мушки дрозофилы. На расшифровку данных уйдет не менее 20 лет. Понятно, что применительно к мозгу человека задача на порядок труднее, но тоже технологически решаемая тем же квантовым компьютером.

Главная проблема в том, что деятельность мозга характеризуется совсем не скоростью вычисления, всё намного сложнее. Даже наличие полной модели мозга и карты его нейронной структуры не означает решение задачи.

Мозг – активная система. Связи между нейронами всё время меняются на протяжении жизни индивидуума. Разум – очень личностный параметр. Мозг человека отбирает и хранит лишь значимую информацию. Компьютер же сохраняет все введённые данные.

Мозг совершенно не похож на большой цифровой компьютер. Структура компьютера кардинально отличается от структуры мозга. ЭВМ – это процессор, операционная система и обширный набор разных программ.

В мозге нет ничего подобного. Он содержит огромное многообразие постоянно обновляющихся связей между нейронами, это сложная структура, способная к самообучению. В мозге нет готовых правил и программ. Нейронная система познает новое самостоятельно, в том числе методом проб и ошибок. Когда принимается правильное решение, нейронные структуры укрепляются, электрические связи между ними усиливаются.

Мнение о том, что мозг работает, как компьютерное устройство, только более сложное, в корне ошибочно. Я насчитал, как минимум, семь принципиальных отличий:

1.Мозг в отличие от ЭВМ – это гибкая структура. Если вынуть из центрального процессора компьютера всего один транзистор, то перестанет работать вся машина. Удаление тысячи нейронов не окажет существенного воздействия на работу мозга. Их функции успешно восполнят оставшиеся нейроны. Есть множество примеров, когда значительно повреждённый мозг, продолжал нормально функционировать.

2.Компьютеры всегда создаются при участии внешней силы. Взаимодействие между составляющими ЭВМ частями носит исключительно информационный характер.

Человек формируется на основе самоорганизации. Именно поэтому в мозге появляются оценочные функции, ощущения и, как их следствие – сознание.

3.Мы понимаем, где рождается компьютерная «мысль». В центральном процессоре. Человек мыслит принципиально иначе, этот процесс распределён практически по всему объёму мозга, а его различные зоны работают в строгой последовательности, как будто всё время рождая переживания.

4.Компьютер плохо решает дедуктивные задачи. Он анализирует ситуацию, следуя принципу «от общего к частному». В таком раскладе все незнакомые объекты выстраиваются в иерархическом порядке.

Мозг работает принципиально по-другому. Незнакомый объект мгновенно ассоциируется с известным прообразом. Собака неизвестной породы распознается человеком именно как собака, а не как непонятное животное.

5.ЭВМ вычисляет почти со скоростью света. Мозг работает на удивление медленно. Скорость движения нервных импульсов составляет около 100 метров в секунду.

6.Компьютер – сверхмощный индивидуальный вычислитель. В отличие от него, мозг функционирует как параллельный процессор. Десятки миллиардов нейронов работают одновременно. Каждый из них производит очень незначительное вычисление, но при этом связан с тысячами других нейронов. Эффект параллельного вычисления с низкой скоростью намного выше, чем у отдельного сверхбыстрого ЭВМ.

7.Мозг однозначно не является простым цифровым устройством. Нейроны только похожи на транзисторы, но не более того. В компьютере транзисторы открываются и закрываются, что соответствует единице или нулю. Принцип функционирования нейронов аналогичен (сработал – не сработал), однако, они способны передавать не только дискретные, но и непрерывные сигналы. То есть, нейронная система – это не аналоговое устройство.

Обобщая сказанное, можно утверждать, что мозг качественно отличается от компьютера своей способностью к пониманию.

В свою очередь, понимание возникает при сравнении новой информации с имеющимся субъективным опытом. Это означает, что понимание имеет глубинный жизненный смысл, в некотором роде является способностью приспосабливаться к изменениям и адекватно реагировать на них.

Биологические существа, в том числе животные, хорошо понимают связь между внешними факторами, собственным поведением и предполагаемыми результатами своих действий. Человек интуитивно осознаёт, что такое «хорошо» и что такое «плохо», но, при необходимости, способен сделать «плохо», чтобы стало «хорошо».

Именно поэтому робота крайне сложно научить решать две задачи, которые люди выполняют без проблем.

Первая – распознавание образов.

Робот способен видеть намного лучше человека. Можно настроить его видеть инфракрасное или рентгеновское излучение. Но что толку, если у робота не получается одним взглядом разумно оценить суть происходящего.

Войдя в комнату, вы мгновенно установите, что на стуле за письменным столом сидит ваш старый друг и читает мою книгу. Вы за секунду способны здраво понять обстановку, ваш мозг умеет быстро распознавать образы.

Робот же, войдя в комнату, разложит всё изображение на множество цветных точек и начнёт их последовательную обработку, совершенно не отделяя существенное от несущественного. Даже при огромной скорости вычисления, ему понадобится определённое время, иногда часы в зависимости от сложности ситуации, чтобы в итоге сопоставить набор линий и геометрических фигур на картинке с конкретными предметами и людьми, находящимися в комнате.

Для компьютера нет принципиальной разницы между старым другом (человеком) и моей книгой (предметом), для корректных выводов ему надо обязательно просчитать кто есть кто и что есть что. В этом смысле машина удивительно глупа, поскольку тратит огромное время и ресурсы на распознавание очевидных истин.

Вторая задача – действие в соответствии со здравым смыслом.

Человек прекрасно понимает, что такое адекватность. Никто не вкладывает информацию об этом в нашу память, мы убеждаемся во многих истинах, исходя из собственного опыта и знаний.

Вы совершенно уверены в том, что неразумно тушить костёр пачками денег, если рядом стоит ведро с водой. Это отвечает здравому смыслу. Никому из людей для того, чтобы прийти к такому выводу, не нужно анализировать информацию о плотности бумаги, молекулярном составе воды, обладать экономическими знаниями о деньгах, как универсальном товаре, и иметь прочие исходные данные для долгих и нудных вычислений, которые вынужден будет произвести робот, чтобы принять правильное решение о том, чем именно погасить огонь.

При этом нет ни логического обоснования, ни программного кода, запрещающего тушить костёр большим количеством плотно упакованной разрисованной бумаги с изображением цифр. Поэтому бездушная машина обязана досконально просчитать данный вариант, не взирая на абсурдность задачи.

Очень важным является вопрос о том, способны ли роботы в принципе испытывать эмоции. Смогут ли они когда-нибудь по-настоящему искренне плакать, смеяться над шутками, испытывать переживания, слушая музыку и читая книги?

Сама природа мышления предполагает наличие эмоций. Такие человеческие черты, как любовь, ревность, страх появились в ходе эволюции миллионы лет назад. Благодаря эмоциям наши предки получили дополнительные возможности для воспроизводства и защиты от внешнего мира.

Нас окружает очень много опасностей и сравнительно мало полезных и приятных вещей. Эмоции позволяют разделить полезное и вредное. Очевидно, что без них очень сложно осуществить правильный выбор. Эмоции формируют нашу шкалу ценностей: одно красиво, но дорого для вас; другое дёшево, но вам не нужно; а кое-что вообще бесплатно, но очень вредно. Нам постоянно приходится выбирать, в том числе, руководствуясь собственными чувствами. Без эмоций всё будет иметь одинаковую значимость.

Без эмоций невозможно адекватно оценить обстановку, особенно в критической ситуации. Робот не в состоянии понять, что при пожаре необходимо в первую очередь спасать детей и женщин, а не столь же «равноценных» мужчин. Ему практически невозможно объяснить смысл слова «абсурд».

Может ли робот переживать внутренний опыт? В принципе ничего не мешает задать такой вопрос искусственному интеллекту напрямую. Но насколько адекватен будет ответ?

Даже если робот сообщит исследователям, что он обладает интеллектом, это очень сложно объективно проверить. Дело в том, что поведение искусственного интеллекта может быть основано на принципиально других глубинных принципах. Не будет ли это «машинным» жизненным опытом, непонятным нам?

Следующий принципиальный вопрос – если структура электронного мозга будет идентична органической, то будет ли робот обладать сознанием?

Существует точка зрения, что в компьютер невозможно вложить субъективные особенности сознания и психики. В качестве базовой информации можно попробовать поместить в ЭВМ определённые объективные показатели работы мозга и протекающих в нём процессов. И на этой основе попытаться запустить имитацию функционирования мозга на платформе электронного носителя. Тогда собственное «Я» робота начнёт формироваться в результате активизации электронного мозга по тому же принципу и механизму, как это происходит в живом организме.

Постепенно субъективный мир искусственного интеллекта расцветёт эмоциями, переживаниями и ощущениями. Произойдёт превращение объективно протекающих нейродинамических процессов в субъективный мир личности. Разумеется, такой сценарий по умолчанию предполагает, что появление сознания на базе искусственного электронного носителя возможно в принципе. В противном случае, вообще нет смысла рассуждать о проблеме.

Есть два базовых подхода к перспективе создания разумных роботов.

Первый заключается в том, чтобы попытаться запрограммировать все возможные правила, присущие интеллекту. Задача состоит в создании носителя, на котором были бы заложены все принципы разумности.

Второй подход предполагает возможность запрограммировать имитацию мышления в логике здравого смысла. Сложность в том, что для этого необходимо чрезмерно много строк кода. Но их итоговое число не бесконечно. Поэтому, при достижении необходимых вычислительных мощностей квантовый компьютер, видимо, способен справиться с задачей.

Ведущие мировые специалисты уверены, что искусственный интеллект должен иметь много блоков памяти, организованных по сетевому принципу.

Для появления проблесков разума очень важно уметь предвидеть ситуацию и сравнивать свои прогнозы с текущими изменениями в окружающем мире.

Есть мнение, что, например, творчество основывается на использовании механизмов предвидения. Отдельно должны формироваться воспоминания, архивироваться прообразы для дальнейшего ассоциативного узнавания незнакомых объектов. Имеющиеся знания, основанные на аналогиях, будут использоваться для решения новых задач.

Важно научить робота корректировать свои действия, выдвигать гипотезы, отсекая те, которые не подтверждаются наблюдениями и опытом. Современные компьютеры пока не способны качественно решить ни одну из этих задач. Тем не менее, я верю, что нам удастся создать мыслящие машины.

Когда я высказываю эту свою убеждённость, мне всегда задают вполне справедливый вопрос – а не получится ли так, что искусственный интеллект уничтожит нас, своих создателей? Не буду кривить душой, такие риски есть. Не могу не обозначить их в этой главе.

Машина может стать врагом при определённых обстоятельствах.

1.Контроль над искусственным интеллектом установит человек, либо группа лиц с корыстными личными целями. Для их выполнения искусственному интеллекту может быть поставлена задача уничтожения людей, либо их качественная «переделка».

2.В определённый момент времени искусственный интеллект будет контролировать все стратегические сферы жизнеобеспечения на планете для пользы человечества. Но в программе случится сбой, что повлечёт катастрофические последствия. Искусственный интеллект сломается и начнёт неумышленно совершать действия, которые приведут к непоправимым последствиям для жизни на Земле.

3.Искусственному интеллекту для решения какой-либо сверхсложной задачи могут потребоваться все земные ресурсы. Жизнь на планете для людей станет невозможной.

4.Люди по каким-то причинам будут постоянно стремиться подчинить себе искусственный интеллект, бороться с ним, мешать его работе. В такой ситуации наиболее простым решением станет уничтожение человечества.

5.Искусственный интеллект примет ошибочное решение, ведущее к уничтожению людей «для их же блага». Например, переместит всех в «рай» или в вечно «счастливый» виртуальный мир.

6.Искусственный интеллект решит провести опасный физический эксперимент и допустит ошибку в расчётах, что вызовет необратимые последствия для жизни.

7.Внутри дружественного искусственного интеллекта появится враг, конкурент и уничтожит его, а затем и людей.

Из сказанного выше видно, что не исключен вариант, когда homo sapiens не впишется в те кардинальные изменения, которые будут происходить в мире.

Люди могут стать тормозами прогресса.

Когда искусственный интеллект обретёт сверхчеловеческое сознание, прогресс, управляемый столь мощным разумом, станет невероятно быстрым. Достаточно скоро наступит событие, которое Вернор Виндж назвал технологической сингулярностью. 4

В этот день мы перестанем быть самыми разумными существами на Земле. В мире воцарится новая реальность, очень далёкая от привычной нам. Это будет критическая точка развития цивилизации. Если человечество не сможет её преодолеть, то наш вид просто исчезнет с лица Земли.

Вероятно, уже в недалёком будущем нам придётся жить в одном мире с искусственными разумными существами. Мы находимся на пороге перемен, сопоставимых с появлением человека на Земле.

Как только искусственный интеллект достигнет уровня самосовершенствования, его дальнейшее развитие пойдёт очень быстро. По своим умственным возможностям он начнёт превосходить человека в миллионы раз.

Любопытно, что могущественный искусственный интеллект способен скрывать свое господство. Иначе говоря, может быть, он уже тайно управляет нами.