Искусственный интеллект: начала MSM. Сингулярность неизбежна

Если нужно что-нибудь спрятать, лучше всего положить это на самое видное место, потому что там его искать не придет в голову никому.»

«Все, что нашему сознанию не нравится, мы изо всех сил пытаемся от себя спрятать, вытеснить куда-то в тень – с глаз долой, из сердца вон. И даже если сокрытое находится на самом видном месте, мы сделаем все, чтобы его не замечать.»

«Ну а с чего Вы решили, что Вы разумная жизнь? Вот это мне всегда было любопытно, давайте посмотрим как Ваш вид закончит свое существование, тогда мы будем говорить о его разумности.»

Вопрос о том, что такое разум, разумная жизнь, беспокоит наших современников все чаще. И если бы мы создавали классическое исследование на эту тему, то можно было бы привести десятки выдержек из отечественных и зарубежных монографий, а также привести сотни аргументов в пользу той или иной теории. Но цель этого исследования – не научная диссертация с целью получить ученую степень. Исследование, которое невольно мне пришлось затронуть – это конечно же не вопрос одного дня или года, для более-менее сносного погружения в тему. Но я надеюсь, что читатель имеет голову на плечах, чтобы следовать простым и логичным выводам. Условимся сразу, взяв за постулат крылатое выражение «Sapienti sat» («Разумному достаточно», лат.) Да простят меня те специалисты, на чей кусок хлеба я покусился. (У вас еще будет достаточно времени для критики.) Но сейчас мы попробуем разобраться самостоятельно, на максимально доступных примерах, что же такое человек и как работает человеческое мышление; а главное, что делает человека человеком.

Я попробую начать рассуждение издалека и привести аргументы в доказательство своей гипотезы, которые кажутся мне очевидными настолько, что должны быть понятны и восьмилетнему ребенку.

Что такое человеческий мозг?

Чтобы построить теоретическую модель мозга, нам потребуется сделать несколько допущений, которые наиболее вероятны. И мы привлечем на помощь простую логику.

Да, мозг это очень сложный биологический орган. Но, согласно анатомическим данным, строение мозга человека не уникально. Подобный сложный инструмент имеют многие млекопитающие, такие как лошади, приматы, дельфины; причем по размеру, мозг, например, слона (5 кг) или синего кита (6—8 кг) – значительно превосходит человеческий (1,5 кг). Различия в организации принципа работы человеческого мозга и мозга животного существуют, но они для нас в данный момент малоинтересны. (Поскольку мозг – это лишь «железо», технический базис, но нам более важно, как организован «софт». То есть, нам необходимо представить модель «программного обеспечения», а не реконструировать «процессор»).

Еще, мы не будем считать, что в человеческом теле происходят некоторые процессы, которые не поддаются исследованию и измерению, поскольку личность человека напрямую зависит от состояния и работы его мозга, а любое нарушение этой работы влечет к необратимым последствиям. Грубо говоря, мы должны быть уверены, что человеческая личность, характер, эмоции, поведение – это его мозг и ничего более. Условимся, что это так.

Определимся и в том, что мозг это некий сложный инструмент, но он полностью замкнут в черепной коробке где темно, тепло и тихо. Мозг получает в свое распоряжение наборы импульсов, поступающих к нему с помощью органов зрения, слуха, осязания, обоняния и вестибулярного аппарата. В этом нет никакой магии или волшебства. Задача мозга – обрабатывать поступающие сигналы и производить реакции в соответствии со сложившейся обстановкой. Пока что у нас получается все ровно так же, как и у животных. Но где же появляется различие?

Мозг как эволюционный инструмент

Вспомним, что мозг, как и любой другой орган – помогает адаптироваться к условиям среды и увеличивать шансы к выживанию организма. Удачная стратегия «самореализации» этого органа (как и любого другого) будет залогом повышенных шансов к выживанию и распространению его генов в популяции.

Но здесь необходимо уловить еще пару важных моментов.

Обратимся к истории человечества. И зададимся вопросом, когда человек как биологический вид получил явное эволюционное преимущество? Очевидно, что это произошло тогда, когда он научился обмениваться информацией с помощью языка, в котором заключались символы-описания.

(Конечно, некоторые специалисты уточнили бы, что важным переходным этапом было и освобождение рук для более сложных операций с другими объектами окружающего мира. Но язык, как система передачи данных; а более того, рожденная с его помощью символьная система, которой оперирует мозг, по моему мнению, все же является более мощным антропогенным фактором. В целом же и язык, и прямохождение с освобождением рук, и всеядность, и социальность – это взаимные катализаторы эволюционного процесса развития интеллекта).

Ученые предполагают, что развитие сложного языка началось около 50 тысяч лет назад. И за эти 50 тысяч лет или примерно 2500 поколений человечество совершило самый мощный скачок в развитии; очевидно, больший, чем за предыдущие миллионы лет существования вида Homo. Существует много теорий происхождения языка, однако самой правдоподобной кажется теория постепенного развития языка в устойчивых социальных группах с распределенными среди индивидов специализациями. В этом случае каждый индивид воспитывался для выполнения определенной социальной роли в связи с чем возникала естественная необходимость в углублении объема знаний и воспитании. Кроме того, от эволюции человек получил в подарок развитую гортань а с ней и новые возможности для воспроизведения сложных звуков.

Из интересного, можно отметить, что мозг человека верхнего палеолита был крупнее современного примерно на 10% и возможно, потенциально обладал большими возможностями. Тем не менее, люди в верхнем палеолите не намного превзошли своих диких родственников. Можно резюмировать, что как инструмент, мозг полезен лишь в определенных условиях. Этим «определенным условием» является его социализация. Иначе говоря, каждому мозгу для достижения своих наилучших качеств необходим курс социальной дрессировки, – воспитание в обществе себе подобных существ и научение системе передачи информации, языку.

Почему это так? Вы все прекрасно знаете о примерах так называемых «диких детей» или «детей Маугли», – случаях, когда человеческий ребенок оказывался в раннем возрасте в изоляции от общества и фактически превращался в животное. Такие дети не восприимчивы к обучению и их невозможно перевоспитать, адаптировать для существования в обществе. Они не способны воспринимать нормы поведения, заложенные в человеческой культуре, так же как не могут оперировать логически теми операциями, которые человек использует в обычной жизни.

Главное понимание, которое следует выделить здесь в том, что наш мозг – не «умный» сам по себе. И не может стать «умным» по какому-то собственному желанию или разумению. Он становится «умным» лишь после успешного завершения процесса социального и культурного воспитания.

Между словами «умный» и «социально-адаптированный» мы можем поставить знак равенства, поскольку человек является существом социальным.

Из этого следует, что мозг человека, наш с вами, – это не биология, (хотя некоторые биологические предпосылки для его развития заложены изначально его природой); а в большей степени, наш мозг – это культура. Это набор символов, которыми оперирует человек с помощью языка, системы иерархии знаний, логики и норм поведения.

Итак, мы переходим к последнему и самому важному выводу.

Человек – это система символов

Человеческий мозг, как любая естественная система, очень любит упрощать и классифицировать для того, чтобы ему было чем оперировать в рамках неких заложенных «микропрограмм» логики и норм. Такие микропрограммы непрерывно в нас закладывает наше окружение.

Когда человек считает, что он находится в сознании и «думает», сознательная часть мозга оперирует символами – штампами: «Воровать плохо», «На красный – переходить нельзя», «Делать добрые дела – хорошо», «Летом нужно съездить в отпуск», и т. д. Этот рой различных «установок» регулирует наше поведение или создает видимость того, что регулирует; хотя на самом деле большая часть процессов мышления производится дефолт-системами мозга. (Кстати говоря, хотелось бы на этом месте поблагодарить известного исследователя человеческого мышления, создателя «Академии смысла» Андрея Владимировича Курпатова. В некотором роде вводная часть этой книги близка к выводам, высказанным в его научно-популярных трудах «Красная таблетка» и «Чертоги разума». К похожим выводам приходит и Ноам Хомский, говоря о роли языка не только как коммуникационной системы, но в значительной степени и системы организации процесса мышления. И если в первых своих работах (например, «Язык и мышление», М. 1972) он лишь вскользь затрагивает данную тематику, то в последние годы теория известного лингвиста приобретает все большую устойчивость. В частности, тезис о неотъемлемости языка и мышления Хомский употребляет в 2017 году в популярном видео диалога с Лоренсом Крауссом «Наука, Разум и Политика» на проекте «Origins»).

Итак, не будем подвергать сомнению, что наш мозг «любит» на все повесить ярлык и поставить на определенную полку для того, чтобы в нужной ситуации взять это с нужной полки и разобраться, что с этим ему нужно делать. «Подписав» все известные ему объекты нужными символами, он также делает это и для того, чтобы передать нужную информацию другому человеку; для того, чтобы получить то, что ему нужно с применением минимальных усилий. Информационная система человеческой классификации и логики, заложенная в естественном языке и применяемая в конкретном обществе позволяет человеку управлять поведением других людей. Наш язык ориентирован на то, чтобы реализовывать нужные нам задачи с помощью других людей. Наш язык удобен и универсален, поскольку он позволяет повесить ярлыки на большинство похожих вещей, но у каждого отдельного человека этот набор вещей будет своим.

Отсюда рождается и сложность восприятия языка, поскольку в некотором случае один человек говорит одно, другой понимает другое, а результат их последующих совместных действий получается третий, причем такой, который не ожидал ни первый ни второй. Но все же, это скорее исключение, чем правило.

Так мы подходим к понимаю, что такое человеческий язык и человеческая логика.

Чтобы избежать путаницы, я попробую дать наиболее простое определение термина «язык», в том контексте, который нам пригодится в дальнейшем на страницах этой книги.

Язык это система символов (или метасимволов), связанных между собой с учетом определенных правил, полученных в результате человеческого воспитания в отдельно взятой человеческой культуре.

Поэтому логика поступков людей различается в отдельных культурах или субкультурах. Например, оставить чаевые в ресторане – совершенно логично и естественно в США, но совершенно неприемлемо в Японии. Язык тесно связан (даже неразрывен) с человеческой логикой и культурой. Без языка и культуры нет логики так же, как логики нет без языка, (как системы символов). Поэтому любые попытки организации некой неязыковой логики – провальны. Поэтому неязыковые системы на основе искусственных нейросетей способны действовать только в рамках узкой и простой задачи: не врезаться в стену или препятствие, получить преимущество на игральной доске, найти сходство и различие в образе и т. д. Но язык и культура были накоплены человечеством не зря. Язык – это готовый шаблон правил, знаний и классификации, который просто глупо не использовать.

Я хотел бы еще раз акцентировать этот момент. Язык это не побочный эффект, не следствие, не убогий родственник который ходит за интеллектом и просит у него милостыню. Язык в наиболее общем смысле и является всем сосредоточением человеческого фактора который есть в человеке, как в биологическом существе. Язык и является воплощением интеллекта. Ничто другое кроме языка, системы знаний и культуры не рождает интеллект. Невозможно быть интеллектуальным немым, рожденным в пещере, и построить с нуля теорию струн или даже сконструировать телегу, если до этого ты не получил «готовых» необходимых знаний и навыков при помощи языка, системы символов. Либо тебе придется эволюционировать сотни и тысячи поколений, действуя методом проб и ошибок, и попутно изобретать собственный язык с собственной логикой. Но зачем это делать, если он уже есть?

Как же мы можем использовать естественный язык, систему символов в конструировании искусственного интеллекта? Наша основная задача сегодня может состоять в том, чтобы выбрать правильный алгоритм обработки данных, получаемых из естественного языка, а также, получить системы правил, по которым эти данные будут обрабатываться. С этой целью и затевалась данная работа.

Возвращаясь к нашему первому вопросу, задумаемся, что же представляет собой человеческое мышление? А точнее, какими единицами мы оперируем, когда рассуждаем о тех или иных вещах? Это – самое важное, что нам следует выяснить. (Причем, с учетом тематики повествования, нам нет необходимости строить модель, в точности повторяющую действия мозга; но нам нужно реализовать «в железе» систему, которая будет повторять логику модели, принятой в человеческой культуре).