2062: время машин

Человек – удивительное создание. Несмотря на изобилие различных форм жизни на планете, мы, вероятно, наиболее удивительная из всех, которые когда-либо на ней существовали. Мы поворачивали вспять реки, создавали острова и прочими способами меняли природу для своих целей. Мы построили невероятные сооружения.

Монументальные пирамиды в Гизе. Невероятной протяженности Великая Китайская стена[1]. Изумительная Саграда-Фамилия. Мы пересекали жаркие пустыни, покоряли высочайшие горы. Мы отправили Tesla Roadster в космос[2]. Мы даже покинули Землю, чтобы прогуляться по Луне.

Мы создали научные теории, объясняющие загадки Вселенной: от ее рождения тринадцать миллиардов лет назад до ее смерти, которая наступит через один гугол лет в будущем[3]. Мы покорили огонь, мы уничтожили оспу и объединялись, чтобы свергнуть деспотов и диктаторов. Мы создали искусство, заставляющее людей прослезиться от осознания его грандиозности. Величественные мелодии «Страстей по Матфею» Баха. Чистая красота «Давида» Микеланджело. Сокрушающая печаль Тадж-Махала.

Но, несмотря на все эти удивительные достижения, мы вскоре будем заменены. Почти все следы homo sapiens будут стерты с лица Земли так же, как были стерты следы существования наших предков, homo neanderthalensis. Эволюция никогда не закончится.

Около 50 000 лет назад homo neanderthalensis не смогли противостоять появлению homo sapiens. Мы точно не знаем, когда и как вымерли неандертальцы. Возможно, они не смогли адаптироваться к переменам в климате; отголоски этой проблемы доносятся до нас и сегодня. Может быть, они не выдержали конкуренцию с homo sapiens, которые не оставили им экологической ниши для выживания.

В чем бы ни заключалась причина, неандертальцы вымерли и на их место пришли мы. Так же, как и все виды, существовавшие до нас, мы уступим место кому-то новому и более успешному. Поскольку мы умны – не забывайте, что слово sapiens (разумный) входит в название нашего вида, – мы можем даже предугадать, кто именно нас заменит.

Нашим преемником станет homo digitalis – биологический род Homo, эволюционировавший в цифровую форму. Все наши занятия станут по большей части (а в некоторых случаях и совсем) цифровыми. Человеческий разум будет заменен искусственным, а человеческую деятельность в реальном мире заменит цифровая деятельность в виртуальном мире. Это и есть наше искусственно-интеллектуальное будущее.

Моя прошлая книга рассказывала историю искусственного интеллекта, которая начинается с Древней Греции и закончится примерно через 45 лет, в 2062 году[4]. В центре внимания были технологии: интеллект машин, которые мы создаем сегодня, достигнет нашего уровня как раз около 2062 года. Там, где заканчивается моя предыдущая книга, начинается эта[5]. Она рассказывает о том, где окажется человечество через пару веков после изобретения думающих машин. Здесь я пишу не о технологиях, а о нас самих. Исследую влияние искусственного интеллекта на человечество.

О том, как будут выглядеть технологии через сто или двести лет, мы говорить не станем. Как Артур Ч. Кларк однажды сказал, технологии такого далекого будущего все равно будут казаться волшебством[6]. Важнее то, что мы с ними сделаем, ведь это будет самая сильная магия, на которую способен человек.

Путь homo sapiens

Почему мы, Homo sapiens, так преуспели? Почему именно мы (к счастью или к сожалению) хозяева этой планеты? Почему homo sapiens заменили homo neanderthalensis?

Неандертальцы не так уж сильно от нас отличались. Их ДНК совпадало с нашим на 99,7 процента. Они были немного ниже и крепче нас, что давало им меньшее отношение поверхности к объему и делало их более адаптированными к сезонному климату. Несмотря на миф о примитивности неандертальцев, их мозг был крупнее нашего. Если принять во внимание разницу в размере тел, мозг неандертальца был вполне сравним с мозгом homo sapiens.

Так что же дало нам преимущество? Возможно, мы никогда этого не узнаем. Самый вероятный кандидат на эту роль – язык. Около ста тысяч лет назад у homo sapiens стала развиваться сложная разговорная речь. Для сравнения: неандертальцы, скорее всего, имели только примитивный протоязык. Этот протоязык был, вероятно, ближе к музыке, чем к речи.

Трудно быть уверенным, что именно в этом состояла причина нашего успеха. Большую часть двадцатого века в научной среде не принято было обсуждать происхождение языка. Учитывая крайне малое количество конкретных фактов на тот момент, споры на эту тему имели в основном спекулятивный характер. Многие считали, что дискуссия о том, как появился язык, не несет никакой практической пользы. Когда в 1866 году было образовано Парижское лингвистическое общество, одно из его правил звучало так: «Общество не принимает никаких обсуждений на тему происхождения языка или создания универсального языка». Подобный запрет приняло и Лондонское филологическое общество в 1872 году.

На протяжении большей части двадцатого века лингвисты изучали строение современного языка, не уделяя особого внимания тому, как он стал таким. Но этот вопрос важен. Как так вышло, что только homo sapiens сумели создать развитую языковую систему? Какое влияние этот факт оказал на процесс эволюции?

Даже в 1970-е, когда вопрос о происхождении языка вновь стал обсуждаться, споры на эту тему сосредоточились в основном на том, как язык возник, а не когда это произошло или как повлияло на наше развитие. Лингвисты спорили, был ли язык нашим врожденным свойством, как убеждал нас Ноам Хомский[7], или развивался из протоязыка на протяжении какого-то времени. Гораздо меньше внимания уделялось тому колоссальному значению, которое язык имел для нашей способности доминировать на планете.

Влияние языка

До того, как появилась разговорная речь, наша способность обучаться была сильно ограничена. Каждому поколению приходилось переучиваться с нуля. Разумеется, некоторые знания и навыки в процессе обучения можно просто продемонстрировать. Я могу показать вам ядовитые растения, как изготовить деревянное копье или как пить воду из листьев в тропическом лесу. Но такой процесс обучения может быть очень долгим и болезненным. Один человек должен показать другому все, что тому нужно знать, а значит, многие сведения умирали вместе с их обладателями.

Эволюция – это тоже процесс обучения, но еще более медленный и эффективный, нежели демонстрация. Гены, обеспечивающие поведение, которое повышает способность к выживанию, имеют больше шансов на то, чтобы быть переданными следующему поколению. Но такое развитие имеет свои пределы. Коровы до сих пор не научились производить сено. Акулы не научились разводить тюленей. Разумеется, этого и не произойдет.

Язык поменял все правила игры. Благодаря ему я получил возможность объяснить вам, какие растения можно есть, а какие нельзя: «Не ешьте грибы с пятнами или эти аппетитные красные ягоды». Я также могу объяснить вам, как поймать оленя: «Всегда подходите с подветренной стороны и следите, чтобы солнце было у вас за спиной. Рассвет или закат – лучшее для этого время». Могу рассказать вам, как выращивать пшеницу: «Сажайте весной, собирайте урожай в конце лета. Прежде чем начать сажать зерно, подождите, пока закончатся холода».

Но язык не только упростил для следующих поколений процесс охоты, уборки урожая и возделывания земли. Он подарил нам истории, мифы, религии. Язык дал нам астрономию и астрологию, географию, историю, экономику, политику. Сделал возможными науку, технологии и медицину. Именно язык добавил слово sapiens в название нашего вида.

Общества развивались и становились сильнее благодаря языку. Он помогал нам работать вместе, разрешать конфликты и доверять друг другу. Язык дал нам возможность развивать экономику обмена, а затем и денежную экономику. Язык помог людям начать специализироваться в определенных сферах. Он дал толчок образованию и привел к формированию наших политических систем.

Важно то, что язык позволил нам обучаться не только индивидуально, но и как части общества. Наша сила стала коллективной. Знания больше не исчезали со смертью человека. Теперь они легко и быстро могли быть переданы от поколения к поколению.

У неандертальцев не было ни единого шанса.

Влияние письменности

Homo sapiens совершили еще один рывок тогда, когда язык обрел не только устное, но и письменное воплощение. Это стало второй ступенью на пути к завоеванию власти над планетой.

Письменность появилась на территории Китая около 5000 лет до н. э. и, независимо от этого, в Месопотамии около 3100 лет до н. э. Она дала возможность обществам еще больше усложнить свою структуру. Города становились центром общественной жизни, а письменность помогла кодифицировать законы, которые этой жизнью управляли. Теперь люди могли письменно фиксировать сделки и право на собственность, создавать уголовное право. Письменность позволила городам существовать более упорядоченно.

Ее появление означало, что образование теперь не ограничивается временны́ми и пространственными рамками. Устная речь давала возможность учиться только у того, чью речь можно было услышать, а значит, привязывала человека к конкретной социальной группе. Но теперь, когда знание могло быть записано, желающему открывался доступ к гораздо большему числу учителей.

Поначалу письменность, разумеется, была слишком медленной и дорогой. Писцы старательно копировали тексты вручную. К примеру, чтобы переписать Библию, требовалось более ста дней. Основная часть населения оставалась неграмотной и к плодам появления письменности имела косвенное отношение.

Сделанный человечеством сравнительно недавно третий шаг – это печать. Иоганн Гутенберг изобрел печатный станок примерно в 1440-м. В следующем году в Европе было напечатано чуть меньше ста тысяч книг. В следующем веке это число выросло до трехсот тысяч. Еще спустя век оно удвоилось и дошло почти до семисот тысяч книг. Сегодня книгопечатание превратилось в миллиардную индустрию, в которой трудятся сотни тысяч людей, выпускающих миллионы книг каждый год[8].

Неудивительно, что, после того как печатный станок сильно сократил цену и время, необходимые для создания книги, наступил период, который мы называем Возрождением. Идеи и учения теперь могли распространяться проще и быстрее. Сегодня интернет позволяет делиться информацией со всей планетой почти даром. Знание стало дешевым и изобильным. Люди, в свою очередь, стали умнее.

Колёрнинг

Следующий шаг человечество делает прямо сейчас. Он заключается в том, что я называю колёрнингом. Это идея, близкая к коллективному образованию, но все же немного от него отличающаяся.

Социологи, антропологи и другие ученые описывают, как homo sapiens двигались вперед группами, на протяжении многих поколений учились вместе. Это и есть «коллективное образование». Каждое поколение коллективно перенимает знания у предыдущего. Как группа мы умнее последнего поколения, но это не значит, что любой отдельно взятый индивид умнее. Колёрнинг же предполагает не групповое обучение, а индивидуальное обучение внутри группы. В колёрнинге каждый человек усваивает все то, что и другие члены группы. Все индивиды владеют одинаковыми знаниями, и потому каждый член группы становится умнее.

Благодаря устной речи колёрнинг возможен внутри группы, насчитывающей от десяти до ста человек. Человеку что-то объясняют – он это учит. Письменность дает возможность расширить группу до миллиона или даже миллиарда человек. Любое записанное знание человек сможет перенять, если у него будет к нему доступ. Однако есть множество навыков, которые мы не в силах передать другим людям. Всем одинаково тяжело учиться езде на велосипеде. Мало что можно сказать или написать, чтобы облегчить этот процесс.

Язык, на котором мы разговариваем, не только не является идеальным посредником для колёрнинга, он, вероятно, не является даже языком нашего мыслительного процесса. Одному человеку приходится переводить свои мысли на язык, затем записывать или озвучивать эти идеи. Другой человек должен перевести этот язык обратно в мысли.

Это медленный и сложный процесс.

Он приводит нас к последней ступени в процессе передачи знаний, той, которая дает homo digitalis неоспоримое преимущество. Колёрнинг начинает осуществляться не средствами языка, а с помощью компьютерного кода. Компьютерный код – гораздо более подходящий способ передачи знания, его можно просто копировать. Нет необходимости переводить его туда и обратно, этот процесс легко и быстро выполним. К тому же, в отличие от наших воспоминаний, код не стирается со временем. Если однажды он был усвоен, его невозможно забыть. Трудно придумать лучший способ для колёрнинга, чем обмен компьютерными кодами.

Всемирное обучение

Такие компании, как Tesla и Apple, уже осваивают колёрнинг в глобальных масштабах. Например, Apple использует эту методику, чтобы улучшить систему распознавания голоса. Каждый смартфон компании учится у других смартфонов и улучшает коды для распознавания речи. Tesla похожим образом использует колёрнинг, чтобы сделать лучше автономное управление автомобилем. Любая машина может совершенствовать как собственную систему беспилотного вождения, так и системы других автомобилей. Каждую ночь автомобили Tesla могут загрузить последние обновления и поделиться ими. Если одна машина научилась объезжать брошенные тележки для шопинга, другие машины быстро перенимают этот навык.

Колёрнинг – одна из причин, почему у homo sapiens нет ни одного шанса против homo digitalis. Кроме того, это одна из причин, почему homo digitalis появятся на горизонте раньше, чем мы думаем. Мы привыкли учиться всему самостоятельно, «с нуля». У нас нет опыта одновременного глобального приобретения новых знаний.

Представьте себе ситуацию, при которой мы имели бы возможность учиться как компьютеры, просто запоминая нужные коды. Мы бы смогли говорить на всех языках мира, играть в шахматы, как Гарри Каспаров, или в го, как Ли Седоль[9]. Мы бы смогли доказывать теоремы так же легко, как Эйлер, Гаусс или Эрдёш[10]. Мы могли бы создавать поэзию не хуже, чем Вордсворт[11] или Шекспир. Мы могли бы играть на всех музыкальных инструментах. Проще говоря, наши способности достигли бы максимально возможного на нашей планете уровня. Более того, мы смогли бы их совершенствовать. Это звучит пугающе, но таково будущее, которое ждет homo digitalis, когда они начнут делиться компьютерными кодами.

Чтобы лучше осознать преимущества колёрнинга, необходимо понять две важные идеи. Во-первых, компьютеры – это универсальные машины, которые могут запустить любую программу. Во-вторых, программы могут совершенствоваться. В частности, программа может улучшить собственные характеристики, чтобы успешнее справляться с поставленной задачей. Позвольте мне объяснить более детально, почему эти концепты имеют такое большое значение и почему они дают homo digitalis такое весомое преимущество.

Универсальные машины

Алан Тьюринг[12] был одним из прародителей ИИ. Его интересовало, что случится, если компьютер сможет мыслить. Кроме того, он заложил основы самой идеи компьютера. Ему пришла в голову простая, но гениальная мысль: универсальная вычислительная машина. Машина, которая сможет вычислить все, что можно вычислить. Да, вы поняли меня правильно. С тех пор как Тьюрингу пришла в голову эта идея, мы смогли создать такой компьютер.

Центральными для идеи универсальной вычислительной машины являются концепты «программ» и «данных», которыми эти программы оперируют[13]. Программы – это последовательности инструкций, которые компьютер выполняет при решении проблемы. Можно представить их в виде своеобразных рецептов. Данные – это разная информация, с которой работает программа, как, например, ингредиенты, используемые во время конкретного процесса приготовления.

Представьте себе проблему обновления чьего-то банковского счета в тот момент, когда этот человек совершает электронный платеж. Мы можем написать программу, которая будет это делать вне зависимости от суммы платежа или личности человека, совершающего его. Данные, с которыми работает программа, – это база клиентов, включающая их имена, номера счетов и суммы платежей.

Программа для совершения электронного платежа работает следующим образом: сначала она находит имя клиента и баланс счета в базе, затем вычитает платеж из баланса и, наконец, обновляет баланс в базе. Просто, как все гениальное. Изменив данные, мы можем вычесть платеж из счета другого клиента или даже клиента другого банка. Изменив программу, мы можем заставить компьютер делать что-то другое. Например, если мы заставим его прибавлять сумму, а не вычитать, то получим программу, которая позволяет вносить электронные депозиты.

Таким образом, компьютер – образец универсальной машины, способной выполнить любую программу. В этом и заключается секрет смартфона, который лежит в вашем кармане. В него можно загрузить приложения, позволяющие выполнять задачи, о которых создатели смартфона даже подумать не могли. В этом смысле смартфон стал гораздо большим, чем просто телефон: он стал навигатором, календарем, будильником, калькулятором, блокнотом, музыкальным проигрывателем, игровой консолью и постепенно становится еще и личным помощником. Продвинутые технологии могут дать нам компьютеры, способные работать быстрее, но не могут дать компьютеры, способные вычислить больше, чем универсальная вычислительная машина, о которой Тьюринг впервые подумал еще в тридцатых годах прошлого века. Любопытно то, что Тьюрингу пришла в голову эта мысль еще до того, как был создан первый компьютер.

Более того, компьютеры – единственная универсальная машина, которую человек изобрел. Вообразите, что дала бы нам универсальная машина для путешествий. Она позволила бы нам летать, плавать под водой и путешествовать по земле. Она могла бы ехать по рельсам, по шоссе, по траве и даже через зыбучие пески. Она бы смогла вмещать сколько угодно человек. Черт возьми, она бы довезла нас даже до Луны. Представьте себе трансформеров на стероидах.

Для того чтобы выполнить новую задачу, компьютеру просто нужна новая программа. Это делает компьютеры бесконечно приспосабливаемыми. Те машины, которые у нас есть, обладают гораздо большим потенциалом. Они даже способны стать искусственно разумными. Нам нужно лишь найти нужную программу.

Еще одна невероятная идея заключается в том, что нам даже не нужно искать новую программу, потому что компьютер способен сделать это сам. Он сам может научиться решать новые задачи. Даже научиться вести себя разумно.

Машины, которые учатся

Как компьютер может научиться делать что-то новое? По сути, программа – это просто устойчивая последовательность инструкций в виде компьютерного кода. Вообще говоря, термин «компьютерный код» представляется довольно удачным, учитывая, что инструкции программы действительно прописаны шифром. На компьютерах с процессором Z80, например, код 87 означает прибавление одного числа к другому, а 76 – окончание работы программы. На компьютере с процессором 6800 код 8B выполняет функцию прибавления, а DD – функцию закрытия программы[14].

Важная вещь, связанная с кодом, заключается не в том, что он зашифрован, а в том, что это обычные данные – последовательность чисел. Это очень впечатляющая идея. Если мы хотим поменять программу, нужно просто загрузить новые коды в качестве данных. Еще больше впечатляет тот факт, что программа может поменять собственные данные, а значит, поменять сама себя. В этом и заключается суть обучения машины: компьютер может поменять собственные данные и собственный код, чтобы улучшить свои характеристики.

Не столь важно знать, как именно алгоритмы обучения решают, что именно поменять в коде. Некоторые изменения вызваны эволюцией, мутациями и скрещиванием кодов, такими же, как генные мутации и скрещивания в человеческой репродукции. Другие обусловлены самим мозгом, обновляющим связи между искусственными нейронами так же, как наш мозг укрепляет подобные связи в процессе нашего обучения.

В любом случае компьютер оставляет те изменения, которые улучшают его работу, и избавляется от других, которые этого не делают. Это происходит медленно, но компьютеры развиваются.

У нас уже есть один хороший пример создания интеллекта – homo sapiens. Наш интеллект – вещь в большой степени приобретенная. Мы были рождены без языка. Мы не умели читать и писать. У нас не было никаких знаний об арифметике, астрономии или истории Древнего мира. Но мы выучились всему этому и не только.

Обучение станет, вероятно, одной из важнейших характеристик думающих компьютеров. Это затрагивает феномен «бутылочного горлышка», проблему освоения компьютером всех знаний, которые человечество приобрело на протяжении нескольких тысяч лет. Программирование всех этих знаний вручную, факт за фактом – очень долгий и сложный процесс. Но нам и не нужно этого делать, компьютеры могут освоить все это самостоятельно.

Теперь нам окончательно ясно, что компьютеры превосходят людей в обучаемости. Они способны написать программу, которая может улучшить их собственный код, а также поделиться им с другими компьютерами. Так просто! Одновременно это гораздо эффективнее человеческого процесса обучения.

В следующий раз, когда вы попытаетесь научить ребенка вычислять максимум математической функции или склонять немецкий глагол, представьте, насколько проще это можно было бы сделать, если бы он был компьютером. Вы просто дали бы ему нужный код.

Компьютеры делают больше, чем мы от них требуем

Компьютерное обучение стало причиной многих недавних технологических прорывов, связанных с ИИ. Оно позволило AlphaGo от Google победить лучших игроков в го на планете. В нем заключается секрет успеха переводчика Google. Оно породило множество программ, которые теперь лучше нас умеют диагностировать рак кожи или играть в покер.

Распространенное мнение относительно обучения машин заключается в том, что компьютеры могут делать только то, для чего они запрограммированы. И на элементарном уровне это действительно так. Компьютеры целиком и полностью детерминированы[15].

Они следуют инструкциям, прописанным в их коде. Они не могут от них отклоняться. Однако на более глубоком уровне компьютеры способны делать вещи, для которых не запрограммированы. Они могут осваивать новые программы. Даже могут быть креативными. Как и мы, они учатся новому, основываясь на собственном опыте.

AlphaGo не была запрограммирована для того, чтобы обыгрывать в эту древнюю китайскую игру чемпионов мира. Она научилась это делать благодаря тому, что постоянно практиковалась. Она сыграла партий в го больше, чем человек способен сыграть за всю жизнь. И в процессе игры программа понемногу становилась креативной. Она использовала ходы, которых от нее не ожидали даже самые искусные мастера, открывала новые возможности для игры в го.

И пример AlphaGo – не исключение. Компьютеры теперь превосходят людей во многих играх, таких как короткие нарды, покер, скребл или шахматы. Если кто-то говорит мне, что компьютеры могут делать только то, для чего они запрограммированы, я обычно перечисляю десяток игр, в которых компьютеры уже стали чемпионами мира. Почти во всех подобных случаях программы были написаны средними игроками, а превосходство программы над людьми достигалось за счет ее обучаемости.

Преимущество машин

Для того чтобы понять, почему homo sapiens необратимо будут вытеснены, нужно осознать, как много преимуществ имеет компьютер по сравнению с человеком, а цифровой мир по сравнению с аналоговым. Колёрнинг – одно из таких преимуществ, но есть и другие.

Во-первых, компьютеры обладают куда большей запоминающей способностью, чем люди. Все, что мы помним, хранится внутри нашего черепа. Мы, несомненно, должны быть благодарны за тот размер черепа, который имеем. Еще совсем недавно деторождение было одной из главных причин женских смертей. Ширина родового канала все еще не позволяет нам иметь большие головы. У компьютера такой проблемы нет. Его память можно расширять бесконечно.

Во-вторых, компьютеры могут работать гораздо быстрее людей. Мозг работает со скоростью чуть меньше ста герц, а нейронам требуется около одной сотой секунды, чтобы передать сигнал. Наш мозг обладает одновременно химическими и электрическими свойствами, что только замедляет его работу. Для перемещения химических веществ и для осуществления реакций между ними нужно время. Компьютеры же ограничены только законами физики. Скорость их работы выросла с 5 МГц в 1981 году (то есть возможность выполнения пяти инструкций каждую миллионную долю секунды) до сегодняшних 5 ГГц (возможность выполнения пяти инструкций каждую миллиардную долю секунды). Однако скорость – не главный критерий оценки. Сама по себе она несильно выросла за последнее время. Компьютеры теперь работают быстрее, потому что могут совершать большее количество действий одновременно. Так же, как и человеческий мозг, компьютер способен выполнять несколько задач сразу. Как бы то ни было, преимущество в скорости, которое дает кремний по сравнению с биологией, остается.