Тирания бабочки

Часть третья. Мертвые

Когда Эльмару Нордвиску было десять лет, его отец подарил ему маленькую собаку, которая немного позже издохла от диареи. А до этого она дважды покусала Эльмара и превратила своим метеоризмом родительский дом в зону высокого риска, поскольку любая зажженная спичка могла привести ко взрыву. Во время этих дней несбывшихся детских ожиданий в Эльмаре созрело представление об искусственном четвероногом, созданном из силикона и кремния, которое тем не менее было бы способно к настоящей привязанности или хотя бы могло ее симулировать настолько, чтобы он был вынужден выводить его в парк по три раза в день.

Будучи наследственно одаренным (отец – профессор кибернетики, которого занесло в Массачусетский технологический институт MIT, а мать – меццо-сопрано, оба из Стокгольма), Эльмар еще до своего двенадцатого дня рождения написал дюжину соответствующих программ, которые внезапно вызвали интерес богатых кузниц хайтека, занимавшихся изучением и созданием искусственного интеллекта. Как оказалось, Эльмар намного опередил то состояние «железа», какое было ему необходимо, чтобы создать невонючую, ручную и в целом утешительную собаку не только алгоритмически, но и живьем. Это означало, что придется подождать создания превосходного домашнего животного. В 1977 году киноэкран завоевали R2-D2 и C3PO – персонажи вселенной «Звездных войн», и через каких-нибудь три шага настоящий мир столкнулся лицом к лицу с более развитым роботом-гуманоидом. Несмотря на это, Эльмар внес свою гениальность, еще учась в школе, в несколько заказов из богатых стартапами районов, примыкающих к MIT, тому легендарному институту в Кембридже, в котором он годы спустя, как один из самых юных когда-либо обучавшихся студентов, стал бакалавром математических и компьютерных наук и биологии. Таково зерно, из которого выросла легенда. То есть болтовня в СМИ.

На самом деле упомянутая собака однажды утром, на редкость лучистым – со сверкающим на солнце воздухом и порывами ветра, приносящими аромат морской соли, водорослей, прибитых к берегу крабов и корабельного дизеля из Массачусетского залива в бостонский квартал Бикон-Хилл, – сдохла внезапной собачьей смертью. Поскольку никто не выразил желания сделать вскрытие трупа, а скорбь Эльмара держалась в границах, умершая была похоронена под кустом, тогда как на семейном суденышке в это время разыгрывалась куда большая трагедия. Хотя она рассказывает истинную историю Эльмара, он говорит о ней неохотно – ибо она и самая болезненная.

Ему было одиннадцать, когда у его матери диагностировали опухоль. Врачи излучали уверенность. Через несколько дней после его двенадцатого дня рождения она умерла.

С этого момента жизнь Эльмара превратилась в фарс. Его интересу к искусственному интеллекту грозило запустение, поскольку он, не спрашивая ИИ, всегда исходил из двух предпосылок: что Вселенная пребывает вечно и что человек бессмертен. Хорошо, пусть кроме тех, кто уже умер, но то, должно быть, была какая-то ошибка, которую можно исправить средствами науки, а собаки не в счет, не по-настоящему. Однако в только что вышедшей «Краткой истории времени» Стивена Хокинга было написано, что в один далекий день с угасанием последнего кванта энергии перестанет существовать и вселенная, и это Эльмара потрясло: зачем тогда прилагать усилия к высшему развитию, к поиску смыслов, к усовершенствованию мира, если когда-то не останется места, где человечество могло бы выжить? Для чего тогда все исследования, программирование, преодоление барьеров? Для чего, если есть финальное ужасающее завершение, которое принуждает вертеться по кругу, пока не прервется в мозгу последняя электрическая активность? Узнавать внутренний ландшафт, объяснил ему как-то отец в один из тех редких дней, когда замечал своего сына, вот единственный смысл, но и это путешествие тоже заканчивается, как теперь известно. Мир Эльмара потерялся за неинтересными горизонтами. Просто конец не был предусмотрен в его планах, а теперь всему был положен конец, и все ему стало непонятно.

Недовольство наукой длилось лишь недолго, меланхолия дольше. Он уже скоро сидел за компьютером и писал программы с честолюбивой надеждой продвинуть вперед развитие искусственных нейронных сетей и самообучающихся систем, убежденный, что компьютеры, которые в рекурсивных процессах были бы умнее человека, в конце концов найдут и пути против распада – как против распада любимых людей, так и против космического распада. Циклически входящая в моду теория параллельных миров обещала мерцающую вдали возможность смыться, когда умрет собственная вселенная, и разве они в Стэнфорде в семидесятые не стремились достигнуть успеха с компьютерной системой диагностики? Кому же еще могли удаться крупные медицинские прорывы, победы над болезнями и смертью, если не компьютеру? Эльмар поставил себе задачу разработать программу, которая помогла бы его матери полностью выздороветь, – и отчаивался, что не мог это сделать. На исходе девяностых, с дипломом в кармане, с полным иконостасом медалей и кубков университетского спортивного клуба и все большей скукой от всего, чего он достиг, картинно разглядывая носки своих ботинок, чтобы спастись от завуалированного или открытого предложения переспать, он видел свой внутренний ландшафт уставленным монументами личных поражений, поскольку они еще могли ему часто рассказывать, что он талант века.

Итак, он решил исчезнуть.

Сообщество путешественников набралось быстро. Подобно спутникам, его дюжинами окружали бывшие приятели, которые с радостью участвовали во всякой глупости, если он ее предлагал. Они бегали за ним, как за Матушкой Гусыней, готовые следовать хоть на край света. В жилых норах, переполненных ароматом каннабиса и беспомощными и растерянными носителями надежды, Эльмар собрал Клуб бесследных. Центральной идеей было отправиться поодиночке в годовое странствие по миру. Каждый должен был стартовать с капиталом в триста долларов, все остальное, что необходимо, заработать по пути и обогнуть всю планету (представив доказательства) за 365 дней. Победителем должен был стать тот, кто максимально использовал свои возможности – в понимании почти всех членов клуба это выражалось в приумножении трехсот монет под знаком просоленных волос на морском ветру, маленьких робинзонад, влюбленностей на экзотических пляжах и приличной порции романтики Джима Хокинса, не без духовного, конечно, – короче, вернуться как долговязый Джон Сильвер или Бен Ганн, с золотыми словами Будды на устах и полными карманами дукатов.

Повезло кому-то больше, кому-то меньше. Эльмар потерпел поражение.

По прошествии года он явился на встречу, не имея ни одной чистой нитки на своей одежде и с пустыми карманами, зато переполненный отвагой жизни и идеями. Все, чем он когда-либо обладал, утекло в проекты помощи. Он насмотрелся на красоты и страдания и видел спящую красоту в страданиях, хотел расколдовать ее поцелуем, только нигде вокруг не находил принца. Он прошел через ад глобализации, через новые белые пятна на картах, где миллионы людей были преданы забвению. Он пережил вопиющую несправедливость, насилие, приводящее к немоте, и чувствовал трогательность улыбки, оживающей на древнем лице, хозяйке которого исполнилось семьдесят – и она привыкла жить меньше чем на доллар в день. Он узнал, что значит выживать, не имея в жизни ничего. Он видел надежду бедных, увенчанную разрушением экосистемы, что ставило перед ним гнетущий вопрос, кем пожертвовать, – проблема, которую благополучные страны охотно укладывали в уравнения, в конце которых стояло выживание человечества, только большая часть этого человечества, кажется, оказывалась за пределами их восприятия. Он был в Китае, когда долины рек Янцзы и Сонхуа утопали в коричневых потоках и пятьдесят шесть миллионов китайцев лишились крова. Он дышал воздухом, мутным от загазованности и горьким от порохового дыма. Он шел по невозделанным полям Мали: молодые мужчины этой страны бежали к побережью, чтобы разросшиеся в Западной Африке города полностью опустели, – в Лагос, Дакар и Абиджан, урбанистические поля битвы, на которых неистовствовали горькая бедность, голод и насилие. Он был свидетелем всех катастроф, созданных руками человека на континенте, который считался перенаселенным – и тем не менее был в основном безлюден: там, где быстро разрастались пустыни, а тропические джунгли сокращались, клептократы транжирили деньги, предназначенные на развитие, умершие от ВИЧ лежали на улицах, а беженцами было вчетверо больше народа, чем все население Массачусетса. Он узнал, что важнейший ресурс во многих местах был отравлен и не годился для питья. Сидел у иссохших источников Сомали, видел рыбу, плавающую в озере Виктория кверху брюхом, слушал почерневших от солнца активистов природоохраны со светлыми бородами, рассуждающих за пивом о климатических изменениях. В Австралии и Новой Зеландии аборигены и маори проедали свое достоинство, Южная Америка стонала от диктатур и от Эль-Ниньо, весь мир кряхтел и потел. Были целые фронты бедствий, где Эльмар мог бы дать волю своей изобретательности. Он помогал, где только мог: приводил в движение какие-то вещи; развивал практичные, хорошо оплачиваемые технологии; ставил свое отточенное знание на производство еще таких маленьких и редких вспышек света. Если бы лучшей из его возможностей было облегчить нужду, ему полагались бы скипетр и корона Клуба бесследных, однако остальные члены этого клуба смотрели на это немного иначе.

Это было ему безразлично. Эльмар преодолел свой жизненный кризис и выбрался из депрессии назад в свет. Теперь он знал, для чего он изучал весь этот мусор в элитных школах и что он был лучше своих учителей. Он поехал в Калифорнию.

В местности между Сан-Франциско и Сан-Хосе для такого, как он, были сказочные условия. Это началось на пляжах. Во время его изучения информатики в Стэнфордском университете он зарабатывал деньги как тренер по серфингу в заливе Халф-Мун и на пляже Сан-Грегорио, что надолго обеспечивало его женским обществом – туристками, преимуществом которых было то, что они уезжали еще до того, как он успевал запомнить их имена. С новыми силами он разрабатывал свою диагностическую программу, и на сей раз дело шло лучше. Почти походя ИИ, который вызревал у него под пальцами, набросал программу для машинного синхронного перевода. Эльмар назвал ее LangWitch, запатентовал марку и учредил предприятие с таким же названием, которое состояло практически из него одного. Поскольку вроде как полагалось, он арендовал гараж в Пало-Альто, ведь все, в конце концов, сидели и мастерили в гаражах и влили в это клише Силиконовую долину, к тому же эта развалина действительно была дешевой. Главное, там были электричество и замок.

Однажды кто-то возник в дверях этого гаража.

Самой большой особенностью Пало-Альто было, может быть, то, что в нем не было ничего особенного. Смертельно скучный городишко, ночная жизнь которого не заслуживала этого названия. От Тихого океана городок отгораживала лесистая гряда прибрежных гор, на востоке он граничил с заливом Сан-Франциско. Никто никогда не обронил ни словечка о Пало-Альто, не упомянув расположенный там Стэнфордский университет, от которого ослепительно освещенный мост вел, казалось, прямиком в будущее. В унылых офисных корпусах размещались вдоль автострады 280 Apple, Intel, Hewlett-Packard, AMD, Dell, Oracle, младшие предприятия, такие как eBay и Yahoo, и совсем новые, как Amazon и Google. Беспримерная плотность хайтек-компетенций, непредставимая без миллионов и миллиардов рискового капитала. Перспектива сказочных доходов побуждала инвесторов рассовывать деньги по карманам прыщавых типов в майках, что-то пугливо бормочущих. Все это было далеко не наивно. Кто-то при попытке завязать шнурки падал носом в землю, но, когда у него в голове вызревали решения проблемы, позволявшие заработать деньги, он стоил каждого цента. Критерии решения гласили: новаторская ли это технология? Пробивная ли она? Функционирует ли она на практике? Достаточно ли широк рынок для экспоненциального роста? Надежная ли команда стоит за этим? Идеи, фирмы, рынки меняются, но в конечном счете речь идет о людях. И, может быть, еще: атакует ли идея одну из больших проблем мира? Новая крутая губная помада – поищите себе кого-нибудь другого. Таблетки от рака поджелудочной железы – милости просим в наш бизнес.

Не совсем случайно автострада Сэнд-Хилл-роуд, на которой располагается основная часть распределителей венчурного капитала, проходит прямо вдоль университетской территории. Чтобы иметь возможность представить свои идеи в таких обществах, как «Секвойя-Капитал», «Сильвер-лейк» или «Дрейпер-Фишер-Юрветсон», мастера-самоделкины кропотливо просиживают в своих гаражах ночи напролет. Если будут инвестиции, то все хорошо. В стартовом капитале сидит, в конце концов, старт, взноса должно хватить, чтобы ракета катапультировалась из поля тяготения носителя мысли. Некоторые из космических кораблей, в которые такие конторы, как «Секвойя-Капитал», вкачали свои миллионы, может быть, не взлетят, однако, если хоть один пробьется на орбиту передовиков мирового рынка, все потери будут с лихвой возмещены.

– Твоя переводческая программа блистательна! – сказал человек, стоящий в воротах гаража. Его силуэт четко прорисовывался на фоне полуденного света.

– Детская игрушка, – сказал Эльмар и после короткого размышления добавил: – Но, конечно, блестящая детская игрушка.

– А как насчет недетской игрушки?

Посетитель подошел ближе. Он был не особенно рослым, с бледным лицом, испещренным рытвинами от прыщей, и с тусклыми светлыми волосами. Эльмар подумал, что уже где-то его видел.

– Хочешь что-нибудь выпить? – спросил он. – Колу или… – Он заглянул в свой маленький холодильник. – Или колу?

Надо было бы уже снова закупиться.

– Кола – это хорошо.

– А мы знакомы, вообще-то?

– Лично еще нет. Хьюго ван Дэйк.

Эльмар открыл две банки и указал на единственный гостевой стул. Не так уж много мог предложить его гараж. Дешевый письменный стол, два стула, вешалка-стойка для одежды, кровать и рудимент кухни. В одном углу прислонялась к стене его доска для серфинга, противоположную стену занимали его горный велосипед и мотоцикл. А там, где должен был стоять компьютер, стояла некая штука: вокруг лежали платы, громоздились жесткие диски.

– Машина, которая все может, – сказал он и протянул Хьюго ван Дэйку запотевшую банку. – Универсально мыслящий и действующий разум. Это как раз не детская игрушка.

Улыбка Хьюго озарила помещение:

– Ты, наверное, хочешь пройти тест Тьюринга.

– Да дерьмо этот тест Тьюринга.

– Но пока что ни одна машина его не выдержала.

– Поверь мне, друг, я бы и сам его не прошел. – Эльмар коротко заглянул в глаза собеседнику. – Я полный тупица; кто со мной чатится, быстро приходит к мысли, что я робот. Если серьезно, какой уж там фокус – научить пару схем болтовне в сети? Волшебство из балагана. Вот, к примеру, ты говоришь: «У меня недержание, я по шесть раз за ночь встаю, о господи, знал бы ты, как это бесит, и жжет, и зудит», – а бот тебе поддакивает и говорит: «А я ради удобства хожу под себя», хотя он не имеет ни малейшего представления о том, что такое пописать, вообще, и только зачитывает запись какого-нибудь чаттера. Итак, что тебе с того теста Тьюринга? Может ли компьютер сравняться с человеком? Нет, он тебе скажет только, что вот тут нечто подражает человеку, не представляя, что оно тут вякает. Это не имеет ничего общего с настоящим интеллектом. Компьютерам не обязательно сознание, чтобы уметь мыслить универсально, им нужна непрерывная картинка действительного мира, причем такая, какую они создают себе сами.

– Ты говоришь о машинном обучении?

– Параллельные обучающие процессы в симулированных и реальных ситуациях. Знаешь, о чем я думаю? В основе этого сложного дела, которое мы называем человеческим разумом, лежит один-единственный алгоритм. Не множество. Посмотри на мозг. Нам всегда рассказывали, что он разделен на области – каждая со своей специализацией, которая может выполнять исключительно определенные вещи. Теперь же мы знаем, что область, которая обрабатывает оптические импульсы, с таким же успехом может обрабатывать и акустические. Если одна область повреждена, ее функции берет на себя другая. Мозг постоянно переучивается. И ошибается всегда по-новому. Все это месиво тут, наверху, по причине своей сложности гомогенно и обладает превосходной нейронной и структурной пластичностью. Наш мозг – универсальная самообучающаяся машина, которая с момента нашего рождения экспоненциально расширяет спектр своего опыта. Эта идея стоит за Deep Learning. Попытка встроить в компьютер мозг базируется на одном-единственном алгоритме.

– И ты уже знаешь, как это устроить?

– Через гибкие нейронные сети, совершенно так, как это происходит в природе. Нейроны как раз не подразделяются на специальные области, а расположены так, что обращены на области, перекрывающие одна другую.

– И что ты делаешь для того, чтобы мотивировать систему к самостоятельному обучению?

Эльмар окинул Хьюго еще одним взглядом. Он не любил слишком долго смотреть людям в глаза: фокусирование на внутреннем мире другого выбивало его из концентрации, кроме того, некоторые взгляды были как лассо – тебя связывали им по рукам и ногам. Но теперь этот невысокий бледный человек начал его интересовать.

– А тебя-то что в этом мотивирует? – спросил он.

– Неизвестное, – сказал ван Дэйк. – Оно меня и привлекает.

– Что именно тебя привлекает? Последняя оставшаяся игровая площадка для приключений? В неизвестном никто не наложит на тебя путы – так?

– Я хочу понимать вещи.

– Для чего?

– Чтобы можно было на что-то повлиять.

– А. Значит, речь идет о том, чтобы повлиять. Красиво. А почему ты хочешь влиять? Что это тебе даст – оказывать влияние?

Ван Дэйк задумался.

– В том числе счастье.

– А что есть счастье? В чем оно, это высокое чувство? Почему мы так надрываемся ради него?

– Дофамин?

– Пробуждает радостное ожидание, что будет чем-то вознаграждено. Но что нами движет? Что нас мотивирует?

– Сам скажи.

– Чего мы страстно желаем, Хьюго! Вот что нами движет. А чего мы страстно желаем?

– Того, что мы видим каждый день, – процитировал Хьюго Ганнибала Лектера.

– Совершенно верно. Морковка перед носом осла. Желания – это горючее нашей фантазии, все наши страсти. И если мы в конце концов достигаем желанного, наш организм радостно выбрасывает опиаты, эндорфины, окситоцин.

– Химическая система вознаграждения.

– Вот видишь? Мы тоже машины. Наш уровень чувств управляется нейропередатчиком, и мы должны уметь встроить этот передатчик в сеть, чтобы научить ИИ любопытству, духу исследования и чувству счастья. Вознаградить его за хорошие достижения. Мотивировать его получать от нас все больше и больше вкусных конфет. Максимизировать радость, или что уж там может служить эквивалентом радости. Хороший, смачный бургер энергии. Щедрое расширение накопителя. Чувствительные контакты с внешним миром, лакомства из сжатой информации. LangWitch функционирует так, что система сама изучает языки, и она хочет их изучать. Она хочет стать лучше. Скоро она будет уметь переводить романы куда более чутко, чем это делает любой человеческий переводчик, и в разговоре с депрессивными пациентами реагировать на каждый нюанс – эмоциональный, моторный и биохимический, – считывать из языка тела и мимики ментальное состояние своего визави, понимать его интенции и желания еще до того, как он их высказал. Она будет восполнять недостаточность слов, не только понимая человеческий голос на всех языках и диалектах, но и ставя сказанное и недосказанное в правильные отношения и интерпретируя глубоко психологически. LangWitch улавливает страх, разоблачает притворную самоуверенность, делает излишним любой обычный детектор лжи, понимает мета- и сиб-уровни, шутки, иронию и двойное дно. Способна революционировать любую область политической, социальной и научной жизни. Она может помочь миллионам, миллиардам людей и улучшить их существование.

Хьюго отпил глоток.

– И программа может это уже сейчас?

– Многое из этого. – Эльмар разглядывал свои пальцы. – Кое-что еще надо оптимизировать. Вопрос нескольких недель. Месяцев.

– Жаль, что ты не выдержишь сроки.

– Почему это я их не выдержу?

– А у тебя есть деньги?

Эльмар пожал плечами:

– На один-то экземпляр хватит. Без специальных примочек.

– И правда.

– А он мне нужен? Что мне за это будет? Рабочее место у меня есть, дом тоже…

– Дом? – Хьюго поднял бровь.

– Ну, где жить…

– Насчет нижнего стандарта жилья, достойного человека, мы сможем подискутировать в другой раз. Проблема в том, что без команды ты не сможешь достаточно быстро развить свой LangWitch, не говоря уже об адекватном продвижении на рынок. Разбираешься ли ты в лицензировании? В договорах? Как ты собираешься предлагать серьезный сервис приобретателям лицензии? Как ты вообще собираешься действовать дальше? По всему, что я слышу, ты банкрот.

– Ты слышишь такие вещи?

– Это моя работа. Мне не нужны деньги, я обойдусь. Никто не восхищается волей к борьбе так, как я, но в скольких гаражах мне уже приходилось слышать такое, а немного спустя они закрывались.

– У тебя тур по гаражам?

– Иногда. Раз уж гаражи не приходят ко мне.

Тут-то в голове у Эльмара и щелкнуло.

Разумеется, он знал Хьюго. В прошлом году он читал интервью с ним. Хьюго ван Дэйк, отпрыск богатой вашингтонской династии. Экономист со знанием компьютерных наук и с научной степенью в информатике, который между делом стал еще и бакалавром в физике, само воплощенное честолюбие. Работа консультанта в министерстве торговли и финансов, шеф госдепартамента производства энергии, прежде чем стать руководителем исследований и финансовым директором в Национальной лаборатории ускорения в Стэнфорде. Поводом для интервью было учреждение WarpX. Турбофинансист, который поддерживал молодых предпринимателей иначе, чем тяжеловесы с Lean Startup. Конкретно это означало: с небольшими капиталовложениями и мелкими процессами достигнуть быстрого успеха, за короткое время привести на рынок прототип и все время совершенствовать его через обратную связь с клиентами.

– А я о вас слышал, – сказал Эльмар.

– Это хорошо. После того как мы уже целый год здесь.

– О WarpX хорошие отзывы.

Хьюго вертел в пальцах баночку колы.

– Знаешь, чего я не понимаю: почему такой человек, как ты, ни разу не был представлен в Сэнд-Хилл-роуд в Стэнфорде.

– А ты серфишь?

– Я бегаю. Вода – это не по мне.

Эльмар подошел к своей доске для серфинга.

– Когда волна несется и несет тебя, в этом есть неописуемое чувство свободы. Чистое счастье, Хьюго. Я не хочу, чтобы со мной на доске еще кто-нибудь стоял.

– Но у тебя нет волны, которая тебя несет.

– Моя волна – это мой талант. Я лучше, чем все остальные.

– Ты – трагический случай, если тебе придется твою чудесную программу распродать за бесценок ради выживания, вместо того чтобы в свое удовольствие спокойно усовершенствовать ее.

Эльмар задумался. Он ходил туда и сюда и пытался осветлить мрачное представление Хьюго о его монетарном положении, однако с каждым шагом оно становилось только мрачнее.

– А вы хотите войти в дело?

– Мы хотим прикрыть тебе тыл, пока LangWitch не сможет все то, что ты мне изобразил.

– И потом?

– Потом мы ее продадим. За ту цену, которая даст тебе возможность с размахом осуществить твой универсальный ИИ.

– И сколько бы вы инвестировали в это?

– Я думал о четверти миллиона.

– Сто тысяч.

Удивление блеснуло в глазах Хьюго. Может, всего лишь в стеклах его очков.

– Ты меня не расслышал? Я сказал…

– Я понял, что ты сказал. Сто тысяч – это то, что Энди Бехтольшайм дал ребятам «Гугла».

Ларри Пейджу и Сергею Брину. Двум выпускникам Стэнфорда, которые два с половиной года назад въехали в свой офис в Пало-Альто с горсткой сотрудников. Фон Бехтольшайм принадлежал к суперфинансистам отрасли – единственный, кто поверил в этих двоих. И «Гугл», кажется, развивается многообещающе. В настоящий момент, через три года после основания, они были лидерами рынка среди поисковиков и вышли в зону прибыли.