Среди призраков. Рассуждение об эпохе метавселенной и генеративного искусственного интеллекта

© Éditions Grasset & Fasquelle, 2023

© А. Б. Захаревич, перевод, 2025

© Клим Гречка, оформление обложки, 2025

© Издательство Ивана Лимбаха, 2025

Нам не достичь совершенства наших творений, а сотворенное нами превосходит нашу способность воспроизводить и нести ответственность.

Не презирайте людской чувствительности. Чувствительность любого человека – это его добрый гений[1].

Никто из нас <…> не почитает [свою] душу по-настоящему[2].

Можно покатиться по наклонной плоскости, лишь бы только иметь силу подняться[3].

Введение. Грядущее настоящее

Полночь. Замок на скале, нависший над океаном, теряется в густом тумане. У его стен на пронизывающем холодном ветру трое обсуждают явившееся только что видение. Голоса тонут в оглушительном рокоте волн, вое ветра, карканье воронья. Вдруг откуда ни возьмись из тумана вновь вырастает призрачная фигура и немедля обращается к одному их присутствующих – зовет за собой Гамлета, сына короля датского. Не слушая предостережений своего друга Горацио и солдата Марцелла, тот повинуется и следует в уединенное место. Едва они успевают скрыться от посторонних глаз, видение молвит: «Я дух, я твой отец»[4] – и тут же сообщает, что не змея явилась причиной его смерти во время дневного сна в саду, а яд, влитый ему в ухо родным братом Клавдием, отчего в мучениях нестерпимых он и скончался. Потрясенный до глубины души Гамлет силится не терять самообладания, дабы постичь всю суть сказанного. Принц правильно сделал, что доверился призраку, тот не желает причинить ему зла. Он явился лишь предать огласке вероломство – и призвать к отмщению.

Правдоподобие его словам придает то, что произносит их сверхъестественная, – ибо окружена светящимся ореолом, – сущность, внушающая доверие, поскольку не просто несет невесть что, а излагает версию событий, которая уже рассматривалась, но по разным причинам была отвергнута. Сын слушает отца, явившегося в виде призрака, с безраздельным вниманием и, узнав о гнусном преступлении, на прощание клянется не оставить злодеяние безнаказанным. Движимый этой целью, он выстроит целую стратагему, чтобы пролить на произошедшее свет истины и вывести монарха-узурпатора на чистую воду. Так в основе сюжета величайшей, пожалуй, драмы современного западного театра оказывается рассказ призрака, обращенный к человеку, который его послушает, доверится и будет действовать соответственно, а в итоге это изменит течение его собственной жизни – и ход истории. Без вмешательства призрака не было бы «Гамлета» и стремительной череды событий, завершившихся падением престола.

С момента первого представления, около 1601 года, пьесу Уильяма Шекспира, – пользовавшуюся небывалым успехом, в том числе благодаря грандиозному метафизическому содержанию, соединяющему жажду власти, муки любви и тщету бытия, – продолжали ставить снова и снова. И вот спустя четыре столетия, в неявной форме и совершенно по-другому, ее играют вновь. На сцене вовсе не тот беспримерно отважный и стойкий персонаж, не щадящий сил души и плоти своей в датском замке Эльсинор, но мы с вами; да и театр более тривиальный – мир, где мы существуем теперь в окружении призраков, которые вещают, лично обращаясь к каждому из нас, и, исполнившись лукавства, указывают нам «правильный» путь. Они выходят на подмостки лишь в исключительных случаях, зато неутомимо побуждают нас не столько действовать, узнав о чем-то важном, сколько денно и нощно реагировать на лавину сигналов, а мы, сами того не замечая, сделались толпами Гамлетов – в общей для всей планеты и во многом механической версии этого образа.

Этот день стал решающим, одним из главных в истории человечества. Однако он не остался таковым в нашей коллективной памяти и не упоминается ни в школьных, ни в студенческих учебниках. «Описывать историю – все равно что наделять даты выражением лица, – говорил Вальтер Беньямин, – то есть предъявлять истинную физиономию каждого события»[5]. Иначе говоря, мы должны понять, как случившееся событие, – особенно пока оно не утратило новизны, – нарушает сложившееся положение и более или менее заметно перетасовывает порядок вещей.

10 января 2007 года, конференция Macworld, Москон-центр, Сан-Франциско. Глядя в бурлящий от нетерпения зал, где яблоку негде упасть, Стив Джобс, основатель Apple, начинает одну из своих знаменитых keynotes (презентаций), – он покажет новинку, которая «изменит все». Тогда еще никто не мог предположить, насколько точна эта формулировка: с предметом, получившим название айфон (iPhone), мир перенесется в новую эпоху.

Устройство оказалось революционным. И дело не только в том, что айфон поддерживал три новые функции: подключение ко Всемирной паутине – непрерывное (теоретически), независимое от места и времени; сенсорный интерфейс, обеспечивавший телесную связь, своеобразное слияние с устройством, так что вскоре они с пользователем станут казаться одним целым; наконец, геолокацию – возможность определять местоположение человека. Самым важным новшеством стали приложения: их страницы были приспособлены к ограниченным размерам экрана, но главное – они подсказывали, как в тех или иных обстоятельствах лучше поступить. Задача была дерзкой – в конечном счете охватить всю полноту нашей повседневности. Как утверждалось в рекламном слогане того времени, «Всему свое приложение. Ну, почти…». В общем, прощай, одиночество: невероятно дальновидные лоцманы направят наше бытие в наиболее подходящее русло.

И вот в нашем распоряжении целый легион призраков, готовых без устали освещать путь идущего. Позвякивая, вибрируя, вспыхивая, услужливо забрасывая уведомлениями, они волнуются: «Как я могу помочь?» – и хранят полную преданность. Последние несколько лет они с нами разговаривают. Этих призраков не счесть, они быстро стали нашими помощниками почти во всем. Творение Джобса обозначило перелом благодаря стремительному развитию искусственного интеллекта, который к середине нулевых уже был в состоянии оценивать множащиеся грани реального со скоростью, бесконечно превышающей наши когнитивные способности, так что ему хотелось доверять. А еще предлагал тот или иной удачный способ действий и применялся во множестве возникших тогда систем, выполнявших неоднозначную миссию – указывать каждому из нас верное направление. Так наметились черты алгоритмического синтоизма. Синто на японском означает «путь богов» – или тех самых призраков, которые будто бы наблюдают за нашей жизнью, а мы просим их о защите и помощи[6].

Происходит становление экономической и, шире, общественной модели: спешно ликвидируется разрыв, разделяющий любого человека и любую вещь, и устанавливается порядок всеобщего автоматического приведения к соответствию. Торговля, труд, образование, отдых – везде неуклонно складывается принцип максимального совпадения предполагаемых потребностей и желаний с соответствующими предложениями. Несмотря на непрерывное совершенствование и универсализацию такой логики – далеко не только в смартфоне, – остается слабое место: мы не можем слушать этих призраков постоянно, иногда приходится пренебречь их вниманием. Время от времени неизбежен разрыв, ведь обычная жизнь во всей своей полноте не подчиняется одному лишь закону соответствия. Вот команды разработчиков и взялись за поиск решения, позволяющего нон-стоп устранять такие «прерывания». Но ни они, ни кто-либо другой и представить не могли, что благодаря простой исторической случайности одно в буквальном смысле экстраординарное событие нежданно-негаданно воплотит эту цель.

Это было подобно сейсмическому толчку, вызвавшему резонанс на всех пяти континентах. На заре нового десятилетия распространение неизвестного патогена стало причиной срочных мер, нарушивших привычки, казавшиеся нам столь же прочными, как восход солнца по утрам: людям запретили свободно перемещаться и на некоторое время – сколько было необходимо – заперли их по домам. Наш мир, который на протяжении всей современной истории старался защититься от капризов реальности благодаря все более глубокому проникновению в нее технических средств, вдруг превратился в карточный домик. Не в силах ничего сделать, мы наблюдали за возвращением – по-видимому, неизбежным – всего того подсознательного, что успели схоронить где-то глубоко внутри. Ведь сколько мы ни пытались преодолеть обстоятельства, в которых оказались, они с жестокой иронией напоминали, что их причина в нашей фундаментальной уязвимости. Как боксер, пропустивший мощный хук, мы были оглушены, нокаутированы, положены на лопатки. Ход нашей жизни, частной и коллективной, в одночасье замер, – но мы-то успели привыкнуть к другому, бешеному, ритму. И как следствие, хоть и фоновое, возникло весьма неожиданное явление – мы не сразу поняли, что в нем и есть основной общественный и цивилизационный отзвук случившейся пандемии. Многие аспекты нашего бытия внезапно были перенесены в пиксельную среду.

Значительная часть работы, школа, университет, отношения между людьми, медицинские консультации, покупка товаров, приобщение к культуре (просмотр фильмов и сериалов, активизировавшийся в онлайн-кинотеатрах, и даже приспособленные под виртуальный формат концерты, театральные постановки, «посещения» музеев), а еще вечеринки в WhatsApp, профессиональные форумы, встречи на высшем уровне – все это перешло в онлайн, центральное положение занял экран. Мы с изумлением наблюдали то, что за несколько недель до этого и представить не могли, – слияние жизни с цифровым потоком, – и воспринимали это как нечто само собой разумеющееся. Чувства были смешанные: с начала нового тысячелетия мы постоянно пользовались устройствами для выхода в сеть – поводы становились все разнообразнее, и это существенно изменило наши привычки, но теперь мы ощутили исторический разрыв. Человечество разом погрузилось в абсолютно призрачную атмосферу. Словно прогрессирующая обезличенность, как и бестелесность общества, десятилетиями преобладавшая в трудовой сфере, анонимность, все более заметная в городах, опосредованность межличностных связей из-за повсеместного использования экранных устройств, предельная индивидуализация поведения, сосредоточенность на себе и недоверие к другим, внезапно проявилась во всей своей наготе. Возник новый этос – полные бесплотных фантомов дома и опустевшие улицы как никогда ясно и без прикрас показали: общество, в котором мы живем, есть общество-призрак.

Стоя в просторном интерьере класса люкс, в помещении с горящим камином и панорамным остеклением, сквозь которое видны озеро, деревья и заснеженные горы, Марк Цукерберг, генеральный директор и один из основателей Facebook[7], в видеообращении 28 октября 2021 года объявил о смене стратегического направления компании и ее названия: впредь это будет «Meta»[8] («по ту сторону» на древнегреческом). Он хочет открыть новую страницу человеческой истории: создать технологическое пространство, в котором все больше повседневных действий можно совершать удаленно. Для этого придумано средство, поддерживающее иллюзию полного присутствия в среде, воспринимаемой через так называемые очки виртуальной реальности и аватары (синтезированные фигуры, под видом которых нам предложено взаимодействовать с миром и окружающими). Все это среди искусственных пейзажей, нарисованных и озвученных, которые вскоре дополнятся тактильными и обонятельными ощущениями, – их будут стимулировать искусственные источники с помощью датчиков и специальных приспособлений. Конечная цель в том, чтобы едва ли не во всех сферах жизни наши действия, – большинство из которых до сих пор требовало нахождения в определенном пространстве, отрезка времени, необходимого для их осуществления, ощутимого контакта с природными элементами и нам подобными, – осуществлялись теперь лишь посредством процессоров и пикселей.

Это поистине историческая возможность – пройдя скоропалительную эволюцию наших привычек, вызванную пандемией, пуститься к новым экономическим горизонтам навстречу залежам неиссякаемых, казалось бы, богатств, которые дает удаленка. Однако провозгласить такое дано не всякому смертному, а лишь немногим избранным – их можно пересчитать по пальцам, – тем, кому ниспослан дар предвидения, кто в состоянии понять, из какого теста окажется наше будущее, и одновременно обладает средствами, способными влиять на ход вещей. В этом качестве Цукерберг взял на себя исключительно почетную миссию – он «официально объявил», что наш мир выходит на орбиту в метавселенной. Чем не современный оракул, словно взывающий к нам уже «с той стороны» – идеальной и стерильной. Человек с восковым лицом, назидательно и убежденно рассказывает о неотвратимом приближении эпохи, подходящей, чтобы браться за бесчисленные благие начинания и регенерировать связи между людьми: «В любой истории рано или поздно должна быть следующая глава. Я горжусь тем, что мы успели построить, и с нетерпением вглядываюсь в то, что будет дальше, ибо сегодня мы выходим за пределы возможного, за поле экранов, за ограничения, обусловленные расстояниями и законами физики, ради будущего, в котором люди всегда смогут быть вместе, открывать новые возможности, пробовать что-то еще. Будущее уйдет вперед гораздо дальше, чем мы способны представить!»[9]

Было бы неправильно посмеяться над этой речью как над нелепым потоком пафоса или капризом всемирно известной персоны, не чуждой ребячества, проявившегося и в этом выступлении. Как-никак перед нами старательно и увлеченно пророчествует глава одной из самых влиятельных компаний мира, акции которой стоят бешеных денег. Он из года в год инвестирует миллиарды долларов в осуществление своей программы. Им движет твердое намерение воплотить в жизнь ви́дение, не имеющее ничего общего с футуристическими измышлениями, – если учесть, что процессу дан полный ход и все говорит о том, что он получит вполне конкретное воплощение на рубеже нового десятилетия. В связи с этим американским компаниям и каждому из нас следует – не мешкая – принять участие в осуществлении этой захватывающей цивилизационной метаморфозы, в которой он собирается сыграть одну из главных ролей. Скоро она перенесет человечество в четвертое измерение. А точнее, ознаменует начало четвертого этапа в истории цифровых технологий.

В истории глобальной сети – и ее все более заметного влияния на наши судьбы и общество – выделяют несколько этапов. Первой фазой ее всеобщего распространения – лет через тридцать после первых испытаний, проводившихся на военных базах и в университетах, – стал массовый выход в интернет в последней трети 1990-х годов, когда через экран персонального компьютера открылся путь к постоянно растущему числу страниц, а люди в личных целях или по роду деятельности за довольно незначительную плату получили возможность легко общаться, невзирая на физические расстояния. Так начиналась эпоха доступа. Казалось необычным – и сбивало с толку – то, что технология с опорой на быстро развивающуюся новую экономику, не требуя больших вложений и спеша облегчить жизнь людей и предприятий, как будто начинает выполнять общественную и даже больше – благотворительную миссию. В середине следующего десятилетия появился функционал, позволивший не просто знакомиться с документами, но и подавать голос – через заметки в блогах с простыми настройками или реагируя на «контент» – например, в комментариях под статьей в медиа. Параллельный расцвет социальных сетей дал людям возможность заявлять о себе и публично высказываться. Пришло время Web 2.0. Статус зрителя расширился: теперь он мог внести в происходящее свою, большую или малую, лепту.

Пройдет всего несколько лет, и в 2007-м с появлением айфона возникнет совершенно новая технико-экономическая логика, которая продолжит совершенствоваться: речь идет о персонализированных автоматических рекомендациях товаров и услуг для предполагаемой оптимизации нашей повседневной жизни. В дальнейшем эти алгоритмы будут неустанно развиваться и распространяться. В 2011 году на рынок выходит персональный цифровой помощник Siri, годом ранее приобретенный Apple и в конечном счете призванный направлять нас по нужному пути, невзирая на обстоятельства. В 2016 году появилось более цельное решение – умные колонки, способные приветливым голосом ответить на любой поставленный вопрос. Но не без своего рода задней мысли – незаметно склонить нас к выбору в пользу заинтересованной стороны. За десяток лет был разработан ряд весьма продвинутых средств для внешне доброжелательного и покровительственного алгоритмического сопровождения нашей жизни.

Повсеместные локдауны, вызванные кризисом системы здравоохранения, усилили потребность в технологиях трех первых поколений, и в результате мы, – сохраняя относительную неподвижность, – принялись непрерывно просматривать веб-страницы, отправлять письма и сообщения, постить комментарии или получать рекомендации – например, по выбору товаров, услуг или видео для просмотра. К тому же мы теперь видели на экране своих собеседников, общение с ними стало непривычно долгим и чаще всего ежедневным. Казалось, такой порядок вещей идеально воплощает торжество принципа трех единств во французской классицистической драматургии XVII века: единства времени, места и действия. В то же время он ознаменовал становление нового этоса: наша связь со своей средой и другими людьми больше не требовала физического присутствия. Явление сродни телепортации со скоростью света – квинтэссенция «убиквитарности»[10]: индивид попал в мир, где будто нет швов, где составляющие не разделены и царит то, что можно назвать цифровым пантеизмом. Словно человечество поглотила матрица, в которой пространство и время сделались в определенном смысле взаимодополняющими измерениями, а любой элемент внутри теоретически может соединиться с другим, причем мгновенно.

Как не вспомнить тетралогию «Матрица»? Ее первая часть, вышедшая в 1999 году, рисует далекое будущее, где окружающий мир воспринимается людьми как вполне осязаемая реальность. Но в действительности это плод деятельности искусственных сущностей, вычислительных машин, которые, подчинив людей своей беспощадной воле, используют их как источник энергии. В нематериальном, всепоглощающем и абсолютно иллюзорном пространстве людей можно сравнить с узниками пещеры из «Государства» Платона, но в ее полностью синтезированной версии. Вместе с тем такая аналогия была бы слишком поспешной, она неверна: в художественной антиутопии Вачовски всемогущая и неуловимая сила манипулировала сознанием так, что симулякр не осознавался. Здесь же, в этом складывающемся четвертом измерении, происходит обратное в том смысле, что нам предлагается стать частью среды, готовой мгновенно исполнить любое ваше желание, не требуя ответных усилий. Здесь нет принуждения – по крайней мере, внешне, – это возможность моментально, как по волшебству оказаться среди людей или вещей, которые нам нужны, по личному желанию и следуя алгоритмам, что наполняют мир в буквальном смысле квантовой динамикой. Квантовый компьютер, который ученые разрабатывают с начала двухтысячных годов, только ускорит дело, освободив нас от евклидовых физических ограничений и погрузив в атмосферу, в которой желаемое и действительное в конечном счете всегда совпадают.

Если внимательно взглянуть на эту картину во временно́м аспекте, то наше существование покажется своего рода фантасмагорией – как будто им управляют механизмы, претендующие на совершенство и придерживающиеся логики, следование которой кажется немыслимым в обычной жизни. Таким образом, с начала нынешнего десятилетия складывается эпоха цифрового «интегралитаризма». На наших глазах всё новые области повседневного постепенно получают идеальную разметку. Всем и каждому обещаны комфорт и удовлетворение интересов, а обществу – оптимизация и стабильность в лучшем из миров: пиксельной среде, сгенерированной все более прихотливым искусственным интеллектом. Так процесс, запущенный в начале 2010-х годов и с тех пор набиравший обороты, раскрылся в полной мере.

Пройдя через десятилетие проб и ошибок, цифровая экономика уподобилась наконец курице, несущей золотые яйца, заработав по новой модели: она стала экономикой данных и платформ. Потенциальная способность технологий трактовать наше поведение и давать ответные рекомендации привела к формированию баланса между спросом и предложением. Капитализм изменился: восполняя разрыв между спросом и предложением, он больше не нуждался в стратегических средствах, главные из которых – маркетинг и реклама. Если раньше перед ним стояла задача всеми правдами и неправдами продавать товары и услуги, то теперь важнее стало проникнуться эмпатией и влиться в течение нашей жизни через алгоритмический «рентген» нашей души и удовлетворение наших желаний «в один клик». Схема казалась надежной и «инклюзивной» (теоретически она доступна всем – и потребителям, и предпринимателям), золотой дождь мог пролиться на любую новую идею – или прихоть, способную упростить людям существование, зачарованные политики уповали на долгожданную панацею, которая вот-вот избавит нас от всех нынешних забот, – все это и объясняет произошедший тогда взлет «цифровых инноваций». «Сделать мир лучше» – эту мантру Силиконовой долины подхватили все стартаперы планеты.

Впервые в нашу эпоху экономика перестала ограничиваться извлечением прибыли и наметила следующую цивилизационную задачу: непрерывно и повсеместно создавать условия для лучшего миропорядка. Тогда и возник гигантский источник влияния: не государство, не монополия-вампир, но несколько олигополий под акронимом GAFAM[11]– они, в свою очередь, потянули за собой множество других больших групп и стартапы, обильно расплодившиеся тут и там. Постоянно консолидируясь, движение восторжествовало по всей планете, и понятие «междуцарствие», которое Антонио Грамши некогда определил как время от начала «битвы идей» до достижения «культурной гегемонии», перешло в категорию устаревших[12]. Сопротивляться напору идей и развитию отрасли было невозможно, так что за несколько лет сформировалась модель, следовать которой полагалось всем, кто рассчитывает на успех и готов идти в ногу со временем. Возникла сила, которая в угоду собственным интересам сочла себя вправе напористо и беззастенчиво дискредитировать любую иную философию или принцип организации, объявив их архаизмами и отбросив на смысловую обочину истории. Сопротивление тем, кто объявил себя едва ли не пророками, оказалось бессмысленным, да и было их слишком много. Пройдет немало времени, прежде чем за неутомимой пропагандой и умелой практикой прельщения мы увидим главное: этот тренд во многих отношениях разрушителен.

В любом обществе, будь оно исходно демократическим или тоталитарным, наступает момент, когда тайное становится явным. Рано или поздно занавес поднимается и открываются реалии, которые в большинстве своем маячили у нас перед глазами, но мы не хотели или были не способны их разглядеть, потому что окружающий свет – такой яркий – нас ослеплял. И вот за помпезными образами, шаблонными речами, лениво плывущими изображениями начало угадываться стремление вмешиваться во все аспекты жизни и подчинять их постоянной коммерциализации, вопиющее презрение к любым структурам, внедрение жестких управленческих методов. В первую очередь на логистических складах, от которых зависит успех электронной коммерции и где рабочие вынуждены поддерживать адский темп, превращаясь в роботов из плоти и крови. Те же порядки бытуют на рынке доставки и навязываются водителям грузовиков. Урон нанесен магазинам шаговой доступности, распространилась практика изживания конкурентов и приемы налоговой оптимизации, со знанием дела подогревается зависимость от экранных устройств. Можно долго перечислять малоприятные эпизоды, до недавнего времени словно спрятанные в black box, черный ящик, который большинство предпочитало не замечать. Множество разоблачений и скандалов, неблаговидные поступки, мошенничество – будто сняли фату с невесты, которую нам пытались предъявить во всей красе. Когда леденящих душу сцен оказалось слишком много и они участились, составленную из них картину увидели все – и тогда в ней выкристаллизовались элементы здравомыслия. Нельзя бесконечно всех обольщать и отрицать очевидное, изредка с достоинством публично каяться, а затем с удвоенной силой приниматься за старое, как только объективы повернутся в другую сторону. У человеческой наивности все же есть предел.