Агенты. Книга про людей и цену мечты

«Bro, did you just build BabyAGI?»

Сиэтл — Лондон, март 2023 года

В 2:47 ночи по тихоокеанскому времени Йоэй Накадзима нажал кнопку «Tweet» и пошёл спать.

Это была его семидесятая попытка. Семьдесят экспериментов за несколько месяцев — и ни один не взлетел. Семьдесят раз он что-то собирал, публиковал, ждал реакции и получал тишину. Он привык к тишине. Она не пугала его, просто была частью процесса — как похмелье после вечеринки, которую никто не заметил.

За спиной у него было всё, что обычно называют успехом. Тридцать с лишним лет, трое детей, красивый дом в Сиэтле, венчурный фонд Untapped Capital, который он основал вместе с партнёром. Люди приходили к нему за деньгами и советом. Он был человеком, которому доверяют. Которого слушают. Которого уважают.

Но по ночам он превращался в кого-то другого.

По ночам он был билдером — человеком, который строит что-то руками, потому что не может не строить. Не потому что это принесёт деньги или признание. Просто потому что интересно. Потому что в голове крутится вопрос, и единственный способ заглушить его — написать код и посмотреть, что получится.

В ту ночь вопрос звучал так: а что, если убрать человека из цепочки полностью?

* * *

Идея была проста до неприличия.

Большие языковые модели — GPT-4, только что выпущенный OpenAI, — умели отвечать на вопросы. Блестяще отвечать. Но они были реактивными: человек спрашивал — машина отвечала. Человек снова спрашивал — машина снова отвечала. Диалог. Пинг-понг. Инструмент в руках.

А что, если дать машине цель — и уйти?

Что, если она сама будет разбивать цель на задачи? Сама выполнять их одну за другой? Сама оценивать результат и порождать новые задачи? Бесконечно. Без человека. Автономно.

Накадзима не был программистом в классическом смысле. Он изучал экономику в Калифорнии, работал в венчуре, думал категориями рынков и инвесторов. Python освоил только в последние месяцы — с помощью тех же языковых моделей, которые теперь пытался запрячь в новую упряжку. Он писал код так, как учится ходить ребёнок: неловко, часто падая, но упрямо двигаясь вперёд.

105 строк. Вот сколько занял его эксперимент номер семьдесят.

Программа называлась Task-Driven Autonomous Agent — «Автономный агент, управляемый задачами». Пользователь давал одну цель. Агент создавал список задач, выполнял первую, анализировал результат, добавлял новые задачи, снова выполнял — и так по кругу, пока цель не будет достигнута или пока человек не остановит процесс.

Накадзима записал демонстрацию на видео. Написал короткое описание. Нажал «Tweet». Уснул.

* * *

Он проснулся от телефона.

Сообщения приходили одно за другим, не давая экрану погаснуть. Twitter, GitHub, email. Имена, которых он не знал. Вопросы, которых он не ждал. И где-то среди этого потока — сообщение от Дженни, подруги, которая иногда смотрела на его эксперименты со смесью снисходительности и любопытства.

«Bro, did you just build BabyAGI?»

Он перечитал её сообщение дважды. Потом посмотрел на статистику репозитория.

За ночь — пока он спал — его код получил больше трёх тысяч звёзд на GitHub. К вечеру их было восемь тысяч. Через двое суток — пятнадцать с половиной тысяч.

Для сравнения: крупнейшие open-source проекты годами набирают столько же.

Название прилипло мгновенно. BabyAGI. Ребёнок общего искусственного интеллекта — AGI, Artificial General Intelligence, той самой мечты, ради которой учёные бились семьдесят лет. Маленький, несовершенный, сделанный из 105 строк кода венчурным капиталистом без профессионального образования в области CS. Но — автономный. Но — действующий.

Люди форкали репозиторий и строили на нём свои проекты. Кто-то создавал агента для автоматизации маркетинга. Кто-то — для исследования рынка. Кто-то просто запускал его, смотрел, как он работает, и не мог остановиться — как смотрят на огонь.

Накадзима сидел за ноутбуком и читал комментарии. Большинство из них начинались одинаково: «Это меняет всё».

* * *

В то же самое время, в девять часовых поясах восточнее, в небольшом городке в Великобритании, другой человек заканчивал другой проект.

Торан Брюс Ричардс не спал уже вторые сутки.

Ему было тридцать с чем-то, за плечами — карьера в геймдеве, несколько лет в разных стартапах, детская мечта стать астрофизиком, которую пришлось отложить ради более практичных вещей. Он не был похож на типичного героя технологической революции — не дропаут из Стэнфорда, не вундеркинд из Кремниевой долины. Просто человек, который умел смотреть на системы и видеть, как они работают.

А языковые модели, как он понял к началу 2023 года, работали неправильно.

Точнее, они не работали вовсе — в том смысле, который он считал важным. Они отвечали на вопросы. Писали тексты. Объясняли концепции. Но они не делали. Не действовали. Не брали задачу и не доводили её до конца. Каждый промпт был изолированным событием, после которого модель забывала всё и начинала с нуля.

«Одна мысль», — так он это формулировал для себя. — «LLM — это одна мысль. А разум — это цепочка мыслей».

Он назвал свой проект AutoGPT. Автономный GPT. И написал в описании то, что думал без всяких украшений: «Святой Грааль — ИИ, который может не просто говорить, а делать».

AutoGPT был сложнее BabyAGI — больше функций, больше возможностей, больше кода. Он мог browsing в интернете, писать и запускать скрипты, сохранять информацию в долговременную память. Он был не ребёнком, а, пожалуй, подростком — уже чем-то большим, но ещё не взрослым.

Ричардс выложил его в открытый доступ.

За несколько недель AutoGPT набрал сто пятьдесят шесть тысяч звёзд на GitHub — больше, чем любой другой репозиторий в истории платформы за сопоставимое время. Его имя стало синонимом новой эпохи. Технологические издания писали о нём как о «моменте iPhone для ИИ». Венчурные капиталисты звонили с предложениями, от которых трудно отказаться.

Ричардс отказывал. Он хотел, чтобы это осталось открытым. Для всех. Потому что — и это была не поза, а убеждение — технология, которая меняет мир, не должна принадлежать одной компании.

* * *

Март 2023 года войдёт в историю как момент, когда идея автономного агента вышла из академических статей и конференц-залов и стала массовой.

Но это был не взрыв из ниоткуда.

Это было эхо.

Эхо голосов, которые звучали семьдесят лет. Голосов людей, которые думали об этом раньше всех — и платили за это. Кто-то платил жизнью. Кто-то — репутацией. Кто-то — смыслом, который вкладывал в свою работу и однажды обнаружил, что работа зажила собственной жизнью, о которой он не просил.

Все они задавали один и тот же вопрос, просто разными словами.

Алан Тьюринг, бледный аспирант в кембриджском кафе, рисовавший бесконечную ленту на салфетке, спрашивал: может ли машина мыслить?

Джозеф Вейценбаум, создавший первого говорящего бота и в ужасе отвернувшийся от него, спрашивал: должна ли она?

Патти Мэйс, бельгийская исследовательница в коридорах MIT, спрашивала: а не лучше ли, чтобы она помогала — а не заменяла?

Родни Брукс, разрабатывавший роботов без внутренней модели мира, спрашивал: а нужна ли ей вообще «мысль» в нашем понимании?

Накадзима и Ричардс, не зная об этих вопросах в полной мере, в марте 2023-го дали на них практический ответ. Не словами — кодом. Не теорией — действием.

Машина может делать.

И вот что важно: никто из тех, кто шёл к этому моменту, не получил того, чего ожидал.

* * *

Эта книга — не история технологий.

Точнее, не только она.

Это история о том, что происходит с человеком, когда его мечта начинает жить без него. Когда идея, которую ты вынашивал годами, выскальзывает из рук и уходит туда, куда ты не звал. Когда то, что ты создал из одиночества или страха, или любви, или любопытства — превращается во что-то, чего ты не предвидел и, возможно, не хотел.

Тьюринг хотел понять природу мышления. Он получил уголовное преследование и химическую кастрацию.

Вейценбаум хотел показать ограниченность машин. Он получил первый массовый психотерапевтический чат-бот и кризис совести, из которого не вышел до конца жизни.

Мэйс хотела дополнить человека, а не заменить его. Она продала свой проект Microsoft за сорок миллионов долларов и наблюдала, как идея растворяется в корпоративном продукте.

Накадзима хотел поэкспериментировать. Он получил пятнадцать тысяч звёзд за ночь и вопросы, на которые у него не было ответов.

Каждый из них заплатил свою цену.

И у каждого эта цена была разной — потому что разными были их мечты, их характеры, их время. Но всех их объединяло одно: в какой-то момент созданное ими перестало принадлежать им.

Это происходит со всеми, кто строит что-то по-настоящему новое. Идея уходит и живёт дальше. Иногда — лучше, чем ты мог представить. Иногда — страшнее.

Всегда — без спроса.

* * *

Я начну эту историю не с Тьюринга, хотя он был первым.

Я начну с ночи в Сиэтле — потому что именно эта ночь показала, что цепочка замкнулась. Что семьдесят лет одиноких усилий, споров, отречений и открытий привели вот сюда: к человеку, который не считал себя учёным, написавшему 105 строк кода и нажавшему «Tweet» в 2:47 ночи.

А потом я вернусь назад.

В Кембридж 1936 года, где молодой математик только что потерял единственного человека, которого любил, и начал думать о машинах как о способе победить смерть.

В MIT 1966 года, где другой учёный в ужасе смотрел на то, что создал.

В лаборатории и конференц-залы, в которых люди спорили о природе разума так, как будто от этого зависела их жизнь. Потому что для некоторых из них — зависела.

Я расскажу вам о семи людях. О том, что они потеряли. И о том, что нашли — иногда совсем не то, что искали.

Это их история. Но в ней есть и наша.

Потому что машина, которая действует без человека, — это не просто технологический феномен. Это зеркало. И в нём отражается вопрос, который мы задаём себе с тех пор, как начали думать: зачем мы это делаем? Кому это служит? И что остаётся от нас, когда наше творение начинает жить само?

* * *

Накадзима до сих пор не знает точного ответа на вопрос Дженни.

Построил ли он BabyAGI?

Технически — да. 105 строк кода, автономный агент, пятнадцать тысяч звёзд. Всё так.

Но иногда, в интервью или в разговорах с друзьями, он говорит кое-что другое. Он говорит, что чувствовал себя скорее человеком, который нашёл что-то, а не изобрёл. Как будто идея уже была где-то рядом, носилась в воздухе, и ему просто хватило терпения — семьдесят попыток терпения — чтобы её поймать.

Может быть, он прав.

Может быть, идея автономного агента всегда была рядом — с того самого дня в 1936 году, когда одинокий математик нарисовал на салфетке бесконечную ленту и понял, что машина может делать всё, что делает человек.

Просто тогда никто не знал, сколько это будет стоить.

«Я должен верить, что то, что любил в нём,

не погибло вместе с ним — а только

переместилось туда, откуда он может

наблюдать за мной»

Алан Тьюринг — матери Кристофера Моркома, март 1930 года

«Вдохновение приходило раз в пять лет»

Алан Тьюринг, 1912–1954

13 февраля 1930 года в 7:30 утра Алан Тьюринг вошёл в классную комнату Шерборнской школы и увидел пустую парту.

Кристофер Морком не пришёл.

Это само по себе ничего не значило бы — Кристофер болел уже несколько недель, что-то с желудком, как говорили, ничего серьёзного. Но Алан почувствовал что-то холодное и плотное — не мысль, а ощущение, которое возникает раньше мыслей. Он сел за свою парту и стал ждать урока, глядя в окно на заснеженный двор.

В тот же день ему сообщили: Кристофер умер ранним утром в больнице. Туберкулёз, поражение кишечника. Ему было восемнадцать лет.

Алану было семнадцать. И у него только что сломалось что-то внутри, чему он не знал названия и что не умел починить.

* * *

Они познакомились тремя годами раньше, в 1927-м, когда Алан только перевёлся в Шерборн.

Кристофер был на год старше. Красивый, умный, лёгкий — из тех людей, которым всё даётся без усилий, что вызывает зависть у одних и восхищение у других. В Алане вызывало второе. Он смотрел на Кристофера так, как смотрят на задачу, которая кажется невозможной, — с восторгом и желанием разгадать.

Они решали задачи вместе. Спорили о химии. Ходили наблюдать за звёздами — у Кристофера был телескоп, и он умел объяснять устройство неба так, что оно переставало быть абстракцией и становилось чем-то личным. Алан, который всю жизнь чувствовал себя не вполне вписанным в мир обычных мальчиков, рядом с Кристофером чувствовал: вот кто-то, кто понимает.

Было ли это дружбой? Да. Было ли это любовью? Тьюринг не использовал это слово — ни тогда, ни позже, ни в письмах, которые после его смерти нашли в ящике стола. Но он написал кое-что другое, и это красноречивее любых определений.

«Я всегда думал о нём как о первой звезде, которую вижу вечером, — написал он в дневнике. — Не зная, почему именно она, но зная, что именно на неё смотрю».

Кристофер умер в феврале. В марте Алан написал письмо его матери. Длинное, осторожное, по-взрослому сдержанное — и в этой сдержанности больше боли, чем в любых рыданиях.

«Я должен верить, — написал он, — что то, что любил в нём, не погибло вместе с ним — а только переместилось туда, откуда он может наблюдать за мной».

Семнадцатилетний мальчик пытается примириться со смертью с помощью единственного инструмента, который у него есть: логики. Если то, что делает человека собой — его мысли, его характер, его способность думать — если это не материя, то оно не может исчезнуть вместе с телом. Оно должно продолжаться где-то.

Это был не религиозный аргумент. Это был математический.

И именно здесь, в этом письме, в этом отчаянном силлогизме семнадцатилетнего мальчика, родилась идея, которая через шесть лет изменит математику, а через девяносто лет — мир.

Если разум — это не плоть, а процесс, то его можно воспроизвести.

* * *

Кембридж принял его в 1931 году.

Королевский колледж — серые камни, реки Кем, традиции, которым несколько сотен лет. Алан вписывался в это место примерно так же, как вписывался везде: не вполне. Он забывал чашку с чаем на полдороге куда-то и потом искал её по всей комнате. Он бежал кроссы в дождь — не потому что любил страдания, а потому что во время бега думалось лучше всего. Он не чинил велосипед, когда слетала цепь: вместо этого считал обороты педалей и поправлял её в нужный момент сам — потому что зачем чинить систему, если можно её понять?

В Кембридже он читал всё подряд — математику, физику, философию. Натолкнулся на книгу Бертрана Рассела и Альфреда Уайтхеда «Principia Mathematica» — монументальную попытку вывести всю математику из логических аксиом. Книга поставила вопрос, который занимал лучшие умы эпохи: существуют ли математические утверждения, которые истинны, но недоказуемы? Можно ли в принципе создать механический метод решения любой математической задачи?

Дэвид Гильберт думал, что можно. Курт Гёдель в 1931 году доказал, что нельзя — по крайней мере, в полном смысле слова. Но оставался вопрос более конкретный: каковы пределы того, что вообще можно вычислить?

Тьюринг взял этот вопрос и унёс с собой на летние луга.

* * *

Весна 1935 года. Он бежит через поля за Кембриджем — долгая дистанция, несколько миль, дыхание ровное, ноги знают своё дело. В такие моменты голова работает иначе: поверхностный шум затихает, и остаются только настоящие вопросы.

Что значит «вычислить»?

Когда человек решает задачу — что именно он делает? Он смотрит на символы, применяет правило, записывает результат, переходит к следующему шагу. Шаг за шагом, правило за правилом. Это механический процесс. Его можно формализовать.

Тьюринг остановился посреди поля.

Он увидел машину.

Не в металле — в уме. Воображаемую машину: бесконечная лента, разбитая на ячейки. В каждой ячейке — символ. Головка читает символ, выполняет действие согласно правилу, сдвигается влево или вправо. Всё. Больше ничего. Никакой магии, никакого интеллекта — только лента, головка, правила.

Но эта примитивная машина могла вычислить всё, что вообще поддаётся вычислению.

Если задача решаема — машина её решит. Если машина не может её решить — значит, задача в принципе не имеет алгоритмического решения. Не потому что машина слабая. А потому что таких задач не существует в природе.

Он побежал обратно в Кембридж. Сел и написал.

Статья называлась «О вычислимых числах с приложением к проблеме разрешимости». Тридцать шесть страниц. Опубликована в 1936 году. Никакого шума при выходе — узкоспециальная математическая работа, интересная примерно двадцати людям в мире.

Этими двадцатью людьми были лучшие математики планеты.

Алонзо Чёрч в Принстоне независимо пришёл к похожим результатам — через лямбда-исчисление. Джон фон Нейман, прочитав Тьюринга, немедленно позвал его к себе в Принстон. Макс Ньюман, научный руководитель Тьюринга в Кембридже, сказал коллегам: этот человек только что изменил математику.

Алану было двадцать четыре года. Кристофер умер шесть лет назад. И вопрос, который родился из горя — может ли разум существовать отдельно от тела — превратился в строгую математическую теорему.

Машина Тьюринга доказывала не то, что мышление возможно без биологии. Она доказывала, что вычисление — универсальный процесс. Что любую задачу, которую может решить один алгоритм, может решить и другой — достаточно универсальный.

Включая, теоретически, задачи, которые решает человеческий мозг.

* * *

Принстон встретил его дождём и чужими разговорами.

1936–1938. Два года в Америке. Тьюринг работал у Чёрча, дописывал диссертацию, ходил на семинары фон Неймана. Фон Нейман предложил ему остаться — позиция ассистента, хорошие деньги по меркам академии, блестящее окружение.

Тьюринг отказал и вернулся в Англию.

Почему — он толком не объяснял. Может быть, не умел объяснять такие вещи. Может быть, Принстон с его помпезностью и самодовольством был слишком громким местом для человека, которому думалось лучше всего в одиночестве, на бегу, под дождём.

В Англии его ждало другое.

* * *

Сентябрь 1939 года. Германия вошла в Польшу. Британия объявила войну.

Тьюринга вызвали в Блетчли-Парк — загородное поместье в пятидесяти милях от Лондона, где Правительственная школа кодов и шифров собирала лучших математиков, лингвистов, шахматистов и составителей кроссвордов страны. Задача: взломать «Энигму».

«Энигма» — немецкая шифровальная машина — производила сто пятьдесят девять квинтильонов возможных комбинаций. Немцы меняли настройки каждые сутки. Взломать код вручную было математически невозможно: не хватило бы всех людей на земле, работающих круглосуточно.

Нужна была машина.

Тьюринг приехал в Блетчли в первые дни войны — тихий, рассеянный, в мятом пиджаке, с кружкой чая, которую постоянно забывал где попало, — и сразу сделал несколько вещей, которые потрясли коллег.

Во-первых, он отказался работать в общем зале, где криптоаналитики сидели бок о бок и обменивались идеями. Он уединился в отдельной комнате и появлялся оттуда только когда хотел — или когда его насильно выгоняли на обед.

Во-вторых, он немедленно начал строить машину.

Польские математики до войны создали устройство под названием «Бомба» — электромеханический дешифратор, способный перебирать комбинации «Энигмы». Но польская «Бомба» работала только при определённых условиях, которые немцы вскоре устранили. Тьюринг взял польскую идею, выбросил всё, что не работало, и построил новую машину — принципиально другую.

Британская «Бомба» Тьюринга не перебирала все комбинации подряд. Она искала противоречия. Исходила из предположения о том, как могло выглядеть исходное сообщение, и отсекала заведомо неверные настройки. Это был интеллектуальный инструмент — не грубая сила, а логика, воплощённая в металле и проводах.

К 1940 году машина работала. К 1941-му Блетчли читало немецкие военные сообщения быстрее, чем их успевали расшифровать немецкие офицеры.

Что это значило на практике?

Историки до сих пор спорят о цифрах. Консервативные оценки: взлом «Энигмы» сократил войну на два года. Другие называют больший срок. Черчилль называл сотрудников Блетчли «моими гусями, несущими золотые яйца, но никогда не крякающими».

Тьюринг крякал меньше других. Он просто работал.

По ночам — бегал. Несколько раз в противогазе: говорил, что у него аллергия на пыльцу. Коллеги думали, что он странный. Он был странный. И он в одиночку делал то, что не могли сделать сотни людей вместе.

* * *

Блетчли был странным местом — в хорошем смысле.

Здесь собрались люди, которые нигде больше не вписывались: эксцентричные, нестандартные, не умевшие следовать правилам. Здесь чудаковатость была не недостатком, а профессиональным требованием. Тьюринг, всю жизнь чувствовавший себя чужим, впервые оказался среди тех, кто был как он.

Здесь он познакомился с Джоан Кларк.

Джоан была блестящим криптоаналитиком — одной из немногих женщин, которых взяли в Блетчли не на вспомогательную работу, а на полноценную аналитическую. Они работали вместе, много разговаривали, вместе решали задачи. В 1941 году Тьюринг сделал ей предложение. Она согласилась.

Через несколько дней он пришёл к ней и сказал правду.

Он объяснил, что его привлекают мужчины. Что он не может обещать ей того, чего она заслуживает. Что он предложил ей руку, потому что уважает её и ценит — но это было нечестно, и он не может продолжать.

Джоан не рассердилась. Они остались друзьями. Она позже говорила, что понимала: он сказал ей правду, потому что не умел иначе. Ложь была для него физически неудобна, как неправильно надетая обувь.

Предложение было отозвано. Свадьба не состоялась. Тьюринг вернулся к своим машинам.

* * *

После войны он написал ещё одну статью.

1950 год. Журнал Mind. «Вычислительные машины и разум». Первая фраза: «Я предлагаю рассмотреть вопрос: могут ли машины мыслить?»

И сразу же — отступление. Тьюринг пишет, что сам вопрос поставлен плохо, потому что слова «машины» и «мыслить» не имеют точных определений. Поэтому он предлагает заменить его другим вопросом — более конкретным и проверяемым.

Игра в имитацию.

Три участника: человек А, человек Б, машина В. Судья задаёт вопросы и пытается определить, кто есть кто. Если машина может обмануть судью с той же частотой, что и человек, — считается, что она прошла тест.

Мир запомнил это как «тест Тьюринга». Сам Тьюринг, кажется, относился к нему прагматично: не как к философскому определению интеллекта, а как к операциональному критерию. Если поведение неотличимо — значит, для всех практических целей разницы нет.

Это был вопрос Кристофера, заданный через двадцать лет.