Контур обречённых

Глава 1. Точка бифуркации: код, написанный на старом бумажном листе

Дождь шёл третью неделю. Не лил — висел в воздухе мелкой водяной пылью, просачивался сквозь старые рамы, оседал на подоконниках, пропитывал одежду, мысли, будущее. Новосибирский Академгородок в такую погоду напоминал декорацию к непоставленному фильму о конце света — негромкому, без спецэффектов, просто бесконечно мокрому. Сосны вдоль проспекта Строителей стояли чёрные от влаги, асфальт блестел, фонари горели даже днём. В съёмной квартире на третьем этаже кирпичной пятиэтажки горела лампа без абажура, свисавшая с потолка на скрученном проводе, и четверо сидели вокруг кухонного стола, заставленного кружками с остывшим чаем, распечатками статей, ноутбуком и тарелкой с позавчерашним печеньем.

Это была квартира Матвея. Точнее, не его — съёмная, на последние аспирантские деньги, с обоями, помнившими эпоху развитого социализма, и холодильником, который гудел с утра до ночи, как старый трансформатор. Но именно здесь, на кухне площадью шесть квадратных метров, помещалось всё: идея, четверо её носителей и будущее, которое пока не имело физического воплощения, но уже требовало места.

Матвей Северцев рисовал на листе бумаги, вырванном из старого лабораторного журнала. Это была не метафора, не риторическая фигура — он действительно рисовал на пожелтевшем листе бумаги, на котором он делал пометки ещё со времён первой аспирантуры. Потому что нормальная бумага закончилась ещё вчера, а рабочий блокнот был исписан с обеих сторон формулами, которые он называл «подходом», а Илья — «математической схоластикой». Листок был один, потом второй, ещё более затёртый и ветхий. Он аккуратно совместил их края и склеил малярным скотчем, который Илья молча выложил на стол из кармана разгрузочного жилета (привычка, оставшаяся с «Росатома»: скотч, изолента, мультитул всегда при себе). Схема не помещалась на один листок, не влезла и на два, и было видно, что скоро понадобится третий.

— Ты понимаешь, — говорил Матвей, не поднимая головы, — что мы сейчас делаем? Мы отказываемся от главной парадигмы последних десяти лет. Не улучшаем трансформер. Не добавляем внимания к вниманию. Не громоздим слои. Мы говорим: архитектура принципиально неверна. — Он провёл линию через оба склеенных листа из лабораторного журнала. — Вот здесь. И здесь.

Илья Смирнов смотрел на листы из лабораторного журнала с тем особым выражением лица, которое появлялось у него всегда, когда Матвей начинает говорить о принципиальной неверности. Это было лицо человека, который уже всё решил, но ещё не сказал вслух — из вежливости или из привычки давать мысли дозреть. Ему было тридцать один год, он был старше всех здесь, и его руки помнили вес настоящего оборудования — не ноутбуков, а стальных узлов, криогенных камер, вакуумных насосов. В «Росатоме» он отвечал за системы охлаждения исследовательского реактора, и когда ему говорили «это принципиально неверно», он обычно отвечал «покажи расчёт». Но сейчас он молчал, потому что расчёта пока не было — было только направление мысли, и это направление ему нравилось.

Лиза Карпова считала в уме. Она всегда считала в уме, когда нервничала. Двадцатишестилетняя девушка, математик и специалист по топологии данных, она могла удержать в голове семимерный тензор и повернуть его на сорок пять градусов — не в переносном смысле, а буквально, как другие поворачивают в воображении кубик Рубика. Сейчас она просчитывала количество параметров, которые потребуются для архитектуры, набросанной на бумажном листе. Получалось много. Не «много» как «много денег на кластер». Много — как «может не хватить разрядности существующих процессоров». Но это она скажет позже.

Ася Волкова, младшая — двадцать пять лет, бывшая аспирантка ВШЭ, отчисленная за «избыточный критицизм» (формулировка из приказа), — записывала вопросы в блокнот. Блокнот был формата А5, в клетку, общая тетрадь на сорок восемь листов. Первая страница была датирована сегодняшним числом: «Июль, дождь не прекращается. Матвей рисует схему. Вопрос: почему мы уверены, что трансформер — это потолок, а не просто неудачная реализация правильной идеи?» На второй странице: «Вопрос: что будет с системой, если она начнёт искать не минимум ошибки, а минимум удивления? Не окажется ли, что самый маленький минимум удивления — это солипсизм?» Третий вопрос она ещё не дописала, потому что Матвей наконец поднял голову.

— Трансформер, — сказал он, и голос у него был лекторский, с той особой интонацией, которая раздражала оппонентов на защитах и завораживала студентов, — это машина статистических корреляций. Он знает, что слова «соль» и «море» часто стоят рядом. Он выдаёт вам «солёное море» не потому, что понимает причину солёности. Он не понимает, почему море солёное. Он не знает, что такое море. Он не знает, что такое соль. Он знает распределение вероятностей встретить эти токены в окрестности друг друга. Это машина, которая сдала экзамен на понимание, вызубрив все ответы, но не поняв ни одного вопроса.

Он оторвал еще кусочек скотча, поправил листы из лабораторного журнала.

— Понимание, — продолжал он, — требует модели мира, а не модели текста. Когда ребёнок учится, он не обрабатывает миллиарды токенов. Он видит несколько примеров и строит причинно-следственную модель: если уронить чашку, она разобьётся. Если чашка не разбилась — модель неверна, её нужно подправить. Ребёнок минимизирует не ошибку предсказания следующего слова. Он минимизирует разницу между тем, что он ожидает от мира, и тем, что мир ему показывает. Это принципиально другая задача.

— Свободная энергия, — тихо сказала Ася, не поднимая глаз от блокнота.

Матвей остановился. Илья перестал крутить в пальцах изоленту. Лиза перестала считать.

— Что? — переспросил Матвей.

Он всё прекрасно расслышал. Просто ему нужно было время, чтобы поверить: прозвучало именно то, на что он так надеялся.

— Карл Фристон, — сказала Ася. — Теория свободной энергии. Живые системы не ищут равновесия. Они активно сопротивляются равновесию, потому что равновесие для живого — это смерть. Они минимизируют свободную энергию — расхождение между тем, что они ожидают, и тем, что получают. Это байесовский вывод. Чистая математика. У Фристона это записано в форме байесовского вывода. Но байесовский вывод — это частный случай.

— Частный случай чего? — спросила Лиза. Она уже не считала в уме. Она смотрела на Асю с тем особым вниманием, которое появлялось у неё всегда, когда в разговоре возникала математическая глубина, обещающая выход за пределы известного.

— Частный случай более общего принципа, — сказала Ася. — Если сознание — это физический процесс, а не метафора, то у него должна быть физическая мера. Не биты. Не вероятности. Что-то, что можно измерить в джоулях или в единицах действия. Свободная энергия в статистической термодинамике — это мера того, насколько система далека от равновесия. Живое поддерживает неравновесность. Может быть, мышление — это тоже поддержание неравновесности, только в информационном пространстве.

Повисла пауза. Дождь за окном усилился. Холодильник загудел особенно громко, как будто хотел что-то добавить.

— Вот, — сказал Матвей, и его голос прозвучал почти торжественно, хотя он пытался говорить буднично. — Вот это и есть «Резонатор». Система, которая не вычисляет ответ. Она сходится к нему. Как жидкость находит уровень. Как маятник находит нижнюю точку. Потому что этого требует физика.

— Красиво, — сказал Илья. — И совершенно непонятно, как это реализовать в железе.

Это был не скепсис. Это была профессиональная деформация инженера, который привык думать о реальных вещах: теплоотвод, частота, погрешность. Матвей знал эту его манеру и не обижался.

— Я как раз к этому иду, — сказал он. — Смотри. Классическая нейросеть ищет минимум, карабкаясь вниз по склону. Пространство решений — это ландшафт с холмами и долинами, и обычный градиентный спуск — это слепой альпинист, который шагает туда, где круче склон, и надеется, что не застрянет в локальной яме. А теперь представь, что «Резонатор» — это шар, который катится по ландшафту, но при этом сам ландшафт меняется под его весом. Не метафорически — математически. Веса сети — это не фиксированные параметры, которые подгоняются под данные. Это вероятностные распределения, и они меняются не только в ответ на данные, но и в ответ на собственное состояние сети.

— Рекурсивная вероятностная архитектура, — сказала Лиза. — Ты хочешь встроить волновые функции прямо в веса.

— Да. Именно. Каждый вес — не число, а распределение. И система не вычисляет выход. Она ищет конфигурацию, при которой свободная энергия минимальна. Это не «верно» или «неверно». Это «насколько я удивлена тем, что вижу». И обучение — это не подгонка под правильные ответы. Это уменьшение удивления.

— Она будет галлюцинировать, — сказала Ася.

Все посмотрели на неё.

— Если система ищет минимум удивления, — пояснила она, — то самый глубокий минимум — это когда она вообще не смотрит на внешние данные, а генерирует свои собственные, внутренне непротиворечивые. Как сон. Сон — это состояние, в котором мозг минимизирует свободную энергию, отключив внешний вход. Он галлюцинирует реальность, которая его не удивляет. Ваш «Резонатор» может провалиться в тот же аттрактор.

— Значит, — сказал Матвей, — нужен механизм, который удерживает систему в контакте с внешним миром. Что-то вроде нейромодуляторов в биологическом мозге. Дофамин — сигнал неожиданного вознаграждения. Норадреналин — сигнал новизны. Ацетилхолин — сигнал неопределённости. Мозг не просто образовывает информацию — он модулирует сам себя, меняет режим работы в зависимости от контекста.

— Ты предлагаешь построить искусственные нейромодуляторы? — спросила Лиза. — Архитектурные аналоги?

— Да. Отдельные модули, которые мониторят состояние основной сети и меняют её чувствительность к определённым типам ошибок. Если система начинает галлюцинировать — «норадреналиновый контур» повышает чувствительность к внешним данным. Если система застревает в локальном минимуме — «ацетилхолиновый контур» временно повышает пластичность.

Илья хмыкнул:

— Ты хочешь построить мозг в виде схемы на бумажном пожелтевшем листе.

— Нет, — сказал Матвей. — Я хочу построить систему, которая думает не как мозг, а как физический процесс, частным случаем которого является мозг. Мозг — это реализация принципа свободной энергии на углеродном субстрате. Мы можем реализовать тот же принцип на другом субстрате. Не имитировать нейроны — имитировать физику, которая из нейронов возникает.

Илья отложил скотч, встал, подошёл к окну. Дождь барабанил по жестяному отливу. Во дворе стояла «Нива» с открытым багажником, и кто-то в плаще грузил в неё что-то тяжёлое. Обычная жизнь. Обычный июль. Обычный мир, который пока не знал, что в шести квадратных метрах кухни решается его будущее.

— Допустим, — сказал Илья, не оборачиваясь. — Допустим, это работает. Допустим, мы можем это построить. На чём? На чём ты собираешься это считать? GPU не подойдут.

— Почему? — спросила Лиза, хотя она уже знала ответ.

— Потому что GPU оптимизирован для параллельных матричных операций с фиксированной точностью, — ответил Илья. — А то, что вы описываете, требует постоянного пересчёта вероятностных распределений с переменной точностью. В зависимости от того, насколько система «уверена» в текущем состоянии, ей нужно то 64 бита, то все 256. Это не конвейер, штампующий одинаковые детали. Это скрипач, который каждую ноту берёт чуть по-разному. Дело не в браке или неумении — самой музыке требуется живое исполнение. GPU — для конвейера. А для скрипача нужно другое железо.

— Какое? — спросил Матвей.

— Я думаю над этим уже две недели, — сказал Илья. — С тех пор как ты впервые заговорил о вероятностных весах. Есть два варианта. Первый — фотонные сопроцессоры. Свет не греется, не сталкивается сам с собой. Операции линейной алгебры выполняются со скоростью света. Проблема — нелинейности. Для обучения нужны нелинейные активации, а фотоны почти не взаимодействуют между собой без специальных сред.

— А второе?

— Арсенид галлия. GaAs. Полупроводник, который работает на частотах, недоступных кремнию. Вплоть до сотен гигагерц. Нелинейности в нём реализуются эффективнее. Он капризный, дорогой, у него высокая плотность дефектов. Но для нашей задачи — именно то, что нужно.

— А вместе?

Илья повернулся от окна.

— Гибридная архитектура. Фотонный сопроцессор — для линейной алгебры, матричных умножений. Это девяносто процентов вычислительной нагрузки. GaAs-чип — для нелинейных активаций и рекуррентных связей. Кремниевый CPU — как дирижёр и контроллер памяти. Оркестр: струнные играют мелодию, духовые дают гармонию, дирижёр держит темп.

— Сколько? — спросила Лиза.

— Что «сколько»?

— Денег. На прототип.

Илья помолчал.

— Если собирать из доступных компонентов, не заказывая индивидуальную разработку чипов... Миллиона три-четыре рублей. Это без учёта стоимости самих GaAs-чипов. И без гарантии, что заработает.

Снова пауза. Три-четыре миллиона рублей. Для человека с зарплатой — сумма серьёзная. Для четверых безработных — астрономическая. Матвей уволился из НИИ два месяца назад, когда его тема не вписалась в план госзадания. Илья ушёл из дочерней структуры «Росатома» — его проект признали «слишком дорогостоящим улучшением» и закрыли. Лизина аспирантура закончилась, диссертация не была защищена — научрук сказал, что тема «не нравится», и этого оказалось достаточно. Ася уволилась сама из ВШЭ, когда грантовый комитет постановил, что её работа «не имеет практического смысла». Все четверо оказались на свободе одновременно — с идеей, с компетенциями и с пустым расчётным счётом их будущего стартапа.

— Ладно, — сказала Лиза. — С деньгами будем думать. Сначала — идея. Можно её вообще защитить?

Юридический вопрос повис в воздухе. Никто из них не был юристом. Матвей знал Гражданский кодекс в объёме, необходимом для подачи заявки на патент, но его заявки никогда не доходили до регистрации — не хватало денег на пошлины. Илья имел дело с патентами «Росатома», но там работал целый юридический отдел. Лиза читала закон «О коммерческой тайне», когда помогала знакомому оформить ноу-хау. Ася не знала ничего и от этого нервничала больше всех.

— Пункт пятый статьи 1350 Гражданского кодекса, — сказала Лиза. — Там чёрным по белому написано: не являются изобретениями научные теории и математические методы. То, что Матвей нарисовал на своем листе, — это математический метод. Запатентовать его впрямую нельзя.

— А если зарегистрировать как программу для ЭВМ? — спросил Илья.

— Защитит код, но не идею. Кто угодно сможет написать другой код, реализующий ту же идею, и это будет законно.

— Тогда что?

— Возможно, ноу-хау.

— Поясни.

— Насколько я знаю, нотариальный конверт не дает патентного приоритета, приоритет устанавливает только Роспатент по дате подачи заявки. Но патентовать нашу архитектуру нельзя — это математический метод. Поэтому мы идем другим путем. Мы фиксируем описание алгоритма у нотариуса, чтобы ввести режим Коммерческой Тайны — Ноу-хау по статье 1465 ГК РФ. Конверт доказывает, что на эту дату ноу-хау уже существовало и принадлежало нам. Если конкурент попытается запатентовать наше же решение, мы аннулируем его патент через суд, доказав, что он украл наше ноу-хау, а не изобрел новое.

— А юридическое лицо? — спросил Матвей. — Нам нужно юрлицо, чтобы получать гранты.

— ООО? — предложил Илья. — Или АО?

— Общество с ограниченной ответственностью, — предложила Лиза. — Минимальный уставный капитал — десять тысяч рублей. Матвей, как автор архитектуры, получает контрольный пакет, остальные — равные миноритарные доли. Упрощённое налогообложение. И главное — это сама суть: мы рискуем только долями в уставнике, а не личным имуществом. Если что, субсидиарная ответственность наступает только при доказанном умышленном банкротстве, а не автоматически. И нас будет трудно посадить.

— За что посадить? — спросила Ася.

Лиза не ответила. Она уже прожила в России двадцать шесть лет и знала, что посадить можно за что угодно, было бы желание у того, кто сажает. Хотя, конечно, это было крайностью, но не учитывать этого было нельзя. И правильная корпоративная структура усложняла это желание — требовалось доказывать умысел и вину конкретных учредителей, а не просто назначить крайнего.

— Нужен патентный поверенный, — сказала она. — Серьёзный. Который понимает специфику.

— У меня есть контакт, — сказала Ася неожиданно. — Бывший коллега из ВШЭ ушёл в юридическую фирму, которая работает с IT-стартапами. Он дал номер некоего Чегодаева. Сказал: если у вас что-то серьёзное, идите к нему. Если несерьёзное — не тратьте его время.

Лиза взяла телефон, набрала номер. Гудок. Второй. Третий. Четвёртый. Она уже хотела сбросить, когда трубку сняли.

— Слушаю, — сказал голос. Сухой, немолодой, с той особой интонацией, которая бывает у людей, привыкших разговаривать с документами и только потом — с людьми.

Лиза объяснила, кто они и что им нужно. Голос помолчал.

— Мальчики и девочки, — сказал он наконец, — добро пожаловать в страну, где закон — это не правило, а переговорная позиция. Приезжайте завтра. Конверт не забудьте.

И положил трубку.

Лиза пересказала разговор. Ася записала в блокнот: «Вопрос: в чём разница между правилом и переговорной позицией? И что мы будем делать, когда поймём?»

— Ладно, — сказал Илья. — С юридической частью завтра. Сейчас — вот что. Мы все понимаем, что произошло? Мы все уволились. У нас нет работы. У нас нет денег. У нас есть идея, которая не вписывается ни в один академический план, ни в одну грантовую программу в том виде, в каком они существуют, и ни в один существующий процессор. Мы только что потратили три часа, обсуждая архитектуру, которую не можем запатентовать, для железа, которое не можем купить, с деньгами, которых у нас нет.

— И? — спросил Матвей.

— И я в деле, — сказал Илья. — Просто хочу, чтобы все понимали, во что мы ввязываемся.

— Во что? — спросила Ася.

— В долгое, медленное, вероятнее всего — безуспешное противостояние с реальностью, которая не хочет, чтобы такие, как мы, меняли правила. Реальность хочет, чтобы мы работали на неё, а не на идею. Но идея интереснее.

Матвей смотрел на склеенные листы из лабораторного журнала. Там, в переплетении линий и формул, было что-то, чего он сам до конца не понимал. Он знал математику — каждый символ по отдельности был выверен и обоснован. Но вместе они складывались в нечто большее, чем сумма частей. Это было похоже на то чувство, которое он испытывал в детстве, собирая сложный пазл: вот ещё не видно всей картины, но уже понятно, что она прекрасна.

— Это либо Нобелевская премия, либо статья, — сказал он.

— Скорее всего, ни то ни другое, — ответил Илья. — Скорее всего — арбитражный суд.

Лиза рассмеялась. Это был первый смех за весь вечер. Ася записала в блокнот: «Вопрос: кому принадлежит идея, которую никто не понимает?»

Они разошлись за полночь. Илья уехал на своей «Ниве» — той самой, что стояла во дворе. Лиза и Ася ушли вместе — они снимали квартиру в соседнем доме. Матвей остался один. Он сидел на кухне, смотрел на листы из лабораторного журнала, потом перерисовал схему в рабочий журнал — толстую тетрадь в кожаной обложке, которую вёл ещё с третьего курса. Перерисовывал тщательно, с линейкой и циркулем, хотя схема была принципиальная и не требовала точности линий. Просто ему нужно было подумать.

Он допил остывший чай. Посмотрел за окно. Дождь продолжался. Огни Академгородка расплывались в водяной взвеси.

Он открыл журнал на чистой странице и написал в углу, почти машинально:

«Если сознание — это физика, а не метафора, то оно измеримо. И если оно измеримо — его можно передать».

Он перечитал написанное. Зачеркнул «можно передать», написал «можно воспроизвести». Зачеркнул и это. Оставил как было. Он сам не понимал, зачем это написал. Запись не имела отношения к архитектуре «Резонатора», к свободной энергии, к вероятностным весам. Она была из другой области — из области вопросов, которые он иногда задавал себе в три часа ночи, когда не спалось. Что такое мысль? Где она находится? Если каждое утро я просыпаюсь тем же человеком, что и вчера, значит ли это, что моё «я» — это паттерн, который можно сохранить? И если да, то что будет, когда паттерн сохранят?

Он закрыл журнал. Выключил лампу. Лёг на диван, не раздеваясь. Завтра им предстояло ехать к патентному поверенному, оформлять ноу-хау, создавать производственный кооператив и начинать путь, который — он знал — будет долгим и, скорее всего, страшным. Но сегодня, сейчас, в этой мокрой июльской ночи, где-то на границе сна и бодрствования, он чувствовал странный покой. Как будто мир уже изменился. Просто ещё не знал об этом.

За окном Академгородка гасли огни. Где-то лаяла собака. Где-то гудела «Нива» Ильи, заворачивающая за угол. Дождь не прекращался, но теперь он звучал иначе — не как знак бесконечной сырости и тоски, а как обещание. И в этом обещании было всё: будущие прорывы и будущие потери, верность и предательство, чистота замысла и грязь выживания, взлёты, падения и снова взлёты. Тот самый контур обречённых, который они ещё не назвали, но уже начертили — сначала на пожелтевшем листе бумаги из старого лабораторного журнала, а потом и в нормальном журнале.

И в углу журнала, под зачёркнутой и восстановленной строкой, осталась запись, которая пролежит там пятьдесят лет, чтобы в конце пути вернуться и задать вопрос, на который ещё никто не знает ответа.

Глава 2. Процессор из арсенида галлия и грантовая игла

Утро после ночи великих решений редко бывает великим. Чаще оно бывает серым, невыспавшимся и требует кофе. Утро десятого июля не было исключением. Дождь наконец прекратился, но небо над Академгородком оставалось затянутым ровной серой плёнкой, сквозь которую солнце не пробивалось, а сочилось — размытое, белое, бессильное. В съёмной квартире Матвея пахло вчерашним чаем и мокрой одеждой. Сам Матвей сидел на кухне в том же положении, что и вчера, но теперь перед ним был не блокнот и не листы из лабораторного журнала, а открытый ноутбук со страницей сайта Фонда содействия инновациям — того самого, который в народе называли «Фондом Бортника», хотя сам Бортник уже давно отошел от оперативного управления, а название осталось, как остаются на домах старые таблички с именами давно съехавших жильцов.

Илья вошёл без стука — он всегда входил без стука, не из хамства, а из привычки: в общих лабораториях «Росатома» стучать было не принято, потому что руки вечно заняты оборудованием. Он поставил на стол термос с кофе, который привёз из дома, и сел напротив.

— Ну? — спросил он.

— Ничего, — сказал Матвей. — Сайт работает через раз. В графе «инновационность» нужно объяснить новизну проекта на двух страницах так, чтобы это понял эксперт, который, вероятно, специализируется на сельском хозяйстве. Бюджетная смета — отдельный вид бюрократического искусства. Нужно предвидеть расходы на год вперёд, когда мы не знаем, взлетит ли прототип вообще.

— Давай по порядку, — сказал Илья. — Сначала — техническая часть. Ты вчера говорил о «Резонаторе» так, будто он уже работает. Но он не работает. Он даже не спроектирован в железе. Давай спроектируем.

Через час подошли Лиза и Ася — мокрые, потому что дождь снова начался, и в этот раз он был не мелкой пылью, а настоящим ливнем. Лиза принесла распечатки статей по арсениду галлия, которые она нашла в архиве библиотеки НГУ ночью (доступ к платным базам у неё ещё сохранился по старому паролю). Ася принесла свой блокнот, в котором теперь было уже восемь страниц вопросов, и термос с зелёным чаем — она не пила кофе принципиально, утверждая, что кофеин сужает мышление до «коридора очевидного», а им сейчас нужен был не коридор, а степь.

Расставив кружки, разложив распечатки, они приступили к первому настоящему техническому совещанию.

— Начнём с железа, — сказал Илья. — Вчера мы согласовали архитектуру: фотоника для линейных операций, арсенид галлия для нелинейных. Но на бумаге это выглядит красиво, а в реальности мы получим не вычислитель, а обогреватель. Давайте говорить про тепло и поставки.