Mick Prod — Cognitive OS. Книга о памяти, длительности и рождении личных ИИ-систем
- -
- 100%
- +
В обратную сторону движение было не менее важным. Владимир открыл мне учение о Будде. Не в поверхностном, сувенирном смысле, который сегодня часто продают под видом «восточной мудрости». И не как набор утешительных цитат. Это стало школой другого отношения к внутренней работе: внимания, дисциплины в обращении с собственным умом, способности держать мысль дольше, чем ей удобно.
Позже, когда я строил агентные системы, это повлияло на меня сильнее, чем казалось в моменте. Инженер любит думать, что технологии рождаются из чистой рациональности. Это не так. Они рождаются ещё и из того, как человек умеет удерживать в себе мысль, не бросая её раньше времени.
Если попытаться сжать нашу дружбу в одну формулу, получится что-то вроде этого: я однажды дал Владимиру инструмент, через который развернулась его профессиональная траектория, а Владимир однажды дал мне внутренний язык, без которого мои собственные идеи так и остались бы техническими заготовками.
Сейчас я вижу в этом не красивую симметрию, а более важную вещь. Настоящее совместное мышление почти всегда взаимно меняет участников на разных уровнях. Один приносит способ действовать. Другой приносит способ видеть. Один дает операционную среду. Другой дает внутреннюю оптику. Именно так дружба со временем начинает производить не только воспоминания, но и технологии.
Mick Prod начался задолго до первого файла в репозитории. Он начался в тот момент, когда между нами сложился тип разговора, в котором идеи не просто произносились, а выращивались. Когда мысль не заканчивалась в день ее появления. Когда можно было вернуться к ней через месяц, через год, через несколько жизненных фаз, и она не казалась чужой. Это очень важно для понимания всей книги: непрерывность сначала возникла не в коде. Она возникла в человеческом отношении к смыслу.
По этой причине я не могу смотреть на агентную индустрию только глазами разработчика. С самого начала в ней был виден человеческий дефицит. Почти все текущие системы слишком легко начинают заново. Они слишком быстро забывают цену уже пройденного. Они слишком механически относятся к незавершенности. Человек в такой системе каждый раз вынужден заново вносить себя в машину. Заново объяснять, кто он, чего хочет, что для него важно, где он уже ошибался, что сейчас болит, что осталось открытым.
Технически это терпимо, но экзистенциально это бедная конструкция. Если мы всерьёз говорим о будущем персональных агентов, нужно признать простую вещь: главная усталость наступает не от сложности интерфейса. Она наступает от необходимости снова и снова восстанавливать себя перед системой, которая каждый раз делает вид, будто видит тебя впервые.
И чем сильнее модель в моменте, тем заметнее это внутреннее унижение. Умный собеседник, который каждое утро полностью забывает, кто ты такой, рано или поздно перестаёт казаться умным. Он начинает казаться странно пустым.
Это одна из самых недооценённых драм современной ИИ-среды. Мы слишком долго обсуждали качество ответа, почти не обсуждая цену повторного входа в собственную мысль. Между тем именно она чаще всего и определяет, станет ли технология частью жизни или останется дорогим эпизодическим фокусом.
Если каждый серьёзный разговор приходится начинать с восстановления собственной биографии перед машиной, человек довольно быстро начинает экономить не время, а самого себя. Он реже возвращается к сложным вопросам, реже поднимает длинные линии, чаще удовлетворяется локальным удобством. Амнезия системы незаметно производит амнезию усилия.
Наверное, именно здесь и родился мой более поздний интерес к движкам непрерывности как к внешним когнитивным органам. Не потому, что мне хотелось добавить технологии еще один красивый ярлык. А потому, что я увидел в этой теме почти прямой ответ на очень земную человеческую проблему: как сделать так, чтобы рядом с сильной машиной человек не уставал от необходимости бесконечно собирать себя заново.
Это и есть та точка, в которой для меня встретились личная история и техническое будущее. Уход из прежней среды, жизнь в городе, где темп пришлось собирать заново, знакомство с Владимиром, работа на кухне, первые разговоры о памяти и длительности, усталость от систем, которые каждый раз начинают с нуля, и собственный опыт построения многоагентных контуров без настоящей биографии. Все эти линии долго шли рядом.
Потом они сошлись в один вопрос. Не как сделать ИИ ещё эффектнее. А как построить такую среду, рядом с которой человеку станет легче удерживать свою собственную длинную форму.
Это особенно ясно видно в длинных интеллектуальных работах. Короткая задача легко прощает амнезию. Можно открыть окно, получить ответ, закрыть его и жить дальше. Но книга, исследование, продукт, внутренний разворот, сложное решение в жизни или в работе так не устроены. Они требуют возвращения.
Возвращения не только к фактам, но и к интонации, к незавершённому ходу мысли, к старому сомнению, к прежнему сопротивлению, к месту, где вопрос однажды уже упирался в стену. Когда система этого не помнит, человек каждый раз платит двойную цену: сначала за саму сложность, а потом за восстановление утраченной непрерывности. Именно в этот второй платёж и уходит огромная часть живой энергии.
Я довольно рано почувствовал, что именно здесь обычный язык эффективности перестаёт что-либо объяснять. Безвременная система может быть эффективной локально и разрушительной на длинной дистанции. Она ускоряет отдельный ответ, но делает дороже саму жизнь между ответами. Она помогает закрыть задачу, но не умеет поддержать долгую форму вопроса.
Поэтому меня со временем всё меньше интересовал разговор о том, насколько ИИ «умнее» человека в отдельных режимах. Меня всё больше интересовал другой вопрос: помогает ли эта среда человеку удерживать собственную линию без унизительного распада на множество заново собираемых версий себя. В сущности, именно отсюда и выросла вся поздняя архитектура Mick Prod.
Вероятно, именно это так долго и не давало мне покоя в собственных многоагентных сборках. Они работали. Они приносили результат. Они умели разбирать задачу на роли, смотреть на бизнес как на живую систему, строить контентные и аналитические связки, реагировать на KPI, на рыночные сдвиги, на поведение аудитории. Но в них не было внутренней биографии. Не было памяти во времени. А без этого даже хороший интеллектуальный ансамбль остается бездомным.
Позже, читая и обсуждая идеи Владимира, я увидел это с предельной ясностью. То, что казалось «еще одной опцией», оказалось базовым онтологическим слоем. Память во времени не украшает агента. Она делает его агентом в полном смысле слова.
Екатеринбург оказался местом, где несколько линий впервые сложились в одну: инженерная дисциплина, жизненный разрыв, дружба, внутренняя работа и технология, у которой тогда ещё не было имени. Снаружи это выглядело как обычная смена среды. Изнутри это было накопление траектории.
Позже YAR дал ясное имя тому, что уже зрело в этих разговорах: непрерывность агента как первичный объект системы. Mick Prod стал для меня следующим шагом уже в другом регистре: не интуиция о времени, а попытка дать времени архитектуру.
Переезд был важен не романтикой нового города, а тем, что он быстро обнажил предел привычки. В незнакомой среде сразу видно, что в человеке держится на глубине, а что поддерживалось только инерцией окружения. Именно в таком состоянии яснее всего проявляется недостаток любой системы, которая полезна лишь в ровной полосе. Она хорошо обслуживает норму и плохо переживает поворот.
Из этого опыта для меня выросло одно простое требование. Подлинная непрерывность не равна неподвижности. Она не обязана сохранять вчерашнюю форму любой ценой. Её задача в другом: помочь пережить смену ритма, среды и нагрузки без утраты внутренней линии. Хорошая система не охраняет человека от перемены. Она снижает цену возвращения после перемены.
Когда позже я строил агентные контуры, именно это и стало одним из главных критериев. Если система годится только для стабильной недели, она ещё слишком молода для реальной жизни. Мне нужна была среда, которая выдерживает поворот без ложной паники и не требует от человека после каждого разрыва заново доказывать собственную историю.
Глава 3. Кухня как первая лаборатория совместимости
Кухня научила меня тому, что я позже слишком долго пытался выразить языком агентной инженерии: сложная система рушится не тогда, когда у неё нет способностей, а тогда, когда у неё слишком дорогая передача состояния. Посетитель видит тарелку. Работник видит другое: узкие роли, жёсткое время, постоянный риск каскадной ошибки и полную зависимость от общего ритма.
Там очень быстро исчезают красивые заблуждения про силу отдельных исполнителей. Один может отлично держать мясо, другой холодный цех, третий выдачу, но кухня оценивается не по локальному блеску. Она оценивается по тому, насколько один человек может стать продолжением усилия другого без долгого старта с нуля. Именно это позже станет для меня рабочим определением совместимости.
Самые резкие споры на кухне были не о философии и не о вкусе вообще. Они были о том, как правильно жарить мясо. Со стороны это выглядит как профессиональная мелочь. На деле там уже содержится вся будущая проблема локальной оптимизации. Один повар думает о температуре и корочке. Другой о скорости линии. Третий о том, как блюдо дойдёт до гостя через две минуты, а не в идеальном одиночестве на сковороде. Если каждый оптимизирует только свой участок, общий результат разваливается. Тогда я ещё не знал слов global contradiction или Tension Map, но саму логику уже видел руками: локально правильное действие может быть системно ошибочным.
Кухня вообще быстро учит недоверию к изолированному совершенству. Там бесполезно быть блестящим одиночкой, если после тебя линия замедляется. Бесполезно делать идеально свой кусок работы, если следующий человек вынужден заново угадывать, в каком состоянии ты оставил общий процесс. Позже я увидел то же самое в многоагентных схемах: много сильных ролей ещё не дают системы. Если у них нет общего времени, они лишь аккуратно мешают друг другу.
Есть вещи, которые кухня объясняет лучше любой теории. Например, цену молчаливого контекста. В хорошую смену большая часть передачи происходит коротко: взгляд, жест, одно слово, интонация. Это не магия взаимопонимания. Это накопленная история общей работы. Когда она есть, система не тратит силы на постоянное разъяснение себя самой. Когда её нет, даже сильные люди начинают вязнуть в повторных пояснениях. Уже тогда я, сам того не формулируя, начал уважать именно такую форму длительности: не бесконечную болтовню о состоянии, а способность держать состояние так, чтобы оно было продолжимо.
Поэтому мне так запомнился день, когда внизу, в парфюмерном магазине, уронили тележку с духами, а вытяжка затянула этот запах на кухню. Пространство осталось прежним, но на несколько минут стало чужим. Жар, жир, металл, хлеб и огонь вдруг оказались внутри совсем другой среды. Это была почти физическая модель вторжения инородного сигнала в рабочий контур.
В норме кухня живёт своим ритмом. Но стоит в неё ворваться сильному внешнему воздействию, и сразу видно, есть ли у среды собственная форма или она держится только на привычке. Позже я много раз видел то же самое уже в технологической работе: рынок, мода, срочность, чужой темп, внезапная внешняя повестка. Слабая система мгновенно перенимает внешний ритм и теряет себя. Сильная пропускает его через собственный порядок.
Напротив окон висела вывеска Alloggio. Тогда это было просто чужое слово, не более. Мы с Владимиром не знали, что спустя годы Италия станет частью его реальной биографии. Превращать тот эпизод в дешёвое пророчество не хочется. Для книги важнее другое. Некоторые детали сначала ничего не объясняют, но потом оказываются несущими. Не в момент появления, а позже. Для памяти это принципиально. Если система хранит только то, что уже признано важным, она пропускает значительную часть реальной жизни. Значимость часто дозревает задним числом.
Вот здесь кухня перестаёт быть красивой предысторией и становится ранней архитектурной школой. Я увидел там сразу три вещи. Во-первых, узкая специализация бесполезна без общего состояния. Во-вторых, передача контура важнее полного перечисления фактов. В-третьих, среда должна выдерживать вторжение чужого сигнала, не теряя собственной линии. Всё это позднее вернётся в Mick Prod уже в другом словаре: память, передача контура, наблюдаемость, открытые петли, цена повторного входа.
Если сказать совсем коротко, кухня научила меня одной жёсткой вещи. Система хороша не тогда, когда она умеет блеснуть. Система хороша тогда, когда после короткой паузы, чужого вмешательства и смены руки работа всё ещё может быть продолжена без унижения и без распада смысла.
Глава 4. Обмен судьбами
У длинной дружбы есть технически важное свойство, о котором редко говорят прямо: она учит возвращению без неловкого старта с нуля. Именно это и было самым ценным в моём многолетнем разговоре с Владимиром. Мы могли надолго разойтись по делам, городам и ритмам, а потом вернуться не к теме вообще, а к незавершённому мышлению внутри неё.
Я хорошо помню наши долгие дороги домой после смены. Мы шли через железнодорожный мост, вокруг шумел город, в наушниках часто звучали песни Jared Leto, а разговор при этом легко уходил к вещам планетарного масштаба. Важно здесь не романтизировать маршрут. Важен сам режим разговора. Мы не обменивались остроумными репликами и не соревновались в новизне. Мы учились не бросать линию после первого удачного хода. Возвращались к ней. Проверяли. Меняли формулировку. Дотягивали.
Позже я понял, что именно такой разговор и является человеческим прообразом того, что мне потом понадобится от личного агента. Не мгновенный умный ответ, а способность войти обратно в незавершённый контур без унижения для памяти и без потери веса уже сделанного. Не эффект присутствия в моменте, а продолжимость мысли через паузу.
История с MacBook и история с буддийской линией действительно важны, но не как бытовые украшения. Они показывают, что между нами шёл не обмен мнениями, а обмен способностями. Я однажды подтолкнул Владимира к среде, через которую можно было собрать новую профессиональную траекторию. Он однажды дал мне другой тип дисциплины: не относиться к идее как к одноразовой комбинации инструментов, а возвращаться к ней до тех пор, пока она не станет чище и честнее. Для Mick Prod это не сентиментальная подробность. Это часть происхождения его внутреннего тона.
Расстояние только усилило этот эффект. Когда люди рядом, связь часто держится на доступности. Когда между ними годы, переезды и разные жизненные контуры, остаётся только внутренний вес разговора. Длинная дружба через расстояние и полезна этой книге именно тем, что убирает всё лишнее и оставляет главный вопрос: может ли линия пережить разрежение? Если после паузы всё нужно собирать заново, значит, никакой зрелой непрерывности ещё не было.
Эта проверка потом почти без перевода легла в мои требования к системе. Мне не нужен агент, который хорош лишь в плотном, почти ежедневном общении. Мне нужен агент, способный выдержать другую жизнь: усталость, занятость, выпадение из режима, чужие срочности, молчание, возвращение после срыва. Хорошая система не наказывает человека за паузу. Она умеет дождаться возвращения и помочь продолжить с того места, где действительно осталась несущая проблема.
Здесь и становится понятнее, почему YAR оказался для меня не просто важным текстом, а разворотом оптики. Главная заслуга Владимира не в том, что он красиво поговорил о памяти. Он увидел непрерывность агента как первичный объект системы, а не как побочный эффект удачно склеенных сессий. Это и есть то различение, которое нельзя было больше отложить.
Здесь стоит проговорить это спокойно, без лишнего разгона. YAR не исчерпывает тему и не отменяет необходимости дальнейшей инженерной работы. Но он сделал главное: сместил центр тяжести. После такого сдвига вопрос звучит уже не так: «как заставить агента помнить больше?» Правильный вопрос другой: «что должно сохраняться между циклами, чтобы у системы вообще было собственное время?»
На этом фоне и стала яснее ограниченность моих прежних схем. Я строил ансамбли из узких ролей, спорящих друг с другом, подстраивал маршрутизацию, логику критики, тактические и аналитические контуры, следил за рынком, KPI и контентом. Всё это могло быть полезным. Но у системы не появлялось того, что действительно меняет качество длинной работы: общей судьбы различений, памяти о цене прошлых ошибок и права продолжать мысль не как новую задачу, а как уже прожитую линию.
Именно здесь Mick Prod начал складываться как ответ. Не как возражение YAR, а как следующий шаг в том же направлении. Если YAR сделал видимой непрерывность как условие существования агента во времени, мне стало важно понять, что происходит, когда это условие оформляется уже не как сильная интуиция, а как архитектура: с состоянием, передачей контура, картой напряжений, ограничителями вмешательства, историей гипотез и правом человека проверять, что о нём удерживается системой.
Поэтому линия Владимира нужна книге в точной дозе. Не как легенда проекта и не как повод для благодарственного ритуала, а как равновесная преемственность. Без YAR не было бы ясного поворота к времени. Без последующего инженерного ответа не было бы Mick Prod. Для меня этого достаточно.
На этом предыстория должна закончиться. Дальше начинается уже не рассказ о дружбе как таковой, а разбор архитектурного дефекта, который долго считался допустимой нормой. Большинство агентных систем умеют быть полезными в моменте, но не умеют жить во времени. Именно с этой точки и начинается настоящая проблема книги.
Глава 5. Большой взрыв каждого запроса
Если отбросить весь блеск нынешнего рынка ИИ и оставить только сухую инженерную схему, обычная языковая модель устроена довольно просто. На вход она получает текст. На выходе выдает следующий текст. Между этими двумя точками происходит вычисление, достаточно сложное, чтобы производить впечатление почти безграничной интеллектуальной гибкости. Но сама природа процесса при этом остается короткой. Есть запрос. Есть локальный мир, собранный вокруг этого запроса. Есть ответ. Дальше мир исчезает. Это не метафора ради красоты, а достаточно точное описание.
Каждый новый запрос к системе без собственной памяти действительно похож на малую космологию. Возникает локальная вселенная контекста. Некоторое время она живет. В ней есть прошлое в форме переданных токенов, настоящее в форме вычисления и будущее в форме продолжающегося ответа. Потом окно закрывается. Локальная вселенная перестает существовать. Следующий запрос рождает новую. Между ними может быть тематическая близость, может быть похожий тон, может быть даже внешняя иллюзия продолжения. Но если система не имеет отдельного слоя памяти и непрерывности, вся эта похожесть носит вторичный характер. На уровне устройства перед нами уже другой мир.
Когда Владимир в YAR сформулировал идею агента, существующего во времени, он сделал важный шаг не только интуитивно, но и логически. Он показал, что проблема современных моделей заключается не в недостатке знания. Знания у них как раз слишком много. Проблема в том, что знание нельзя путать с памятью.
Это различие нужно зафиксировать максимально чётко. Знание в применении к языковой модели означает способность оперировать огромным статистически усвоенным массивом текстовых закономерностей. Модель может объяснить, что такое квантовая запутанность, написать SQL-запрос, перевести фразу, предложить структуру статьи, сгенерировать рабочий черновик кода. Всё это относится к слою знания.
Память означает другое. Это не то, что модель «вообще умеет знать». Это то, что сохраняется после окончания конкретного акта взаимодействия и меняет следующий акт не случайно, а по причине накопленной истории. Память всегда биографична, даже если речь идёт не о человеке, а о системе. У памяти есть давность, вес и цена отбора; иначе она остаётся лишь ещё одной формой складирования текста.
Контекстное окно часто принимают за память именно потому, что внутри одной сессии оно может производить похожее впечатление. Пока окно открыто, модель действительно способна удерживать сказанное раньше, возвращаться к старым деталям, строить цепочки аргументации, поддерживать линию разговора, ссылаться на предшествующие формулировки. Чем больше окно, тем убедительнее эта иллюзия. Когда окно становится очень большим, соблазн назвать его памятью только усиливается.
И всё же на уровне архитектуры это ошибка. Контекстное окно не переживает конец сессии. Оно не обладает собственной жизнью между запросами. Оно не различает существенное и случайное само по себе. Оно не умеет сказать: это нужно нести дальше, а это можно оставить в прошлом. Оно не умеет формировать историю значимости и не знает цены уже пройденного тупика. Оно просто держит перед собой переданный текст, пока этот текст находится в пределах текущего вычислительного акта.
Для множества задач такая схема удобна, и впадать здесь в ложную драму не стоит. Архитектура без собственной памяти не является «ошибкой» в универсальном смысле. Для огромного класса применений она рациональна. Если мне нужно перевести абзац, объяснить термин, переписать письмо, составить SQL-запрос, набросать структуру документа, то отсутствие долговременной памяти не только не мешает, но иногда и полезно.
Каждая новая задача приходит без лишнего груза. Нет накопленных искажений. Нет старых контекстов, которые могли бы случайно вмешаться. Нет необходимости платить вычислением, хранением и вниманием за глубокую непрерывность там, где она не создаёт дополнительной ценности.
Это уточнение кажется мне принципиальным, потому что критик книги будет вправе спросить: не пытаюсь ли я объявить неполноценным весь класс систем, который на практике уже принес миллионам людей реальную пользу? Нет. Я спорю не с полезностью такого беспамятного подхода как такового. Я спорю с его претензией стать окончательной формой личного агента для длинной человеческой работы. В границах короткой задачи помощник без собственной памяти может быть именно тем, что нужно. В границах длительного мышления его силы начинают становиться его же пределом.
Этим и объясняется спокойствие, с которым индустрия так долго смотрела на эту особенность. Большая часть раннего рынка больших языковых моделей действительно состояла из задач, где локальный интеллект был важнее длительности: письмо, краткое изложение, переписывание текста, поиск, подсказка, код в рамках одной операции. Здесь отсутствие собственной памяти выглядело не дефектом, а нормой.
Более того, оно было экономически разумным. Не нужно было нести историю пользователя через каждый вызов. Не нужно было хранить, взвешивать и обновлять личный контекст. Не нужно было строить отдельную архитектуру памяти. Не нужно было платить за непрерывность, которая в этих сценариях почти ничего не добавляла.
Проблема началась в тот момент, когда на ту же беспамятную основу стали проецировать другой класс ожиданий: ожиданий спутника, ожиданий агента, ожиданий цифрового партнера мышления, ожиданий системы, которая должна не просто отвечать, а продолжать человека сквозь время. С этого момента привычная архитектурная экономия начала превращаться в фундаментальное ограничение.
Представим себе библиотекаря, который помнит все до последней детали, пока вы стоите перед его столом. Он удерживает тон, нюансы, случайные оговорки, понимает ваши ассоциации, замечает подтекст, может быстро находить связи между разными фрагментами разговора. Но как только вы выходите за дверь, он полностью забывает ваше существование. На следующий день вы возвращаетесь, а он смотрит на вас как на абсолютно нового человека.
Такой библиотекарь может быть прекрасным инструментом. Но он не может стать вашим интеллектуальным партнером, не потому что он недостаточно умен, а потому что между вами не накапливается история. Отношение не переходит в следующий день. Оно каждый раз заново берет старт с порога.
В какой-то момент это различие становится важнее условного коэффициента ума системы. Сильный ответ без непрерывности начинает работать как дорогая имитация близости. В моменте он может быть впечатляющим и даже трогательно точным. Но через несколько циклов человек начинает уставать, потому что каждый раз снова вносит себя в машину: объясняет, что для него важно, восстанавливает линию, повторяет уже сообщенное. И чем убедительнее интеллект в моменте, тем тяжелее переносится его амнезия после момента.