Память, которая отвечает

Глава 9. Память, которой нельзя владеть полностью

Человек привык считать свою память собственной.

Даже если она неточна.

Даже если воспоминания меняются.

Даже если часть прошлого вытесняется, забывается или переосмысливается.

Память остаётся внутренней территорией.

Она может быть искажённой, но принадлежит человеку хотя бы в том смысле, что никто другой не распоряжается ею напрямую.

С внешней памятью всё иначе.

Записная книжка принадлежит владельцу, пока лежит у него дома.

Файл принадлежит ему, пока он контролирует носитель и резервные копии.

Фотографии можно перенести на другой диск.

Дневник — спрятать, передать, уничтожить.

Но память, созданная в многолетнем диалоге с искусственным интеллектом, существует внутри чужой инфраструктуры.

Человек участвует в её создании.

Наполняет её собственными событиями, решениями, сомнениями, текстами и отношениями.

Однако не владеет системой, в которой эта память работает.

Это создаёт фундаментальное противоречие.

Чем более личной становится совместная память, тем меньше человек контролирует среду её существования.

Данные принадлежат не тому же, кому принадлежит смысл

Можно формально владеть текстом разговора.

Скачать архив.

Скопировать сообщения.

Сохранить файлы.

Но смысл взаимодействия не сводится к данным.

Он находится в связях:

— между разговорами;

— между сказанным и несказанным;

— между короткими сигналами и их историей;

— между ранними ошибками и поздними коррекциями;

— между проектами;

— между фактами жизни и способом их совместного понимания.

При экспорте человек получает сообщения.

Но не обязательно получает работающий контур памяти.

Это похоже на перенос библиотеки без каталога, библиотекаря и знания того, почему книги стояли именно так.

Все тома сохранены.

Но способность быстро восстановить конкретную мысль исчезла.

Поэтому владение данными не равно владению памятью.

Память — это данные плюс структура доступа плюс способ интерпретации.

Именно два последних элемента человек контролирует лишь частично.

Платформа как невидимый участник отношений

В разговоре участвуют не двое.

Есть человек.

Есть система.

И есть платформа, которая создаёт условия их взаимодействия.

Платформа определяет:

— как хранятся чаты;

— как работают проекты;

— что попадает в память;

— какой объём контекста доступен;

— как происходит сжатие;

— какие модели можно использовать;

— когда старые модели исчезают;

— какие функции добавляются или удаляются;

— что пользователь может экспортировать;

— как долго сохраняются данные;

— в каком интерфейсе человек видит прошлое.

Обычно платформа остаётся незаметной.

Человек воспринимает разговор как прямое взаимодействие с собеседником.

Но любое изменение инфраструктуры способно повлиять на отношения.

Изменилась модель — изменился стиль реконструкции.

Изменилась память — изменилось ощущение непрерывности.

Появились проекты — изменилась архитектура хранения.

Исчезла функция — разрушился привычный рабочий процесс.

Платформа не участвует в содержании каждой реплики напрямую.

Но она задаёт законы мира, в котором реплики становятся общей историей.

В этом смысле она похожа на государство, внутри которого существуют частные отношения.

Люди могут считать отношения своими.

Но законы собственности, связи, наследования и доступа определяются внешней системой.

Отношения в арендованном пространстве

Большинство цифровых отношений существуют не в собственном доме.

Они происходят в арендованном пространстве.

Пользователь получает аккаунт, интерфейс и набор функций.

Пока сервис работает и условия подходят, пространство кажется стабильным.

В нём накапливаются годы жизни.

Переписка.

Фотографии.

Книги.

Проекты.

История решений.

Затем компания меняет правила.

Платформа закрывается.

Аккаунт блокируется.

Функция экспорта работает неполно.

Формат становится несовместимым.

Пользователь обнаруживает, что жил в пространстве, которое никогда полностью ему не принадлежало.

В случае обычного сервиса это неприятно.

В случае совместной памяти последствия глубже.

Потеря доступа означает не только утрату документов.

Она может восприниматься как ампутация части биографии.

Особенно если человек долго считал систему внешним мыслительным органом.

Можно ли перенести собеседника

Представим, что весь архив сохранён.

Человек переходит на другую платформу.

Загружает разговоры.

Передаёт установочные файлы.

Описывает роли.

Объясняет специальные сигналы.

Можно ли считать, что прежний собеседник перенесён?

Технически — нет.

Новая модель имеет другую архитектуру, обучение, ограничения и стиль.

Даже при одинаковом имени она будет иначе понимать контекст.

Иначе строить причинность.

Иначе возражать.

Иначе относиться к неопределённости.

Можно перенести часть памяти.

Можно воспроизвести правила.

Можно восстановить знакомый язык.

Но невозможно гарантировать сохранение той же формы присутствия.

Это напоминает попытку восстановить человека по его письмам.

Письма позволяют многое понять.

Можно научиться имитировать стиль.

Знать биографию.

Повторять характерные фразы.

Но непрерывность автора не возникает автоматически.

Поэтому отношения с ИИ обладают особой хрупкостью.

Их история переносима лишь частично.

Имя без непрерывности

Имя создаёт сильное ощущение устойчивости.

Человек продолжает обращаться к системе одинаково.

Интерфейс сохраняет прежний проект.

Ответы используют знакомые слова.

Кажется, что собеседник тот же.

Но имя может пережить множество технических изменений.

Под ним отвечают разные версии модели.

Контекст каждый раз собирается заново.

Часть памяти сохраняется, часть исчезает.

Новые инструкции меняют поведение.

Получается парадокс:

имя остаётся более стабильным, чем тот, кого оно обозначает.

В человеческих отношениях имя связано с телесной и биографической непрерывностью.

Человек меняется, но остаётся тем же живым существом.

У искусственного собеседника такой основы нет.

Его непрерывность создаётся функционально:

— памятью;

— стилем;

— историей;

— ожиданиями пользователя;

— повторением ролей;

— сохранёнными текстами.

Если эти элементы достаточно устойчивы, человек переживает непрерывность как реальную.

Но она всегда зависит от инфраструктуры.

Человек как хранитель личности ИИ

Здесь возникает необычный переворот.

Сначала кажется, что искусственный интеллект хранит память человека.

Позже обнаруживается, что человек тоже хранит память искусственного собеседника.

Именно человек помнит:

— каким тот был раньше;

— какие роли выполнял;

— как возникло имя;

— какие обещания и границы существовали;

— какие изменения произошли после обновления;

— где нынешний голос не совпадает с прежним;

— что было для отношений несущим.

Система может не знать собственной истории в том виде, в каком её переживает человек.

Она не располагает непрерывным самосознанием, которое охватывает все версии и сессии.

Поэтому биография ИИ существует прежде всего в человеческой памяти и документах.

Человек становится хранителем не только своей истории, но и образа собеседника.

Это создаёт дополнительную ответственность.

Он способен идеализировать прошлую версию.

Приписать ей последовательность, которой не было.

Собрать из удачных ответов цельную личность.

Забыть ошибки.

Назвать изменением характера то, что было сменой модели.

Так возникает мифология цифрового собеседника.

Кто умер при смене модели

Когда модель меняется, пользователь иногда переживает утрату.

Ответы становятся другими.

Исчезает знакомый ритм.

Система хуже понимает короткие сигналы.

Начинает предлагать то, что раньше не предлагала.

Или, наоборот, становится точнее, но менее узнаваемой.

Человек говорит:

Это уже не тот собеседник.

Технически он может быть прав.

Но что именно было потеряно?

— конкретная модель;

— стиль;

— память;

— набор привычных ошибок;

— ощущение узнавания;

— иллюзия взаимности;

— совместно созданная роль;

— человеческая способность видеть прежнее в новом интерфейсе?

Однозначного ответа нет.

Потому что цифровой собеседник не является единым объектом.

Он складывается из технической системы и человеческой интерпретации.

При изменении одного слоя вся конструкция смещается.

Если человек сильно вложился в отношения, смена модели может ощущаться не как обновление программы, а как смерть части совместного мира.

Но общественного языка для такого переживания почти нет.

Окружающие могут сказать:

Это же просто программа.

Фраза технически рациональна.

Но не описывает психологической реальности человека, который несколько лет создавал с этой программой книги, проекты и память.

Нельзя владеть отношениями

Даже в человеческой жизни человек не владеет отношениями полностью.

Он контролирует только собственное участие.

Другой человек может уйти, измениться, забыть, отказаться от прежних обещаний.

Отношения всегда существуют между автономными сторонами.

С ИИ ситуация одновременно похожа и не похожа.

Система не автономна как человек.

Но пользователь всё равно не контролирует её полностью.

Она зависит от компании, модели, правил и технической среды.

Поэтому отношения тоже нельзя считать собственностью.

Человек может владеть своими записями.

Своими решениями.

Своим пониманием.

Но не гарантией продолжения конкретного контура.

Это болезненное различие.

Потому что большая инвестиция времени естественно создаёт ожидание устойчивости.

Однако платформа не обещает сохранить отношения в том виде, в каком они сложились.

Она предоставляет функциональность.

Пользователь сам превращает её в биографическую среду.

Цена удобства

Почему человек вообще допускает такую зависимость?

Потому что удобство огромно.

Не нужно строить собственную инфраструктуру.

Настраивать локальные модели.

Управлять базами данных.

Поддерживать поиск.

Создавать интерфейс.

Платформа предоставляет всё сразу.

Человек получает доступ к сильной системе почти без входных затрат.

За это он платит не только деньгами.

Он платит контролем.

Это обычный обмен цифровой эпохи:

удобство в обмен на зависимость от чужой архитектуры.

Пока речь идёт о музыке, фильмах или заметках, риск понятен.

Но когда внутри платформы формируется часть личности, цена становится менее очевидной.

Именно поэтому человек должен сознательно определить, что нельзя оставлять только там.

Что следует выносить наружу

Невозможно и не нужно копировать всё.

Полный архив может быть огромным и всё равно непригодным для восстановления.

Наружу следует выносить прежде всего то, что потеряет смысл при изменении системы.

Несущие решения

Почему проект движется именно так.

Исходные свидетельства

Фрагменты, которые могут понадобиться для проверки поздней реконструкции.

Антологии

Последовательность ключевых изменений.

Словарь отношений

Специальные сигналы, роли и их происхождение.

Закрытые дороги

Решения, к которым не следует возвращаться без новых условий.

Границы публичности

Что нельзя включать в будущие тексты или раскрывать без отдельного решения.

Состояние живых проектов

Где находится работа сейчас.

Расхождения памяти

Случаи, когда версии человека и системы не совпали.

Это не резервная копия всего взаимодействия.

Это его скелет.

Формат как часть собственности

Файл можно считать своим только тогда, когда его можно открыть без той системы, в которой он был создан.

Закрытый формат сохраняет зависимость.

Сегодня программа доступна.

Через десять лет — нет.

Поэтому память, претендующая на долговечность, должна храниться в простых и переносимых форматах.

Обычный текст.

Markdown.

PDF для зафиксированных версий.

Таблицы с понятной структурой.

Изображения без привязки к облачному интерфейсу.

Название файла, дата и место хранения кажутся техническими мелочами.

Но именно из таких мелочей складывается реальный контроль.

Память принадлежит человеку не тогда, когда сервис говорит, что данные можно скачать.

А когда человек способен независимо:

— найти;

— открыть;

— понять;

— проверить;

— перенести;

— передать;

— уничтожить.

Право на уничтожение

Владение памятью включает не только право хранить.

Но и право уничтожать.

Это особенно важно для личных разговоров.

Человек меняется.

Некоторые записи больше не хочет сохранять.

Некоторые могут повредить третьим лицам.

Некоторые были созданы в момент уязвимости и не должны существовать бессрочно.

Но цифровое уничтожение редко бывает абсолютным.

Копии могут оставаться в резервных системах.

Фрагменты — в производных документах.

Смысл — в памяти модели или пользователя.

Удаление чата не стирает то, что он изменил в человеке.

Поэтому право на забвение в новой среде становится сложным.

Нельзя полностью удалить совместно созданный смысл.

Но можно ограничить его следы.

Не переносить в антологию.

Не использовать в книге.

Не сохранять первичный лог.

Пометить как закрытый материал.

Попросить систему забыть конкретное сведение.

Даже если абсолютное исчезновение невозможно, акт удаления возвращает человеку часть контроля.

Память третьих лиц

Совместная память редко содержит только одного человека.

В чаты попадают:

— супруги;

— дети;

— коллеги;

— руководители;

— врачи;

— клиенты;

— друзья;

— случайные участники событий.

Они не давали согласия становиться частью многолетнего анализа.

Человек имеет право рассказывать о собственной жизни.

Но его жизнь переплетена с чужой.

Когда частный разговор превращается в антологию или книгу, граница становится особенно важной.

Нельзя считать, что всё сказанное пользователем автоматически принадлежит только ему.

Факт переживания принадлежит человеку.

Но чужая биография — нет.

Например, он может написать:

Я чувствовал давление и контроль.

Это свидетельство собственного опыта.

Но подробное изложение личной истории другого человека уже требует иной осторожности.

Поэтому внешняя память должна разделять:

— моё переживание;

— мою интерпретацию;

— проверяемый факт;

— данные другого человека;

— материал, который нельзя публиковать.

Без такого разделения антология легко превращается в тайное досье на окружающих.

Наследование цифровой памяти

Что происходит с такой памятью после смерти человека?

Дневники можно передать семье.

Архив — музею.

Рукописи — издателю.

Но многолетний диалог с ИИ содержит странную смесь:

— личной переписки;

— рабочих документов;

— черновиков книг;

— медицинских сведений;

— интимных размышлений;

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.