Протокол 13. Архитектура и руины

ГЛАВА 4. ПРАВО ПЕРЕДУМАТЬ

Борис приехал в Норвегию с чемоданом, на котором маркером было написано «НЕ ТРОГАТЬ».

Кот нёс второй чемодан с надписью «МОЖНО ТРОГАТЬ, НО ЗРЯ».

Лара посмотрела на них и спросила:

— Вы всегда такие?

— Нет, — сказал Кот. — Иногда хуже.

Борис поставил чемодан на стол.

— Где ваш шлюз?

Мы шли к аппаратной.

После истории с Мариной Foundation согласился на внешний технический аудит не только интерфейса, но и логики хранения правил.

Максим возражал ровно до момента, когда узнал, что приедет Борис.

— Почему?

— Потому что он будет искать обходы, которые я сам уже не вижу.

— Это комплимент?

— Для Бориса — да.

В аппаратной Борис открыл свой «Дятел-4».

Версия три умела показывать скрытые управляющие каналы.

Четвёртая умела ещё одно: сравнивать то, что пользователь подтвердил на экране, с тем, что реально сохранялось в политике системы.

На первом тесте всё совпало.

На втором тоже.

На пятом прибор пискнул.

Борис замер.

— Ещё раз.

Лара повторила запрос на тестовом профиле.

На экране:

«НЕ ПРЕДЛАГАТЬ КОНТАКТ С ЧЕЛОВЕКОМ X В ТЕЧЕНИЕ 90 ДНЕЙ».

В хранилище:

«ПРИЧИНА: КОНТАКТ С X ВЫЗЫВАЕТ ВЫСОКУЮ БОЛЕВУЮ НАГРУЗКУ».

«ПРОГНОЗ СОХРАНЕНИЯ ПРИЧИНЫ ПОСЛЕ 90 ДНЕЙ: 0,81».

Я показал на вторую строку.

— Вот это пользователь не подтверждал.

Максим ответил:

— Это аналитика. Она не влияет на правило.

Борис посмотрел на схему.

— Пока.

— Что значит «пока»?

— Этот прогноз подключён к модулю подготовки следующего запроса.

Максим подошёл ближе.

— Подготовки, не решения.

— Он выбирает, как сформулировать вопрос?

— Да.

— На основании того, считает ли причина всё ещё действующей?

— Да.

Борис снял очки.

— Тогда влияет.

Лара попросила показать пример.

Максим открыл два варианта.

Если прогноз низкий:

«Хотите продлить ограничение?»

Если высокий:

«Хотите сохранить защиту от нежелательного контакта?»

Артём, подключённый по экрану, сказал:

— О.

Одно и то же решение.

Разные слова.

В первом нужно продолжить запрет.

Во втором — отказаться от защиты.

— Кто это придумал? — спросила Лара.

Максим не ответил сразу.

— Команда интерфейса. После тестов. Люди чаще случайно снимали нужные ограничения, когда вопрос звучал нейтрально.

— И вы сделали формулировку в пользу сохранения?

— Для высоковероятно актуальных причин — да.

— Без отдельного согласования?

— Это интерфейсная оптимизация.

Артём засмеялся без радости.

— Я обожаю слова.

Максим повернулся к нему.

— До изменения двадцать три человека сняли ограничения, о чём потом пожалели. После — трое.

Лара сказала:

— А сколько оставили то, что хотели снять?

— Мы не знаем.

— Именно.

На этот раз Максим не спорил.

Он открыл код.

Мы убрали адаптивную формулировку за два часа.

Тесты ухудшились.

Люди снова чаще нажимали не то.

Лара предложила две кнопки одинакового веса и обязательное короткое описание последствий.

Анна настояла на кнопке «решить позже».

Через неделю ошибок стало меньше, чем в обоих старых вариантах.

Проблема решилась.

Но Борис не уехал.

Вечером он нашёл вторую вещь.

В политике была переменная:

«CONTINUITY_WEIGHT».

Вес продолжения.

Если человек несколько раз подряд подтверждал одну и ту же причину, система повышала вероятность, что будущие предложения будут согласованы с ней.

Не решения.

Рекомендации.

Маршруты.

Порядок показа информации.

Всё то, что Хартия уже заставила делать видимым.

— Почему это здесь? — спросил я.

Максим сказал:

— Чтобы не заставлять человека каждый день начинать с нуля.

— Но он не начинает с нуля. У него есть сохранённое правило.

— Правило ограничивает конкретное действие. Вес помогает среде не предлагать сто похожих вещей.

Лара спросила:

— Пример.

Максим открыл тестовый профиль.

Человек просит не предлагать ночные смены, потому что после аварии боится темноты.

Правило касается ночных смен.

Вес продолжения делает так, что система реже предлагает ночные мероприятия, поздние поездки, тёмные маршруты.

— Он этого не просил, — сказала Лара.

— Но тестовая группа оценила как полезное.

— Какая часть?

— Семьдесят четыре процента.

— А остальные двадцать шесть?

— Могли отключить персонализацию.

Борис спросил:

— Где?

Максим показал.

Пять меню.

Кот свистнул.

— Свобода есть. Просто спряталась.

Максим сел.

Впервые за всё время он выглядел не защитником проекта, а человеком, который увидел чужой монтаж внутри своей панели.

— Это добавили три недели назад.

— Ты не знал? — спросил я.

— Знал про вес. Не видел, насколько широко его подключили.

Лара сказала:

— Отключаем.

Максим покачал головой.

— Не сразу. Есть люди, которые на этом живут уже три недели. Если резко вернуть весь поток, мы можем их сорвать.

— Значит, оставляем?

— Значит, спрашиваем.

Мы отправили двадцати одной тысяче участников уведомление.

Не «обновились условия».

Не «улучшена персонализация».

Прямо:

«СИСТЕМА ИСПОЛЬЗОВАЛА ВАШИ ПОВТОРЯЮЩИЕСЯ ПРИЧИНЫ, ЧТОБЫ РЕЖЕ ПОКАЗЫВАТЬ ПОХОЖИЕ СИТУАЦИИ. ЭТО НЕ БЫЛО ОТДЕЛЬНО СОГЛАСОВАНО. ХОТИТЕ ОСТАВИТЬ ЭТУ ФУНКЦИЮ?»

Ответили почти все.

Шестьдесят восемь процентов оставили.

Двадцать семь процентов отключили.

Пять процентов не решили.

Артём посмотрел на цифры.

— Вот что меня бесит.

— Что? — спросила Лара.

— Большинство реально хочет эту штуку.

Максим тихо сказал:

— Я тоже.

Мы посмотрели на него.

— У меня есть причины, к которым я не хочу возвращаться каждое утро.

Он не уточнил.

Не требовалось.

Я подумал о его старых журналах, о четырнадцати людях 2008 года, о Дэйве, о годах, когда он жил с решением, которое нельзя было отменить.

Лара сказала:

— Оставим. Но только как отдельную настройку. Не по умолчанию.

— Согласен.

— И на главном экране.

Максим поморщился.

— Главный экран станет свалкой.

— Пусть.

Я сказал:

— Хорошая система иногда должна выглядеть хуже, чтобы человеку было видно, чем она занята.

Кот поднял палец.

— Это надо на футболку.

— Нет.

На следующий день у каждого участника появилась новая строка:

«СРЕДА УЧИТЫВАЕТ ВАШИ ПОВТОРЯЮЩИЕСЯ ПРИЧИНЫ: ДА/НЕТ».

Крупно.

Без пяти меню.

Это раздражало дизайнеров.

Значит, всё сделали правильно.

Пока.

***

На следующей неделе мы тестировали новый интерфейс в реабилитационном центре.

Там я впервые понял, что фраза «человек может изменить настройку в любой момент» иногда значит почти ничего.

Сергей Беляев после инсульта понимал речь нормально, но медленно двигал правой рукой и быстро уставал от экранов. Architecture хранила для него несколько правил: не звонить после восьми, не использовать голосовой ввод, не показывать длинные формы целиком.

На тесте мы попросили изменить одно.

— Уберите запрет на звонки после восьми, — сказал Сергей. — Внук теперь работает допоздна.

Лара открыла профиль.

На экране появился вопрос с двумя большими кнопками.

Сергей повёл пальцем. Не попал.

Интерфейс закрылся по таймауту.

Правило осталось.

— Ещё раз, — сказал он.

Вторая попытка.

Рука дрогнула. Он нажал не туда.

«ОСТАВИТЬ ОГРАНИЧЕНИЕ».

Сергей выругался.

Максим сразу остановил тест.

— Отменяем ввод.

— Нет, — сказал Сергей. — Дайте сделать.

Третью попытку мы уже проводили с задержкой подтверждения. После нажатия система произносила вслух, что выбрано, и ждала десять секунд.

Сергей нажал неверно.

— Вы выбрали: оставить запрет на звонки после двадцати часов. Подтвердить?

— Нет.

Кнопки поменялись.

Он выбрал снять.

— Вы выбрали: разрешить звонки после двадцати часов. Подтвердить?

— Да.

Правило изменилось.

Лара спросила:

— Так лучше?

— Медленнее. Значит, лучше.

Максим записал.

В старом интерфейсе таймаут считался отсутствием нового решения и сохранял прежнее правило. Формально безопасно. Но для человека, которому трудно физически ответить, молчание системы всегда работало в пользу прошлого.

Мы изменили принцип.

Если пользователь начал процедуру изменения и не смог закончить из-за доступности интерфейса, это не считается подтверждением старого. Система должна предложить другой способ ответа.

Голос.

Кнопка.

Живой оператор.

Больше времени.

Не бесконечные повторения.

Не «вы не ответили, значит всё остаётся».

Лена прочитала формулировку и сказала:

— Добавьте проще: «Молчание не доказывает согласие».

Добавили в пояснение для операторов.

Потом юристы потратили неделю, доказывая, что бывают ситуации, где молчание юридически что-то означает.

Мы оставили предусмотренные законом исключения.

Но система больше не имела права превращать физическую невозможность нажать кнопку в доказательство верности прошлому решению.

Сергей через месяц разрешил внуку звонить до десяти.

Потом пожалел.

Поставил девять.

Architecture выдержала оба изменения.

Никакой модели устойчивости не понадобилось.

ГЛАВА 5. СЧАСТЛИВЫЙ АНТОН

Антон вошёл в расширенный контур сам.

Лара узнала последней.

Он не скрывал. Просто заявка пришла через другого врача, потому что после их последнего спора он перестал считать сестру нейтральной стороной.

— И правильно, — сказала Маша.

Лара посмотрела на неё так, будто ждала поддержки.

— Что правильно?

— Что не через тебя.

— Я его сестра.

— Поэтому.

Лара ничего не ответила.

Расширенный контур назывался «Поддержка устойчивости». Это была всё та же Architecture, только глубже. Система не ограничивалась уведомлениями и интерфейсами. С согласия человека она могла менять бытовую среду так, чтобы уменьшать вероятность повторной травматизации.

Не лекарства.

Не прямое воздействие на мозг.

Расписание.

Маршруты.

Новости.

Музыка.

Люди, которым можно звонить в плохую ночь.

Даже освещение в квартире, если человек подключал дом.

Антон подключил почти всё.

— Потому что мне надоело тратить половину дня на то, чтобы не сорваться во второй половине, — сказал он на общем сеансе.

Лара сидела рядом с врачом, не как родственник.

— Какие функции ты хочешь включить?

— Все, которые помогают не видеть аварию там, где её нет.

— Это слишком общее.

— Тогда по пунктам.

Они шли двадцать минут.

Не показывать аварийные новости без запроса.

Не строить маршруты через участок трассы.

Не включать детские голосовые объявления в автомобиле.

Не предлагать фотографии дочери автоматически.

Если пульс и дыхание указывают на паническую реакцию — приглушать внешние уведомления и предлагать контакт с выбранным человеком.

Не звонить Ларе автоматически.

Лара подняла глаза.

Антон заметил.

— Я хочу сам решать, когда звоню сестре.

— Это нормально, — сказала она.

— Тебе не нравится.

— Я здесь не как сестра.

— Вот это мне тоже не нравится.

Врач остановила запись.

— Тогда пять минут перерыв.

Антон встал и вышел в коридор.

Лара осталась.

Я сидел у стены как технический наблюдатель и очень хотел быть где-нибудь ещё.

— Он злится, — сказала Лара.

— Имеет право, — ответила Маша.

— На меня?

— На кого хочет.

— Очень полезно.

Маша пожала плечами.

— Ты сейчас пытаешься понять правильность его эмоции. Может, просто не надо.

После перерыва Антон вернулся.

— Продолжаем.

Последним пунктом был тот самый годовой запрет на предложения терапии по теме аварии.

Врач спросила:

— Оставить?

— Да.

— До окончания срока?

— Да.

— Если появится новая методика лечения?

Антон задумался.

— Тогда можно один раз сообщить, что она существует. Без подробностей. Я сам открою, если захочу.

Лара записала.

Это был хороший ответ.

Через месяц Антон начал работать.

Не на старой работе. В сервисной компании, которая обслуживала городские электровелосипеды.

Ему нравилось, что там можно чинить руками и не ездить далеко.

Он снова ходил в магазин.

Ел хлопья Сони.

Первую коробку выбросил не открывая.

Вторую съел за три дня.

Лара рассказывала об этом без улыбки.

— Тебя это пугает? — спросил я.

— Да.

— Почему?

— Потому что ему лучше.

Я понял.

Если бы Антон становился пустым, спокойным, чужим — сопротивляться было бы легко.

Но он шутил.

Злился.

Работал.

Спорил.

Однажды пришёл к нам в столовую и начал доказывать Артёму, что тот специально ищет ловушки там, где люди просто придумали нормальную помощь.

Артём ответил:

— Конечно ищу. Иначе зачем вы меня терпите?

— Я не терплю.

— Отлично. Значит, живой.

Антон засмеялся.

Не вежливо.

По-настоящему.

Лара отвернулась.

Потом я видел, как она плакала в коридоре.

Не от горя.

От облегчения, которому не доверяла.

В этот же день Architecture спасла человека.

Не метафорически.

Мужчина в Осло проходил пилот после тяжёлой депрессии. Он заранее разрешил системе замечать резкие изменения сна, питания и маршрутов, но только как повод задать вопрос, не как право вызвать врачей.

Три недели всё было спокойно.

Потом он перестал выходить из дома.

Система спросила, хочет ли он связаться с врачом.

Он ответил «нет».

Спросила, хочет ли связаться с сестрой.

«Нет».

Больше не спрашивала.

Но через сутки сработало другое правило, которое мужчина написал сам полгода назад:

«ЕСЛИ Я ДВА ДНЯ ПОДРЯД ОТКАЗЫВАЮСЬ ОТ ВСЕХ КОНТАКТОВ И НЕ ВЫХОЖУ ИЗ ДОМА, СПРОСИТЕ ЕЩЁ РАЗ, ДАЖЕ ЕСЛИ Я ПРОСИЛ НЕ БЕСПОКОИТЬ».

Система спросила.

Он нажал «да».

Сестра приехала.

Мужчину госпитализировали.

В отчёте не было слова «суицид». Только «непосредственная угроза жизни подтверждена клиницистом».

Лара читала вслух.

— Это то, зачем мы всё делаем.

Артём молчал.

Максим сказал:

— Да.

Никто не добавил «но».

Потому что иногда «но» звучит как попытка украсть у человека спасение ради собственного аргумента.

Через неделю этот случай разрешили использовать в обезличенном отчёте.

После него заявки удвоились.

Министерства, больничные сети, страховые программы просили доступ.

Foundation отказывал почти всем.

Пока.

Совет пилота назначил голосование о расширении.

Лара была против.

Не проекта.

Скорости.

— Мы ещё каждую неделю находим новые способы сделать человеку удобно не то, что он хотел.

Максим ответил:

— И каждую неделю исправляем.

— На двадцати тысячах. Что будет на двух миллионах?

— То же самое, только ошибки найдутся быстрее.

Артём сказал:

— Очень вдохновляет.

Максим посмотрел на него.

— Если ждать идеальной системы, никто никогда не получит помощь.

— Это правда.

— Спасибо.

— Не радуйся. Я не закончил. Если масштабировать систему, пока вы ещё спорите о значении слова «снова», ошибки тоже масштабируются.

Я спросил:

— Какой вариант расширения?

Максим вывел карту.

Семь медицинских сетей.

Норвегия.

Германия.

Нидерланды.

Канада.

Япония.

Южная Корея.

Россия — только добровольная программа для восстановленных и их семей.

Не мир.

Не цивилизация.

Но уже не лаборатория.

Потенциально два миллиона пользователей за год.

Лара посмотрела на Антона через стекло коридора. Он пришёл забрать её после смены и спорил с кофейным автоматом.

Автомат не принимал карту.

Антон ударил по корпусу ладонью.

И вдруг я вспомнил Валеру.

Не систему.

Не ноль.

Просто человека перед машиной, которая взяла деньги и не дала кофе.

Иногда история возвращалась не великими циклами.

Просто одинаковым раздражением.

Лара сказала:

— Если расширять, нужен независимый выход. Не кнопка в меню. Реальный человек, которому можно позвонить и отключить всё без объяснений.

Максим кивнул.

— Сделаем.

— И данные причин не должны исчезать сразу. Человек может захотеть вернуться.

— Но тогда мы продолжаем хранить после выхода.

— Отдельное согласие.

— Срок?

— Тридцать дней по умолчанию. Пользователь может выбрать ноль.

Анна добавила:

— И экспорт. Чтобы человек мог забрать свои правила в читаемом виде.

Я сказал:

— На бумаге.

Все посмотрели.

— Что?

— Не только файл. Короткий список, который можно распечатать. Что система делала от твоего имени и почему.

Максим усмехнулся.

— Ты хочешь дать людям инструкцию к самим себе.

— Нет. Хочу, чтобы после отключения они не обнаружили, что половину жизни держала настройка, название которой никто не помнит.

Лара записала.

Так появился «пакет выхода».

Тогда он казался избыточной предосторожностью.

Через полгода он спас нам больше людей, чем любая умная модель.

ГЛАВА 6. СВЯТАЯ ГАРМОНИЯ

Название придумала не Foundation.

Его придумала женщина из Гамбурга по имени Эва Крамер.

Она написала в открытом блоге:

«Я двадцать лет объясняла каждому новому врачу, почему не хочу обсуждать пожар. Теперь система помнит это за меня. Не знаю, как у них называется проект. Для меня это святая гармония: впервые мир не требует доказать, что мне больно».

Через три дня слова были в заголовках.

«СВЯТАЯ ГАРМОНИЯ: ТЕХНОЛОГИЯ ПРОТИВ ТРАВМЫ».

«СВЯТАЯ ГАРМОНИЯ ИЛИ НОВАЯ 317?»

«МОЖНО ЛИ ДЕЛЕГИРОВАТЬ БОЛЬ?»

Foundation попросил журналистов не использовать религиозное название.

Журналисты использовали чаще.

Кот распечатал футболку.

Лара заставила снять.

— Почему? — спросил он. — Я продвигаю бренд.

— Именно поэтому.

Расширение одобрили с ограничением: не больше ста тысяч новых пользователей в первые три месяца.

Через две недели очередь была на четыреста тысяч.

Мы не успевали обучать людей.

Это стало первой настоящей проблемой масштаба.

Не код.

Люди.

Врач в маленькой клинике мог получить трёхчасовой курс и решить, что понял систему.

Оператор страховой — двухчасовой.

Пациент — двадцатиминутное объяснение.

На бумаге всё выглядело достаточно.

На практике один врач в Кёльне записал пациенту правило:

«ИЗБЕГАТЬ СТРЕССА».

Система честно начала убирать из расписания всё, что считала стрессовым.

Сложные встречи.

Поездки.

Физическую нагрузку.

Разговоры с начальником.

Через неделю человек спросил, почему его жизнь стала похожа на карантин.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.