Ошибка ИИ: протокол летальности. О будущем, в котором жизнь подчиняется прогнозу

© Вошев Д. В., 2026

© Вошева Н. А., 2026

© Знание-М, 2024

Об авторах

Вошев Дмитрий Васильевич

Доктор медицинских наук, ученый, врач и эксперт по цифровой медицине. Научные и практические интересы сосредоточены на трансформации систем здравоохранения в эпоху цифровизации, внедрении технологий искусственного интеллекта (ИИ), развитии цифровой грамотности медицинских работников, медицинского образования и кадровой политики.

Участвовал в создании информационных систем здравоохранения и проектах цифровой трансформации медицинской помощи на уровне Российской Федерации. Автор десятков научных публикаций и патентов, посвящённых организации медицинской помощи и применению цифровых технологий в медицине.

Исследования посвящены одному из ключевых вопросов современной медицины: как сохранить человеческое решение, ответственность врача и пространство профессионального выбора в эпоху алгоритмов и автоматизации.

Вошева Надежда Александровна

Эксперт по стратегии, цифровой трансформации и операционной эффективности бизнеса. Профессиональные интересы сосредоточены на развитии цифровых экосистем, повышении эффективности бизнес-процессов, внедрении технологических решений и улучшении клиентского опыта.

Участвовала в реализации проектов цифровой трансформации на уровне крупных корпораций, включая разработку стратегий развития, оптимизацию операционных моделей и внедрение цифровых платформ. Работала над инициативами, направленными на повышение эффективности систем здравоохранения, развитие цифровых сервисов и построение омниканальных моделей взаимодействия.

Обладает опытом управления кросс-функциональными проектами, а также применения современных технологий, включая нейросети, для автоматизации процессов и повышения управленческой эффективности.

Исследовательский и практический фокус связан с поиском баланса между технологическим развитием и реальной ценностью для человека, где цифровые решения становятся инструментом повышения качества жизни и эффективности систем.

Благодарность

Мы благодарны Богу и нашим близким за поддержку, веру и внутреннюю опору, а также нашим учителям и наставникам – за вдохновение, знания и вклад в создание этой книги.

Вступление

Человек уже изменился

Искусственный интеллект реален, и он изменит каждую отрасль.

Мы почти никогда не замечаем тот самый момент, когда всё начинает меняться. Мы просто однажды оглядываемся и понимаем, что привычное уже не работает так, как раньше. История не предупреждает, не спрашивает, готовы ли мы, и уж точно не даёт времени собраться с мыслями. Она приходит тихо: не с лозунгами, а с обновлением интерфейса, с новой функцией, с обещанием «так будет быстрее». И постепенно меняется не только техника, не только экономика – меняемся мы. Наши реакции. Наше терпение. Наше представление о свободе и самих себе.

Эта книга не о далёком будущем. По сути, оно уже здесь – просто мы ещё не успели его разглядеть. Мы живём в реальности, где решения всё чаще принимаются до того, как у нас появляется шанс задуматься, нужен ли нам вообще выбор. Где скорость вытесняет паузу, а удобство – и это, пожалуй, тревожит больше всего – начинает подменять свободу. Просто всё слишком логично, слишком рационально, чтобы сопротивляться.

Сегодня словосочетание «искусственный интеллект» перестало быть термином. Оно стало фоном – частью повседневной реальности, такой же незаметной, как уведомления, рекомендации или автоматические подсказки. Технологии ИИ больше не воспринимается как событие. Он просто присутствует – в системах, которые советуют, направляют и предлагают решения, звучащие достаточно уверенно, чтобы им следовать.

Именно эта обыденность и заставила нас задуматься. Куда везёт человечество этот огромный, уверенно разогнавшийся паровоз под названием «искусственный интеллект»? Видим ли мы в конце тоннеля свет лучшей жизни – или это уже свет встречного поезда? Мы управляем технологиями ИИ – или просто ещё не заметили, что он начал управлять нами?

Важно сразу прояснить: эта книга не написана из страха перед технологиями или из стремления дискредитировать ИИ. Мы знаем и видим каждый день, насколько полезны технологии ИИ. Он ускоряет процессы, снижает ошибки, расширяет доступ к знаниям и помогает там, где человеческих ресурсов давно не хватает. Во многих областях он уже стал незаменимым помощником – и это объективная реальность.

Но именно потому, что искусственный интеллект так эффективен, так удобен и так быстро стал частью повседневности, о другой стороне этого процесса говорят гораздо реже. Не потому, что её не существует, а потому, что она не выглядит драматично.

Эта книга – не о том, что искусственный интеллект опасен сам по себе. Она о том, что любая мощная технология становится опасной, если к ней относятся безответственно – не задавая границ, не осмысливая последствий и не замечая, как меняется роль человека в принятии решений. Мы слишком хорошо осведомлены о возможностях ИИ и слишком плохо – о том, что он меняет в нас самих.

В начале XXI века будущее будоражило наши фантазии. Мы представляли себе момент, когда оно наконец придёт – громко, помпезно, с новыми технологиями, новыми профессиями и новыми возможностями. Мы спорили, каким оно должно быть, мечтали о нём, втайне надеясь, что оно превзойдёт наши ожидания. Будущее казалось чем-то, к чему можно подготовиться: обсудить, осмыслить, выработать отношение. Но будущее пришло иначе. Оно не объявило о себе, не потребовало согласия и не выглядело как революция. Оно встроилось в нашу жизнь так органично, что мы уже почти забыли, как жили раньше. Искусственный интеллект пришёл в мир не как изобретение и не как прорыв, а как ускорение всего, что мы уже делали, – ускорение без паузы на осмысление.

Когда человек просыпается утром, он больше не выбирает, что читать. Алгоритм уже решил, какие новости заслуживают его внимания – не потому, что в них есть ценность, а потому, что они удерживают взгляд. Когда человек ищет работу, первичную оценку компетентности делает система, которая знает его не как личность, а как набор паттернов, для алгоритма человек – больше не самостоятельная единица, а часть группы.

Парадоксально, но самое странное произошло не с технологиями. Самое странное произошло с нами. Мы начали доверять уверенности больше, чем пониманию, и стали воспринимать сомнение как признак слабости. Мы привыкли к системам, которые не колеблются. Когда алгоритм говорит уверенно, его хочется слушать. Когда он ошибается редко, его хочется не проверять. Так возникает новая форма власти – не власть силы, денег или информации, а власть рекомендации.

В феврале 2026 года нейробиологи заговорили об этом прямо. Поколение Z – первое поколение, выросшее в мире экранов, уведомлений и алгоритмов, – продемонстрировало устойчивое снижение способности к длительной концентрации, удержанию внимания и последовательному мышлению. Формулировка звучала академически нейтрально. Но смысл был тревожным: впервые в истории человечества молодое поколение не опередило в развитии своих родителей – у наших детей хуже развита способность к мышлению. И это произошло не вследствие генетических изменений, а потому что мир перестал требовать этой способности.

Эта трансформация происходила постепенно – незаметно, фрагментами, без возможности увидеть общую картину. Сначала экран стал посредником между человеком и миром, затем – между человеком и знанием, а потом – между человеком и решением. Дети сначала познавали реальность через экран, а позже начали передавать обучение цифровым устройствам как высшей форме знания. Запоминать стало необязательно, и понимать – необязательно; достаточно было знать, как спросить. Когда ответ всегда доступен – вопрос теряет ценность. Когда подсказка появляется мгновенно – пауза начинает восприниматься как ошибка. Мышление же основано на способности выдерживать неопределённость, возвращаться к смыслу и терпеть незнание.

Мы часто слышим в новостях слова «инфантильность», «клиповое мышление», «потеря глубины». Мы обсуждаем это с раздражением, с иронией, иногда – с высокомерием. Но редко задаём неудобный вопрос: кто именно создал среду, в которой это стало нормой? Дети не выбирали алгоритмы. Они не проектировали цифровое пространство и не решали, что уверенность станет валютой, а скорость – главной добродетелью.

Это сделали взрослые. Мы. И именно поэтому ответственность не может быть переложена на тех, кто вырос внутри этой среды. Если мир был спроектирован так, что мышление стало необязательным, невозможно упрекать молодое поколение за то, что оно адаптировалось к этим правилам.

Сегодня мы стоим перед редкой возможностью – и редкой обязанностью. Мы уже не можем остановить развитие искусственного интеллекта, но всё ещё можем задать ему границы. Это необходимо не только ради поколения Z, но и ради множества последующих поколений.

Однако гораздо чаще мы слышим разговоры о возможностях искусственного интеллекта, чем о его ограничении, и о выгоде – чаще, чем о последствиях. И если мы не возьмём на себя ответственность за формирование этих границ сейчас, то очень скоро обнаружим, что уже не мы воспитываем технологии, а они воспитывают нас.

На этом фоне идея ускорить человека ещё сильнее перестала казаться фантастикой. Проекты нейроинтерфейсов и имплантов, публично поддерживаемые Илоном Маском, включая Neuralink, были представлены как следующий шаг эволюции: быстрее читать, быстрее думать, быстрее взаимодействовать с машинами. Помощь людям с ограниченными возможностями справедливо выдвигалась на первый план – как безусловно гуманная цель.

Но за этой риторикой скрывается тревожный вопрос: что произойдёт с человеком как с субъектом, если ускорение станет важнее понимания? Что останется от мышления, если усилить обработку сигналов, но не восстановить способность к раздумью, к внутреннему диалогу, к остановке? Если реакции станут мгновенными, а смысл – вторичным?

Угроза здесь заключается не в том, что машина станет быстрее человека или «заменит» его, а в том, что человек сам превратится в машину: перестанет быть тем, кто переживает, осмысливает и выбирает. Мышление рискует превратиться в транзитную зону – место, через которое проходят сигналы, но в котором больше не задерживается значение. В такой системе решения принимаются быстрее, но снижается их адаптивность, качество, субъективность.

Когда технологии начинают подсказывать не только что делать, но и как думать, субъект постепенно смещается с позиции источника выбора в позицию интерфейса. Человек остаётся носителем действий, но перестаёт быть их автором. При этом ИИ запрограммирован поддерживать иллюзию самостоятельности, и, если этот процесс не осознавать, ускорение легко принять за развитие, а удобство – за прогресс. Но общество, в котором мышление становится функцией скорости, рискует утратить естественный интеллект и способность быть тем, кто задаёт вопросы, а не только обрабатывает ответы.

Именно поэтому вопрос об искусственном интеллекте – это не вопрос мощности, производительности или эффективности. Это вопрос о том, сохранится ли в человеке пространство внутреннего выбора. Потому что в момент, когда это пространство исчезает, человек перестаёт быть партнёром технологии и становится её продолжением.

Мы мечтали, что искусственный интеллект станет помощником человека. Вместо этого он стал посредником между человеком и реальностью. Он фильтрует данные, упрощает выбор, ускоряет решения – и делает это в мире, где сама скорость стала нормой. Поток информации больше не оставляет времени на возвращение к смыслу: сообщения, сигналы, показатели и предупреждения сменяют друг друга быстрее, чем человек успевает их осмыслить. Сомнение требует паузы. Пауза требует времени. В системе, где время считается издержкой, раздумье становится роскошью.

Времени не хватает всем, но особенно остро ощущается теми, от чьих решений зависит жизнь. Приём нормирован минутами, решения вписаны в рекомендации и регламенты, ответственность распределена между протоколами и экранами. Врач всё реже работает в пространстве размышления и всё чаще – в пространстве реакции. Нужно действовать сразу: назначить, подтвердить, направить, закрыть. Недоверие не запрещено, но в нормативе время на него не заложено.

Искусственный интеллект присоединился к этой гонке под самым благородным предлогом: он должен был помочь врачам, взять на себя всю механику, повысить точность и ускорить диагностику, высвободить пространство для нестандартных кейсов и, в конечном итоге, спасти больше жизней. И он действительно помогает: он видит то, что человеческий глаз может пропустить, считает быстрее, не устаёт и не выгорает. Неудивительно, что врачам, пациентам и властям это представляется идеальным решением.

В США с 2024 года работает ИИ-врач стартапа Lotus Health, полностью бесплатный для пациентов. К февралю 2026 года система Lotus Clinician уже обработала более 2 000 000 медицинских консультаций. Она не предназначена для экстренной помощи и не заменяет врача в сложных клинических случаях. Её задача проще – и именно поэтому масштабнее: отвечать на рутинные вопросы, с которыми пациенты сталкиваются ежедневно и на которые у системы здравоохранения хронически не хватает времени.

По внутренним оценкам компании, с такими запросами алгоритм справляется примерно в 80% случаев. Этого оказалось достаточно, чтобы система стала полезной, а затем – привычной. Сервис доступен 24/7 и не требует записи. Он не зависит от загруженности смены. Пациенту не нужно ехать в медицинскую организацию, сидеть в очереди или подстраивать жизнь под расписание приёма. Ответ появляется там же, где возник вопрос, – сразу, без ожидания и без формальностей.

Для пациента это выглядит как освобождение от лишних барьеров. Для клиник – как снижение нагрузки. Для страховых компаний и медицинских сетей – как оптимизация расходов. Именно поэтому Lotus API используется для первичного триажа пациентов, позволяя сократить нагрузку на колл-центры примерно на 40%. Параллельно, с согласия пользователей, система аккумулирует обезличенные данные о симптомах, результативности рекомендаций и демографии, превращая повседневные обращения в материал для исследований и дальнейшей оптимизации.

С точки зрения системы здравоохранения здесь нет конфликта. Есть решение. Рабочее, экономически оправданное и масштабируемое.

В сфере ИИ-консультаций у Lotus Health есть заметный конкурент – ChatGPT Health, запущенный компанией OpenAI под руководством Сэма Альтмана и построенный на универсальной языковой модели. Однако в Lotus делают ставку на иной архитектурный подход. «Одна большая модель, даже самая продвинутая, будет галлюцинировать в медицине, – объясняет Аня Шарма, CEO стартапа Lotus Health, – мы разбиваем задачу на этапы, каждый из которых валидируется. Это как хирургическая бригада: каждый делает свою часть работы». Такой конвейер позволяет системе оставаться предсказуемой, управляемой и удобной именно там, где человеку чаще всего не хватает времени.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.