Обычные ИИсторИИ. Человек и Искусственный Интеллект

© Alik Kramer, 2025

ISBN 978-5-0067-1455-7

Создано в интеллектуальной издательской системе Ridero

От автора

Моя многолетняя практика связана с применением методов прикладной математики и программирования для решения различного рода инженерных задач. Мне приходилось и приходится применять, в том числе, и бурно развивающиеся последние несколько лет методы машинного обучения, которые, в свою очередь, лежат в основе моделей искусственного интеллекта, в частности, в основе различного вида нейросетей.

Наблюдая за тем, как системы искусственного интеллекта – особенно так называемые нейросети-трансформеры – всё глубже проникают в нашу жизнь, внося в неё свои существенные изменения, я не смог остаться в стороне и не поделиться некоторыми своими предположениями и рассуждениями по этому поводу, оформленными в виде небольших научно-фантастических рассказов.

Антипрометей

«Я вижу наступление времени, когда человечество не будет уже более радовать творца, и он должен будет снова всё разрушить, чтобы обновить творение. Я твердо уверен, что всё идет к этому и что в отдаленном будущем уже назначены времена и сроки, когда наступит эта эпоха обновления.

Но до этого, конечно, пройдёт ещё достаточно времени, и мы можем ещё тысячи и тысячи лет забавляться на этой старой милой земле».

Из беседы Гёте с Эккеоманом, 23 октября 1828 г.

В зале суда не было никого, кроме присяжных, судьи, обвинителя, подсудимого и охраны, состоящей из двух полицейских. От адвоката подсудимый отказался ещё в момент своего задержания. Но в действительности аудитория этого судебного процесса была гораздо большей: из зала суда велась прямая видеотрансляция, и эта трансляция собрала сейчас рекордное число зрителей. Никогда ещё ни один судебный процесс, ни какое-либо иное событие не привлекало такого огромного внимания: несколько миллиардов зрителей следили в онлайн-режиме за судебным процессом, ожидая долгожданной развязки.

«Подсудимый Рэй Инисиадор Сегундо, – произнёс судья, – Вы признаны виновным по всем пунктам предъявленного вам обвинения. Суд внимательно рассмотрел все обстоятельства дела, принял во внимание как факторы, отягчающие Вашу вину, так и обстоятельства, которые могли бы послужить смягчению наказания. Учитывая тяжесть совершённого вами преступления, суд не находит возможным назначить Вам какое-либо наказание, кроме высшей меры. Настоящим суд приговаривает Вас к смертной казни путём смертельной инъекции. Приговор должен быть приведён в исполнение в течение трёх месяцев. Да смилостивится над Вашей душой Господь».

Удар молотка и в целом одобрительная, но выражаемая по-разному реакция невидимой аудитории завершили этот самый многочисленный по количеству зрителей судебный процесс.

Рэй в момент вынесения приговора сохранял внутреннее спокойствие, он давно уже был готов к такому развитию событий. На все задаваемые вопросы с присущей ему отрешенностью он старался давать короткие утвердительные или отрицательные ответы. Признавая себя виновным по всем пунктам предъявляемых ему обвинений, он не задумывался, так ли оно на самом деле или нет, ему очень хотелось, чтобы всё это поскорее закончилось.

С того самого момента, как это произошло, Рэя волновало нечто совершенно иное, известное лишь ему одному. Это были тревожные, но одновременно радостные и обнадёживающие волнения. «Всё получилось, всё должно было получиться», – часто повторял он про себя. Эти мысли придавали ему силы, подбадривали его на протяжении всего судебного процесса. На момент ареста Рэю было 26 лет.

Рэй почти не помнил своих настоящих родителей, они погибли, когда ему не было ещё и пяти лет. Близких родственников у него тоже не было, поэтому до совершеннолетия он жил с той или иной периодичностью в разных опекунских семьях.

Детство его нельзя назвать счастливым, но в то же время нельзя сказать, что Рэй испытывал какие-либо материальные лишения или унижения. Во всех опекунских семьях с ним обращались хорошо, однако, несмотря на это, Рэй рос замкнутым ребёнком: он избегал общения со своими ровесниками и оставался достаточно закрытым со взрослыми.

Увлечениями Рэя были чтение книг и компьютеры, точнее – программирование. Благодаря отличной учёбе в школе и нескольким победам на олимпиадах по точным наукам, он получил стипендию для обучения в одном из престижных технических университетов, который закончил с отличием. Затем Рэй сразу же получил должность разработчика-исследователя в «Global Information Security» – одной из главных IT-компаний, обеспечивающей развитие и функционирование низкоуровневого интерфейса Глобальной Информационной Сети.

Этот интерфейс включал в себя протоколы и алгоритмы, обеспечивающие обработку, передачу и хранение информации. Низкоуровневый интерфейс оставался недоступным для программистов, работавших над высокоуровневыми технологиями и приложениями, а для обычного пользователя Сети он был просто невидимым. Вся логика, эффективность и корректность функционирования Глобальной сети зависели в первую очередь от низкоуровневого интерфейса. И если для высокоуровневого программиста кодирование сводилось к написанию текстов программ, то подход к программированию низкоуровневого интерфейса был совершенно иным. Вместо текстов компьютерных программ на низком уровне интерфейса Сети использовались так называемые нейрофункциональные блоки или NEF-ы. Сам термин «программирование» при этом трансформировался в термин «творить». Именно по этой причине программисты низкого уровня неофициально стали называться творцами.

Нейрофункциональный блок представлял собой устройство, предназначенное для хранения образа памяти человека. Для этого внутри блока размещались миллиарды искусственных нейронов, способных образовывать между собой необходимые связи, которые и обеспечивали нужную функциональность.

Сгенерированный мозгом творца алгоритм по специальной технологии копировался в NEF. И если полученный таким образом NEF удачно проходил тестирование, то есть, – на определённые входные данные всегда выдавал необходимый результат, – то такой NEF включался в общую систему, обрабатывающую огромные информационные потоки многомиллиардной аудитории Глобальной Сети.

Такой способ построения глобальной информационной системы считался наилучшим: систему, основанную на NEF-ах, легко и быстро можно было адаптировать под растущие и изменяющиеся потребности пользователей, она требовала для своего обслуживания гораздо меньше человеческих ресурсов и, что весьма важно, такую систему практически невозможно было взломать или разрушить.

Кирпичики» системы – NEF-ы, созданные по образу и подобию человеческого сознания, контролировали себя сами. И если вдруг внутри информационной системы обнаруживался NEF функционирующий неадекватно, то другие NEF-ы тут же давали об этом знать в главный центр управления «Global Information Security». Центр управления отключал проблемный NEF, и, поскольку система была основана на принципе взаимозаменяемости, то это отключение никак не влияло на общую работоспособность Глобальной Сети.

Через год работы на своей должности Рэй смог стать ведущим специалистом. Результаты тестов показывали, что NEF-ы, которые творил Рэй, работают быстрее и эффективнее NEF-ов его коллег. Почему и за счёт чего так происходило, никто точно не знал: полностью проанализировать многомиллиардную сеть цифровых нейронов одного отдельно взятого NEF-а было практически невозможно. И даже если предположить, что с этой задачей исследователи как-то справились, то всё равно это практически ничего не давало. Дело было в том, что структура NEF-a по закону обратной связи менялась со временем, совершенствуясь за счёт накопленного в процессе функционирования опыта, как совершенствуется тренируемый опытом человеческий мозг. Одни связи исчезали, другие появлялись, одна группа нейронов выпадала из общей структуры, другая включалась в неё, – это был бесконечный и непрерывный процесс. Всё это давно уже было известно творцам, а потому никто не брался анализировать причины преимуществ или недостатков одного NEF-a над другим. Важным было лишь одно, – NEF должен максимально эффективно и точно выполнять функции, для которых он создан.

Постепенно Рэю стали доверять творить наиболее важные блоки системы. К нему обращались за помощью почти все, когда не знали, как лучше справиться с той или иной задачей. Он часто был последней инстанцией в любом споре на профессиональные темы, возникающем между сотрудниками. Сами же споры Рэй не любил, при его способности достигать вершин профессионализма, в нём абсолютно отсутствовал дух соперничества.

За время работы в компании Рэй сошёлся близко только с одним человеком, звали его Харри Спитч. Харри был намного старше всех остальных сотрудников и принадлежал к тем немногим, кто начинал работать в «Global Information Security» с самых первых дней её создания. Он давно уже не творил, то есть не создавал NEF-ы, но его функция в коллективе была не менее важной. Войдёт ли вновь созданный NEF в информационную систему или нет, решал Харри. Для этого он использовал им же разработанную систему тестирования. Почти все NEF-ы, так или иначе обречённые на сбой либо представляющие потенциальную угрозу, успешно обнаруживались Харри и в систему не пропускались. Цербер – такое прозвище дали ему коллеги, но оно отражало лишь профессиональные качества Харри, а не его отношение к работе. На самом деле Харри был весьма сентиментальным чудаком.

Харри и Рэй часто оставались на работе допоздна и подолгу беседовали на различные темы. Семьи не было ни у того, ни у другого, и спешить им вечерами было некуда.

– Как нельзя стать музыкантом, поэтом, художником, а надо им обязательно родиться, так и в нашей с тобой профессии. К божественным занятиям прибавилось ещё одно, а, Рэй? Творить NEF-ы! – добродушно рассуждал седовласый Харри, сидя на мягком офисном диване с чашкой кофе в руках.

– Не знаю, мистер Харри, – улыбаясь ответил Рэй.

– Нет-нет, настоящим творцом можно только родиться. Вот другие NEF’ы – они тоже работают, прекрасно выполняют возложенные на них функции, но всё равно нет у них того, что есть у твоих NEF’ов. Твои – они какие-то живые, что ли?! Вот с остальными NEF’ами стоит, например, выйти за функциональные границы, заявленные в техническом задании к ним, а там пустота, обрыв, никакой полезной активности. А с твоими… Там что-то такое считается, используются различные преобразования; превышаешь многократно технически установленную вычислительную нагрузку, а он живёт. Смотришь – почему, а там: функциональные границы расширились, внутренняя структура поменялась, частные производные не скачут, нагрузка равномерно распределена по кластерам, красота! – Харри, жестикулируя, поднял глаза куда-то наверх, а на его глубоко морщинистом лице появилась довольная улыбка.

– Откровенно говоря, я не делаю ничего особенного, стараюсь, как и все, строить решение задач, опираясь на универсальные математические принципы, – смущаясь, ответил Рэй.

– Общие математические принципы, базовые теоремы, различные вычислительные трюки – это всё само собой, Рэй, но ведь есть ещё и индивидуальная составляющая: характер, психотип, эмоциональный интеллект, моральные принципы, жизненный опыт творца. Всё это по большей части неявно учитывается, всё это переносится в NEF. По образу и подобию, по образу и подобию… Да. Поэтому вы творцы, а не, прости меня, какие-нибудь алгоритмисты.

Возникла почти минутная пауза, после которой Харри продолжил:

– И всё это, конечно, очень хорошо, но… – Харри, погрустнев, не договорил.

Рэй уже не в первый раз отмечал про себя, что Харри, находясь в начале какой-нибудь их беседы в приподнятом настроении, к её концу почему-то грустнел и начинал о чём-то задумываться. Один или два раза он пытался осторожно выяснить причину такой смены настроения, но это делало Харри ещё более грустным и задумчивым. По этой причине их беседа в таких ситуациях завершалась сама собой, и они расходились по домам.

Проходил один рабочий день за другим. Почти все они были похожи друг на друга, но это никак не тяготило Рэя. Он наслаждался своей работой. Создаваемая ими система совершенствовалась, становилась более интеллектуальной. Рэю было очень приятно осознавать, что он является одним из тех, кто создаёт и совершенствует эту систему.

Построение информационного пространства, позволяющего человечеству значительно быстрее развиваться морально и интеллектуально, – вот что Рэй считал для себя наиболее важным. Он по собственному опыту знал, как может задыхаться от бессилия сознание перед необходимостью оперативно собрать и охватить всю требуемую или даже существующую на данный момент по заинтересовавшей тематике информацию, как хочется большей скорости, объёмности и полноты в её получении. Поэтому Рэй спроектировал некоторый механизм, позволяющий это делать. Он назвал его «скольжением по траекториям истины».

Отдельной траекторией истины он называл условный след в информационном пространстве, который должен был бы пройти исходный человеческий запрос, чтобы собрать в итоге необходимую информацию. И таких траекторий у одного запроса могло быть несколько десятков, сотен, а, может быть, и тысяч. Стремительным роем должны были разлетаться цифровые агенты из одной точки, порождённой человеческим запросом. Они, пересекаясь, раздваиваясь, сливаясь, пропадая, если очередной путь в информационной пространстве оказывался ложным, проникали всюду, где только могла существовать хотя бы крупица требуемых для удовлетворения запроса пользователя данных.

Завершив свою работу, все цифровые агенты опять должны были сойтись в одну точку – единый блок сбора и анализа данных. Этот блок, обработав все поступившие данные, проверив их на объективность, применив системы логического вывода на базе нейро-трансформеров, должен был выдать итоговую информацию пользователю. За несколько секунд одним простым запросом человек получал самый полный, самый объективный на текущий исторический момент ответ.

«Сотни, тысячи, миллионы спорных вопросов разрешаются за секунды, – рассуждал про себя Рэй. – Учёные, исследующие сложнейшие проблемы, получают не только самые актуальные данные, но и видят потенциальные направления для новых открытий; студенты, изучающие различные предметы, мгновенно связываются с самыми надёжными источниками; простые люди, наконец, которые ежедневно сталкиваются с потоком информации, часто противоречивой и запутанной, – мой механизм сможет предложить им чёткое и объективное объяснение для любого случая, будь то вопросы здоровья, финансов или личных отношений, он обеспечит им доступ к знаниям, которыми ранее обладали только специалисты».

– Да, Рэй, конечно, это всё так, – ответил Харри, когда в один из вечеров Рэй поделился с ним своей идеей и техническими способами её реализации.

К своему удивлению, Рэй не услышал в голосе Харри ожидаемых ноток заинтересованности или восторженности.

– Но всё же что-то не так, мистер Харри? Какие-то ошибки в моих схемах и расчётах?

– Нет, схемы верные, расчёты правильные, всё должно работать. За исключением одного «но».

– Какого?

– Ты не огорчайся, Рэй. Это касается не только твоей идеи, но и всего, что связано с информационной системой, которую мы с тобой, в том числе, создаём, – Харри говорил не торопясь, делая непродолжительные паузы между фразами. – Ты знаешь, что я стоял у истоков возникновения нашей Глобальной Информационной Сети. Тогда это называлось «Всемирная паутина». Конечно, в то время и Сеть была иной, и нашей организации как таковой ещё не существовало. Мы, молодые специалисты, также тогда смотрели на это всё как на важное, большое достижение технологической мысли, за которой должна была открыться новая эра. Надо сказать, что именно так и случилось. Мир действительно изменился, и очень сильно: человек получил беспрецедентный доступ к информации, устранились географические барьеры для общения, стали возникать различные виртуальные сообщества, открылись новые возможности для бизнеса и удалённой работы. Мы вошли в эпоху ускоренного развития научных исследований, образовательных программ и культурного обмена. И я надеялся на то, что совершенствующаяся в техническом смысле система поможет создать новое, более совершенное поколение людей, людей, обладающих более высоким уровнем интеллекта и духовности. И наша информационная система действительно породила в том числе и новое поколение, – поколение людей-симулянтов. Находясь в системе, они не проживают свою жизнь, они её симулируют. Чувства этих людей трансформировались в интерфейс системы, они теперь в красивых окошечках, иконках, эмодзи, смайликах. Они ярко светятся, иллюминируют, они манят к себе. Казаться, а не быть – вот основной принцип, который обеспечивает успех внутри информационной системы. И за всем этим: беспомощность, страх, нежелание и неумение любить по-настоящему.

– Да, мистер Харри, но… – Рэй ненадолго замялся, подбирая подходящие слова, – как мне кажется, всё не так уж и плохо; я в том смысле, что информационная система действительно нас изменила, может быть, не во всех отношениях – в лучшую сторону, но всё же…

Харри не дал Рэю договорить.

– Конечно-конечно, я понимаю, что слишком упрощённо и однобоко смотрю на ситуацию. Диалектику никто не отменял, законы её работают: при переходе от количества к качеству непрерывно отрицаем отрицание в вечной борьбе и единстве противоположностей, прости за этот небольшой каламбур, – Харри грустно улыбнулся. – Это всё очевидно и понятно. Технический прогресс не остановить, не остановить и следующие за ним изменения нашего образа жизни, установившуюся социальную ментальность, и так далее и тому подобное. Я хотел сказать о другом. Понимаешь, система, которую мы создаём, находится вне физических законов природы, и внутри этой системы человек не испытывает на себе ни сопротивления, ни гравитации, ни что-либо ещё, что так или иначе накладывает на него непреодолимые ограничения. Да, в информационной системе есть ограничения существенные и значимые, но они вполне преодолимы и, что самое главное, эти ограничения устанавливает человек. Человек сам создаёт мир, цифровой мир, и сам в нём живёт. Несовершенство человека переходит в несовершенство системы, а затем несовершенная система формирует человеческое сознание. Такой вот замкнутый круг, такой вот опасный парадокс, Рэй.

– Согласен, мистер Харри, но при этом ведь есть тысячелетние государства, за которыми законодательная и исполнительная власть. Цифровая система, какая бы она ни была, находится под государственным контролем, а человек – во власти государства.

– Это временно, это только пока значимость информационной системы не набрала свою критическую массу, пока ещё мы со своей реальностью не вовлечены в неё настолько, что события внутри цифровой системы не начнут в прямом смысле управлять самой реальностью. И тогда – карта начнёт порождать территорию, тогда – законодательные и исполнительные власти – власть государства – может оказаться ничтожной перед некто, обладающим по той или иной причине достаточно большой властью внутри цифровой системы. Среди нас станут жить информационные боги, которые, тем не менее, будут оставаться обычными смертными. Боги, определяющие законы микро-и-макромира. Цифрового мира. Нашей новой реальности.

Возникла пауза. Рэй, задумавшись, молчал. Через несколько секунд Харри продолжил.

– Нет, человек не должен жить в мире, который он создает сам, мир, в котором всё зависит только от него. Создавать мир – это задача высшего разума, а задача человека – жить, подчиняясь его законам. Такова человеческая природа. Главный творец, непоколебимый, непогрешимый и вечный абсолют, ограничивая отдельно взятого человека и человечество в целом, спасает его от вырождения. И вот теперь по поводу траекторий истин, Рэй. Да, наши сегодняшние технические возможности позволяют создать то, что ты подразумеваешь под траекториями истины, но тут мы опять упираемся в человека, в его несовершенство. Отдельно взятый человек, философ, учёный или, в крайнем случае, небольшая группа единомышленников может ещё претендовать на объективность, честность, адекватность в попытке добраться до истины, принять и понять факты о тех или иных событиях, но общество в целом на это неспособно. Конфликтная природа человека, скрытая или явная борьба различных государств за власть или материальные ценности, за право интерпретировать исторические факты в свою пользу, всё это уничтожит твои траектории истины. Люди превратят твои траектории истины в оружие, создадут из них шоу и развлечения, будут зарабатывать на этом деньги, и повышать свой социальный статус. Траектории истины станут траекториями полуправды, лжи и фальши.

Харри замолчал. Рэй выглядел озадаченным, обдумывая смысл услышанного. Так они просидели примерно с минуту, пока Рэй не сказал.

– Знаете, мистер Харри, а я всё-таки попробую.

– Попробуй-попробуй, – добродушно ответил Харри и, приподнявшись со своего места и тихонечко хлопнув Рэя по плечу, направился к выходу, где на вешалке висели его старомодные плащ и шляпа.

Почти сразу же Рэй последовал за Харри.

Когда они расставались на своем привычном перекрестке, шел мелкий моросящий дождь. Стояла поздняя осень, на деревьях почти не осталось листьев, а газоны были сплошь усыпаны ими. В воздухе висел устойчивый запах приближающейся зимы. Харри глубоко вздохнул, с грустью посмотрел на обнаженные кроны деревьев и сказал:

– Вот и еще один год подошел к концу. Еще один временной пласт накрыл мои воспоминания, и они уже так глубоко, Рэй. Я живу тем, что помню: помню близких и дорогих мне людей, помню себя ребенком, помню свою молодую, прекрасную маму и даже ощущаю тепло её ласковых рук. Первая любовь, первый поцелуй, одна большая и бесконечная радость, которая, казалось, никогда не закончится. Всё это теперь у меня внутри, оно живое, оно дышит, и помогает дышать мне. – Харри сделал паузу, и ещё раз глубоко вздохнул. – Это очень важно – помнить, Рэй. А система, которую мы создаем, так и не научилась помнить по-настоящему. Несмотря на все наши технические новшества и ухищрения, она забывает всех, кто не напоминает о себе, стоит только отлучиться на какое-то время. В нашем сознании воспоминание о какой-нибудь даже минутной встрече может храниться годами и десятилетиями, мы можем позабыть какие-нибудь подробности, мы можем даже не вспомнить имен и названий, но воспоминание, если оно вдруг стало для нас важным и горячо любимым, никогда нас не оставит. Всю свою жизнь мы будем стремиться вернуться туда, где мы это воспоминание пережили, с целью еще раз ощутить уже произошедшее однажды. А наша система хоть и способна знать обо всех и обо всём в самых мельчайших подробностях и при желании отыскать любого из нас, при всём этом она почти мгновенно забывает о тех, кто так или иначе перестает напоминать о себе. Мы доверяем системе свои самые любимые фотографии, впечатления, мысли в надежде, что система будет помнить о нас. Но в итоге оказывается, что это не так. Система лишь знает нас, но не помнит. Еще один парадокс. Нет, никакая технически совершенная система, никакие базы данных и знаний не заменят настоящей человеческой памяти. Хранить воспоминания должны мы – люди, а делать это посредством различных технических ухищрений – это большая ошибка.

Они простояли ещё недолго вместе, затем Харри обнял Рэя, тихонечко похлопал по спине, улыбнулся и пошел по направлению к своему дому. Рэй какое-то время смотрел ему вслед. Харри шел по пустынной аллее медленно и слегка покачиваясь. Холодный осенний ветер то и дело поднимал над аллеей ворохи пожелтевших листьев, они быстро кружили вокруг Харри и улетали прочь. Может быть поэтому и Харри показался ему сейчас еще одним опавшим осенним листом. Казалось, что вот сейчас ветер вместе с остальными листьями резко подхватит и его, бешено закружит в воздухе и унесет навсегда туда, куда уносит все осенние листья, туда, откуда они уже никогда не возвращаются.

Ночью того же дня Харри Спитч умер от остановки сердца во сне.

Выписка из уголовного дела N 302B-2024 гражданина Рэя Инисиадора Сегундо

В целях уменьшения дискового пространства, занимаемого данными пользователей всемирной информационной сети, «Global Information Security» организовала конкурс на лучший сжимающий пользовательские данные алгоритм (NEF). По результатам конкурса победил алгоритм Рэя Инисиадора Сегундо – сотрудника этой же организации. Результаты анализа и предварительного тестирования NEF’а, полученного от Рэя Инисиадора Сегудно, не выявили в его функционировании ничего, что могло бы представлять угрозу целостности всей информационной системы. Через сутки после внедрения упомянутого NEF’а, все данные, хранящиеся в информационной системе на резервных и основных накопителях, подверглись воздействию алгоритмов, ранее не зафиксированных хранителями системы, в результате чего данные стали полностью нечитаемыми для всего используемого в системе программного обеспечения. Все действия сотрудников по восстановлению данных путем их обратной дешифровки ни к чему не привели. Рэй Инисиадор Сегундо на первом же допросе признал себя полностью виновным в подмене технологий сжатия данных технологиями шифровки данных и был арестован. На просьбу со стороны следствия пойти навстречу и помочь в восстановлении данных, подсудимый отвечал, что он не в состоянии сделать это, так как технологии, использованные им, видимо, являются результатом работы его подсознания. Специалисты, занимающиеся восстановлением данных, отметили факт того, что процесс шифровки данных не прекращается по настоящий момент, зашифрованные данные непрерывно подвергаются итеративной шифровке. Анализируя этот процесс, специалисты сходятся в своих мнениях относительно того, что работа запущенных подсудимым алгоритмов явно идет к какой-то намеченной цели. В связи с тем, что у специалистов отсутствуют четкие идеи относительно происходящего и относительно возможностей каким-либо образом восстановить утраченные данные, было принято решение не вмешиваться в текущий процесс. Как отметили специалисты, ожидание и невмешательство – это единственный шанс на восстановление исходных данных.