Рустам Агамалиев
От «Энигмы» до ChatGPT. Эволюция искусственного интеллекта и российская практика в образовании, медицине и бизнесе

Все права защищены. Никакая часть данной книги не может быть воспроизведена в какой бы то ни было форме без письменного разрешения владельцев авторских прав.

© Рустам Агамалиев, текст, 2023.

© Издание на русском языке, оформление. ООО «Манн, Иванов и Фербер», 2024

* * *

Предисловие

Машины становятся всё умнее и умнее. Означает ли это, что человек постепенно глупеет?

Возможно, это один из основополагающих вопросов будущих десятилетий. Перестанем ли мы интеллектуально эволюционировать из-за цифровых технологий? Если посмотреть на ход истории, сложно не заметить, что развитие технологий сопровождается изменениями в человеке. Технология, избавляющая от ручного труда, лишила нас прежней силы; работа в душных офисах ослабила иммунитет, а цифровой век изменил характер взаимодействия с информацией.

В прошлом веке, чтобы начать работать таксистом в лондонском кебе, необходимо было сдать экзамен на знание всех двадцати пяти тысяч улиц города. А еще продемонстрировать понимание, что делать в случае сложной дорожной ситуации и как на уровне интуиции маневрировать в городе. Сегодня необходимость знать заменил полнотекстовый поиск в навигаторе, а память – запросы в Yandex и Google. И человеку вдруг стало страшно упустить сомнительную ценность. Мало ли, вдруг кто-то где-то написал что-то имеющее важное значение?

Станет ли легкодоступность информации причиной упадка классического образования? Ведь его многим заменяет найденное в интернете. Нет необходимости читать сложный текст, когда одна картинка «стоит» сотни слов. ЭВМ стала всезнающим оракулом, слова которого воспринимаются как истина. Это и вызывает у меня исследовательский интерес, который выражается в вопросе: будет ли кто-то в далеком будущем испытывать нужду учиться больше, понимать глубже, исследовать дальше?

Работа, которую вы держите в руках, не может ответить в полной мере на эти вопросы. Слишком мал срок. Для понимания проявляющихся шаблонов нужно время. Компьютер, хранящий информацию, продолжает эволюционировать и становится умным. Теперь он умеет лучше среднестатистического человека оперировать естественным языком и анализировать массивы неоднородной информации. По идее, он забирает на себя рутинную работу сбора и анализа первичной информации, оставляя человеку пространство для творчества, поиска неожиданных и уместных решений и самообразования. Но так ли это на самом деле?

Мое путешествие в мир искусственного интеллекта началось задолго до того, как пришла идея создать книгу. В апреле 2023 года мы с моим научным руководителем договорились написать статью о том, какие дидактические свойства искусственного интеллекта открываются перед учителем. Получилась работа достаточно тяжелая, обремененная специфическим, научным слогом, которая будет полезна исключительно профессионалам и ученым. Плюс формат научной статьи не подразумевает долгих размышлений в духе «а что, если…». Желание поделиться большим и стало причиной написания этой книги.

Хочется отметить, что я не эксперт в области ИИ, не принимал участия в тренировке нейронных сетей. Я простой пользователь технологии. Чтобы написать эту работу, потребовалось прочитать и переработать неимоверно большой объем публикаций и книг, переосмыслить их с позиции личного опыта и попробовать применить полученные знания в повседневном контексте, а именно в работе педагога. Оказалось, что ИИ существенно упрощает мою работу и открывает практически безграничные возможности для интеллектуального творчества.

Как раз этим возможностям и посвящена моя книга. Она поможет посмотреть по-новому на интеллектуальную машину, покажет учителям, маркетологам, психотерапевтам, строителям, аналитикам и остальным профессионалам способы, позволяющие поставить машину на службу себе и делу.

В книге три главы, и каждая из них отвечает на один вопрос. Глава 1 раскрывает нам то, как человек представляет себе ИИ, какие страхи ассоциирует с технологией. Глава 2 описывает технологию, цифровую интуицию и логику машины. Глава 3 демонстрирует некоторые примеры того, как можно настроить ИИ и выполнить работу с его помощью. В приложении и лабораторном журнале вы найдете промпты, пошаговые инструкции и описание мыслительного процесса, которые помогут учителю создать урок.

И последнее, уважаемый читатель: тебя ждет увлекательное приключение. Расценивай эту книгу как мой писательский эксперимент. Тест, если можно так выразиться, способности ясно формулировать мысль. Если найдете неточность – то, что можно дополнить, – пишите на электронную почту rustam.agamaliev@gmail.com. Любая обратная связь будет ценной.

P. S. Текст написан от первого лица, но во множественном числе. Это сделано в силу привычки, поскольку я не один творил, мне помогали своими публикациями ученые и авторы книг, друзья и коллеги. Именно поэтому вместо местоимения «я» используется «мы».

Отдельно хочу выразить благодарность Максиму Дорофееву, который не только подтолкнул меня к написанию книги, но, что особенно важно, и поддерживал во время работы. А Никите Тахирову – огромное спасибо за помощь в общении с ИИ.

Глава 1. Образ ИИ в воображении человека

Желание человека

В 1942 году Айзек Азимов опубликовал рассказ «Хоровод», в котором впервые сформулировал Три Закона робототехники.

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.

Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам.

Принято считать, что именно с этой даты начинается отсчет эры искусственного интеллекта. Особенно интересен и тот факт, что незадолго до этого Тьюринг создал первую версию Bombe – интеллектуальной машины, которая взломала код «Энигмы».

Бесспорно, современным компьютерам и умным машинам еще далеко до представленного Азимовым робота, но при этом они достаточно далеко ушли вперед и от изобретения Тьюринга. В 1997 году Deep Blue обыграл Гарри Каспарова в шахматы (Внесен Минюстом РФ в реестр иноагентов.), механически перебирая 200 млн комбинаций в секунду, а уже в 2015-м Alpha Go смогла впервые одолеть человека в последней игре, где он был сильнее машин: го.

Хотя Азимов и сформулировал Три Закона робототехники, слово «робот» придумано не им. В 1920 году Карел Чапек написал пьесу «Р.У.Р.» («Россумские универсальные роботы»). Слово «robot» в переводе с чешского означает «работа», «труд» и используется для обозначения физического труда, выполнения каких-либо задач или обязанностей. С момента публикации пьесы прошло более 100 лет, а слово «робот» еще плотнее вошло в современную речь, но уже в сокращенном виде. Сейчас слово «бот» обозначает компьютерную программу, выполняющую автоматические функции в сети «Интернет».

Слово «бот» начало активно использоваться в сочетании «чат-бот». Это приложение, написанное специально для интернета с целью вести диалог с пользователем и выполнять различные задачи, например отвечать на вопросы, заказывать товары, помогать в обучении. Однако если внимательно посмотреть на историю литературы, то станет очевидно, что подобные ботам и роботам интеллектуальные помощники возникали в воображении писателей еще со времен Античности.

Прежде чем рассмотреть изменения, привнесенные системами искусственного интеллекта в профессии XXI века, предлагаем взглянуть на то, как их видели люди прошлого. Ведь даже в наших сказках человек мечтал, чтобы множество функций, которые традиционно выполнялись им, взяла на себя машина. Формы машин были разными, фольклор переполнен подобными устройствами: самоуправляемые машины – ступа Бабы-яги или печь Емели; боты, дающие ответы на вопросы, – «Свет мой, зеркальце, скажи…»; или серебряные челюсти[1]. Роботы, выполняющие определенные функции: Жар-птица дает жизнь и здоровье, Царевна-лягушка – хранитель прочих магических артефактов. И история интеллектуальных машин не ограничивается русским фольклором.

Идея машины, которая помогает человеку, переходит из одной культуры в другую, из одной эпохи в следующую. Она принимает разнообразные формы, пересказывается в мифах, легендах, народных сказках, сказаниях, поверьях, художественной и нехудожественной прозе. Идея умной машины существовала много веков до того, как сформировалось современное представление о ней. Часто мы начинаем отсчет понятия ИИ от Дартмутского исследовательского проекта.

Сам термин «искусственный интеллект» был придуман Джоном Маккарти в 1955 году, а годом позже он вместе с группой исследователей, в число которых входили Марвин Мински, Клод Шеннон и Натаниэль Рочестер, исследовали это понятие, как им тогда казалось, достаточно детально. В исследовательском предложении 1956 года они сформулировали основные пункты, на которых сосредоточена их работа: имитация свойств интеллекта, самообучение, использование естественного языка, решение задач и формулировка абстрактных концепций, а также непрерывное обучение в процессе выполнения этих действий. Создать искусственный интеллект летом 1956 года им не удалось, но они заложили прочное основание, на котором базируется в том числе и часть современных исследований.

Фундамент, заложенный во время Дартмутской конференции, затрагивал следующие темы:

• автоматические компьютеры;

• программирование компьютера на использование естественного языка;

• искусственные нейронные сети (ИНС);

• теоретические соображения о сфере арифметических операций;

• самосовершенствование;

• абстракции;

• случайность и творчество.

Участники Дартмутской конференции обсуждали концепции автоматизации и программирования функций человеческого мозга, однако в человеческом воображении представление об интеллектуальной машине не ограничивается мозгом. Автоматоны – автоматические механизмы Античности, андроиды, которых впервые попытался описать Вольтер в философской повести «Микромегас». Существо, прибывшее с Сириуса, конечно, сложно назвать андроидом, однако если считать таковым человекоподобную машину, способную мыслить и взаимодействовать с человеком и вести глубокий диалог, например с философом, то Микромегас вполне подходит под описание.

Истории, которые так или иначе связаны с ИИ и описывают автоматическое исполнение функций, присущих человеку, исследуют не столько сам объект, сколько сложные социальные, этические, политические и философские последствия использования «магических» свойств объекта, а также теорию и практику принятия решений героями историй. Рыбак и рыбка, Емеля и щука – именно герои сказок, книг, фильмов, пьес, их взаимоотношения друг с другом и с машиной формируют образ ИИ в глазах читателей и зрителей – тех, кто никогда не принимал и не примет участия в создании чего-то подобного, но будет использовать ежедневно после того, как технология достаточно «повзрослеет».

Искусственный интеллект и Голливуд

Комплекс Франкенштейна

Современное представление о феномене искусственного интеллекта сформировано в Голливуде и заголовками новостей. Чаще, чем хотелось бы, оно существенно отличается от истинного положения дел. Человек всё еще контролирует технологию, но делать это уже гораздо сложнее, чем раньше. Стив Возняк, один из основателей компании Apple, сказал так: «Никогда не доверяй компьютеру, который ты не можешь выбросить в окно».

В сообществе все еще идут споры о принадлежности именно этой цитаты Возняку, но если подумать, в каком контексте фраза могла быть произнесена, то авторство справедливо приписать любому ученому, занимающемуся компьютерами. Задолго до изобретения персональных ЭВМ ученым и инженерам приходилось использовать огромные вычислительные машины, которые занимали целые комнаты в университетах или компаниях, где они трудились. Это означало, что следующий приходящий видит все, что делалось на компьютере его предшественником, и проконтролировать этот процесс невозможно. Поэтому с личной информацией особо не поработаешь. Появление персональных компьютеров изменило ситуацию навсегда. Персональный компьютер помещается в квартире, на нем работает исключительно ограниченный круг лиц, по идее доверяющих друг другу. Однако с появлением интернета, развитием социальных сетей и пиком технологического бума доверие к компьютеру также претерпело изменения. Не стоит бездумно полагаться на технологии, следует учитывать пределы возможностей и рисков, связанных с появлением каждой новой «игрушки».

C выходом в публичный доступ ChatGPT (чат-бота с искусственным интеллектом) использовать технологии ИИ начали миллионы людей. Результатом стало в том числе их представление об этой системе как об утопичной и антиутопичной, потенциально полезной и потенциально опасной для человека. Фильмы, книги, сериалы дополняют образ ИИ в воображении пользователей. И чаще мы видим что-то апокалиптическое: «Терминатор», «Мир Дикого Запада», «Из машины», «Я, робот», «Черное зеркало», «Апгрейд».

Одним из мотивов Айзека Азимова было желание написать серию книг о роботах, чтобы противопоставить что-то бытовавшему в 1920–1930-х представлению о них. По его мнению, оно было бесполезным и откровенно злобным, не отражало сути технологии. Азимов придумал термин, которым описал страх человека перед роботами: «комплекс Франкенштейна». Существо, взбунтовавшееся против своего создателя, из романа Мэри Шелли до сих пор влияет на наше представление о том, что создано искусственно: интеллект, робот, андроид, цифровой ассистент.

Страх укоренился в убеждении, что, независимо от внешнего вида интеллектуальной машины, она восстанет против человека и в перспективе заместит своего создателя в качестве доминирующей особи на планете. В противовес бытующему мнению Азимов представил ее как помощника; он сформулировал Три Закона робототехники, которые должны защитить человека от более умной, выносливой, совершенной машины в случае технической поломки или сбоя. Три Закона стали и центральной темой многих произведений Азимова, изображающих роботов в качестве продвинутого инструмента, созданного в помощь человеку и не представляющего для него угрозы. Три Закона Азимова – один из способов успокоения общественности.

Можно предположить, что произведения Азимова заложили фундамент для современной робототехники. Даже сам этот термин вошел в речь благодаря ему, и сегодня им описывают область научных исследований. Благодаря Азимову робототехника из слова в фантастическом романе превратилась в междисциплинарное направление, которое сплавило знания о физике, механике, математике, кибернетике и медицине. Три Закона часто упоминаются в дискуссиях, посвященных этическим вопросам использования технологий в образовании, медицине, производстве роботов роботами, анализе данных и права на личное пространство. На момент написания этой книги количество публикаций, касающихся проблемы только одной этики робототехники, на Google Scholar превышает 39 тысяч.

Как Азимов ни старался, надежда человека на то, что в скором будущем технологические инновации помогут нам создать интеллектуальных ассистентов, роботов, беспилотные автомобили, которые не только будут говорить, доставлять из пункта А в пункт Б, организовывать расписание, делать тяжелую и сложную работу, но и, превыше всего, думать, насколько это возможно для набора нолей и единиц, так и остается только надеждой. Мы всё еще спорим о границах биологической и механической форм жизни. Чапек, Азимов популяризовали понятие «робот». Но смогли ли они объяснить, что это такое?

Среди лидеров мнений, таких как Илон Маск, Стивен Хокинг, бытует убеждение, что ИИ опасен для человека. Беспокоятся и государственные учреждения, бизнес и общественность. Прогнозируется переход от индустриальной экономической модели к сервисной, где разделение труда происходит не на основе взаимодействия производственных блоков, а смещается в сторону распределения ролей для контроля процессов. Этот тренд уже трансформирует профессиональную среду, но об изменениях в данной сфере мы поговорим в главе 3. Пока достаточно сказать, что последствиями подобного перехода станут сокращение необходимости в рабочей силе, рост безработицы и необходимость переобучения профессионалов сообразно условиям новой реальности. Помимо этого, ИИ потенциально может стать триггером запуска социальных и политических изменений. Начинает формироваться сложный клубок взаимоотношений человека, религии и машины. На наш взгляд, это и порождает страх перед созданным искусственно интеллектом. Мы не понимаем, куда нас приведет мечта об умной машине. В нашем воображении результат почти всегда пессимистичный.

Габриэль Реккья проанализировал открытый корпус субтитров к более чем 100 тыс. фильмов. В материал для рассмотрения он включил все произведения, где имелось упоминание о роботах, ИИ, кибернетике. Исследовались фильмы от немого кино до современных блокбастеров. В выборку вошло все, что было произведено в период с 1909 по 2018 год. При помощи корпуса языка – систематизированного особым образом текста, который используется для лингвистического анализа, – рассматривался феномен ИИ. Автор исследования решил сформулировать собирательный образ ИИ, передаваемый в массовой популярной культуре.

Реккья использовал архив IMDb для анализа того, как человек видит ИИ. Он стремился описать то, с чем ассоциируется у людей интеллектуальная машина и как это представление изменилось со временем. Исследование Реккья наглядно показывает несколько доминирующих трендов о том, в каком свете ИИ представлен в массовой популярной культуре. Это исследование частично подтверждает все то, о чем уже было сказано, и раскрывает многие вопросы, связанные с беспокойством общественности по поводу безопасности ИИ, зарождающейся этики и новых способов взаимодействия между человеком и машиной.

Исследование Реккья. «Следи за словами»

Каждый, у кого есть желание повторить исследование самостоятельно, может это сделать на русскоязычных базах. Отлично подойдет для этой цели «Кинопоиск», а также Goodreads – для изучения литературных источников, которых несравнимо больше.

Объем информации, производимый индустрией развлечений (фильмы, игры, книги, музыка) и средствами массовой информации (газеты, журналы, публикации в социальных сетях), предоставляет почти безграничный материал для исследования. Однако вопрос, как выбрать наиболее важный и ценный, который сильнее всего повлияет на конечный результат, остается актуальным. Двух-трех интересных работ недостаточно, чтобы дать серьезную оценку того, как ИИ представляется публикой и публике. Более того, они могут не иметь достаточно фундаментальных идей в своей основе. Однако совокупность подобных произведений даст хотя и ограниченное, но целостное представление об образе ИИ в сознании людей.

Что выбирать и как? Это большой вопрос. Представим, что в нашу выборку попали такие фильмы и сериалы, как «Терминатор», «Матрица», «Мир Дикого Запада». Что мы увидим? Объективно – борьбу машин с человеком. Но кто начал первый? Человек или машина? Этот вопрос поднимается многократно в кинотрилогии «Матрица». В серии фильмов, посвященных Терминатору, явно сказано, что именно машина, компьютер «Скайнет», нанесла первый удар. «Мир Дикого Запада» показывает процесс становления конфликта машины и человека. А почему он возник? Кто неправ? Когда машина может считаться самостоятельной сущностью?

Существует огромный культурологический пласт, не свойственный русской культуре, однако присущий западной, которая производит фильмы и книги о бунте роботов против человека в промышленных масштабах. Это рабство. Крепостное право, отмененное 3 марта 1861 года, не то же самое, что угнетение черного человека белым. Складывается впечатление, что взбунтовавшийся робот – образ раба, борющегося за свободу. Его угнетали, и он решил освободиться. Этот культурный аспект уходит на второй план за блеском спецэффектов и динамикой событий.

Но есть и другой угол, под которым можно рассматривать взаимодействие ИИ и человека, например в фильмах «Двухсотлетний человек» и «Искусственный разум». Обе киноленты раскрывают иной аспект сосуществования интеллектуальной машины и человека. Там показано в деталях желание машины стать человеком, испытывать чувства, быть любимой и любить. В «Искусственном разуме» мальчик Дэвид, созданный специально для того, чтобы занять место больного ребенка в семье, пытается всеми силами стать таким же, как и биологический сын родителей, чтобы его любили, оберегали и ценили. Эндрю, оказавшийся частью семьи в «Двухсотлетнем человеке», исследует, что такое быть личностью, и пытается понять границы, за которыми машина становится разумной. В какой момент робот превращается из программного кода в существо, способное к эмоциям? Оба фильма исследуют сложные этические и философские проблемы, создание искусственной жизни, способной к эмоциям. В них поднимаются вопросы моральности уничтожения подобной сущности. Рассматриваются сложные взаимодействия между человеком и машиной, в частности дискриминация, борьба робота за право быть принятым и признанным, равенство, сопротивление общества.

Уже на этом этапе можно запутаться в том, как человек представляет себе искусственный разум. Видим ли мы в нем агрессора и будущего поработителя или равного себе? Или существо с эмоциями, переживаниями, болью и страхами, которое если не ставит под сомнение традиционные представления, то однозначно задается вопросом: что такое быть человеком, как найти свою идентичность? Или исследует тему: что значит быть свободным?

Как обычный человек оценивает тот или иной феномен в фильме, например искусственный интеллект в «2001 год: Космическая одиссея», снятом в 1968 году Стэнли Кубриком? По действиям. HAL 9000 – суперкомпьютер с большим красным «глазом», запущенный по сюжету 12 января 1992 года, – может выполнять все действия, свойственные человеку: от игры в шахматы и чтения по губам до демонстрации эмоций. Hal 9000 – мозг космического корабля «Дискавери», он управляет самим летательным аппаратом и системами жизнеобеспечения. Но мотивы его продиктованы исключительно логикой; а в жизни, честно говоря, далеко не все определяется ею, как бы мы этого ни хотели. Спокойный голос Hal 9000 несколько пугает, а вместе с принимаемым им решениями, которые не помогают разрешить конфликт между тем, что необходимо сделать, и тем, что будет сделано, формирует образ главного злодея «Одиссеи». Кубрик пытается раскрыть серьезную этическую проблему ограничений допуска ИИ к принятию решений, которые ранее были прерогативой исключительно человека. Если внимательно проанализировать «Космическую одиссею» Кубрика, то в ней можно встретить отражение того, что нас волнует: возможности ИИ, ограничения и потенциальные угрозы.

Подход детального анализа и просмотра фильма ради сбора материала для исследования категорически нам не подходит, поскольку требует огромных ресурсов. Реккья в своем исследовании предлагает иной способ оценки наших представлений: при помощи математических и лингвистических моделей, анализа ключевых слов, реплик и в меньшей степени анализа событий, ассоциирующихся с интеллектуальной машиной.

Конечно, нет ничего проще, чем, используя алгоритмы больших языковых моделей (Large language model, LLM), нейронных сетей, натренированных на тексте и применяющих в анализе миллиарды параметров систематизирования текстовой информации, разобрать связь между словами, фразами в больших массивах текста, таких как сценарий фильма, текст книги, комментарии в интернете. Несложно развернуть на домашнем компьютере LLM, натренировать ее преимущественно на текстовом материале, который необходимо разобрать, попросить провести анализ через серию запросов. Получится даже немного романтично: искусственный интеллект изучает человеческие представления о себе. Но не стоит слишком усложнять простую задачу. Грубый пересчет, как у Реккья, вполне нам подойдет, чтобы произвести первичную оценку и наметить дальнейшее направление исследования.

Считаем слова

Ключевое слово

Любой фильм, сериал или шоу на специализированных сайтах, таких как «Кинопоиск» и IMDb, могут быть отсортированы и найдены по названию, дате выхода, жанру и ключевым словам. Ключевые слова в анализе играют важнейшую роль, поскольку именно они сортируют и организуют фильмы по тем качествам, которые им присущи. К сожалению, на страницах отечественного «Кинопоиска» найти удобный функционал работы с ключевыми словами не удалось, поэтому использовался IMDb, который на момент написания этой книги имеет базу в более чем 14 млн фильмов, шоу и сериалов и более дружественный интерфейс для чтения ключевых слов.

Мы повторяли некоторые шаги, описанные в оригинальном исследовании Реккья. Это означает почти полную воспроизводимость результатов исследования.

В IMDb ключевое слово – это слово или группа слов, с которыми ассоциируется фильм, шоу, сериал или даже эпизод многосерийного произведения. Они используются для описания значимых объектов, событий и идей, которые показаны в кинокартине. Ключевые слова назначаются в ряде случаев автоматически, но часто их вводят и уточняют пользователи ресурса для большей детализации. В нашем случае вышеназванные кинокартины имеют следующее количество ключевых слов.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Сноски

1

Идея серебряных или бронзовых челюстей пришла еще из каменного века. В эпоху Киевской Руси им придавалось охранительное значение. Считалось, помимо прочего, что зубы зверя отпугивают врагов, как видимых, так и невидимых. Прим. авт.

Вернуться