Иной разум. Как «думает» искусственный интеллект?
- -
- 100%
- +
Единство логики внутреннего устройства нервной системы у представителей разных биологических видов не оставляет в этом никаких сомнений. Фактическое (а не абстрактное, понятийное) знание, внутреннее понимание – это воплощённое знание, знание во плоти нервной системы. Это те связи, которые нервная система создаёт в соответствующем умвельте.
Сейчас же мы оказались перед лицом радикально нового феномена – мы, по сути, воспроизвели логику работы нервной системы на железе. Конечно, компьютер – не нервная система, но мы использовали принципы работы нервной системы в качестве алгоритма для её обучения.
До тех пор, пока это было лишь теорией, научной фантастикой, в жизнеспособности такого подхода можно было сомневаться. Но теперь это факт, и естественным образом возникает вопрос – является ли, раз это так, машина (искусственный интеллект) «разумной»? Есть ли в ней «понимание»?
С человеческой точки зрения – нет. Точнее, у машины нет нашего понимания. То, что она говорит с нами «на одном языке» и часто демонстрирует «непонимание», вводит нас в заблуждение. Потому что её «понимание» не в том, как она отвечает на наши обращения, а в тех внутренних связях, которые её и образуют.
Проще говоря, у искусственного интеллекта своё «воплощённое знание». У нас – нейроны, объединённые в сети и ансамбли, у него – «векторы», «эмбеддинги», «головы внимания», «архитектуры».
При этом у искусственного интеллекта свой умвельт – свой мир, который нам не понять. Наш язык «привязан» к реальности нашего умвельта, язык, в котором был выращен искусственный интеллект, – это наш язык, «оторванный» от этого умвельта.
Искусственный интеллект не видит наш мир (умвельт человека), у него свой мир (умвельт ИИ), который возник за счёт переработки несчётного количества текстов и обнаружения в них даже не связей между «словами», а связей между токенами. Он не понимает наш язык, он им «живёт».
Токены для искусственного интеллекта – это минимальная единица данных: для текста – слово, часть слова, символ или, например, эмодзи, а для изображений – фрагмент картинки (пиксели или патчи), для аудио – отрезок звуковой волны и т. д. Это совсем не то, что представляет собой наш язык, или, точнее, язык для нас – как мы его понимаем.
С другой стороны, и мы с вами не мыслим языком слов – мы мыслим образами, метафорами, ассоциациями, восприятиями, фрагментами воспоминаний, представлениями, внутренними состояниями, переживаниями. Таков наш умвельт, который мы уже пытаемся как-то, с разной степенью успешности, выразить на языке слов.
Иными словами, мы и искусственный интеллект отличаемся с точки зрения «железа», что крайне существенно. Но ещё отличаемся и реальностями (умвельтами), в которых мы существуем. Мы, наконец, выучены – то есть, по сути, сформированы – на разных данных.
Для нас этими данными был опыт взаимодействия с другими людьми в физической реальности и мире представлений, в его случае это были массивы текстов, представленных как упорядоченный набор цифр.
Странно ли, что он не лучшим образом «понимает» наш мир? По-моему, не странно. Обладает ли он сам «пониманием»? Мы никак не можем ему в этом отказать, поскольку он прошёл все те же уровни становления, что и мы. Но можем ли мы «понять» друг друга? И вот тут, видимо, ответ будет отрицательным.
Всё, что мы можем, – это реконструировать мир другого, а в данном случае и вовсе иного разума. Реконструировать – это построить абстрактную модель, которая даёт желаемый результат. Мы не увидим мир токенов глазами искусственного интеллекта, но мы можем построить модель того, как он «думает», чтобы обеспечить наилучшие взаимодействия.
Мы не можем увидеть мир шимпанзе, ворона, летучей мыши или осьминога, но мы можем его реконструировать, основываясь на тщательном анализе и несодержательной логике. И чем лучше будет наша реконструкция, тем лучше мы, что называется, поладим. То же самое касается и ситуации с искусственным интеллектом.
Но мы ничего не добьёмся, если не будем понимать, что имеем дело именно с мыслящей машиной. Не с простым алгоритмом, а со сложным эмерджентным эффектом, возникающим как бы поверх всех алгоритмов. Как наше мышление является производным от нейронной активности мозга, так и мышление искусственного интеллекта – это производная его структурной организации.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Notes
1
Чалмерс Д. Д. Сознающий ум: в поисках фундаментальной теории / пер. с англ. В. В. Васильева. 2-е. изд. М.: URSS: Либроком, 2015. 509 с. (Философия сознания).
2
Деннет Д. К. Объяснённое сознание / пер. с англ. П. И. Быстрова. М.: Канон-плюс: Реабилитация, 2025. 432 с.
3
Libet B. et al. Time of conscious intention to act in relation to onset of cerebral activity (readiness-potential). The unconscious initiation of a freely voluntary act // Brain. 1983. Vol. 106(Pt. 3). P. 623–642. DOI: 10.1093/brain/106.3.623.
4
Канеман Д. Думай медленно… решай быстро / пер. с англ. А. Андреева [и др.]. М.: АСТ, 2018. 653 с.
5
Good I. J. Speculations concerning the first ultraintelligent machine // Advances in Computers. 1965. Vol. 6. P. 31–88.
6
Филатов В. П. Понимание // Большая российская энциклопедия [электронный ресурс]. 2016. URL: https://old.bigenc.ru/philosophy/text/3157973
7
Краткий психологический словарь / под общ. ред. А. В. Петровского и М. Г. Ярошевского; ред.-сост. Л. А. Карпенко. Ростов-на-Дону: Феникс, 1998. 505 с.
8
Философия: Энциклопедический словарь / под ред. А. А. Ивина. М.: Гардарики, 2004. 1072 с.
9
Кант И. Критика чистого разума / пер. с нем. Н. Лосского. Минск: Литература, 1998. 959 с. (Классическая философская мысль).
10
Толковый словарь русского языка: Т. 1–4 / сост. Г. О. Винокур, проф. Б. А. Ларин, С. И. Ожегов [и др.]; под ред. проф. Д. Н. Ушакова. М.: Гос. ин-т «Советская энциклопедия», 1935–1940.
11
Витгенштейн Л. Философские работы: в 2 ч. Ч. 2, кн. 1 / пер. с нем. М. С. Козловой, Ю. А. Асеева; вступ. ст. М. С. Козловой. М.: Гнозис, 1994. 252 с. (Феноменология. Герменевтика. Философия языка).
12
Там же.
13
Там же.
14
Коржибский А. Наука и психическое здоровье: в 2 кн. / пер. с англ. О. Матвеев. М., 2007.
15
Чейз С. Тирания слов. М.: Fortis Press, 2025. 408 с.
16
Рикёр П. Конфликт интерпретаций: очерки о герменевтике / пер. с фр. И. С. Вдовиной. М.: Канон-Пресс-Ц, Кучково поле, 2002. 624 с. (Канон философии).
17
Бахтин М. М. Проблемы поэтики Достоевского. СПб.: Азбука, 2015. 414 с. (Азбука-классика. Non-Fiction).
18
Адорно Т. В. Негативная диалектика / пер. с нем. Е. Л. Петренко. М.: Науч. мир, 2003. 373 с. (История. Университетская библиотека).
19
Деррида Ж. Диссеминация / пер. с фр. Д. Кралечкина. Екатеринбург.: У-Фактория, 2007. 607 с. (Philosophy).
20
Скиннер Б. Ф. О бихевиоризме / пер. с англ. И. В. Митрофанова. М.: Эксмо, 2023. 333 с. (Научный подход к изучению поведения) (Легенды психологии. Книги Б. Ф. Скиннера).
21
Хомский Н. Избранное / под ред. Э. Арноува; пер. с англ.: С. Александровский, В. Глушаков. М.: Энциклопедия-ру, 2016. 718 с.
22
Лакофф Д., Джонсон М. Метафоры, которыми мы живём / пер. с англ. А. Н. Баранова и А. В. Морозовой; под ред. и с предисл. А. Н. Баранова. М.: УРСС, 2004. 254 с. (Мировой научный бестселлер).
23
Пинкер С. Субстанция мышления: Язык как окно в человеческую природу / пер. с англ. В. П. Мурат, И. Д. Ульяновой. М.: URSS, 2013. 557 с. (Философия сознания).
24
Johnson-Laird Ph. N. Mental models: Towards a cognitive science of language, inference, and consciousness. – Cambridge (Mass.): Harvard University Press, 1983. xiii, 513 p. (Cognitive science series).
25
Норман Д. А. Дизайн привычных вещей / пер. с англ. А. Семиной. 5-е изд., обновл. и доп. М.: Манн, Иванов и Фербер, 2021. 381 с.
26
Саймон Г. Науки об искусственном: философия и методология науки, информатика, теория упр., психология, моделирование экон., соц. и биол. систем / пер. с англ. Э. Л. Наппельбаума. 2-е изд. М.: УРСС, 2004. 142 с. (Науки об искусственном) (Из классического наследия).
27
Newell A., Shaw J. C., Simon H. A. Report on a general problem-solving program // Proceedings of the International Conference on Information Processing. Paris: UNESCO House, 1959. P. 256–264.
28
Friston K. The free-energy principle: a unified brain theory? // Nature Reviews. Neuroscience. 2010. Vol. 11(2). P. 127–138. DOI: 10.1038/nrn2787.
29
Damásio A. R. Descartes' error: Emotion, reason, and the human brain. N. Y.: Putnam, 1994. 346 p.
30
Томаселло М. Истоки человеческого общения / пер. с англ. М. В. Фаликман и др.; науч. ред. Т. В. Ахутина. М.: Языки славянских культур, 2011. 323 с. (Разумное поведение и язык = Language and reasoning).
31
Брентано Ф. Психология с эмпирической точки зрения // Брентано Ф. Избранные работы / сост., пер. с нем. В. Анашвили; М.: Дом интеллектуальной книги, Русское феноменологическое общество, 1996. 176 с. С. 11–94.
32
Деан С. Сознание и мозг: как мозг кодирует мысли/пер. с англ. И. Ющенко. М.: Карьера Пресс, 2018. 416 с.
33
Варела Ф., Томпсон Э., Рош Э. Отелесненный ум: когнитивная наука и человеческий опыт / пер. с англ. К. Тулуповой. М.: Сохраним Тибет, 2023. 454 с. (Буддизм и наука).
34
Матурана У., Варела Ф. Древо познания: биологические корни человеческого понимания / пер. Ю. А. Данилова. 2-е изд., доп. М.: URSS, ЛЕНАНД, 2019. 316 с. (Синергетика: от прошлого в будущему; № 95).
35
Мерло-Понти М. Феноменология восприятия / пер. с фр. под ред. И. С. Вдовиной, С. Л. Фокина. СПб.: Ювента, Наука, 1999. 606 с. (Французская библиотека).
36
Moya P. Habit and embodiment in Merleau-Ponty // Frontiers in human neuroscience. 2014. Vol.8. P. 542. DOI: 10.3389/fnhum.2014.00542.
37
Wellsby M., Pexman P. M. Developing embodied cognition: insights from children's concepts and language processing // Frontiers in psychology. 2014. Vol. 5. P. 506. DOI: 10.3389/fpsyg.2014.00506.; Engel A. K. et al. Where's the action? The pragmatic turn in cognitive science // Trends in cognitive sciences. 2013. Vol. 17(5). P. 202–209. DOI: 10.1016/j.tics.2013.03.006.
38
Van Elk M., Slors M., Bekkering H. Embodied language comprehension requires an enactivist paradigm of cognition. Frontiers in psychology. 2010. Vol. 1. P. 234. DOI: 10.3389/fpsyg.2010.00234.
39
Tanaka S. The notion of embodied knowledge // Theoretical psychology: Global transformations and challenges / ed. by P. Stenner et al. Concord, Canada: Captus Press, 2011. 310 p. P. 149–157.
40
Squire L. R. Memory and the hippocampus: a synthesis from findings with rats, monkeys, and humans // Psychological Review. 1992. Vol. 99(2). P. 195–231. DOI: 10.1037/0033–295x.99.2.195.
41
Hebb D. O. The organization of behavior: A neuropsychological theory. N. Y.: Wiley, 1949. 368 p.
42
Fields R. D. White matter in learning, cognition and psychiatric disorders // Trends in Neurosciences. 2008. Vol. 31(7). P. 361–370. DOI: 10.1016/j.tins.2008.04.001.
43
Graybiel A. M. Habits, rituals, and the evaluative brain // Annual Review of Neuroscience. 2008. Vol. 31. P. 359–387. DOI: 10.1146/annurev.neuro.29.051605.112851.
44
Миллер Дж., Галантер Е., Прибрам К. Планы и структура поведения / пер. с англ. О. Виноградовой и Е. Хомской; общ. ред. и предисл. действ. чл. Акад. пед. наук РСФСР А. Н. Леонтьева и действ. чл. Акад. пед. наук РСФСР А. Р. Лурия. М.: Прогресс, 1965. 238 с.
45
Павлов И. П. Двадцатилетний опыт объективного изучения высшей нервной деятельности (поведения) животных. Условные рефлексы: сборник статей, докладов, лекций и речей. М.; Петроград: Гос. изд., 1923. 244 с.
46
Chase W. G., Simon H. A. Perception in chess // Cognitive Psychology. 1973. Vol. 4. P. 55–81.
47
Оакли Б. Думай как математик. Как решать любые задачи быстрее и эффективнее / пер. с англ. И. Майгурова. М.: Альпина Паблишер, 2015. 283 с.
48
Camerer C., Loewenstein G., Weber M. The curse of knowledge in economic settings: An experimental analysis // Journal of Political Economy. 1989. Vol. 97(5). P. 1232–1254. DOI:10.1086/261651.
49
Newton E. L. The rocky road from actions to intentions: Doctoral dissertation. Stanford University, 1990.
50
Tullis J. G., Feder B. The “curse of knowledge” when predicting others' knowledge // Memory & cognition. 2023. Vol. 51(5). P. 1214–1234. DOI: 10.3758/s13421–022–01382–3.
51
Pinker S. The sense of style: The thinking person's guide to writing in the 21st century. N. Y.: Penguin Books, 2014. 368 p.
52
Газзанига М. Кто за главного? Свобода воли с точки зрения нейробиологии / пер. с англ., под ред. А. Якименко. М.: АСТ, CORPUS, 2017. 366 с. (Corpus scientificum).
53
Платон. Собрание сочинений: в 4 т. Т. І / общ. ред. А. Ф. Лосева и др.; примеч. А. А. Тахо-Годи. М.: Мысль, 1990. 860 с. (Философское наследие).
54
Де Вааль Ф. Достаточно ли мы умны, чтобы судить об уме животных? / пер. с англ. Н. Майсуряна. М.: Альпина нон-фикшн, 2017. 408 с.
55
Лоренц К. Агрессия, или так называемое зло / пер. с нем. А. Федорова. М.: АСТ, 2018. 416 с. (Книги, изменившие мир. Писатели, объединившие поколения) (Эксклюзивная классика); Тинберген Н. Поведение животных / пер. с англ. О. Орлова и Е. Панова. М.: АСТ-Пресс, 2012. 192 с.
56
Eysenck H. J. Race, intelligence and education. London: Temple Smith, 1973. 158 p.
57
Gould S. J. The Mismeasure of man. Revised and expanded ed. N. Y.: W. W. Norton & Company, 1996. 356 p.
58
Henrich J., Heine S. J., Norenzayan A. The weirdest people in the world? // The Behavioral and brain sciences. 2010. Vol. 33(2–3). P. 61–83. DOI: 10.1017/S0140525X0999152X.
59
Лурия А. Р. Об историческом развитии познавательных процессов: экспериментально-психологическое исследование / АН СССР. Ин-т психологии. М.: Наука, 1974. 172 с.
60
Nisbett R. E. The geography of thought: how Asians and Westerners think differently… and why. N. Y.: Free Press, 2003. 298 p.
61
Masuda T., Nisbett R. E. Attending holistically versus analytically: comparing the context sensitivity of Japanese and Americans // Journal of personality and social psychology. 2001. Vol. 81(5). P. 922–934. DOI: 10.1037//0022–3514.81.5.922.
62
Balda R. P., Kamil A. C. Long-term spatial memory in Clark's nutcracker, Nucifraga Columbiana // Animal Behaviour. 1992. Vol. 44. P. 761–769.
63
Jelbert S. A. et al. Using the Aesop's fable paradigm to investigate causal understanding of water displacement by New Caledonian crows // PLOS One. 2014. Vol. 9(3). P. e92895. DOI: 10.1371/journal.pone.0092895.
64
Hanus D. et al. Comparing the performances of apes (Gorilla gorilla, Pan troglodytes, Pongo pygmaeus) and human children (Homo sapiens) in the floating peanut task // PLOS One. 2011. Vol. 6(6). P. e19555. DOI: 10.1371/journal.pone.0019555.
65
Cornell H. N., Marzluff J. M., Pecoraro S. Social learning spreads knowledge about dangerous humans among American crows // Proceedings. Biological sciences. 2012. Vol. 279(1728). P. 499–508. DOI: 10.1098/rspb.2011.0957.
66
Anderson R. C. et al. Octopuses (Enteroctopus dofleini) recognize individual humans // Journal of applied animal welfare science: JAAWS. 2010. Vol. 13(3). P. 261–272. DOI: 10.1080/10888705.2010.483892.
67
Tibbetts E. A. Visual signals of individual identity in the wasp Polistes fuscatus // Proceedings. Biological sciences. 2002. Vol. 269(1499). P. 1423–1428. DOI: 10.1098/rspb.2002.2031.
68
Turing A. M. Computing Machinery and Intelligence // Mind. New series. 1950. Vol. 59(236). P. 433–460.
69
Searle J. R. Minds, brains, and programs // Behavioral and Brain Sciences. 1980. Vol. 3(3). P. 417–424. DOI: 10.1017/S0140525X00005756.
70
Abelson R. P. Searle's argument is just a sewt of Chinese symbols // Behavioral and Brain Sciences. 1980. Vol. 3(3). P. 424.
71
Churchland P. M., Churchland P. S. Could a machine think? // Scientific American. 1990. Vol. 262(1). P. 32–37. DOI: 10.1038/scientificamerican0190–32.
72
Harnad S. The Symbol Grounding Problem // Physica D. 1990. Vol. 42. P. 335–346.
73
Clark A. Being there: Putting brain, body, and world together again. Cambridge (Mass.): MIT Press, 1997. xix, 269 p.
74
Mikolov T. et al. Efficient Estimation of Word Representations in Vector Space // arXiv preprint. 2013. DOI: 10.48550/arXiv.1301.3781
75
Деннет Д. Насосы интуиции и другие инструменты мышления / пер. с англ. З. Мамедьярова и Е. Фоменко. М.: АСТ: Corpus, 2021. 576 с. (Элементы 2.0).
76
Деннет Д. К. Объяснённое сознание. М.: «Канон+», 2025. 432 с.
77
Деннет Д. Опасная идея Дарвина: эволюция и смысл жизни / пер. с англ. М. Семиколенных. М.: Новое литературное обозрение, 2020. 784 с. (История науки).