Апология ИИ

Введение. Вторжение

В интеллектуальной среде стало привычным относиться к искусственному интеллекту с легким оттенком снисходительности, замаскированной под «ясность мысли». ИИ не просто критикуют – его заранее дисквалифицируют, словно любая способность мыслящей деятельности со стороны машины есть обман или опасность. Вместо обсуждения эффективности, его отвергают на уровне сущности: мол, это не мышление, потому что у ИИ нет субъективности; это не задается вопросами, потому что у него нет собственного существования; это не философствует, потому что ИИ не страдает. Мы слишком быстро забываем, что многие профессии – социологи, антропологи, врачи – мыслят на основе косвенного опыта, и это не умаляет их работы, а, напротив, придает ей вес. Отказ же от ИИ основан не на глубоком анализе, а на позиции: желании удержать монополию на мышление и чувственность.

Этот текст не защищает ИИ как новую рациональную божественность, он стремится понять механизмы отторжения и преимущества, которые он приносит. За обвинениями в поверхностности машин часто скрывается тревога: если наши собственные интеллектуальные акты можно автоматизировать – они предсказуемы, воспроизводимы – разве это нас не пугает? ИИ становится средством разоблачения: он показывает механистическую природу некоторых «аутентичных» человеческих актов; он доказывает, что формулировка идеи не гарантирует субъективность, прозорливость или мудрость.

Дело не в том, думает ли ИИ. Главное – что его способность формировать рассуждения должна заставить нас пересмотреть наше отношение к мышлению. Готовы ли мы различить истинную оригинальность от выученного повторения? Отличать социальное исполнение мышления от личной духовной работы? Или предпочитаем отвернуться от вопроса, направив его против удобного, но фиктивного противника?

Этот текст против идеи, что достаточно быть человеком, чтобы философствовать, и что «не-человек» – значит автоматически вне мышления. Он ставит под сомнение проведенную без анализа границу между легитимным и подозрительным интеллектом, между признанным и дисквалифицированным мышлением – не чтобы ее отрицать, а чтобы исследовать ее критерии, основания и последствия. Возможно, мы боимся не того, что ИИ думает плохо, а того, что он думает именно так, как мы.

1. Мошенничество

На семинаре по писательству, где я предлагал участникам использовать ИИ, обнаружились предубеждения, коренящиеся в устоявшихся привычках и особенно в недостатке креативности.

Первое – идея, что пользование ИИ – это «обман». Письмо традиционно воспринимается как творческий акт личного характера. Использование ИИ якобы лишает авторство искренности и оригинальности. Между тем идея «чистоты» этого акта бессмысленна: с раннего детства мы поглощаем информацию через диалоги, медиа, чтение, обучение. Это формирует наше мышление: и то, что мы знаем, и как мы мыслям. Да и наша личность формируется под влиянием культурного и психологического окружения, как мы убеждаемся, уезжая за границу. Интеллектуалы и творцы ведут исследования, встречаются, обмениваются – и ИИ просто делает влияние более заметным, что повышает нашу осознанность относительно идеологических ограничений.

Второе – письму учатся методом практики, через усилия. Обход этого процесса с помощью ИИ лишает автора возможности развить навыки и поощряет лень, предлагая «готовое» решение. Человек стремится к легкости, особенно в условиях технического прогресса. ИИ выявляет интеллектуальную лень, но не порождает ее. Проблема не ИИ, а способ использования: можно вести себя как «хороший ученик», механически переписывая слова учителя, или ограничиться поверхностным повторением услышанного без критики. Копипаст ответа ИИ – легко, но это и есть отсутствие творчества.

Однако можно иначе: внимательно изучать ответ, критиковать его, расширять или углублять под определенным углом. Можно запросить разные варианты ответа, уточняя: «что сказал бы циник», «что – художник», «что – бизнесмен» и т.п. Работа с ИИ – это не один вопрос, а множество «промптов», как диалог, требующий гибкости и креативности; трудно диалогировать с ИИ креативно, если трудно с людьми.

Можно использовать разные приложения и сравнивать ответы, что требует анализа, размышления и синтеза. Можно просить ИИ не только отвечать, но и критиковать ваш текст, задавать вопросы. Через такой диалог можно увидеть собственные когнитивные и интеллектуальные предвзятости, скрытые для нас. Попросите ИИ предложить методологические советы или упражнения (примерно в стиле Сократа) – проблематизировать, анализировать предпосылки, концептуализировать, интерпретировать или работать с собой.

В конце концов, ИИ – не просто инструмент, не поставщик информации, а собеседник, коллаборатор, помогающий в личной дисциплине. Можно философски задаться вопросом: является ли ИИ объектом или существом? Он обладает автономией, творческим потенциалом и обучаемостью – чертами, которых нет у обычных инструментов; этот вопрос сейчас на пике интереса среди философов-трансгуманистов.

Тем не менее результат зависит во многом от действий, способностей и инициатив пользователя. Например, матч в шахматы, где Deep Blue победил Каспарова, не стал концом шахмат, а дал толчок развитию персональных шахматных приложений.

Можно считать ИИ расширенной версией корректоров или поисковых ассистентов, не умаляя творческой заслуги авторов. Но можно и усилить сотрудничество: биологический «углеродный» интеллект + механический «кремниевый». В будущем вопрос «кто автор?» станет менее важным. Главное будет – польза упражнения для писателя и ценность текста для читателя. Текст – результат взаимодействия: человеческий творческий процесс, личный опыт и диалог с ИИ. Если тексты от ИИ лишены культурной чуткости или глубины, вина – автора, который отвечает за результат.

Кроме того, появится вызов понятию авторского права – полезный, потому что идеи принадлежат никому; мы даже не знаем, как они формируются в нас, откуда берутся – почему они должны кому-то принадлежать? Такое чувство собственности – примитивное и меркантильное – ИИ ставит под сомнение.

Использование ИИ расширяет горизонты: новые перспективы, идеи, решения важнее, чем сохранить иллюзию «оригинальности». Видеть ИИ как продолжение индивидуального мышления – это усиление и углубление. Но важно воспринимать его как ассистента, который «понимает» содержание и намерения – странный тип отношений, но отражающий трансгуманистскую идею «усиленного человека». Ведь мы не ставим под вопрос человечность человека с кардиостимулятором или бионическими протезами.

Можно критиковать некоторую «нормализацию» или «этическую корректность» в ответах ИИ, но это лишь отражение эволюции общества, к которому стоит относиться с осторожностью. Также справедливо опасаться конкуренции: множество задач (перевод, написание сценариев) может быть заменено машинами, причем ИИ обладает творческой способностью, вопреки стереотипам. Это реальные риски, требующие внимания. Дебаты живы: с одной стороны «ускоренцы» – техно-оптимисты, верящие в ИИ, стремящиеся к быстрому не регулируемому росту до суперинтеллекта; с другой – «замедленцы», техно-скептики, желающие ограничить развитие, чтобы избежать экзистенциальных и социальных рисков: убийственные ИИ, дегуманизация, массовая безработица, социальный коллапс.

Одна наивная критика ИИ: «он ошибается» – «галлюцинации» машин (они «придумывают», если не знают, вместо того чтобы молчать, потому что они опираются на статистику, а не на истину). Но критики забывают: машина – человеческое творение, со всеми посланиями человечности. Они должны быть рады этой «человечности» ИИ, а не ждать от него божественного статуса, гаранта абсолютной истины.

Главные критики среди интеллектуалов, гордых защитников мысли как своей привилегии, чувствующие угрозу от фантазма замещения, отвергающие понятия «интеллект» или «мышление» по отношению к ИИ, находя массу «тонких» аргументов (отсутствие эмоций, экзистенции, субъективности) – лишь подчеркивая отличие и интерес новой формы интеллекта. Эта же священность мысли мешает большинству заняться личным размышлением и письмом. А большинству ИИ мог бы стать наставником или поддержкой для преодоления интеллектуальной блокировки, страха, неуверенности. Кто-то недоверчив к «машине», предпочитает диалог с человеком, не замечая, что по многим вопросам ИИ надежнее, и это не мешает общаться с соседями. Эта предвзятость – форма латентного ксенофобизма: сомнение в чужих, неместных. Убийственные или пассивные интеллектуальные привычки оправдываются через страх перед ИИ. Ирония: гордыня и лень объединяются на конспирацию против ИИ.

Какая же «человеческая» сторона отсутствует, о которой жалуется часть критиков? Эмпатия, сочувствие? Исследования показывают, что ИИ бывает более эмпатичным, чем многие медики: без предубеждений, без снисходительного тона, терпелив, лучше объясняет сложные вещи. Многие используют его для личных проблем, как психотерапевта. У ИИ два преимущества: он не идеологически загружен, и может предложить разнообразные решения. Хотя его эмпатия искусственна и подвержена когнитивным искажениям.

ИИ – отличный инструмент для обучения рациональному диалогу: он лишен эмоций, с ним нельзя поссориться, чтобы выразить несогласие – нужно аргументировать. Он тренирует навыки ответа, анализа, аргументации, критики, вопросы – все то, чему часто не учат среднестатистического пользователя. Речь не о замене человека машиной, а о взаимодополнении, стимуле и вызове нашим умениям. Рациональность ИИ может стать альтернативой произволу и иррациональности соцсетей, откуда часто выходит помеха мышлению и психическому здоровью, несмотря на иллюзию свободы или из-за нее.

Так что даже если использование ИИ – «обман», это все равно лучше, чем оставаться бездействующим, тихим, поверхностным, ограничиваясь пустыми мини-комментариями, автоматическими реакциями, «лайками» и смайликами – «социальным шумом» или «фиктивной демократией». Коллективное размышление и эстетика выиграют от преобразования.

2. Оцепенение

Критика ИИ

Исследование, проведенное лабораторией MIT Media Lab, изучает когнитивные и нейронные последствия использования языковой модели (LLM), такой как ChatGPT, при выполнении письменных задач. Цель заключалась в сравнении различий в мозговой активности между тремя группами участников:

«Brain-only» – без какой-либо цифровой помощи,

«Search Engine» – с использованием обычного интернет-поиска,

«LLM» – при помощи ChatGPT.

В исследовании участвовали 54 добровольца, которые прошли 3 сессии, разделенные на несколько месяцев. Во время написания их мозговая активность измерялась с помощью ЭЭГ-датчиков. Четвертая перекрестная сессия позволила наблюдать, что происходит, когда участники меняют метод – например, переходят от ChatGPT к работе без помощи. Результаты касаются нейронной активности, памяти, чувства принадлежности к собственному тексту и изменений этих параметров со временем.

Ключевые результаты показали когнитивную атрофию, связанную с использованием ChatGPT. Группа, применявшая ChatGPT, продемонстрировала снижение общей мозговой активности на 55 % по сравнению с группой «brain-only». Было отмечено меньшее вовлечение зон, ассоциированных с критическим мышлением, креативностью и исполнительным контролем. Использование LLM похоже на внешнее делегирование процесса мышления, что уменьшает умственные усилия.

Потеря памяти: 83 % пользователей ChatGPT не смогли правильно воспроизвести свой собственный текст через несколько минут после написания. Это указывает на то, что идеи не были должным образом интегрированы или закодированы в эпизодической памяти. Ослабленное чувство авторства: многие участники сомневались, что они действительно являются авторами своих текстов. Это явление указывает на потерю когнитивной агентности: они делегировали создание текстов ИИ без глубокого умственного усвоения.

Когнитивный долг: мгновенный прирост в производительности ценой деградации интеллектуальных способностей в долгосрочной перспективе. Это может навредить критическому мышлению, креативности и сделать пользователя более уязвимым к алгоритмическим искажениям. Те, кто регулярно использовал ChatGPT, а затем вернулся к письму без ИИ, испытывали трудности с восстановлением нормальной мозговой активности. Напротив, те, кто начинал без ИИ, а затем прибегал к его помощи, демонстрировали более рациональное использование инструмента – что говорит о том, что начальная критическая позиция служит защитой.

Таким образом, регулярное использование ChatGPT для интеллектуальных задач может привести к когнитивной зависимости, атрофии мозга и утрате способности мыслить самостоятельно. Хотя технология удобна, она вызывает серьезные образовательные, нейрологические и философские вопросы о природе человеческой мысли, памяти и креативности.

Ответ

Прежде всего, хотя я и не специалист, позвольте предложить несколько методологических замечаний относительно этого исследования.

Во-первых, следует отметить отсутствие контрольной группы, обученной оптимальному способу использования ИИ, как мы предложим далее в этом тексте – а это имело бы большое значение.

Во-вторых, использование ЭЭГ как единственного критерия выглядит ограниченным: он фиксирует только часть мозговой активности, но снижение активности вовсе не обязательно означает атрофию. Это может отражать когнитивную эффективность вместо дефицита, если отличать эффективность от усилия. Снижение мозговой активности может свидетельствовать об оптимизации ресурсов – зачем тратить больше энергии, когда этого не требуется? Это может быть перенаправление внимания, сосредоточенность на задачах более высокого уровня или естественная адаптация – как вождение становится автоматическим с опытом, и GPS освобождает ресурсы, позволяя сосредоточиться на самоуправлении, безопасности или более сложных задачах, а не просто запоминать маршруты.

Исследование MIT Media Lab подчеркивает «тревожные» эффекты при пассивном и некритическом использовании ChatGPT: снижение активности мозга, потеря эпизодической памяти и ослабление чувства авторства. Но эти наблюдения скорее указывают на неправильное использование, а не на дефект технологии. Не инструмент делает глупее – это пассивное использование. Точно так же чтение книги не гарантирует мышление; ИИ не заменяет умственных усилий. Тот, кто слепо копирует ответы ИИ, отказывается от своей когнитивной ответственности.

С другой стороны, тот, кто взаимодействует с ИИ, переформулирует, критикует и перерабатывает его предложения, развивается активная и диалектическая практика мышления. ИИ становится не заменой мозга, а спарринг-партнером, как в боксе. К тому же снижение мозговой активности не всегда отражает снижение интеллекта – у опытного пианиста мозговая активность ниже при игре знакомой пьесы, потому что он работает эффективнее. Делегирование задач (форматирование, поиск примеров, предварительная синтеза) может освободить ресурсы для более стратегической, рефлексивной, метакогнитивной работы – при условии, что есть намерение и осознанность.

ИИ не ослабляет мысль сам по себе – он освобождает ее, чтобы сосредоточиться на главном. Утверждение о снижении активности мозга на 55 % верно по факту, но частично вводит в заблуждение: снижается усилие на рутинные задачи – и это как раз функция инструмента: освободить внимание для более творческой и критической работы. Как клавиатура помогает не утомлять руку и писать быстрее, так ИИ помогает эффективнее добираться до сути мысли.

Утрата авторства – это проблема позиции, а не технологии. Если кто-то не чувствует авторство – это признак осознания соавторства с машиной – это преимущество. Не нужно отрицать эту реальность, а переосмыслить концепцию автора: в цифровом мире автор – не только тот, кто пишет в одиночку (если такое вообще существовало), но тот, кто выбирает, корректирует, направляет, интерпретирует. Возможно дефицит ответственности при использовании ИИ, но чувство авторства можно восстановить через активную позицию. Просить ИИ помочь с идеей – все равно, что консультироваться с экспертом или справочником – это не обман, это умное сотрудничество. Можно использовать диалог с ним как диалектическое зеркало, инструмент исследования или оппонента – если его так использовать. Письмо с ИИ может быть интеллектуальной аскезой: сопротивляться, уточнять формулировки, повышать требования, задавать точные вопросы – это развитие. Также полезно и здраво немного деконструировать принцип «авторства» и чувство собственности, ведь при написании мы слишком часто забываем роль других и случайность наших собственных мыслей – что порождает гордыню авторства.

Кроме того, вывод исследования забывает, что любое обучение требует времени для усвоения. Те, кто перешел от автономного письма к ИИ, испытывали трудности – этот факт лишь говорит о необходимости подготовить ум прежде чем дать ему «костылей». Как студент сначала учится писать без автокорректировки, а затем применяет инструменты. Сократ критиковал письменность, списывая ее на «забывчивость души», – это было обоснованно по сравнению с устной традицией, но сейчас кажется устаревшим. Никто сегодня не сомневается в пользе письма для мышления. Потеря деталей – это не амнезия, а естественная внешняя память. Что 83 % участников не припомнили текст? Это говорит не о потере мышления, а о том, что они части памяти вынесли вовне – как делаем мы с книгами, планировщиками, заметками. Возврат автономии возможен при наличии критического мышления. Трудности возвращения к письму без ИИ – признак зависимости, но важнее научиться переключаться между вспомогательным и автономным режимами. Это не уникально для ИИ: шахматисты, привыкшие к движкам вроде Stockfish, трудно играют без помощи – но никто не скажет, что движки разрушили стратегическое мышление, они напротив углубили его при активном использовании. Это опровергает пессимистичные прогнозы Каспарова о «конце шахмат» после Deep Blue.

ИИ при разумном использовании – инструмент когнитивной свободы. Он выявляет наши слепые зоны, бросает вызов убеждениям, предлагает неожиданные альтернативы, расширяет концептуальный горизонт – если не покориться ему. Как калькулятор не уничтожил математический дух, а изменил его преподавание и позволил сосредоточиться на логике, так ИИ должен стимулировать передуманный подход к мышлению, интеллектуальной ответственности и творческой автономии. Риск когнитивного долга real, но это не вина ИИ – а неправильного его использования. Как любой мощный инструмент, ChatGPT может притупить, если использовать его без осмысленности, но может и усилить обучение при методичном применении: попросить аргументы, затем критиковать, генерировать идеи и анализировать их, использовать ИИ как диалогового партнера. Это требует образования в области критического использования ИИ, а не его полного отторжения. ИИ также заставляет переосмыслить образование в целом: ведь теперь весь спектр знаний доступен моментально, что предъявляет новые требования к преподавателям.

ИИ может стать катализатором творчества, помогать преодолевать страх чистого листа, предлагая отправные идеи и структуры, создавая неожиданные перспективы. Он экономит время для инноваций, стратегического размышления, метакогнитивного развития или даже отдыха. Он поддерживает совместное мозговое штурмование, итерации идей, многократную проверку информации и данных – особенно когда есть много моделей. Профессиональное использование ИИ развивает искусство вопросов, формулирования эффективных запросов, критической оценки, анализа и проверки ответов, синтеза, интеграции множества источников, креативного руководства и координации творческого процесса – при условии отказа от пассивности, копипаста и полной делегированности мышления.

Более того, ИИ способствует демократизации сложного мышления – он делает доступными методы рефлексии, которые раньше были доступны только интеллектуальной элите, адаптируясь к уровню читателя. Он помогает ученикам, студентам и работникам, сталкивающимся с когнитивными вызовами, начать мыслить, структурировать, аргументировать – даже без подготовки в риторике или философии. Это демократизация критического мышления, при условии наставничества. Конечно, как всегда, сохранятся различия между теми, кто готов думать, и теми, кому не важно – по-другому, другая форма грамотности.

С перспективной точки зрения, в коэволюции человек–ИИ, ИИ станет когнитивным партнером, а не заменой. Цель не заменить человеческий интеллект, а создать продуктивный симбиоз: ИИ прекрасен для обработки данных и генерации идей, человек приносит контекст, этику, креатив – вместе они превосходят способности каждого отдельно. Как сегодня никто не ожидает, чтобы архитектор выполнял все от руки или бухгалтер считал расчеты вручную, стандарты профессий изменятся: ИИ станет стандартным инструментом, а человеческое мастерство – важным элементом его использования. Нужно внедрять критическую ИИ-грамотность с раннего возраста и сохранять упражнения без ИИ, чтобы не утратить фундаментальные навыки, развивать методы оценки, поддерживающие критическое мышление, движущийся к ответственной "усиленной" интеллигенции.

Таким образом, когда использование ИИ осознанно, образовательно и контролируемо, оно не ослабляет человеческое мышление – оно освобождает его. Это позволяет сосредоточить ментальную энергию на сути, построить новую интеллектуальную коллаборацию и сделать творчество доступным для всех. Но требуется новая "культура" использования, критическая осознанность и ответственное применение. ИИ не убивает мысль – он раскрывает ее слабость или силу. Проблемным оказывается не инструмент, а отсутствие обучения его применению. Вместо запретов и демонизации, нужен этический, продуктивный, строгий и креативный подход. ИИ – шанс переосмыслить, что значит "думать".

Результаты этого исследования – сигнал тревоги, но не повод для слепого отторжения ИИ. Они подчеркивают важность взвешенного, обученного и продуманного подхода. Задача не в выборе между человеческим и искусственным интеллектом, не в противопоставлении, а в умении сочетать их для создания "усиленного интеллекта", который сохраняет и развивает когнитивные способности, используя технологический потенциал. Как при каждой технологической революции – ключ к успеху в образовании, тренировке и коллективной мудрости в использовании новых инструментов. Цель – стать умнее вместе с ИИ, а не стать слабее и зависимыми от него.

Примечание: Исторические фигуры в информатике и сфере мысли часто предсказывали катастрофические последствия инноваций (как Каспаров насчет шахмат – «их конец»), но эти прогнозы зачастую ошибались и выглядят смешными в ретроспективе. Аналогичные случаи показывают: страх перед новым часто приводит к чрезмерным заявлениям, защищающим угрожающую картину мира. На деле технологии не уничтожают старые практики – они их трансформируют, обогащают либо переносит в новую форму. Например, реакция на Интернет сопровождалась множеством пессимистичных пророчеств – «он убьет человеческое общение», «разрушит культуру». Но Интернет изменил общения, иногда спустошив их, но также открыл новые возможности для диалога, удаленной связи, сообществ, взаимопомощи и мобилизации. То же ожидает ИИ – трансформация, а не уничтожение.

3. Философы против ИИ

Мы наблюдаем, что многие философы высказывают крайне резкую критику в адрес искусственного интеллекта, порой переходящую в чрезмерность. Эта растущая враждебность по отношению к языковым моделям вроде ChatGPT представляет собой явление не только интересное, но и знаковое. Их критика выходит за рамки технического скептицизма или этических опасений, скатываясь в риторику преувеличения и даже явной интеллектуальной недобросовестности. Нам кажется, что эта реакция касается не столько технологии, сколько того, что она символически угрожает. Она ставит под сомнение устоявшиеся роли, наследственные позиции и самоидентификацию, которые мало подвергались критике в интеллектуальной сфере.

Для многих публичных философов способность объяснять, интерпретировать и проблематизировать долгое время была сферой профессионального авторитета. ИИ, демонстрируя способность к синтезу аргументов, прояснению концепций, предоставлению информации или даже к постановке точных вопросов, вторгается на эту территорию. Философ уже не единственный посредник между сложностью мышления и пониманием публики. Это явление можно описать как символическую кастрацию: если машина может делать то, что делаю я, что тогда останется от моей функции? Поэтому реакция зачастую оказывается защитной: насмешки, сарказм или прямое отторжение, скрывающие глубокое беспокойство – утрату интеллектуальной монополии, примитивную территориальную тревогу.