Homo conceptus. Творчество в эпоху машинного разума

Глава 2. ОТДЕЛЕНИЕ ДУХА ОТ ПЛОТИ ТЕКСТА

Текст умирает дважды. Первый раз — когда автор жертвует замыслом ради грамматической правильности. Второй — когда читатель принимает красиво выстроенные предложения за свидетельство глубокой мысли.

Это не преувеличение и не риторический приём. На протяжении всей письменной истории человечества между духом идеи и плотью её текстового воплощения существовало фундаментальное противоречие, которое мы, как правило, предпочитали не замечать. Мы договорились считать, что хорошо написанный текст и глубоко продуманная идея — это почти одно и то же. Это, вероятно, самое дорогостоящее интеллектуальное заблуждение в истории культуры.

Чтобы понять природу этого заблуждения, необходимо вернуться к вопросу, который был поставлен в предыдущей главе: что такое текст по отношению к идее? Является ли он её верным отражением, её точным слепком — или лишь одним из возможных её воплощений, неизбежно что-то теряющим и что-то добавляющим от себя? Ответ на этот вопрос, в некотором смысле, определяет всё остальное.

Философская традиция, задумывавшаяся об этом, весьма богата и при этом на удивление единодушна в своём скептицизме. Платон в «Федре» устами Сократа высказал тревогу, которая кажется почти пророческой: письменность, по его мнению, создаёт лишь видимость мудрости, не передавая её сути. Написанное слово, в отличие от живого диалога, не может отвечать на вопросы, не может защитить себя, не может подстроиться под собеседника. Оно мертво в момент своего рождения [16]. Конечно, Платон не мог предвидеть, насколько далеко зайдёт эта проблема, — но направление его беспокойства оказалось верным.

Между тем проблема не исчерпывается статичностью записанного слова. Она глубже: сам процесс превращения живой мысли в текст неизбежно её трансформирует. Мысль многомерна, она существует одновременно в нескольких регистрах — эмоциональном, логическом, ассоциативном, телесном. Язык линеен. Он разворачивается во времени, одно слово за другим, одно предложение за другим. Упаковывая многомерное в линейное, мы неизбежно что-то теряем — и это не техническая проблема, которую можно решить лучшим словарным запасом. Это структурное ограничение самого инструмента.

Американский лингвист и философ языка Ноам Хомский в своих работах по генеративной грамматике показал, что языковая компетенция человека — то есть врождённая способность порождать и понимать грамматически правильные предложения — является отдельной способностью, не совпадающей с мышлением как таковым [22]. Хомский разграничивал «компетенцию» и «перформанс»: первое — это внутреннее знание языковой системы, второе — её реальное использование в конкретных ситуациях. Это разграничение, в некотором отношении, и есть точная формулировка той пропасти, о которой мы говорим: замысел принадлежит сфере мышления, текст — сфере перформанса, и переход между ними требует навыков, которые принципиально отличны от способности мыслить.

Итак, мы имеем дело с ситуацией, в которой два различных навыка исторически слились в один профессиональный стандарт — «умение писать». Этот стандарт включал в себя и глубину мышления, и техническое мастерство его языкового оформления, как будто бы они неразделимы. Практически вся система оценки интеллектуальной продукции — академической, управленческой, литературной — строилась на этом слиянии. Диссертация оценивается не только по содержанию, но и по оформлению. Доклад принимается не только за точность анализа, но и за убедительность изложения. Книга получает признание не только за идеи, но и за стиль.

С одной стороны, в этом есть определённая логика: неспособность сформулировать мысль может свидетельствовать о её недостаточной проработанности. С другой стороны, это создаёт чудовищный перекос: тот, кто умеет красиво писать, получает системное преимущество над тем, кто мыслит глубже, но выражает себя хуже. Фактически, цивилизация ввела имущественный ценз на идеи, только вместо денег — риторическое мастерство.

Здесь стоит ввести различие, которое кажется мне принципиально важным для понимания того, что происходит сейчас. Назовём его различием между «текстом-носителем» и «текстом-самоцелью». Текст-носитель — это инструмент: он существует для того, чтобы донести идею, и его ценность определяется точностью и полнотой этой передачи. Текст-самоцель — это уже иное явление: он существует как самостоятельный эстетический или риторический объект, ценность которого отчасти независима от содержания. Большая часть профессионального письма в истории тяготела именно ко второму типу, даже когда декларировала первый. Академический язык, бюрократический стиль, журналистский нарратив — всё это в разной мере жанры, в которых форма начинает диктовать содержание, а не служить ему.

Немецкий философ Вальтер Беньямин в эссе «Автор как производитель» (1934) поставил радикальный вопрос о соотношении позиции автора и качества его текста: по Беньямину, техника письма неотделима от политической и социальной позиции пишущего, и подлинное авторство — это, в первую очередь, производственная позиция в системе культурных отношений [29]. Это, в некотором смысле, обратная сторона той же проблемы: Беньямин видел, что «как писать» определяет «что писать» — то есть форма не просто передаёт содержание, она его конструирует. Развивая эту мысль дальше, можно прийти к выводу, который Беньямин, вероятно, нашёл бы неожиданным: если форму берёт на себя машина, освобождается ли тем самым содержание — или оно, напротив, теряет свою конструирующую среду?

Это действительно важный вопрос, и он заслуживает честного ответа. Есть все основания полагать, что и то, и другое происходит одновременно — в зависимости от того, как именно человек взаимодействует с инструментом. Если человек делегирует машине форму, сохраняя за собой полный контроль над смысловым ядром — его замысел освобождается. Если он делегирует машине и форму, и содержание, превращаясь в пассивного потребителя генерированного текста — он теряет и то, и другое. Очень важно понимать: инструмент нейтрален, но его использование — никогда.

Аналогично с этим работает концепция «расширенного разума» Энди Кларка, упомянутая во введении: внешний инструмент становится частью когнитивной системы человека — но только в том случае, если человек активно управляет взаимодействием с ним, а не пассивно принимает его результат. Калькулятор расширяет математические способности только того, кто понимает, что считает и зачем. Для того, кто просто нажимает кнопки не понимая задачи, он ничего не расширяет — он создаёт иллюзию решения. Генеративный ИИ в этом отношении устроен ровно так же, только ставки значительно выше.

Между тем вернёмся к главному тезису этой главы. Что происходит, когда мы всерьёз принимаем идею о том, что текст — это не идея, а лишь её носитель? Какие следствия это влечёт для понимания авторства, творчества и интеллектуальной ценности?

Первое и наиболее очевидное следствие: авторство перестаёт определяться исполнением и начинает определяться замыслом. Это кажется банальностью — пока не начинаешь понимать, насколько глубоко наши институциональные практики построены на противоположном принципе. Академическая система защиты диссертаций, система публикации в рецензируемых журналах, система литературных премий — всё это механизмы, оценивающие прежде всего исполнение, и лишь через него — замысел. Иными словами, в некотором смысле мы оцениваем не то, что человек придумал, а то, насколько правильно он это записал.

Второе следствие более тонкое. Если текст — это носитель, а не самоцель, то критерий его оценки меняется радикально: не «насколько красиво написано», а «насколько точно передана идея» и «насколько сама идея значима». Это смещение критерия оценки — в сторону содержания и от формы — является, вероятно, одним из самых серьёзных культурных сдвигов, которые несёт с собой эпоха генеративного ИИ. Потому что форму теперь может обеспечить машина — а значит, она перестаёт быть дефицитным ресурсом и, следовательно, перестаёт быть критерием ценности.

Далее стоит рассмотреть, что именно происходит с «плотью» текста, когда её производство делегируется машине. Здесь необходимо быть точным и избежать двух симметричных заблуждений. Первое заблуждение — что ИИ просто механически заполняет форму, не влияя на содержание. Второе — что ИИ полностью определяет содержание, превращая человека в пассивного наблюдателя. Реальность устроена намн6ого сложнее.

Генеративные языковые модели, обученные на колоссальных массивах текста, действительно берут на себя техническую работу с языком: синтаксис, стиль, структуру, связность. Но при этом они неизбежно вносят в текст нечто своё — систему ассоциаций, характерных для обучающего корпуса, тяготение к наиболее вероятным продолжениям, определённые риторические паттерны. Это означает, что делегирование формы никогда не является полностью нейтральным актом: машина привносит в текст своё «среднестатистическое» представление о том, как должна выглядеть эта идея, — и это представление может как обогатить замысел, так и слегка его деформировать.

Именно поэтому взаимодействие человека с генеративной системой требует активной позиции куратора — постоянного сравнения того, что вышло из машины, с тем, что было задумано. Это не работа редактора в старом смысле слова — исправление ошибок и улучшение стиля. Это работа иного рода: проверка на соответствие смыслу, а не букве. Проверка на то, не подменила ли форма содержание в процессе воплощения.

Российский литературовед и семиотик Юрий Михайлович Лотман в своей «Структуре художественного текста» (1970) описывал текст как сложно организованный смысл, в котором форма и содержание неразделимы — форма сама является носителем значения. С точки зрения Лотмана, нельзя произвольно менять форму, не меняя смысл: каждый элемент структуры текста семантически нагружен [14]. Это глубокое наблюдение, и оно отчасти противоречит тому, о чём мы говорим — или, по меньшей мере, требует уточнения.

Логично утверждать, что Лотман прав применительно к художественному тексту, где форма действительно является смыслообразующим элементом. Но применительно к тексту как носителю идеи — научной, управленческой, аналитической — соотношение иное. Здесь форма должна служить содержанию, а не конкурировать с ним. И именно в этих областях — которые составляют основную интеллектуальную деятельность аудитории этой книги — делегирование формы машине является наиболее оправданным и наименее рискованным.

Тем не менее, даже в этих областях нельзя полностью игнорировать предупреждение Лотмана. Форма влияет на восприятие — и, следовательно, на то, как будет принята идея. Аналитический доклад, написанный в стиле художественной прозы, будет воспринят иначе, чем тот же доклад, написанный в стандартном академическом стиле, — даже если содержание идентично. Это означает, что выбор формы — даже когда её производит машина — остаётся решением человека, требующим осознанности и стратегического понимания контекста.

Здесь возникает, вероятно, одна из наиболее недооценённых компетенций новой эпохи: умение управлять формой через замысел. Это не умение писать в старом смысле — это умение задавать машине точные параметры нужной формы, понимая, как каждый из этих параметров влияет на восприятие идеи. Это, в некотором смысле, работа режиссёра, который не снимает фильм сам, но определяет каждый элемент его визуального языка. Такая работа требует глубокого понимания того, чего ты хочешь добиться — не только что сказать, но и как это должно восприниматься.

Очень важно зафиксировать один принципиальный момент, который часто остаётся в тени публичных дискуссий об ИИ. Разговор о том, что «машина пишет за человека», как правило, предполагает, что письмо — это главное творческое усилие, которое машина и присваивает. Но это — устаревшее представление о природе творческого процесса. В действительности письмо, то есть технический акт перевода мысли в текст, является наименее творческой частью интеллектуальной работы. Наиболее творческие части — постановка вопроса, выбор угла зрения, обнаружение противоречия, синтез несовместимого — всё это происходит до того, как рука касается клавиатуры.

Это утверждение может показаться спорным — особенно тем, кто переживал опыт, когда мысль «рождалась» именно в процессе письма, неожиданно для самого пишущего. Такой опыт реален, и его нельзя игнорировать. Но необходимо отметить, что он свидетельствует не о том, что письмо порождает мысль, а о том, что сопротивление языкового материала иногда выступает катализатором мышления. Человек пишет, натыкается на невозможность сформулировать что-то так, как хотел, — и это столкновение заставляет его думать глубже. Это важный механизм, и его не стоит недооценивать.

Однако сейчас этот механизм не исчезает — он трансформируется. Теперь катализатором становится не сопротивление языка, а сопротивление машинного результата: человек видит, что ИИ воплотил его идею слегка иначе, чем он задумывал, — и это несоответствие заставляет его уточнять, углублять, переформулировать замысел. Другими словами, когнитивное трение, которое прежде возникало между мыслью и словом, теперь возникает между замыслом и его машинным воплощением. Его природа та же — но форма иная, и, вероятно, более продуктивная: потому что теперь человек работает не с сопротивлением грамматики, а с сопротивлением смысла.

Именно здесь, на мой взгляд, находится ключ к пониманию того, почему генеративный ИИ не просто заменяет письмо — он изменяет природу интеллектуального труда. Фактически, он переносит точку максимального творческого усилия ближе к началу процесса — туда, где формируется замысел, — и одновременно создаёт новую точку напряжения в конце: кураторское усилие, сравнение воплощённого с задуманным, выбор из множества версий.

Между концом старого процесса и началом нового располагается важная зона, которую почти не обсуждают: зона освобождения от ремесленного долга. Исторически автор был обязан своей идее не только замыслом, но и трудом её воплощения. Этот труд мог занимать годы — и нередко поглощал столько энергии, что к моменту завершения текста автор уже не был тем человеком, который начинал его писать. Идея устаревала вместе с автором. Теперь этот долг снимается — и это не просто экономия времени. Это принципиальное изменение отношений между человеком и его идеей: замысел больше не требует от своего носителя жертвы годами жизни на его техническое воплощение.

Можно заключить, что именно здесь и происходит то, что я называю «отделением духа от плоти текста» — не как утрата, а как освобождение. Существо идеи — её смысловое ядро, её вопрос, её парадокс, её напряжение — наконец получает возможность существовать отдельно от неизбежных потерь при переводе во внешнюю форму. Точнее, потери остаются, но теперь ими можно управлять: видеть их, исправлять, уточнять — итеративно, в диалоге с машиной, а не в одиночном сражении с чистым листом.

Всё это, естественно, предполагает одно фундаментальное условие: наличие подлинной идеи, замысла, которые стоит отделять. Если за желанием «написать» нет реального замысла — освобождение от ремесленного труда не даст ничего, кроме более быстрого производства пустоты. Машина честна в этом отношении: она возвращает человеку именно то, что он ей дал, — только в большем объёме и с лучшим стилем. Это одновременно её главное достоинство и её главная опасность.

Именно поэтому переход от «текста как самоцели» к «тексту как носителю» — это не просто технологическое изменение. Это глубоко этическое и интеллектуальное требование к каждому, кто берётся за создание идей в новую эпоху: иметь что сказать прежде, чем нажимать на кнопку. Это требование кажется очевидным — но практически оно является, вероятно, самым сложным из всех, что предъявляет нам новая реальность.

Следует предположить, что мы стоим на пороге эпохи, в которой текст как таковой перестанет быть главной единицей интеллектуальной ценности. Его место займёт замысел — сжатый, точный, напряжённый. Текст станет лишь одной из его возможных реализаций, наравне с другими формами воплощения. И в этом мире умение думать окончательно и бесповоротно разделится с умением писать — к облегчению первых и, возможно, к некоторому замешательству вторых.

Это разделение уже происходит. И следующий вопрос — о том, каким именно должен быть замысел, чтобы это разделение было оправданным, — является темой следующей части этой книги.

Глава 3. СИНГУЛЯРНОСТЬ ЗАМЫСЛА

Слово «сингулярность» в последние десятилетия стало модным до неприличия — и, как всякое модное слово, успело потерять значительную часть своей точности. Его применяют к технологиям, к экономике, к социальным системам, нередко имея в виду просто «что-то очень большое и непонятное». Тем не менее, в математическом и физическом смысле сингулярность — это точка, в которой привычные уравнения перестают работать, где старые описания реальности теряют силу и требуют замены. Именно в этом, строгом смысле слово применимо к тому, что происходит сейчас с природой творческого замысла.

Мы находимся в точке, где привычные уравнения авторства перестают работать.

Предыдущие главы описывали две стороны одного и того же процесса: сначала — историческую трагедию невысказанного гения, систему барьеров, отделявших замысел от его воплощения; затем — природу самого барьера, механизм отчуждения духа идеи от плоти текста. Теперь необходимо сделать следующий шаг и задать вопрос, который является, вероятно, наиболее неудобным во всём этом разговоре: когда барьер падает — что именно обнаруживается по ту сторону? Что такое замысел, освобождённый от обязательства воплощения? Как он устроен, чем измеряется и почему именно он — а не текст, не объём, не стиль — становится главной единицей интеллектуальной ценности новой эпохи?

Начнём с того, что кажется очевидным, но на самом деле весьма неочевидно. Замысел — это не идея. По меньшей мере, не просто идея. Идея в широком смысле слова — это любое ментальное содержание, любая мысль, любое наблюдение. Замысел же — это идея, приобретшая определённую внутреннюю структуру: напряжение, вектор, вопрос. Замысел всегда что-то утверждает вопреки чему-то другому. Он содержит в себе конфликт — пусть даже невидимый снаружи — между тем, как вещи выглядят, и тем, как они устроены на самом деле. Без этого внутреннего конфликта замысел остаётся наблюдением, заметкой, зафиксированным фактом — но не тем энергетическим зарядом, который способен организовать вокруг себя текст, исследование или управленческое решение.

Философ и логик Карл Поппер в «Логике научного исследования» (1934, рус. пер. 1983) сформулировал принцип, который, в некотором отношении, является точным описанием природы подлинного замысла: идея научна — а значит, ценна — только в том случае, если она фальсифицируема, то есть если существует хотя бы теоретическая возможность её опровержения. Идея, которую нельзя опровергнуть никакими обстоятельствами, не является идеей в строгом смысле — она является убеждением или догмой [17]. Перенося этот принцип из философии науки в более широкий контекст, можно заключить, что подлинный замысел всегда содержит в себе риск: он нечто утверждает достаточно конкретно, чтобы это можно было оспорить. Замысел без риска — это не замысел, а декларация.

Это различие — между замыслом и декларацией — становится, вероятно, одним из ключевых критериев новой эпохи. Генеративный ИИ одинаково хорошо умеет воплощать и то, и другое. Машина не различает живую идею и красиво сформулированное общее место — она оба превратит в убедительный текст. Именно поэтому освобождение от барьера ремесла обнажает человека: теперь видно, было ли за желанием «написать» реальное напряжение мысли — или только желание казаться человеком, у которого есть что сказать.

Здесь уместно обратиться к одному наблюдению, которое пока слабо отрефлексировано в исследовательской литературе о генеративном ИИ, но которое кажется мне принципиально важным. Назову его «эффектом зеркала». Когда человек формулирует запрос к языковой модели и получает в ответ развёрнутый текст, он впервые видит свою идею снаружи — воплощённой, объективированной, существующей независимо от него. Это переживание принципиально отличается от процесса самостоятельного письма, в котором автор одновременно является и субъектом, и инструментом воплощения, и, как правило, теряет способность видеть свою идею с дистанции.

Фактически, генеративный ИИ создаёт то, что можно было бы назвать «внешним зеркалом замысла» — возможность увидеть свою идею глазами другого, причём другого, который владеет всем арсеналом языковых средств и культурных ассоциаций. Это переживание нередко оказывается весьма отрезвляющим: человек формулирует то, что казалось ему глубокой и оригинальной мыслью, — и получает в ответ текст, который выглядит именно так, как эта мысль выглядит со стороны. Иногда результат превосходит ожидания. Очень часто — обнажает банальность того, что казалось уникальным.