Ещё недавно вопрос об авторстве казался довольно простым. Текст написал человек – значит, человек автор. Текст сгенерировала программа – значит, перед нами машинный продукт. Если участвовали оба, остаётся выяснить, кому принадлежит большая часть работы.
Отсюда и появилось странное стремление считать проценты: «Этот текст на 30 процентов написан ИИ», «здесь нейросеть сделала половину», «тут автор только немного отредактировал ChatGPT». Такие оценки создают впечатление точности, но измеряют далеко не самое важное.
Представим человека, который собственноручно написал каждое предложение статьи. Однако тему ему предложил ИИ, факты нашёл ИИ, аргументы подобрал ИИ, причинно-следственные связи выстроил ИИ и выводы тоже сформулировал ИИ. Человек всего лишь взял всё это и изложил своими словами. Получился текст, на сто процентов написанный человеком. Но можем мы назвать этого человека автором?
Теперь перевернём ситуацию. Человек сам увидел проблему, сформулировал позицию, собрал материалы, определил аргументацию и поручил нейросети подготовить черновик. Затем проверил факты, выбросил слабые места, потребовал найти контраргументы, перестроил логику и изменил выводы. Да, в финальной версии большая часть предложений могла появиться на экране благодаря машине. Но чья это работа?
Похоже, количество написанных слов не является способом измерять авторство.
Машина вошла не только в текст
Проблема была бы значительно проще, если бы искусственный интеллект оставался чем-то вроде очень хорошей печатной машинки. Человек думает, машина исполняет – граница понятна.
Но современные генеративные системы способны участвовать в творческом процессе гораздо серьёзнее. Они предлагают темы, гипотезы и аргументы, ищут противоречия, сравнивают объяснения, замечают связи, предлагают структуру рассуждения и формулируют выводы. Иными словами, машина входит уже не только в производство текста, но и в производство вариантов мысли.
Это существенно меняет разговор об авторстве. Прежняя удобная формула «машине – исполнение, человеку – мышление» становится слишком простой. Часть интеллектуальной работы тоже можно передать машине – и люди уже это делают.
Предположим, нейросеть предложила идею, которой у человека до разговора с ней не было. Значит ли это, что построенный вокруг этой идеи текст уже нельзя считать человеческим авторским произведением?
Такое требование было бы странным даже без всякого ИИ. Человеческие идеи никогда не возникают в стерильной комнате. Мы читаем книги, разговариваем, спорим, слушаем лекции, получаем замечания редакторов. Иногда одна чужая фраза становится толчком к мысли, которая затем уводит нас очень далеко от первоначального источника.
Авторство никогда не означало, что каждая составная часть замысла должна впервые возникнуть исключительно в голове автора.
С машиной может происходить то же самое. Она предлагает неожиданную мысль. Человек сначала сомневается, затем проверяет её, обнаруживает ограничения, соединяет с другими фактами, меняет первоначальную формулировку, находит контраргумент и в конце приходит к позиции, которой не было в исходном машинном ответе.
ИИ участвовал в рождении мысли. Но этого ещё недостаточно, чтобы сказать, что человеческого автора больше нет.
Последнее слово тоже не делает автором
Можно провести границу иначе: автор – тот, кто принимает окончательное решение. На первый взгляд, удобно. Нейросеть предлагает варианты, человек выбирает, поэтому человеческое авторство сохраняется.
Но представим предельно простой случай. Человек пишет: «Сделай статью о влиянии социальных сетей на человека». Нейросеть создаёт три готовых текста. Человек читает их, выбирает второй и говорит: «Этот хороший. Публикуем».
Последнее слово осталось за человеком. Более того, он может совершенно искренне заявить, что готов отвечать за публикацию. Но достаточно ли этого, чтобы назвать его автором текста?
Вряд ли. Человек, выбравший одну картину из десяти, не становится художником. Издатель, решивший опубликовать роман, не становится его автором. Главный редактор может нести ответственность за выпуск материала, но это ещё не означает, что произведение создано его творческим трудом.
(Мы сейчас не говорим о юридическом авторстве, это отдельный вопрос и его нельзя автоматически выводить из нашей философской модели. Нас здесь интересует более широкий вопрос: что происходит с авторством как культурной и интеллектуальной ролью в связке «человек – ИИ». И здесь становится ясно: недостаточно поставить задачу, выбрать вариант и поставить под ним своё имя.)
Выбор бывает разным
Значит ли это, что человеческий выбор вообще не имеет отношения к авторству? Имеет. Но выбор выбору рознь.
Можно выбрать один готовый текст из десяти. Но это скорее отбор.
А можно увидеть, что в предложенном объяснении перепутаны причина и следствие, отвергнуть два аргумента, потребовать проверить факты, изменить центральный тезис и прийти к другому выводу. Вот это уже совсем другой уровень участия.
Разница – в собственном суждении человека.
Суждение – это не кнопка «нравится». Это способность понимать, почему один аргумент сильнее другого, где вывод не следует из фактов, чему можно доверять, что требует проверки и что вообще является главным в рассматриваемой проблеме.
Поэтому ИИ вполне можно поручить предложить пять гипотез или найти слабые места в вашей позиции. Главное начинается после того, как варианты получены. Что делает человек дальше?
Если человек механически принимает лучший на вид вариант, его интеллектуальный вклад невелик. Если предложения машины становятся материалом для собственного рассуждения – проверяются, отбрасываются, соединяются, изменяются, заставляют пересмотреть исходную позицию, – перед нами совсем другой процесс.
Простой тест
Попробуйте мысленно убрать человека из процесса. Если без него получится практически тот же текст – с теми же тезисами, аргументами и выводами, – его авторский вклад невелик. Его можно назвать заказчиком, оператором или отборщиком результата. Но не автором.
Теперь уберите именно его смысловые решения: постановку проблемы, критерии отбора, возражения, изменение аргументации, выбор доказательств, собственные выводы. Если после этого получается уже другое произведение, человеческое суждение действительно формировало результат.
Но даже этого подчас мало. Редактор тоже способен изменить чужой текст, но он не становится автоматически его автором.
Нужен ещё собственный замысел.
Автор должен не только влиять, но и что-то утверждать
У человека может быть огромная власть над результатом, но отсутствовать собственная интеллектуальная позиция. Он способен говорить: «Это уберите», «здесь сократите», «этот вариант лучше», не отвечая при этом на более важный вопрос: что именно мы хотим сказать?
Поэтому человеческое авторство в связке с ИИ, как мне представляется, требует нескольких вещей одновременно.
У человека должен существовать собственный замысел – пусть даже он меняется в ходе работы. Человек должен быть способен содержательно оценивать предложения машины, а его решения должны существенно влиять на конечный результат. Наконец, итоговая работа должна выражать позицию, которую человек действительно принимает как свою и способен обосновать.
Последнее особенно важно. Речь не о формальном заявлении: «Я отвечаю за этот текст». Ответственность сама по себе авторства не создаёт.
Речь о другом: «Я понимаю, что здесь утверждается. Я понимаю, почему это утверждается. Я способен объяснить, почему принял этот аргумент и отверг другой. Если обнаружится ошибка, я готов изменить свою позицию».
Это уже ответственность за собственное суждение.
Автору не обязательно делать всё самому
Возможно, именно здесь проходит одна из главных перемен эпохи искусственного интеллекта.
Автор больше не обязательно должен самостоятельно производить каждый элемент результата. Он может получать от машины формулировки, структуры, аргументы и неожиданные идеи. ИИ может увидеть слабое место, которого человек не заметил, или предложить поворот, после которого вся первоначальная концепция изменится.
Запрещать это во имя «чистого человеческого авторства» означало бы добровольно отказаться от одной из главных возможностей новой технологии – интеллектуального диалога.
Но существует и противоположная опасность. Человек постепенно может превратиться в зрителя перед работающей машиной: поставить общую задачу, получать ответы, выбирать наиболее приятные и считать само наличие финального человеческого одобрения достаточным доказательством авторства.
Вот здесь авторство действительно начинает размываться.
Граница проходит не по клавиатуре. Важно не количество промтов, не процент текста, произведённого нейросетью. Даже не то, кому принадлежало последнее слово.
Важно другое: существовал ли у человека собственный замысел и было ли его собственное суждение настолько существенным, что без участия человека результат стал бы другим?
Новый вопрос об авторстве
Вероятно, какое-то время мы ещё будем пытаться ловить искусственный интеллект за руку. Искать характерные обороты, проверять тексты детекторами, требовать от авторов декларации о применении нейросетей и спорить о допустимом проценте машинного участия.
Для определённых ситуаций такая прозрачность необходима. Особенно там, где важна возможность восстановить происхождение научного, экспертного или иного значимого результата.
Но сама по себе фраза «использовался ИИ» объясняет всё меньше. Машина могла поправить запятые. Могла предложить главный тезис. Могла написать весь черновик. Это три совершенно разные истории, которые невозможно описать одной галочкой.
Поэтому постепенно нам придётся задавать более сложные вопросы. Не только: «Кто написал эти слова?» Не только: «Какие решения были переданы машине?» Не только: «Кто нажал последнее ОК?»
Главный вопрос становится другим: чей замысел и чьё суждение сделали результат именно таким?
ИИ может первым предложить хорошую идею. Может написать значительную часть текста. Может спорить с человеком, находить ошибки и заставлять его менять первоначальную позицию. Человеческое авторство от этого не обязательно исчезает.
Оно начинает исчезать тогда, когда человек превращается в простого наблюдателя перед работающей машиной.
Автор будущего не обязан говорить: «Я написал каждое слово». Гораздо важнее, чтобы он мог сказать: «Вот что я утверждаю. Вот почему я это утверждаю. И без моего участия этот результат был бы другим».