Творческая единица: почему у ИИ получаются плохие стихи и чем он страшен писателям
В середине января молодая японская писательница Рие Кудан, получившая престижную литературную премию Акутагавы за книгу «Токийская башня сочувствия», без стеснений заявила, что писала эту работу с помощью генеративного ИИ. Она, правда, уточнила, что ChatGPT является «автором» примерно 5% текста книги, а в основном она прибегает к искусственному интеллекту для «высвобождения творческой энергии».
Эта новость широко разошлась по литературным и технологическим СМИ, придав новый импульс дискуссии о том, может ли ИИ заниматься творчеством и насколько новые технологии угрожают творческим профессиям — таким как поэты, сценаристы, музыканты и писатели. Угроза со стороны искусственного интеллекта стала одной из самых горячих тем на недавней Франкфуртской книжной ярмарке.
Не все демонстрируют такую умеренность в использовании ИИ, как юная японская писательница. Проблема бесконтрольных продаж книг, созданных нечеловеческим разумом, достигла таких масштабов, что Amazon ввел новые ограничения для продаж самостоятельно издаваемых книг, написанных для Kindle — теперь их можно продавать не больше трех в день.
До того, как в нашу жизнь ворвался ChatGPT, которым массово начали пользоваться добросовестные и не очень писатели, студенты и юристы, было принято считать, что умение создавать — главное, что отличает человека от машины. Однако новый тип искусственного интеллекта (ИИ) — генеративный — уже поставил уникальность человеческого сознания под сомнение.
Мы переходим от эпохи, где ИИ в основном использовался для понимания больших данных, к новой — к той, где ИИ используется для создания контента. Но действительно ли машина на такое способна? «Аналитическая машина не претендует на создание чего-либо. Она может делать все, что мы можем ей предписать. Ее задача — помочь нам сделать доступным то, с чем мы уже знакомы», — говорила Ада Лавлейс, создательница первой в мире компьютерной программы. Ее слова все еще актуальны, так как генеративный ИИ — это алгоритмы, обучившиеся на огромном количестве данных. Любой результат их работы — это последствие анализа информации.
Как научить нейросети творчеству
Некоторые исследователи определяют креативность как процесс, который приводит к созданию новой и полезной идеи или продукта. Поэтому один из критериев, по которому оценивают креативность — уровень новизны. Однако это субъективное понятие, на основе которого сложно получить четкую измерительную шкалу.
В 2018 году на аукционе Christie's портрет Эдмона де Белами, написанным ИИ, продали за $432 500. Это почти в 45 раз превышает максимальную оценку произведения. Объективно авторство этой работы принадлежит тем, кто курировал работу ИИ, — арт-группе Obvious. Команда собрала базу данных изображений, написала алгоритм и обучила нейросеть, чтобы получить тот результат, который и представили на аукционе. Это и отличает творчество ИИ от человеческого — оно носит систематический, а не импульсивный характер, как это свойственно людям.
Люди, для которых придумывать — это профессия, используют множество техник креативного мышления: мозговой штурм, ТРИЗ (теория решения изобретательских задач), латеральное мышление, дизайн-мышление и другие. Задача этих методик — помочь придумать оригинальную идею, найти новое решение и в целом форсировать креативность. Может ли искусственный интеллект использовать такие же подходы? Сложно сказать, потому что в своем текущем состоянии нейросети для человека — это черный ящик, пишет Nature, никто пока точно не знает, как именно происходят вычисления.
Все современные GPT-подобные модели созданы для того, чтобы имитировать чей-то стиль, и лучшего всего у них получается систематизировать огромное количество информации. Например, им неплохо удается писать новости, обзоры, сопроводительные письма и другого типа тексты, от которых требуется соответствие стандартным шаблонам. Но чем дальше развивается ИИ, тем больше компании ждут от него чего-то творческого. Однако легальных данных для обучения не так уж много.
В августе 2023 года на The Atlantic опубликовали расследование о том, что крупные компании используются пиратские источники для обучениях своих нейросетей. В июле того же года писатели Сара Сильверман, Ричард Кадри и Кристофер Голден подали иск, в котором утверждают, что Meta (признана в России экстремистской и запрещена) нарушила законы об авторском праве и использовала их книги для обучения своей большой языковой модели LLaMA (аналог GPT-4). Расследование журналиста Алекса Райснера показало, что компания действительно использовала пиратские книги в качестве исходных данных для обучения своих нейросетей — эта база называется Books3. Она содержит более 190 000 произведений. Правда, в ноябре судья отклонил иск писателей, сказав, что не нашел достаточно подтверждений, что модель использует именно их работы.
Так или иначе, не исключено, что череда исков от писателей стала одной из причин, по которым IT-компании начали нанимать поэтов, писателей, драматургов со степенью PhD или магистра, чтобы обучать нейросети. Стартап Scale AI, специализирующийся на создании датасетов, в своей вакансии пишет, что среди обязанностей писателя будут ранжирование ответов, полученных от ИИ, а также написание небольших рассказов по заданной теме. За это обещают платить $25–50 в час в зависимости от уровня образования и опыта. Специалиста с аналогичными обязанностями искал недавно стартап Appen, который занимается разметкой данных.
Но это также может свидетельствовать о новой эре развития LLM (large language model, большая языковая модель): компании переходят от этапа создания к точечной настройке для конкретных приложений, то есть теперь «общие» LLM начинают тренировать под конкретный навык. И для этого, конечно, снова нужны данные.
Точечная настройка (fine-tuning) LLM позволяет предварительно обученную модель, которая уже знает некоторые закономерности в большом наборе данных, дообучить на меньшем наборе данных, специфичном для конкретной области. В перспективе это поможет нейросетям выполнять определенные задачи лучше своих «коллег» общего назначения. Например, можно попытаться научить нейросеть имитировать конкретно стиль Александра Пушкина, Шекспира или Джоан Роулинг.
По мнению Дмитрия Щиголева, управляющего партнера Sk Capital, огромный пласт задач ИИ связан с большей персонализацией производимого контента. «Например, в киноиндустрии ИИ-ассистент мог бы не только анализировать тысячи сценариев и предлагать нетривиальные повороты сюжета, но также учитывать предпочтения зрителей, — объясняет эксперт. — Или можно было бы запрограммировать ИИ, чтобы он регулировал автоматическую подстройку актерского состава фильма в соответствии с индивидуальными предпочтениями каждого зрителя. На рынке уже есть решения, генерирующие тексты песен или музыку под настроение». Отдельный сегмент рынка для применения ИИ, говорит Щиголев, это гейминг, где в режиме реального времени можно создавать интерактивные сюжеты и новых персонажей.
Больше, чем поэт
Кажется, что создавать стихотворения не такая уж сложная задача для генеративного интеллекта — нужно писать все те же стандартные тексты по определенному шаблону, но добавить ритм и/или рифму. К тому же, уже давно существует так называемая «найденная поэзия» (found poetry) — жанр, когда произведение создается с помощью заимствованных отрывков из других текстов. В середине XX века это было довольно популярное направление в конструктивном движении, а среди его популяризаторов были создатели машины сновидений Уильям Берроуз и Брайон Гайсин.
Но можно ли эти опыты считать произведениями искусства? Первые опыты в области компьютерной поэзии относятся еще к середине XX века. Например, созданная Розмари Уэст программа POETRY GENERATOR или «автоматический скальд», появившаяся в СССР под руководством Раймунда Пиотровского, рассказывает начальник Управления экспериментальных систем машинного обучения в Департаменте общих сервисов «Салют» Сбербанка Сергей Марков. «В середине 2010-х языковые модели на основе рекуррентных нейросетевых архитектур и векторных семантических представлений позволили машинам производить на свет более-менее осмысленные тексты, стилизованные под произведения различных авторов. Так, в 2016 году команда сотрудников «Яндекса» под руководством Алексея Тихонова и Ивана Ямщикова дала жизнь проекту под названием «Нейронная оборона» — альбом в стиле [музыканта и поэта] Егора Летова», — напоминает Марков.
Исследователь в области когнитивной психологии и профессор Калифорнийского университета Кейт Холиок в своей колонке пишет, что ИИ не сможет быть настолько аутентичным, как настоящий поэт. Машине не хватает того, что есть у человека — личного опыта и накопленных воспоминаний. Однако программа может быть продуктивна в генерировании чего-либо. Профессор сравнивает этот процесс с теоремой о бесконечных обезьянах. Она гласит: «Если вы посадите бесконечное количество обезьян за пишущие машинки, то одна из них рано или поздно напечатает какое-либо произведение Уильяма Шекспира». Искусственный интеллект работает быстрее обезьяны и, вероятно, что-то имеющее подобие связного и осмысленного текста может придумать быстрее. Остается подождать, когда он сделает то, что международное экспертное сообщество признает шедевром.
Одна из распространенных претензий в адрес LLM: машина не понимает, о чем пишет, а просто предсказывает каждое следующее слово. Иногда в итоговом тексте даже прослеживается некий смысл или сюжетная линия, но, по сути, это просто результат анализа сотни тысяч похожих текстов. Порой фантазия нейросети не имеет ничего общего с реальностью, тогда она «галлюцинирует» — генерирует недостоверную информацию, например, сообщает, что статуя Свободы находится в Калифорнии. Но в случае, если мы хотим добиться от машины не достоверных фактов, а нетривиальных творческих находок, эти «фантазии» могут быть даже полезны. «Иногда галлюцинации — это нужная характеристика, это называется творчеством. А иногда это баг, — сказал недавно CEO Microsoft Сатья Наделла. — Мы все пытаемся лучше научиться этим пользоваться».
Научить ИИ писать художественные тексты (или тексты, по поверхностным признакам напоминающие художественные) можно. В 1984 году вышла первая книга, написанная компьютерной программой. Алгоритм RACTER разработали писатель Уильям Чемберлен и программист Томас Эттер. Он мог генерировать грамматически последовательные предложения с помощью заранее заданного грамматического шаблона. Тогда это не вызвало большого беспокойства в обществе, писатели не устраивали массовых забастовок, протестуя против программы, способной в будущем их заменить. Потому что тогда творчество ИИ было слишком далеко от человеческого. Там были, например, такие пассажи: «В любом случае, мои собственные эссе и диссертации о любви, ее бесконечной боли и вечном удовольствии будут известны и поняты всеми вами, кто читает это и говорит, поет или скандирует об этом своим обеспокоенным друзьям или нервным врагам. Любовь — это вопрос и тема этого эссе. Мы начнем с вопроса: любит ли стейк салат-латук? Этот вопрос неумолимо сложен и на него неизбежно трудно ответить».
Однако технологии развивались, и ИИ учился все больше имитировать работу человека. В 2013 году поэт Оскар Шварц вместе с другом Бенджамином Лэйрдом создали тест Тьюринга для поэзии. Пользователю нужно было ответить, кто написал стихотворение: человек или алгоритм. В результате выяснилось, что 65% людей приняли созданные алгоритмом тексты за написанные человеком стихотворения. При этом тест Тьюринга считается пройденным, если машине удалось ввести человека в заблуждение хотя бы в 30% случаев.
Однако нынешних исследователей творческих возможностей генеративных моделей пока не вполне удовлетворяет результат. Во-первых, та самая новизна, которая является одним из критериев для оценки качества поэзии, пишет Rest of World, по определению не является сильной стороной языковых моделей, ведь они обучены только воспроизводить созданное человеком. Во-вторых, воспроизводят они тоже с проблемами — попытки научить машину писать как классик американской поэзии Уолт Уитмен пока провалились — вместо свойственной поэту свободной и лишенной четкой структуры формы искусственные интеллект упорно предлагал стройные четверостишия, даже после инструкции, которая это прямо запрещала. Стихотворения на английском языке ИИ хотя бы научился писать в рифму и со смыслом, в других языках проблемы есть и с этим, отмечает Rest of World. Издание приводит в пример исследование ученых, довольно безуспешно пытавшихся научить ИИ писать традиционные японские хайку.
При этом, если голливудские сценаристы бастуют, требуя жесткого регламентирования использования искусственного интеллекта, а авторы книжных бестселлеров, такие как Джорж Мартин, подают против создателей генеративных моделей иски, то о протестах поэтов пока ничего не слышно. Вероятно, поэтическое творчество сейчас не такая прибыльная и популярная профессия, чтобы страх потерять эту работу мог вывести людей на улицы. В то же время, технологические компании, занимающиеся разработкой ИИ хотя бы начали их нанимать.
Дмитрий Щиголев считает, что речь о вытеснении человека с рынка труда из-за высокого уровня развития ИИ пока не идет: «В этом году мы были свидетелями забастовок в Голливуде, в том числе на фоне прогресса развития ИИ-технологий и их использования в творческой сфере. Окончательный ландшафт использования ИИ, в том числе в творческих сферах, еще не сформировался. Однако в этом контексте будущего речь скорее идет о партнерстве, чем о конкуренции».
Кому принадлежит авторское право на сгенерированные произведения
Одна из сложных задач для юристов, занимающихся вопросом авторского права на произведения ИИ, — доля участия человека. Например, в августе 2023 года федеральный судья США поддержал вывод Бюро авторских прав США (USCO) о том, что произведения искусства, созданные с помощью ИИ, не охраняются авторским правом. Создатель системы ИИ Creativity Machine Стивен Талер пытался доказать, что именно он автор книги A Recent Entrance to Paradise, которую написала его программа. Однако его иск не удовлетворили, так как произведение не соответствует требованиям к оригинальности, прописанным в законе США об авторском праве.
«Среди юристов ведется активная дискуссия, кому могут принадлежать права на сгенерированный контент. Основных позиции три: разработчики нейросети (или правообладатель), пользователь, который создает с помощью нейросети объект или сама нейросеть. Мировая практика пока складывается так, что любой сгенерированный контент не признается охраняемым. Следовательно, не имеет автора. В российской юрисдикции таких судебных споров пока не видели», — рассказывает Александр Лаврентьев, CEO компании по защите авторских прав «Антипиратские Технологии».
В текущий момент практически нет законов, регулирующих вопрос принадлежности прав на контент, созданный искусственным интеллектом. Великобритания — одна из немногих стран, которая охраняет авторское право на контент, созданный машиной. Автор «компьютерного произведения» (CGW) определяется как «лицо, которым предпринимаются действия, необходимые для создания произведения». Защита действует в течение 50 лет с даты создания работы.
В России статус автора регулируется Гражданским кодексом. Согласно статье 1257 автором считается «гражданин, творческим трудом которого оно создано». А в статье 1258 уточняется, что того, кто не внес личного творческого вклада в создание произведения, автором признать нельзя. «Текущая конструкция правовых норм не позволит признать нейросеть (ИИ) автором произведения, — комментирует Лаврентьев. — Сейчас это острая тема для обсуждения среди юристов. Внести изменения в эту конструкцию довольно проблематично. Этот вопрос захватывает не только нормы интеллектуальной собственности, но и основные положения гражданского законодательства».
Есть и другой вопрос, касающийся авторского права на работы ИИ: кому оно принадлежит, если модель обучали на произведениях конкретного автора. Так Холли Менгерт, иллюстратор Disney, обнаружила, что студентка из Канады клонировала ее художественный стиль в качестве эксперимента, хотя Менгерт не давала на это согласия. Для обучений нейросети студентка скачала 32 произведения Менгерт. Спустя несколько часов обучения модель научилась воспроизводитель стиль иллюстратора. После этого разработчица выложила нейросеть в открытый доступ.
Это не единственный случай, когда авторы контента жалуются на неправомерное использование их произведений для обучения модели. Против подхода разработчиков ИИ, использующих их работы уже выступали иллюстраторы манги в Японии, музыканты в Индии и сценаристы в США. В сентябре 2023 года группа американских авторов, в числе которых лауреат Пулитцеровской премии Майкл Шейбон, подала иск против OpenAI. Она обвиняет компанию в том, что та скопировала произведения авторов без разрешения, чтобы с их помощью обучить ChatGPT.
В США есть правовая доктрина о добросовестном использовании, которая разрешает использовать материалы, защищенные авторским правом, без разрешения правообладателя. Для определения правомочности использования учитывают четыре фактора:
- цель и характер использования;
- характер произведения, защищенным авторским правом;
- объем и существенность цитирования;
- влияние использования произведения на потенциальный рынок или стоимость произведения.
В большинстве случаев использование данных для обучения моделей ИИ скорее попадает под добросовестное использование. Но создание контента с помощью такой нейросети уже может нарушать авторские права. Если ее обучили на миллионе изображений, а потом попросили нарисовать цветочек или корову на лугу, то маловероятно, что такой контент нарушает чьи-то авторские права. Но если обучить модель на картинках Пабло Пикассо, а потом заставить рисовать в его стиле, то у семьи Пикассо могут появиться обоснованные претензии.
Будущее ИИ в творческой индустрии
Креативность часто рассматривают как уникальное человеческое качество, которое малоуязвимо перед технологическими переменами. Однако ChatGPT, Midjourney и другие «доступные» нейросети ставят под сомнение этот тезис. В перспективе они могут изменить творческую работу, как когда-то это сделал фотоаппарат. Впервые увидев фотографии, французский художник XIX века Поль Деларош заявил: «С сегодняшнего дня живопись мертва». И его паническое настроение поддержали многие творцы, но фотоаппарат не заменил художников, напротив, появилась новая профессия фотографа.
«Генеративный ИИ — это новый вид творчества, способный обогатить и даже кардинально изменить наше представление о процессе создания. Для креатора ИИ может может стать инструментом, открывающим новые возможности. ИИ повышает производительность человека примерно на 30%. Развитие ИИ может привести к созданию новых творческих направлений и переосмыслению, что представляет собой художественная работа. Вместо того, чтобы смотреть на отдельно взятые картины, слушать музыку или смотреть кино, мы будем погружаться в новые художественные миры, созданные ИИ и человеком — в фиджитал (на стыке цифрового и физического пространств) и виртуальных форматах», — делится своим видением Екатерина Вайнберг, эксперт по инновациям и ИИ в GLORAD.
Harvard Business Review выделяет три возможных варианта развитии ИИ в творческой индустрии.
- ИИ поможет повысить производительность. Этот сценарий почти не представляет угрозы для людей, занимающихся творческой работой. Вместо того, чтобы лишать их заработка, ИИ будет помогать делать быстрее и эффективнее то, что у них и так хорошо получается. А еще они помогут большему числу людей становиться креаторами. Например, ИИ-помощник для программистов Copilot от GitHub упрощает программирование для новичков, потому что они могут положиться на знания, которые уже есть в ИИ.
- Машины монополизируют творчество. Несправедливая алгоритмическая конкуренция и неадекватное управление приведут к тому, что вытеснят человека. Если этот сценарий воплотится, то многие талантливые писатели, продюсеры, сценаристы и другие творцы начнут уходить с рынка. Когда ИИ действительно начнет подрывать человеческую аутентичность, развитие инноваций замедлится. Но если затраты на контент снизятся до нуля, у компаний появится больше возможностей для создания персонализированного контента. И даже в такой антиутопии человек будет играть важную роль по выработке рекомендаций относительно существующего содержания в экосистеме.
- Повысится ценность человеческих работ. При таком развитии событий у людей будет конкурентное преимущество в том, что они понимают социальный и культурный контекст как во времени, так и в моменте. Культура развивается быстрее, чем обучаются алгоритмы, поэтому те, кому будет важен точный и персональный результат, будут обращаться к работам людей.
«Системы ИИ будут верными помощниками людей, в том числе в области творчества. Цель технологий ИИ — создание средств, помогающих решать интеллектуальные задачи, способных усилить человеческий интеллект. Подобно тому, как инструменты расширяют возможности наших рук, как одежда заменяет нам отсутствие меха и недостаточную прочность кожи, ИИ раздвигает границы возможности нашего интеллекта», — подводит итог Сергей Марков.