Как Reddit стал колыбелью для порнографии на базе искусственного интеллекта
Reddit давно уже стал хранилищем порно, которое разрешено размещать на платформе при условии согласия запечатленных в нем лиц. Сейчас обороты набирают генераторы изображений из текста на базе искусственного интеллекта (ИИ), и на площадку сошла лавина созданных ИИ порнографических изображений ― доступ к ним есть у каждого из 57 млн активных пользователей. Пусть эти картинки и ненастоящие, но генерирующие их модели обучаются на фотографиях реальных людей и могут выдавать их точные копии. Как рассказали Forbes эксперты, обычно такое происходит без согласия изображенных.
«Фундаментальная проблема генеративного ИИ-порно в том, что оно полагается на масштабную кражу изображений и сходство с реальными людьми, причем в подавляющем большинстве это касается женщин», ― рассуждает Ноэль Мартин, юрист-исследователь в лаборатории технологий и политических вопросов при Университете Западной Австралии, сама становившаяся объектом дипфейков сексуальной направленности.
Forbes нашел 14 сабреддитов, посвященных сгенерированному ИИ-порно, 10 из них созданы в последние несколько месяцев. На каждый сабреддит подписаны и еженедельно заходят тысячи читателей. Одна из самых популярных страниц ― r/unstable_diffusion, существующая с сентября 2022 года и имеющая 54 000 участников. Аудитория еще одной составляет 60 000 пользователей. На Reddit есть переключатель для безопасного поиска, при котором во время обычного поиска скрывается взрослый контент. Однако без активации данного переключателя запрос «ИИ-порно» выдает два с лишним десятка форумов, где можно публиковать и распространять сгенерированные искусственным интеллектом материалы для взрослых. На этих сабреддитах некоторые пользователи просят создать при помощи ИИ сексуальные дипфейки с настоящими людьми или же продают такие изображения.
По мере того, как инструменты для генерирования картинок из текста становятся более совершенными, а их творения ― более реалистичными, пользователям становится сложнее не только отличить настоящее от поддельного, но и определить, на создание какого контента дано согласие, а какого ― нет. По данным журнала Rolling Stone, в начале апреля некоторых пользователей Reddit одурачили и выманили у них по $100 за фотографии 19-летней девушки по имени Клаудия, которую создал широко известный ИИ-инструмент Stable Diffusion. Эксперты утверждают, что системы подобного типа, преобразующие текст в картинки и генерирующие ИИ-порно, обучаются на миллионах фотографий реальных людей (обычно без их согласия и осведомленности), а также на изображениях, которые принадлежат другим организациям. С недавних пор на ИИ-генераторы изображений из текста подают в суд художники и каталоги стоковых картинок вроде Getty Images, вменяя тем нарушение авторских прав.
Одна пострадавшая по делу о секс-торговле, в результате которой ее и других женщин принуждали к сексу на камеру, сказала Forbes, что считает использование ее фотографий или видео для обучения ИИ-систем нарушением ее конфиденциальности. Потерпевшая, которая из-за опасений повторного распространения роликов с ее участием, говорила с Forbes на условиях анонимности, отмечает, что видео с ней были загружены на Reddit и другие сайты без ее согласия и позднее были удалены.
«Наличие у кого-нибудь копий этих файлов уже само по себе является огромным посягательством на мои законные права, ― подчеркивает она. ― Поэтому публичное распространение копий, а также последующее создание нового контента с моим изображением для дальнейшей передачи и обучения ИИ-систем означает, что я, как человек, ничего не контролирую и не в силах это остановить».
Сгенерированное ИИ-порно появляется и на площадках вроде Twitter и Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена). Но сильнее всего оно процветает на Reddit, отчасти потому, что платформа позволяет пользователям сохранять анонимность и публикацию материалов с откровенно сексуальным содержанием не запрещает. К тому же соцсеть сама применяется для обучения языковых моделей и теперь требует за это плату: в недавнем интервью для The New York Times генеральный директор Reddit Стив Хаффман заявил, что за использование данных обсуждений и другой информации с сайта с целью обучения сторонних платформ хочет получать от Google, Microsoft и OpenAI соответствующее вознаграждение. «Корпус данных у Reddit очень ценный. Но мы не должны отдавать всю эту выгоду крупнейшим компаниям в мире бесплатно», ― говорил Хаффман изданию. Тогда же социальная сеть объявила о скором закрытии своего API, открытого с 2008 года, и планах брать со сторонних организаций плату за «премиальный доступ» к данным.
Благодаря инвестициям таких тяжеловесов, как Andreessen Horowitz и Sequoia Capital, в прошлом году площадка достигла капитализации порядка $10 млрд; до этого, в августе 2021 года, прошел раунд финансирования серии F и фирма привлекла свежий капитал на $700 млн. Располагая совокупным объемом финансов на сумму $1,9 млрд, компания, по сообщениям источников, планирует в 2023 году выйти на фондовый рынок. Согласно данным статистического агентства Statista, в 2021 году Reddit зафиксировал $470 млн выручки, преимущественно за счет отображения рекламы и оформления премиальных подписок.
Хоть в Reddit и заверяют, что рекламы в ленте с порнографией не бывает, а сам откровенный контент на сайте не монетизируется, эксперты считают, что, разрешая материалы для взрослых — не важно, искусственные или настоящие, — платформа привлекает к себе больше пользователей и стимулирует вовлеченность аудитории. «Пусть рекламу в сабреддитах и не показывают, но то, что эти форумы привлекают множество участников, все равно приносит компании большую выгоду», ― говорит исследовательница Софи Мэддокс, изучающая сексуальное насилие в онлайн-пространстве.
Джейми Коэн, преподаватель дисциплины о социальных сетях и рекламной эстетике в Колледже Куинса при городском университете Нью-Йорка, полагает, что пользователи, приходящие в соцсеть смотреть порнографию, также посещают другие страницы и сабреддиты, где откровенного контента нет. «На самом деле Reddit отслеживает посещения страниц и сабреддитов, а потом направляет персонализированные данные, которые открывают рекламодателям новые пути взаимодействия», ― объясняет он.
«ИИ-девушки» со всего интернета
Reddit остается крупнейшей социальной сетью, где хранится ИИ-порно для десятков миллионов пользователей, но ряд специализированных сайтов подобный контент уже вовсю монетизирует.
Большинство генераторов искусственного порно типа PornJourney, PornPen, PornJoy и SoulGen требуют плату за премиальные подписки и связаны с теневыми аккаунтами на Discord и Patreon, принадлежащими анонимным пользователям. На сайтах этих сервисов демонстрируется целый спектр разных этнических групп и телосложений, а также инструкции по созданию контента, причем о том, как системы обучались и на каких именно визуальных материалах, нигде не сказано почти ни слова. С этой целью применительно к изображениям, генерируемым фирменными инструментами, на сайты добавляются дисклеймеры: «Любые образцы контента на данном сайте, похожие на реальных людей, являются чистым совпадением. Данный ИИ отражает предубеждения и заблуждения, которые имеются в данных обучения».
Один такой генератор ИИ-изображений под названием PornJourney создан и запущен в марте 2023 года. Судя по фирменному сайту, за генерирование «ИИ-девушек», которые выглядят «настоящими и человечными», сервис берет с пользователей $15 в месяц.
В разделе вопросов и ответов на сайте говорится: «Создание уникальных и детальных фотографий девушек с помощью ИИ стоит недешево, поэтому нам приходится постоянно инвестировать в серверную инфраструктуру».
PornPen, месячная аудитория которого достигает 2 млн пользователей, а 12 000 из них платят за фирменный генератор ИИ-порно $15 в месяц, основан на ИИ-модели от Stable Diffusion и делает картинки на базе массива данных под названием LAION ― в нем содержится приблизительно 6 млрд изображений из общего доступа в сети. Обширный массив включает фотографии знаменитостей, моделей, политиков и инфлюенсеров. В частности, на сайте некоммерческого проекта говорится: «Массив рекомендуется применять в исследовательских целях».
Тори Русей, начальница по правозащитной работе в Национальном центре по борьбе с сексуальной эксплуатацией, утверждает, что для сканирования фотографий с порносайтов и страниц в социальных сетях, а также для сбора базы данных с изображениями откровенно сексуального содержания большинство ИИ-программ по преобразованию текста в картинки типа Unstable Diffusion и PornPen используют модели с открытым исходным кодом из GitHub или Hugging Face. На GitHub редакция Forbes нашла по меньшей мере пять репозиториев для поисковых роботов, которые для создания решений на основе искусственного интеллекта могут собирать изображения и видео с таких интернет-порталов, как PornHub и Xvideos, а еще из социальных сетей, к примеру Twitter (заблокирован в России), Instagram и TikTok. Ни в PornHub, ни в Xvideos на просьбу дать комментарий не ответили.
«Unstable Diffusion ― это как двоюродный брат Stable Diffusion. Первые, по сути, взяли код у последних, скопировали его и сделали собственный репозиторий на основе исключительно порнографических фотографий и изображений с обнаженной натурой», ― уверена Русей, которая к тому же исследует методики использования ИИ при создании порнографии. По словам руководительницы, чаще всего жертвами ИИ-порно становятся женщины из числа знаменитостей, политических деятелей и журналистов, и виной всему ― огромное количество доступных в онлайне визуальных материалов с ними. Эти группы лиц также являются самой популярной мишенью среди тех, кто выпускает дипфейки.
Серая зона Reddit
Reddit пытается прояснить свое отношение к зарождающейся категории контента откровенно сексуального содержания и ввел запрет на откровенные материалы, сделанные без обоюдного согласия участников. Сюда относятся «изображения, которые были сфальсифицированы» (имеются в виду дипфейки на основе ИИ, когда алгоритм генерирует поддельные изображения настоящего человека). Как выразился пресс-секретарь Reddit, на сайте также запрещены «сгенерированные ИИ материалы, если они преподносятся с целью обмана». Представители площадки уверяют, что для обнаружения и удаления с сайта откровенного контента, сделанного без обоюдного согласия участников, система задействует комплекс автоматических инструментов и ресурсы внутреннего отдела безопасности.
«Помимо всего прочего, Reddit славится весьма размытыми границами между тем, что с точки зрения морали просто сомнительно, и тем, что на платформе запрещено вообще. А потому сгенерированная искусственным интеллектом порнография попадает на Reddit в какую-то серую зону», ― продолжает Русей.
И дипфейки, и материалы откровенно сексуального содержания, и генеративное ИИ-порно перемешаны друг с другом в одном массиве порнографических изображений, из которых искусственный интеллект делает новые творения. Но важно отличать генеративное ИИ-порно, где показан совершенно новый человек, в котором нельзя узнать никого конкретно, от сексуальных дипфейков, где человеческие лица «надеваются» на тела других людей. Исследовательница Мартин, сама в прошлом ставшая жертвой дипфейков, говорит, что она столкнулась с последствиями похожей ситуации еще 10 лет назад, задолго до появления генеративного ИИ. Тогда кто-то взял ее селфи и, обработав их в Photoshop, сфабриковал порнографические изображения и видеоролики с ее участием. Она считает, что в последние годы с развитием технологий отличить сексуальные дипфейки от ИИ-порно становится все сложнее.
Никола Хенри, уже 20 лет изучающая сексуальное насилие с применением технологий и на основе визуальных материалов в Мельбурнском королевском технологическом университете, отмечает, что на первый взгляд ИИ-порно по сравнению с дипфейками может показаться более безобидным. Но, если хорошо присмотреться, на некоторых картинках можно увидеть признаки того, что ИИ могли обучать на изображениях с несовершеннолетними. «Я видела на Reddit некоторые изображения от искусственного интеллекта, и лица больше похожи не на женские, а на детские. Это вызывает опасения, ведь, будь они настоящими, такие фотографии расценивались бы как материалы с сексуальным насилием над малолетними», ― предостерегает эксперт.
Генератор ИИ-порно Unstable Diffusion пытается избежать данной проблемы. Во-первых, сервис запрещает пользователям применять свой инструмент для создания контента с сексуальной эксплуатацией детей, а во-вторых, старается получать изображения, снятые по обоюдному согласию участников ― для этого людей просят предоставлять именно такие материалы взамен на ранний доступ и бесплатное пользование фирменной системой. Сайт заявляет, что к нынешнему моменту ему удалось собрать для обучения алгоритма 15 млн «пользовательских фотографий», сделанных по обоюдному согласию изображенных на них лиц.
Мэддокс убеждена, что, даже если подобные инструменты применяются для выражения и исследования собственной сексуальности, они продвигают нереалистичные стандарты красоты и нездоровые сексуальные отношения ― и все только лишь из-за корпуса данных, на котором строится система. Листая генеративную ИИ-эротику на Reddit и в Twitter, женщина говорит, что эти образцы отражают связанные с сексуальным здоровьем стереотипы и расовые предубеждения, которые часто встречаются в СМИ: «Поскольку эти программы учатся на уже существующих изображениях либо текстах, когда вы просите сгенерировать кучу иллюстраций с представителями маргинализированных сексуальных групп, квир-сообщества или транс-людей, алгоритм с задачей часто не справляется».
Мэддокс также добавляет, что ИИ-системы, которые обрабатывают контент с сайтов вроде PornHub и Xvideos, становятся все более серьезной проблемой для порноактеров, владеющих правами на собственный контент. Актеры фильмов для взрослых и площадки, где размещены их работы, получают деньги с подписок и рекламы в своих творениях. Однако, если их изображения используются для создания искусственного порно, никто им пока ничего не платит. За пользование фотографиями без соответствующей оплаты авторы и платформы, понесшие из-за генеративного ИИ финансовые потери, подают в суд против таких сервисов, как Stable Diffusion. По мнению Мэддокс, аналогичный протест генеративный ИИ может спровоцировать и в порноиндустрии.
В сообществах на Reddit давно хранится несколько других типов контента с откровенным содержанием и сексуальным насилием. Спустя несколько лет после деактивации скандальных сабреддитов типа r/jailbait и r/creepshots изображения сексуального содержания на закрытых форумах из соцсети по-прежнему не удалены. «Мне кажется, что в случае с Reddit границы допустимого можно расширять так, как нельзя на других площадках, ― подытоживает женщина. ― И есть шанс пропасть из поля зрения полностью».
Перевод Антона Бундина