Минцифры может ввести требование маркировки контента в интернете
Минцифры разрабатывает норму, которая позволит внедрять в России технологию для подписи кода и контента, рассказал источник Forbes, знакомый с деталями проекта. По его словам, эта технология даст возможность идентифицировать пользователей, которые публикуют контент, и позволит достоверно подтверждать их личность. Еще один источник, близкий к проекту, подтвердил, что такая работа ведется в департаменте обеспечения кибербезопасности Минцифры.
В пресс-службе Минцифры в ответ на запрос Forbes сообщили, что развитие искусственного интеллекта — важная и перспективная область, открывающая широкие возможности для инновационного роста.
«Вместе с тем необходимо внимательно подходить к вопросам предотвращения использования ИИ в преступных целях. В настоящее время ведутся обсуждения возможных мер, есть депутатские инициативы, направленные на борьбу с дипфейками. Но о каком-либо окончательном решении говорить пока преждевременно, — сообщили в Минцифры Forbes. — В частности, рассматривается возможность введения системы маркировки контента. Однако пока не принято решение, какой контент будет маркироваться — оригинальный или созданный с помощью ИИ. Для того чтобы определить наиболее сбалансированный и эффективный подход и разработать соответствующие механизмы, требуется диалог с отраслью и экспертным сообществом». В Минцифры заявили, что в связи с этим министерство планирует создать межведомственную рабочую группу, которая займется разработкой предложений по этим вопросам.
В августе 2025 года стало известно, что «Яндекс» совместно с Институтом системного программирования РАН разрабатывает систему маркировки для контента, сгенерированного ИИ, в частности, нейросетью «Яндекса» «Шедеврум», сообщали «Ведомости» со ссылкой на источники. Представитель компании тогда подтвердил эту информацию, однако сроки готовности разработки в «Яндексе» не назвали.
Технологии, позволяющие подписывать сгенерированный контент в интернете, называются watermarking, что можно перевести с английского как технология цифрового водяного знака. Как рассказал Forbes в ходе конференции AI Journey 21 ноября ученый в области ИИ, доктор физико-математических наук, генеральный директор Института искусственного интеллекта AIRI Иван Оселедец, при генерации картинок сейчас обычно ставятся видимые цифровые водяные знаки, которые легко найти и удалить. Но также можно «зашить» цифровой водяной знак так, чтобы он был не виден, по аналогии с задачами шифрования, продолжает он. По словам ученого, в созданную ИИ картинку можно загрузить информацию о том, каким инструментом она сгенерирована, но технология цифрового водяного знака не позволяет идентифицировать личность пользователя, публикующего этот контент – для этой задачи должны применяться биометрия и другие технологии.
Сейчас при маркировке контента скрытым цифровым водяным знаком разработчики сталкиваются с двумя проблемами, поясняет Оселедец, у них увеличиваются расходы на генерацию контента и иногда снижается качество этого контента. Если будет введено обязательное требование маркировки контента, созданного ИИ, то внедрение технологии скрытых цифровых водяных знаков не приведет к большим затратам разработчиков, полагает Иван Оселедец. «Если это обяжут сделать, я думаю, что будут эти технологии доработаны до того, что дополнительная стоимость, которая возникает при подписи, будет минимальной», — сказал Оселедец.
Но задача по удержанию качества сгенерированного контента на таком же уровне, как без скрытых цифровых водяных знаков, потребует инвестиций, составляющих 30-40% затрат на разработку новой модели, оценивает он. «Я думаю, что это сотни миллионов [рублей], такая сумма вполне реальна, чтобы сделать ее [маркировку цифровыми водяными знаками] на высоком уровне, — полагает Иван Оселедец. – Фактически тебе нужно обучить новую версию модели. Взять готовую модель и приклеить ей без потери качества вотермаркинг сложно. Это значит, надо делать заново».
По словам ученого, на данный момент нет универсальной методологии проверки наличия скрытых цифровых водяных знаков на контенте, сгенерированном ИИ, которые могут применяться в промышленных решениях, есть научные публикации и способы решить это задачу, которыми пользуется та или иная команда. По сути, необходимо сделать подобие сканера, которым сейчас сканирует коды DataMatrix, нанесенные на йогурты, приводит пример Оселедец. Дополнительную сложность также накладывает то, что нет стандарта по технологии цифровых водяных знаков. «Фактически под каждую модель, под каждую генерацию тебе нужно делать свою маркировку. То есть ты не можешь сделать один стикер на модель «Сбера», «Яндекса», потому что они все по-разному приготовлены. В этом принципиальная разница, ты не можешь [цифровой водяной знак] сверху налепить», — отметил Иван Оселедец.
Маркировка контента с ИИ – это тема активных научных исследований в России, в которых участвуют в том числе институты РАН, отметил ученый. «Все понимают, что это рано или поздно будет, и пытаются подготовить базу под это. Но если завтра скажут: «Делай», то все встанет, конечно, – говорит ученый. – Должен быть какой-то пилотный период, проверка. Должны быть рекомендации, что необходимо внедрить такие технологии, проверить, собрать опыт, проанализировать, показать, как оно работает, выделить проблемы, на что это повлияло, сколько это действительно стоит».