Роскомнадзор протестирует систему распознавания лжи по видео для выявления дипфейков
Роскомнадзор рассчитывает использовать разработку в области распознавания лжи по видеозаписи с помощью искусственного интеллекта для выявления дипфейков. Система Expert сможет проверять видеозаписи выступлений на предмет лжи и манипуляций. Участники рынка сомневаются в перспективности разработки, а разработчики уже опробовали ее на выступлениях шести кандидатов в американские сенаторы
Национальный центр когнитивных разработок ИТМО создаст для Главного радиочастотного центра (ГРЧЦ, поведомственен Роскомнадзору) сервис Expert на основе технологий искусственного интеллекта (ИИ). Он сможет анализировать видеозаписи и выявлять в них ложь и манипуляции. Об этом сообщает «Коммерсантъ» со ссылкой на источники и представителей ИТМО, Роскомнадзора и ГРЧЦ.
Один из собеседников газеты рассказал, что прототип сервиса представили Роскомнадзору на заседании экспертного совета ГРЧЦ по ИИ в июле. Источник добавил, что решение заинтересовало участвовавшего в заседании главу Роскомнадзора Андрея Липова, тот просил передать его ведомству на тестирование. Глава Научно-технического центра ФГУП ГРЧЦ Александр Федотов сообщил, что сервис представляет интерес для оперативного выявления дипфейков. Центр рассмотрит возможность применения системы, как только ИТМО представит «устойчиво работающую технологию в виде готового продукта».
В ИТМО рассказали, что система Expert анализирует видео или аудио — она оценивая уверенность, уровень агрессии внутренней и внешней, конгруэнтность (уровень согласованности информации, передаваемой вербальным и невербальным способом) и противоречивость, сравнивает слова с научными статьями и высказываниями других специалистов. По словам разработчиков, система «заточена на работу с английским языком», но сможет извлечь показатели уверенности, агрессивности и конгруэнтности на любом языке.
По словам руководителя научно-исследовательской лаборатории «Когнитивная невербалика» НЦКР ИТМО Олега Басова, английский был выбран как самый распространенный язык, доработка системы для получения текста из речи на русском языке стоит в ближайших планах. Басов добавил, что систему уже опробовали в преддверии выборов в Сенат США. С помощью сервиса анализировали опубликованные на YouTube интервью шести кандидатов на предмет противоречивости, агрессии и уверенности в себе, рассказал руководитель лаборатории: в заявлениях трех кандидатов система обнаружила скрытую агрессию, а одного уличила во лжи.
IT-эксперты говорят о том, что более 90% российских разработок, связанных с ИИ, сделаны на основе открытых зарубежных библиотек вместе с дата-сетами для их обучения. Этим они объясняют разработку, адаптированную для английского языка. Для переобучения под русский язык потребуется большой массив данных и затраты, отмечают отраслевые специалисты. Они полагают, что вероятность ложных срабатываний будет слишком высока.
Дипфейки — обработанные видео, которые позволяют создать искусственную реальность. В мае в дипфейке, опубликованном фальшивой криптокомпанией Bitvex, поддельный Илон Маск, выступая со сцены, продвигал «новый инвестиционный проект», благодаря которому инвесторы будут получать «дивиденды в размере 30% каждый день до конца жизни». «Фу. Это точно не я», ― написал позже в Twitter настоящий Маск.
В сентябре 2021 года в сети появилось рекламное видео, на котором миллиардер и основатель Тинькофф Банка Олег Тиньков обещал подарить деньги. Обращение оказалось подделкой — его записали мошенники с использованием технологии дипфейк. Представитель Тинькофф сообщил тогда Forbes, что видео — подделка и компания работает над его блокировкой.