Нейросеть «ВКонтакте» оградит пользователей от травли в комментариях

Администраторам групп «ВКонтакте» стала доступна новая функция: автоматическое удаление «враждебных» комментариев. Сейчас нейросеть умеет определять прямые угрозы, а в дальнейшем начнет блокировать травлю на национальной или религиозной почве

«ВКонтакте» представила новую функцию для администраторов сообществ: автоматическое удаление «враждебных» комментариев. В основе фильтра лежит разработанная соцсетью нейросеть.

В «ВКонтакте» миллионы сообществ по интересам — и в каждом из них разная атмосфера и свои принципы общения. Мы хотим, чтобы у вас была возможность сделать среду в своих пабликах более доброжелательной: подписчики смогут вести конструктивный диалог и не бояться получить жестокую реплику в ответ», — говорится в сообщении соцсети, адресованном администраторам. 

Как паблик «Страдающее Средневековье» зарабатывает на мемах до нескольких сотен тысяч рублей в месяц

Сейчас алгоритмы «ВКонтакте» умеют определять прямые угрозы, такие как пожелания смерти и обещания причинить вред здоровью. В будущем нейросеть научат распознавать и другие признаки нетерпимости, например травлю на национальной или религиозной почве. 

Фильтр по умолчанию отключен, владельцы пабликов могут включить его в настройках сообщества. Там же они смогут увидеть отсеянные комментарии, восстановить любой из них или отправить автора агрессивного высказывания в бан.

Блогеры в Clubhouse стали зарабатывать на молчании: как это происходит и почему не все считают это этичным

«ВКонтакте» начала тестировать новую функцию в ноябре прошлого года, с тех пор ею воспользовались администраторы 13 млн групп. «Большинство руководителей остались довольны работой нейросети», — отмечает соцсеть.

«ВКонтакте» также проводит тестирование и другой функции, призванной оградить пользователей от травли. Когда алгоритмы определяют, что комментатор хочет оскорбить другого пользователя, ему советуют воздержаться от агрессии. Благодаря таким предупреждениям в 2019 году соцсети удалось за сутки сократить количество оскорблений на 36%.