Нейросеть ВКонтакте поможет защитить от оскорблений в комментариях

Нейросеть ВКонтакте поможет защитить от оскорблений в комментариях

4 ноября , 22:52
Общество
Photo: Вконтакте
ВКонтакте запустит масштабный эксперимент для борьбы с оскорблениями и травлей в комментариях.

Он пройдёт в День народного единства. В течение суток социальная сеть протестирует две функции, которые помогут пользователям реже сталкиваться с нетерпимостью, — в том числе травлей по национальному признаку, оскорблениями на почве религиозной принадлежности и угрозами. У администраторов появится возможность включить специальный фильтр враждебных высказываний в настройках сообщества, а комментаторы увидят предложение отказаться от обидных реплик. Оба инструмента работают на основе алгоритмов — в том числе нейросети, распознающей оскорбления.

Фильтр враждебных высказываний

4 ноября ровно на сутки в настройках сообществ появится возможность включить фильтр враждебных высказываний. Нейросеть удаляет комментарии, в которых содержатся угрозы, — например, пожелания смерти или обещания причинить вред здоровью. При этом администратор сможет увидеть все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в чёрный список. Как и другие фильтры в сообществах, фильтр враждебных высказываний можно включить или выключить в любой момент.

Нейросеть продолжает развиваться: результаты эксперимента будут использованы для её дальнейшего обучения и доработки фильтра.

Рекомендация отказаться от оскорблений

Также ВКонтакте масштабирует прошлогодний эксперимент: когда пользователь пишет комментарий, алгоритмы определяют, есть ли в тексте признаки оскорблений. Если да, автор получает совет не тратить время на агрессию и отказаться от обидной реплики. В прошлом году благодаря такому предупреждению за сутки удалось сократить количество оскорблений в комментариях на 36%.

В этот раз функция будет определять более широкий спектр оскорблений и угроз. Среди них — проявления нетерпимости по национальному признаку, а также враждебные высказывания на почве религиозной принадлежности, возраста, пола и других характеристик. 4 ноября предупреждение смогут увидеть все пользователи, а позже начнётся долгосрочный тест, рассчитанный на часть аудитории. По результатам эксперимента Команда ВКонтакте примет решение о дальнейшем использовании функции.

Как и раньше, любой пользователь может сообщить об оскорбительных публикациях службе модерации — с помощью кнопки «Пожаловаться». Она есть у записей, комментариев, фотографий, видео, историй и клипов. Чтобы усилить модерацию, ВКонтакте добавила отдельную причину для жалоб на оскорбительные материалы — «Враждебные высказывания». Также можно добавить профиль недоброжелателя в чёрный список.

ВКонтакте не только рассматривает поступающие жалобы, но и самостоятельно отслеживает появление вредоносного контента. Подробнее о том, как ВКонтакте предотвращает распространение враждебных высказываний, можно прочитать в специальном разделе «Нормы платформы»: vk.com/safety?section=standarts

Found a typo in the text? Select it and press ctrl + enter