«ВКонтакте» запустила нейросеть для борьбы с угрозами и оскорблениями в комментариях

«ВКонтакте» поможет пользователям реже сталкиваться с травлей в комментариях сообществ.

В основе нового фильтра для администраторов, который будет бороться с онлайн-угрозами, лежит нейросеть. Фильтр можно регулировать в настройках сообщества в любое время. Стоит отметить, что по умолчанию он отключен.

Новая функция «ВКонтакте» появилась уже у администраторов 50% пабликов. В ближайшее время фильтр появится в общем доступе.

Сейчас алгоритмы умеют определять прямые угрозы — пожелания смерти, обещания причинить вред здоровью и угрозы расправы. Разработчики «ВКонтакте» на этом не остановятся и продолжат тестирование фильтра.

В будущем он научится распознавать и другие признаки нетерпимости. Он не пропустит травлю по национальной или религиозной принадлежности. Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают не более 1% случаев.

Тестирование фильтра запущено в ноябре 2020 года. За этот период функцией уже воспользовались руководители свыше 10% всех сообществ «ВКонтакте». Кстати, это 13 млн публичных страниц, групп и мероприятий.

Для создания алгоритмов, которые хорошо понимают разговорную речь, использовалось большое количество текстов на русском языке — например, субтитры из фильмов, сериалов и видео. Нейросеть содержит в себе специальный механизм внимания, позволяющий принимать решения на основе важности слов и их комбинаций.

Фото: vk.com

(Пока оценок нет)

Загрузка...