«ВКонтакте» запустила нейросеть для борьбы с угрозами и оскорблениями в комментариях

28-02-2021 08:02

«ВКонтакте» поможет пользователям реже сталкиваться с травлей в комментариях сообществ.

В основе нового фильтра для администраторов, который будет бороться с онлайн-угрозами, лежит нейросеть. Фильтр можно регулировать в настройках сообщества в любое время. Стоит отметить, что по умолчанию он отключен.

Новая функция «ВКонтакте» появилась уже у администраторов 50% пабликов. В ближайшее время фильтр появится в общем доступе.

Сейчас алгоритмы умеют определять прямые угрозы — пожелания смерти, обещания причинить вред здоровью и угрозы расправы. Разработчики «ВКонтакте» на этом не остановятся и продолжат тестирование фильтра.

В будущем он научится распознавать и другие признаки нетерпимости. Он не пропустит травлю по национальной или религиозной принадлежности. Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают не более 1% случаев.

Тестирование фильтра запущено в ноябре 2020 года. За этот период функцией уже воспользовались руководители свыше 10% всех сообществ «ВКонтакте». Кстати, это 13 млн публичных страниц, групп и мероприятий.

Для создания алгоритмов, которые хорошо понимают разговорную речь, использовалось большое количество текстов на русском языке — например, субтитры из фильмов, сериалов и видео. Нейросеть содержит в себе специальный механизм внимания, позволяющий принимать решения на основе важности слов и их комбинаций.

Фото: vk.com

 1,093 Всего просмотров,  1 Просмотров за сегодня

 1,094 Всего просмотров,  2 Просмотров за сегодня

1 Звезда2 Звезды3 Звезды4 Звезды5 Звезд (Пока оценок нет)
Загрузка...

 1,095 Всего просмотров,  3 Просмотров за сегодня