«ВКонтакте» тестирует новую систему для борьбы с оскорблениями

Команда социальной сети «ВКонтакте» рассказала о своей новой разработке — нейросети для автоматического распознавания материалов с враждебными высказываниями.

Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.

Новая система на базе искусственного интеллекта поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. 

Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

Чтобы усилить модерацию и обучить искусственный интеллект, администрация соцсети добавила новую категорию жалоб — «Враждебные высказывания». Пользователь может выбрать её, если нажмёт кнопку «Пожаловаться» у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам. 

Фото: vk.com

 2,193 Всего просмотров,  7 Просмотров за сегодня

(Пока оценок нет)

Загрузка...