В «Одноклассниках» заработал ИИ, защищающий пользователей от оскорбительных комментариев

Социальная сеть Одноклассники внедрила модель машинного обучения для временного ограничения пользователей, оставляющих оскорбительные комментарии.

Теперь пользователи, оставляющие негативные или агрессивные комментарии, могут быть временно ограничены в возможности писать новые сообщения. Ограничения могут длиться от одного часа до суток, в зависимости от частоты появления таких комментариев.

Разработка была обучена на основе 400 тысяч оскорбительных высказываний, что позволило системе научиться распознавать недружелюбные или провоцирующие дискуссии комментарии. С запуском новой модели доля и количество токсичных высказываний на платформе сократились на 47%.

Как показало исследование «Одноклассников», более 40% пользователей считают негативные комментарии источником злости, что подчеркивает важность создания комфортной среды для общения.

Фото: freepik

(Пока оценок нет)

Загрузка...