Социальная сеть "ВКонтакте" работает над искусственным интеллектом для автоматического распознавания материалов с враждебными высказываниями. Об этом сообщается в блоге компании.
"Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них - проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний", - говорится в сообщении.
Как рассказали в компании, для улучшения качества модерации и обучения нейросети разработчики "ВКонтакте" добавили новую категорию жалоб ("Враждебные высказывания"). Этот пункт можно выбрать в меню, нажав кнопку "Пожаловаться" возле публикации, которая, по мнению пользователя, нарушает правила соцсети.
"Модераторы "ВКонтакте" ежедневно обрабатывают огромный объем контента, в том числе с использованием искусственного интеллекта - большинство опасных материалов удаляются еще до того, как их кто-то увидит. Если же вы заметили оскорбительную публикацию, пожалуйтесь на нее. С проявлениями нетерпимости эффективнее бороться вместе - и мы призываем пользователей присоединяться к нам в этой борьбе", - заявил глава команды модерации соцсети Иван Корнеев.
В компании также сообщили, что в январе-июне этого года из соцсети было удалено 520 тыс. единиц контента, разжигающего вражду. Кроме того, было заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.
Отметим, что другие соцсети также активно внедряют инструменты для отслеживания запрещенного контента. На внедрении таких инструментов и ускорении процесса удаления противоправного контента настаивают власти Евросоюза.
