«ВКонтакте» разрабатывает нейросеть для борьбы с враждебными высказываниями

Технологии

 

МОСКВА, 20 авг — ПРАЙМ. Социальная сеть «ВКонтакте» разрабатывает решение для автоматического распознавания материалов с хейтспичем — враждебными высказываниями — на основе искусственного интеллекта, говорится в сообщении компании.

«Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний», — уточняется в сообщении.

Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.

Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, соцсеть добавила новую категорию жалоб — «Враждебные высказывания». Пользователь может выбрать её, если нажмёт кнопку «пожаловаться» у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам, что позволит позволит точнее откалибровать уже существующие инструменты и собрать новые на основе нейросетей.

Помимо этого, команды модерации и поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей, отметили в компании.

За первую половину 2020 года на платформе было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

 

Источник: https://1prime.ru/telecommunications_and_technologies/20200820/831933787.html

Оцените статью
Авто и мото-новости на GTyuning.RU
Добавить комментарий