' style='fill:%23c4c4c4;fill-opacity:1'%3E%3Cpath d='M93.28-57.4h2.52l-6.33 11.74h-2.6l6.41-11.75zM98.5-57.4h2.52L94.7-45.67h-2.6l6.4-11.75zM103.78-57.4h2.52l-6.33 11.74h-2.6l6.4-11.75z'/%3E%3C/a%3E%3C/svg%3E)
«ВКонтакте» начала тестировать нейросеть для удаления «враждебных высказываний»
«ВКонтакте» начала тестирование нейросети, которая будет распознавать комментарии с элементами ксенофобии, расизма, гомофобии, сексизма и других оскорблений на почве нетерпимости. Об этом сообщается в блоге соцсети.
«Обучать» нейросеть будут с помощью посетителей страниц — около публикаций в разделе «Пожаловаться» появится категория «Враждебные высказывания». После того, как пользователь отметит материал как оскорбительный, он попадет на рассмотрение к модераторам. Такой алгоритм поможет собрать наиболее полный набор реакций и высказываний для новых решений на основе нейросетей.
«Если вы заметили оскорбительную публикацию, пожалуйтесь на нее. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе», — рассказал руководитель команды модерации Иван Корнеев.
В соцсети отметили, что при модерации спорного контента учитывается контекст. «Например, если публикация осуждает травлю, расизм, гомофобию или сексизм либо привлекает внимание к этим проблемам, она может оставаться публично доступной», – говорится в заявлении.
Особое внимание также уделяется характеру образовательного контента, художественным произведениям, историческим и общественно-резонансным материалам. Как заявляют модераторы, материалы, которые «созданы для отображения и обсуждения фактов и происшествий» не будут удаляться, если в них не будет призывов «преследовать людей и ущемлять чьи-то права».
Как сообщила пресс-служба, за первую половину 2020 года модераторы удалили 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировали 1340 профилей и 2470 сообществ, которые распространяли враждебные высказывания.
