«ВКонтакте» начала тестирование нейросети, которая будет распознавать комментарии с элементами ксенофобии, расизма, гомофобии, сексизма и других оскорблений на почве нетерпимости. Об этом сообщается в блоге соцсети.
«Обучать» нейросеть будут с помощью посетителей страниц — около публикаций в разделе «Пожаловаться» появится категория «Враждебные высказывания». После того, как пользователь отметит материал как оскорбительный, он попадет на рассмотрение к модераторам. Такой алгоритм поможет собрать наиболее полный набор реакций и высказываний для новых решений на основе нейросетей.
«Если вы заметили оскорбительную публикацию, пожалуйтесь на нее. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе», — рассказал руководитель команды модерации Иван Корнеев.
В соцсети отметили, что при модерации спорного контента учитывается контекст. «Например, если публикация осуждает травлю, расизм, гомофобию или сексизм либо привлекает внимание к этим проблемам, она может оставаться публично доступной», – говорится в заявлении.
Особое внимание также уделяется характеру образовательного контента, художественным произведениям, историческим и общественно-резонансным материалам. Как заявляют модераторы, материалы, которые «созданы для отображения и обсуждения фактов и происшествий» не будут удаляться, если в них не будет призывов «преследовать людей и ущемлять чьи-то права».
Как сообщила пресс-служба, за первую половину 2020 года модераторы удалили 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировали 1340 профилей и 2470 сообществ, которые распространяли враждебные высказывания.