Руководство Facebook объявило об ужесточении мер по борьбе с фейковыми видео, отредактированных таким образом, чтобы у зрителя складывалось впечатление, будто человек в ролике сказал то, чего на самом деле не говорил.
По словам вице-президента компании Моники Бикерт, в первую очередь это касается deepfake-видео (видео с подставными лицами), созданных с помощью искусственного интеллекта: «Несмотря на то, что пока такие видео встречаются в интернете редко, по мере их распространения они станут серьезной угрозой для нашей отрасли и всего общества».
Для проверки таких видео Facebook создал группу модераторов, в которую входят более 50 человек со всего мира. Ложные или частично ложные видео будут ограничиваться в охватах, и перед их воспроизведением людям будут показывать предупреждение о том, что это может быть фейком. Если ролик нарушает какие-либо другие правила социальной сети, его будут удалять.
При этом новые правила не коснутся пародий, сатиры и прочих роликов, созданных без цели манипуляции, а также видео, отредактированных исключительно для того, чтобы исключить ненужные слова или изменить порядок слов.
В сентябре 2019 года Facebook объявил конкурс Deepfake Detection Challenge, участники которого должны были разработать эффективный способ отличать deepfake-видео от реальных.
Весной прошлого года в соцсетях появилось смонтированное видео, на котором речь спикера Палаты представителей Нэнси Пелоси искажена, из-за чего она выглядит пьяной. Facebook отказался его удалять.
Не бойся быть свободным. Оформи донейт.