Зачем искусственный интеллект из РАН будет анализировать психику россиян по соцсетям

На реализацию проекта выделено около 36 миллионов рублей, им займется Институт системного программирования РАН, который уже представил техническое задание. Как отмечает директор по правовым инициативам Фонда развития интернет-инициатив Александра Орехович, в этом техзадании очень большой разброс задач: от определения суицидальных наклонностей, борьбы с «группами смерти» и группами, посвященными шутингу, до проведения психологической диагностики отдельных лиц, принимающих участие в переговорах коммерческих и некоммерческих организаций на высоком уровне. Она предполагает, что в дальнейшем задачи будут скорректированы и более точно определены — вероятно, речь пойдет об обеспечении массовой безопасности, борьбе с терроризмом и экстремизмом. 

В России за последнее время принято немало законов о цифровом контроле. Как правило, необходимость их введения объяснялась в самых общих фразах. Однако в этот раз российские академики написали техзадание с удивительной откровенностью: «Использование цифровых следов открывает широкие возможности по оценке личности и прогнозированию ее поведения без осуществления психологического тестирования, требующего, как правило, добровольного согласия тестируемого».

Но даже если у вас нет никакой особой активности в соцсетях, искусственный интеллект также создаст ваш портрет. Алгоритмы должны не только анализировать текстовые сообщения, но и выявлять «эмоциональную экспрессию лица» по видео: «Даже отсутствие следов в соцсетях у самого человека тем не менее оставляет возможность достаточно точного профилирования по следам его более близкого и дальнего окружения».

Одним словом, будьте внимательны к своему цифровому следу. Особенно осторожны должны быть государственные люди. Как следует из технического задания, именно россияне, которые принимают важные корпоративные или государственные решения, будут объектом повышенного внимания. Однако не только они могут заниматься политикой. При определенных условиях робот из академии наук обязан составить портрет и рядового россиянина: «Широкое, массовое профилирование населения может выступить хорошим предиктором массовидного поведения, например, в условиях социальных конфликтов и выступлений».

Кстати, сам термин «профилирование» взят из лексикона правоохранительных органов, и довольно неожиданно встретить его в тендере, организованном математическим институтом. Кроме того, существуют сомнения, что методика профилирования вообще работает. Как отмечает директор «Общества защиты интернета» Михаил Климарев, в ее основе лежит предположение о том, что человека довольно точно можно выделить в ту или иную категорию, исходя из его поведенческих паттернов. Однако Климарев сомневается в точности такого способа «категоризации» людей и добавляет, что каждый уникален. 

Но даже применение сомнительной методики может вызвать скандал в индустрии цифровых сервисов. Ведь информация о пользователях — это в буквальном смысле хлеб социальных сетей. И IT-корпорации, мягко говоря, не очень заинтересованы, чтобы третья сторона в автоматическом режиме собирала данные, ничего за это не заплатив. 

Так, в России еще с 2017 года продолжается знаковое судебное разбирательство. Четыре года назад «ВКонтакте» подала иск против компании Double Data. Этот российский сервис занимался анализом открытых данных о финансовом положении пользователей соцсетей, а затем продавал эти данные кредитным организациям. Дело, действительно, запутанное с юридической точки зрения. И пока российское правосудие не вынесло окончательного решения. Как отмечает управляющий партнер компании «Зарцын и партнеры» Людмила Харитонова, поводом для иска стало то, что «ВКонтакте» усмотрела нарушение компанией Double Data своих прав, а не прав пользователей, и основной упор в этом разбирательстве пришелся на изучение вопроса о правах на базу данных. Харитонова добавила, что новый проект института РАН может быть проблематичен не только в вопросе возможного нарушения закона о персональных данных, но и возможного нарушения прав самой социальной сети, содержащей эти данные.

Правда и самим корпорациям будет непросто обойтись без искусственного интеллекта. Ведь еще в начале этого года перечень обязанностей таких площадок был значительно расширен. Теперь их владельцы должны собственными силами модерировать весь контент и удалять сообщения, которые якобы призывают к экстремистской деятельности, выходу на митинги или даже нарушению дня тишины перед выборами.  

Но следить хотят не только за социальными сетями. В середине ноября появился подготовленный Минэкономразвития законопроект, который позволяет снять тайну связи с информации о трафике, соединении и платежах, которыми клиент обменивается с оператором сотовой связи. По мнению правительства, это позволит бизнесу лучше использовать данные, а правоохранительным органам — чаще ловить мошенников. Но в этом документе есть одно важное условие: третья сторона может использовать эту информацию только с разрешения гражданина.

В то же время большинство россиян готовы доверять искусственному интеллекту. Такие данные следуют из опроса ВЦИОМ, который проведен этим летом. Правда исследование было сделано при поддержке некоммерческой организации «Национальные приоритеты», которая связана с нацпроектом по цифровизации экономики. Итак, чуть меньше половины опрошенных заявили, что не видят никаких угроз в повсеместном внедрении технологии искусственного интеллекта. Но и в этом вопросе российское общество оказалось расколотым: 42% все же признались, что немного опасаются незнакомых технологий:

Более интересной кажется другая часть исследования ВЦИОМа, в ходе которой у граждан интересовались, как, по их мнению, ИИ может использоваться на государственном уровне. Оказалось, для значительной части россиян ИИ — это источник справедливости. С таким утверждением согласились больше 40% опрошенных. Респонденты уверены — если алгоритмы начнут подменять чиновников, общество вступит на путь морального прогресса: