США и Россия убрали из проекта соглашения ООН о боевом ИИ обязательную проверку целей человеком

Переговоры прошли в начале сентября в Женеве. По данным газеты, в последний день встречи американские и российские дипломаты примерно за 15 часов убрали из текста требование, чтобы цели, определенные ИИ, перед ударом проверял человек. Кроме того, исчезли пункты о том, что такие системы должны работать предсказуемо и надежно, а при их применении нужно учитывать этические соображения.

Правки вносили на закрытом заседании — камеры ООН отключили, наблюдателей от гражданского общества удалили. Вашингтон и Москва привели примерно по десять юристов (почти вдвое больше, чем у других делегаций, отмечает WP) и меняли текст так быстро, что небольшие делегации не успевали за изменениями. Один из собеседников издания назвал происходившее «смертью от тысячи бумажных порезов». Госдеп, МИД России и ООН на запросы газеты не ответили.

Пока итоги переговоров не имеют обязательной силы, но это самая продвинутая международная попытка урегулировать применение ИИ-оружия на поле боя, пишет издание. В ноябре страны снова соберутся в Женеве, чтобы обсудить, можно ли превратить переговоры в официальный мандат или юридически обязывающий договор. По словам исполнительного директора коалиции Stop Killer Robots Николь ван Ройен, для решений нужен консенсус, поэтому США и Россия, выступающие против обязательных правил, могут заблокировать продвижение, которого хочет большинство государств.

Параллельно Пентагон пересматривает собственную директиву об автономном оружии, принятую в 2023 году при Джо Байдене. В ней есть положения, похожие на вычеркнутые из документа ООН, в том числе об обязательном человеческом контроле над автономными и полуавтономными системами. В июне Дональд Трамп поручил обновить директиву за 90 дней, но к концу сентября новая версия так и не вышла.