WP: США и Россия добились исключения из правил ООН требования о человеческом контроле над военным ИИ

США и Россия добились исключения из проекта документа ООН требования об обязательной проверке человеком целей, выбранных искусственным интеллектом, перед нанесением удара. Об этом сообщает со ссылкой на трех участников переговоров и изученные газетой документы.

Переговоры об ограничении автономного оружия проходили в начале сентября в Женеве. По данным издания, в последний день американская и российская делегации в течение примерно 15 часов добивались внесения изменений в текст.

Помимо требования о проверке целей человеком, из документа были удалены положения о том, что автономные системы должны действовать "предсказуемо" и "надежно", а при использовании ИИ в вооружениях должны учитываться этические соображения.

Как пишет The Washington Post, обсуждение проходило за закрытыми дверями, без камер ООН и представителей общественных организаций. По словам собеседников газеты, американская и российская делегации располагали значительно более крупными юридическими группами, чем большинство других участников переговоров.

В Human Rights Watch предупреждают, что ослабление таких ограничений может привести к ситуации, при которой машины будут принимать решения, касающиеся жизни и смерти людей, без человеческого контроля, а ответственность за последствия применения оружия станет менее ясной.

Документ пока не имеет обязательной юридической силы, однако может стать основой будущего международного договора об автономном оружии. В ноябре страны вновь соберутся в Женеве, чтобы решить, следует ли переходить к подготовке юридически обязательного соглашения.

Госдепартамент США, МИД России и ООН не ответили на просьбы The Washington Post прокомментировать переговоры.