Автор Дима Coder 
Из проекта резолюции убрали обязательный контроль человека
Россия и США добились исключения из проекта документа ООН положения, которое требовало бы сохранять человеческий контроль над военными системами на базе искусственного интеллекта.
Об этом сообщила газета The Washington Post, ознакомившаяся с текстом инициативы. Речь идет о проекте резолюции, посвященной вопросам применения ИИ в военной сфере.
В первоначальной версии документа предлагалось закрепить принцип, согласно которому человек должен контролировать использование таких технологий. Однако в итоговый вариант это требование не вошло.
Издание отмечает, что Москва и Вашингтон выступили против формулировки, которая могла бы установить единое обязательное правило для всех государств.
В результате проект был смягчен: он призывает страны обсуждать риски и учитывать гуманитарные нормы, но не закрепляет прямой обязанности сохранять контроль человека над каждым решением военной системы.
Почему вопрос вызывает споры
Военные технологии с элементами искусственного интеллекта способны анализировать обстановку и помогать принимать решения быстрее, чем это делает человек. В перспективе такие системы могут самостоятельно выбирать цели и применять оружие. Именно возможность передачи им подобных полномочий вызывает тревогу у сторонников строгого международного регулирования.
Критики опасаются, что автономные системы могут ошибочно определить цель, не учесть обстоятельства или привести к гибели гражданских лиц. Отдельный риск связан с тем, что при быстром развитии боевых действий человек может фактически не успевать проверить рекомендации алгоритма или остановить его работу.
Сторонники принципа человеческого контроля считают, что ответственность за применение силы должна оставаться за людьми. По их мнению, это необходимо не только для защиты гражданских, но и для того, чтобы можно было установить, кто отвечает за последствия ошибки - оператор, командование или разработчик технологии.
Окончательное решение пока остается за государствами
Исключение спорного положения из проекта означает, что документ не вводит общего запрета на автономное применение военных систем и не устанавливает конкретных требований к участию человека в принятии решений.
Государствам предлагается продолжать обсуждение темы, но обязательные правила в этой части не предусмотрены. Позиции стран по вопросу различаются. Одни государства выступают за международные ограничения и настаивают, что человек должен сохранять возможность контролировать применение оружия.
Другие считают, что слишком жесткие нормы могут ограничить развитие военных технологий и не учитывать различия в национальных системах обороны.
Российская и американская позиции оказались значимыми для согласования текста, поскольку обе страны обладают развитым военным потенциалом и активно работают над технологиями искусственного интеллекта. Как пишет The Washington Post, в ходе подготовки проекта они выступили против формулировки о контроле человека, после чего соответствующее положение было исключено.
Дискуссия о регулировании продолжится
Несмотря на отсутствие обязательного требования, тема контроля над военным ИИ остается предметом международных переговоров. Обсуждения в ООН позволяют государствам обмениваться оценками рисков и искать подходы, которые могли бы снизить вероятность неконтролируемого применения новых технологий.
Пока же проект не дает однозначного ответа на главный вопрос: насколько далеко можно передавать алгоритмам полномочия, связанные с применением оружия. Сторонам предстоит определить, нужны ли универсальные ограничения и какими именно они должны быть.
Для достижения договоренностей потребуется найти баланс между военной эффективностью, технологическим развитием и защитой людей. Пока такого согласия нет, правила использования искусственного интеллекта в вооруженных силах во многом будут зависеть от решений отдельных государств.