Россия и США в ООН убрали требование о контроле человека над военным искусственным интеллектом
Из проекта международных правил для ИИ-оружия убрали требование проверять цели человеком. Этого добились США и Россия. Если такой подход закрепят в международных правилах, боевые системы с искусственным интеллектом смогут сами выбирать цели и наносить удары без обязательной проверки человеком.
Американские и российские дипломаты совместно ослабили проект международного соглашения об использовании автономного оружия с искусственным интеллектом. Из документа, среди прочего, убрали требование, чтобы человек проверял выбранные алгоритмом цели перед нанесением удара, пишет The Washington Post.
В начале сентября сотни дипломатов собрались в Женеве, чтобы выработать первые глобальные правила использования смертоносного автономного оружия на основе искусственного интеллекта. Однако в последний день переговоров обсуждение приобрело особо острый характер.
По данным трёх источников издания, знакомых с ходом переговоров, представители США и России на протяжении примерно 15 часов вносили в документ многочисленные правки. Заседание проходило за закрытыми дверями: камеры ООН были выключены, а представителей гражданского общества попросили покинуть зал.
Обе страны привели на переговоры команды примерно из десяти юристов — почти вдвое большие, чем у большинства других делегаций. Правки вносились так быстро, что представители других стран не успевали их анализировать.
«Это была смерть от тысячи мелких порезов бумагой», — описал переговоры один из собеседников The Washington Post.
По данным издания, американские и российские дипломаты добились удаления формулировок, согласно которым автономные системы должны работать «предсказуемо» и «надёжно». Из документа также исключили требование учитывать этические соображения при использовании оружия с искусственным интеллектом.
Но наиболее существенным стал отказ от положения, обязывающего человека проверять определённые военные цели, выбранные искусственным интеллектом, прежде чем наносить по ним удар.
Правозащитники предупреждают, что такое ослабление правил может фактически позволить машинам самостоятельно принимать решения, от которых зависят человеческие жизни.
«Это может означать, что машины смогут принимать решения о жизни и смерти без контроля со стороны человека. Практические последствия очевидны: больший вред для мирного населения, меньшая ответственность и стремительное движение к более рискованной автоматизированной войне», — заявила заместитель директора Human Rights Watch по вопросам вооружений Верити Койл.
Переговоры проходят на фоне стремления Пентагона как можно скорее внедрить искусственный интеллект в военные операции. По данным The Washington Post, американские военные уже использовали чат-бот компании Anthropic для определения почти тысячи целей в первые 24 часа войны с Ираном. Израиль также активно использует системы искусственного интеллекта во время операций в секторе Газа.
При этом в 2023 году Министерство обороны США обновило собственную директиву об автономных системах вооружения. Она, в частности, предусматривает участие человека в оценке и проверке таких систем, а также требует соблюдать законы и обычаи войны.
В августе 2024 года генеральный секретарь ООН Антониу Гутерриш назвал выбор целей алгоритмами «моральной гранью, которую нельзя переходить», и призвал принять юридически обязывающее международное соглашение, которое запрещало бы системы вооружения без человеческого контроля.
Следующий раунд переговоров пройдёт в Женеве в ноябре. Страны должны решить, получит ли работа над правилами для автономного оружия официальный мандат.
Комментарии