Автономное вооружение на основе искусственного интеллекта и индивидуальная уголовная ответственность согласно Римскому статуту

Введение

Войны являются средством расширения территории государств, которые с этой целью прибегают к вооруженным конфликтам (Kalmanovitz, 2022; Kohama, 2019). Во время вооруженного конфликта используются различные методы и средства ведения войны, что приводит к потерям у всех сторон, вовлеченных в конфликт (Bantekas, 2022). Типы вооружений значительно эволюционировали и изменились, особенно во время и после Первой и Второй мировых войн (Fennell, 2019). На смену обычному оружию – мечам, ножам, лукам, пороху – пришло ядерное оружие. Сегодня многие страны стремятся использовать в качестве оружия новейшие технологии – автономное вооружение на основе искусственного интеллекта (далее – ИИ) (Human Rights Watch, 2020). Такое автономное оружие разрабатывается во многих государствах; оно действует с помощью искусственного интеллекта и после активации может выбирать и поражать цели без участия человека-оператора (Horowitz, 2019). Данный тип оружия заменяет человека (Hareth & Evans, 2023).

1. Автономные вооружения на основе искусственного интеллекта

Говоря об автономных вооружениях на основе искусственного интеллекта (далее – ИИ) и робототехники, мы понимаем автономию как способность функционировать в течение продолжительного времени без помощи человека-оператора. Поскольку войны связаны с раздором, многие военные приложения ИИ и робототехники также вызывают споры (Amoroso & Tamburrini, 2021). Создание и использование летальных автономных систем вооружения, способных самостоятельно принимать решения о жизни и смерти людей, – это, возможно, самый спорный аспект данной темы. Есть мнение, что крылатые ракеты также являются разновидностью летальных автономных систем вооружения. Ракетные системы «Патриот», корабельная боевая система «Иджис», система вооружения «Фаланга», израильская система вооружения «Гарпия» – все это примеры летальных автономных систем вооружения, используемых в настоящее время (Payne, 2021). Оборонительными вооружениями являются системы «Патриот», «Иджис» и «Фаланга» (Bartneck et al., 2021). Однако не все военные роботы являются летальными.

Термин «военные роботы» объединяет широкий круг нелетальных приложений (Bartneck et al., 2021; Krishnan, 2009). Автономные роботы могут использоваться для разминирования, обезвреживания боеприпасов, управления и контроля, разведки, шпионажа, создания мобильных узлов связи, спасательных работ, снабжения, инженерного обеспечения и многого другого (Burgess, 2017). Содержание споров о военных роботах может меняться в зависимости от их роли (Malle et al., 2019). Чтобы проиллюстрировать роль робота и человека относительно военных действий, важно дать определение некоторым распространенным терминам. В области ИИ и робототехники автономия понимается как способность функционировать в течение продолжительного времени без помощи человека-оператора (Totaro, 2023). Роботы могут действовать самостоятельно при принятии непосредственных решений, но в выборе цели они не имеют автономии (Javdani et al., 2018). Вооружение считается автономным в области «критических функций целеполагания», если оно способно выполнить одно или несколько из нижеперечисленных действий без помощи человека-оператора. Если оружие может выбрать, какие типы объектов поражать, то оно считается автономным в определении целей (Ekelhof, 2017). В настоящее время автономные системы вооружения не имеют такой способности. Если оружие может использовать датчики для выбора цели без помощи человека-оператора, то оно считается автономным в функции выбора цели.

Многие системы существующего вооружения способны выбирать цели без помощи человека-оператора. Если оружие может произвести выстрел по цели без вмешательства человека-оператора, оно называется автономным в функции поражения цели. Многие ныне существующие виды оружия могут поражать заранее заданные цели. Например, противоракетная система «Патриот» может самостоятельно выбрать цель, но человек-оператор должен нажать на кнопку подтверждения выбора, чтобы выпустить ракету. Выпущенная ракета поразит цель без помощи человека-оператора. Контроль со стороны человека при использовании ракеты «Патриот» невозможен из-за скорости действия (Bartneck et al., 2021).

Многие другие функции автономных систем вооружения могут быть автономными. Они могут самостоятельно взлетать и приземляться, осуществлять навигацию. Однако такие нелетальные автономные функции обычно не воспринимаются как нравственно сомнительные. В прессе автономное оружие часто называют «роботом-убийцей». Многие возражают против такого использования термина, описывая его как «хитрую риторическую уловку» (Lokhorst & Van Den Hoven, 2012). С этим не согласна «Кампания против роботов-убийц» – объединенная правозащитная организация, выступающая за запрет летальных автономных систем вооружения во всем мире (Bartneck et al., 2021).

2. Автономное оружие на международном уровне

Когда многие страны критикуют создание автономного оружия, центральной является одна важная тема: риски использования такого оружия для всего человечества относительно достижения военных целей. По мнению сторонников автономного оружия, технология ИИ несет в себе как риски, так и преимущества. При решении вопроса о регулировании этой спорной области технологий необходимо учитывать анализ рисков и преимуществ для ситуаций летальных и нелетальных целей. При этом поднимаются этические и правовые проблемы использования автономного оружия согласно международному праву. Для более глубокого рассмотрения такого метода ведения войны, как автономные вооружения на основе искусственного интеллекта, необходимо вспомнить ряд инцидентов, которые привели к созданию правового регулирования в этой области.

Проблема автономных вооружений на основе искусственного интеллекта широко обсуждалась в 2010 г., когда Филип Алстон,  являвшийся в то время специальным докладчиком по внесудебным, суммарным и произвольным казням, поднял этот вопрос в своем предварительном докладе на 65-й сессии Генеральной Ассамблеи ООН. Алстон утверждал, что «автономные технологии становятся все более сложными, исследования способности искусственного интеллекта размышлять и принимать решения получают значительное финансирование и активизируются. Разработчики из разных стран в сфере военной и оборонной промышленности объединяются для создания “полностью автономных систем”, которые позволят беспилотным летательным аппаратам принимать и выполнять сложные решения, в том числе распознавать человеческие цели и поражать их»¹. Затем в 2013 г. Кристоф Хейнс, занимавший ту же должность, опубликовал доклад с обсуждением проблем «летальной автономной робототехники».

Сразу после выпуска рекомендаций консультативного комитета по вопросам разоружения на 68-й сессии Генеральной Ассамблеи ООН, в 2014 г. началось обсуждение автономных систем вооружений в рамках Конвенции о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие (ред. от 21 декабря 2001 г.) (UN CCW). Для работы над этой проблемой в 2016 г. была создана группа правительственных экспертов по новейшим технологиям в сфере летальных систем автономных вооружений (Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems, GGE on LAWS). Группа продолжает существовать, однако к сентябрю 2022 г. никаких конкретных шагов по созданию нормативной базы по автономным вооружениям не предпринималось.

На Генеральной Ассамблее ООН впервые страны всего мира выступили с совместным заявлением на тему систем автономных вооружений. Оно стало крупнейшим межрегиональным заявлением в ООН по данному вопросу, объединив 70 государств. Хотя дискуссии по поводу вышеуказанной Конвенции до сих пор не принесли никаких результатов, заявление на Генеральной Ассамблее ООН показывает стремление стран мира двигаться в направлении новых международных норм в области систем автономных вооружений. Это заявление, выдвинутое от имени группы стран послом Александром Кменттом, директором отдела по разоружению, контролю над вооружениями и нераспространению оружия МИД Австрии, объединяет ключевые элементы давно ожидаемого глобального отклика; в частности, в нем подчеркивается необходимость «признать, что появление систем автономных вооружений поднимает серьезные вопросы в гуманитарной, правовой, технологической, этической сферах, а также в сфере безопасности; признать важность ответственности и подотчетности человека при использовании оружия; а также важность правил и ограничений, признанных на международном уровне, включая систему запретов и норм в отношении систем
автономных вооружений»².

3. Международное право в области автономного вооружения

Конвенция о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие, в редакции от 21 декабря 2001 г., также известна как Конвенция о конкретных видах обычного оружия (Convention on Certain Conventional Weapons, CCW)³; ее также часто называют Конвенцией о негуманном оружии. Цель Конвенции – запретить или ограничить использование таких видов оружия, которые могут причинить чрезмерные или неоправданные страдания военнослужащим или неизбирательно поражать гражданских лиц. Четкая структура Конвенции позволяет адаптировать ее к новым технологиям, используемым в вооруженных конфликтах.

Основной текст Конвенции задает общие положения, такие как правила присоединения, возможность обсуждать и принимать новые протоколы. Протоколы Конвенции содержат запреты и ограничения по существу относительно конкретных видов оружия. Конвенция, включающая три протокола, была принята 10 октября 1980 г. и открыта для подписания 10 апреля 1981 г. на один год. Она была подписана 50 государствами и вступила в силу 2 декабря 1983 г. Три первоначальных протокола были озаглавлены: Протокол I о необнаруживаемых фрагментах; Протокол II о запрещении или ограничении применения мин, мин-ловушек и других устройств и Протокол III о запрещении или ограничении применения зажигательного оружия.

Позднее были добавлены Протокол IV об ослепляющем лазерном оружии, принятый 13 октября 1995 г. на Первой обзорной конференции стран-участниц согласно ст. 8(3)(b) Конвенции и вступивший в силу 30 июля 1998 г., и поправка к Протоколу II о запрещении или ограничении применения мин, мин-ловушек и других устройств от 3 мая 1996 г., принятая на Первой обзорной конференции в соответствии со ст. 8(1)(b) Конвенции и вступившая в силу 3 декабря 1998 г. Существует также поправка к ст. 1, расширяющая область применения Конвенции на ситуации внутренних вооруженных конфликтов, которая была принята на Второй обзорной конференции в декабре 2001 г. согласно статье 8(1)(b) Конвенции и вступила в силу 18 мая 2004 г. Наконец, Протокол V о взрывоопасных пережитках войны стал первым обсуждавшимся на многосторонней основе документом по проблеме неразорвавшихся и оставленных боеприпасов; он был принят
28 ноября 2003 г. на встрече стран-участниц согласно ст. 5(3) Конвенции и вступил в силу 12 ноября 2006 г.

4. Международный уголовный суд и его юрисдикция

Римский статут был принят международным сообществом в июле 1998 г.⁴ и вступил в силу в 2002 г.⁵, когда был создан Международный уголовный суд (далее – МУС) в соответствии с преамбулой 10 и ст. 1 Римского статута. МУС стал первым и давно ожидаемым постоянно действующим международным уголовным судом (Pella, 1950), призванным покончить с безнаказанностью международных преступлений (Schabas, 2009), таких как геноцид, преступления против человечества, военные преступления и проявления агрессии, согласно ст. 6, 7, 8, 8bis и 15ter соответственно. МУС был создан после нескольких специальных трибуналов, учрежденных международным сообществом после Второй мировой войны союзниками-победителями, включая Международный военный трибунал в Нюрнберге согласно Лондонскому уставу⁶ и Международный военный трибунал по Дальнему Востоку в Токио, согласно декларации генерала МакАртура, верховного главнокомандующего союзных держав во Второй мировой войне⁷, а также два Международных уголовных трибунала Совета безопасности ООН по бывшей Югославии⁸ и Руанде⁹, действовавших согласно главе VII Устава ООН в 1990-х гг.¹⁰

В отличие от Международного суда ООН, имеющего юрисдикцию только над государствами¹¹, МУС имеет юрисдикцию над физическими лицами, как предусмотрено ст. 25(1) Римского статута, достигшими возраста 18 лет на момент совершения преступлений; иначе они считаются несовершеннолетними, согласно ст. 26 Римского статута. Аналогичным образом, в других частях Римского статута также упоминается «лицо»; в частности, в ст. 1: «…осуществлять юрисдикцию в отношении лиц…», в ст. 20: «…никакое лицо…» и «…соответствующее лицо…», в ст. 22: «…лицо не подлежит…» и «…в пользу лица…», в ст. 23: «…лицо…».

Поскольку эти преступления являются международными по определению, государства обязаны проводить расследования и осуществлять наказания за них (Hassan & Osman, 2019). Если страна не может или не желает этого делать, то МУС осуществляет свою юрисдикцию по этим преступлениям согласно принципу дополнительности, отраженному в ст. 17 Римского статута. Другими словами, власти страны являются forum conveniens – эта фраза на латыни означает «самый подходящий суд для решения определенного спора или дела», это суд первой юрисдикции, имеющий способность и желание расследовать и выносить приговор конкретным субъектам предполагаемого преступления.

5. Индивидуальная уголовная ответственность в рамках юрисдикции МУС

Согласно ст. 10 Римского статута, «ничто в настоящей Части Положения о ненанесении ущерба не должно истолковываться как каким бы то ни было образом ограничивающее ныне действующие или складывающиеся нормы международного права или наносящее им ущерб для целей, отличных от целей настоящего Статута»¹². Как обсуждалось в предыдущих разделах настоящей статьи, существует несколько соглашений, принятых международным сообществом для регулирования автономных вооружений на основе искусственного интеллекта. Кроме того, ст. 21 Римского статута позволяет Международному уголовному суду при разрешении споров применять «в соответствующих случаях применимые международные договоры, принципы и нормы международного права, включая общепризнанные принципы международного права вооруженных конфликтов»¹³. Хотя положения Римского статута не ограничивают развитие международного права и его применимость в Международном уголовном суде при разбирательстве любых дел, предъявленных в этом суде, однако судебному расследованию и разбирательству в этом суде может подвергаться только физическое лицо, согласно ст. 25(1) Римского статута, независимо от его официального статуса главы государства, главы правительства или другого официального лица, как указано в ст. 27(1) Римского статута.

Положение о подсудности в Международном уголовном суде лица независимо от его официального статуса за совершение международных преступлений не является новшеством, а применяется во множестве международных трибуналов, таких как Международный военный трибунал в Нюрнберге, согласно ст. 6 и 7 его Устава, Международный военный трибунал по Дальнему Востоку, согласно ст. 5 и 6 Устава этого трибунала, Международный уголовный трибунал по бывшей Югославии, согласно ст. 6 и 7 Статута этого трибунала, Международный уголовный трибунал по Руанде, согласно ст. 5 и 6 Статута этого трибунала. Что касается Международного уголовного суда, то в ст. 25(3) Римского статута перечислены шесть различных режимов или ситуаций, когда лицо несет уголовную ответственность и подлежит наказанию за преступление в рамках юрисдикции этого суда, а также основные нормы индивидуальной уголовной ответственности и нормы расширения атрибуции (Ambos, 2016).

I. Если лицо совершило преступление¹⁴

Первый режим уголовной ответственности, согласно ст. 25(3)(a) Римского статута, предусматривает, что лицо несет уголовную ответственность и подлежит наказанию за преступление в рамках юрисдикции этого Суда, если это лицо «совершает такое преступление индивидуально, совместно с другим лицом или через другое лицо, независимо от того, подлежит ли это другое лицо уголовной ответственности»¹⁵. Это общепринятый принцип уголовного права¹⁶, закрепленный Международным военным трибуналом в Нюрнберге как принцип индивидуальной уголовной ответственности, который гласит, что «преступления против международного права совершаются людьми, а не абстрактными сообществами, и положения международного права могут быть реализованы лишь путем наказания отдельных лиц, совершивших такие преступления»¹⁷. В рамках данного режима индивидуальной уголовной ответственности выделяются три формы нарушения закона: индивидуально, совместно с другим лицом или через другое лицо (средство правонарушения)¹⁸.

II. Если лицо приказывает, подстрекает или побуждает совершить такое преступление

Второй режим уголовной ответственности, согласно ст. 25(3)(b) Римского статута, предусматривает, что лицо несет уголовную ответственность и подлежит наказанию за преступление в рамках юрисдикции этого Суда, если это лицо «приказывает, подстрекает или побуждает совершить такое преступление, если это преступление совершается или если имеет место покушение на это преступление»¹⁹.

III. Если лицо способствует совершению такого преступления

Третий режим уголовной ответственности, согласно ст. 25(3)(c) Римского статута, предусматривает, что лицо несет уголовную ответственность и подлежит наказанию за преступление в рамках юрисдикции этого Суда, если это лицо с целью облегчить совершение такого преступления пособничает, подстрекает или каким-либо иным образом содействует его совершению или покушению на него, включая предоставление средств для его совершения.

IV. Если это лицо любым другим образом способствует совершению или покушению на совершение такого преступления группой лиц, действующих с общей целью

Четвертый режим уголовной ответственности, согласно ст. 25(3)(d) Римского статута, предусматривает, что лицо несет уголовную ответственность и подлежит наказанию за преступление в рамках юрисдикции этого Суда, если это лицо «любым другим образом способствует совершению или покушению на совершение такого преступления группой лиц, действующих с общей целью»²⁰. Такое содействие должно оказываться умышленно и либо «в целях поддержки преступной деятельности или преступной цели группы в тех случаях, когда такая деятельность или цель связана с совершением преступления, подпадающего под юрисдикцию Суда»²¹, либо «с осознанием умысла группы совершить преступление»²².

V. В отношении преступления геноцида прямо и публично подстрекает других к совершению геноцида.

VI. Покушается на совершение такого преступления, предпринимая действие, которое представляет собой значительный шаг в его совершении, однако преступление оказывается незавершенным по обстоятельствам, не зависящим от намерений данного лица. Вместе с тем лицо, которое отказывается от попытки совершить преступление или иным образом предотвращает завершение преступления, не подлежит наказанию в соответствии с настоящим Статутом за покушение на совершение этого преступления, если данное лицо полностью и добровольно отказалось от преступной цели.

6. Индивидуальная уголовная ответственность и автономное вооружение на основе искусственного интеллекта

Если иногда очень сложно связать лицо, ответственное за совершение преступления, особенно когда оно географически или структурно находится далеко от места преступления, то насколько это сложнее в отношении преступлений, предположительно совершенных с помощью автономного оружия на основе искусственного интеллекта. Статья 36 Дополнительного протокола I к Женевской конвенции 1949 г.²³ предусматривает, что государства обязаны пересматривать законность намерений по развертыванию новых вооружений. Важно обеспечить способность вооруженных сил государства выполнять боевые действия, не нарушая международных обязательств (Lawand, 2006). В ст. 36(2) Дополнительного протокола I далее говорится, что при разработке новых технологий вооружения юристы и политики должны сделать соответствующие поправки в отношении закона и подотчетности лиц, серьезно нарушающих закон, согласно ст. 49 Женевской конвенции I ²⁴.

Статья 49 Женевской конвенции I предусматривает, что «высокие договаривающиеся стороны берут на себя обязательство ввести в действие законодательство, необходимое для обеспечения эффективных уголовных наказаний для лиц, совершивших или приказавших совершить те или иные серьезные нарушения настоящей Конвенции»²⁵. Кроме того, в ней сказано, что «каждая Высокая договаривающая сторона обязуется разыскивать лиц, обвиняемых в том, что они совершили или приказали совершить то или иное из упомянутых серьезных нарушений, и, каково бы ни было их гражданство, предавать их своему суду. Она сможет также, если она этого пожелает, передать их в соответствии с положениями своего законодательства для суда другой заинтересованной Высокой договаривающей стороне в том случае, если эта Договаривающаяся сторона имеет доказательства, дающие основания для обвинений этих лиц»²⁶.

Что касается полностью беспилотного автономного оружия на основе искусственного интеллекта, то приказы операторов такого оружия являются запрограммированными заранее, а значит, следует считать, что правовая ответственность за любые действия должна быть перенесена с операторов на систему, управляемую искусственным интеллектом. Однако при этом встает вопрос правовых обязательств: лежит ответственность за принятые решения на оружии или на его операторе? В этом смысле никто не будет отвечать за намеренное действие или бездействие. Однако разработчик оружия, программист, изготовитель также могут быть привлечены к ответственности только в той степени, в какой они намеренно способствовали совершению преступления (McFarland & McCormack, 2014).

При использовании автономного оружия, особенно полностью свободного от вмешательства человека и находящегося под контролем искусственного интеллекта, человек не испытывает эмпатии и не выносит суждений (Gunawan et al., 2022). Воздействие человека на системы вооружения или использование военной мощи должно отвечать определенным правовым и этическим требованиям, как было отмечено в заявлении Международного комитета Красного Креста на встрече экспертов по летальным автономным системам вооружения в Женеве 11 апреля 2017 г. относительно Конвенции о конкретных видах обычного оружия.

Заключение

Технологический прогресс достиг высоких стандартов, и международное сообщество требует обеспечить не только защиту своих границ и граждан от вторжения и нападения, но и защиту своих войск от уничтожения. Это привело к созданию новых технологий вооружения, а именно автономного оружия на основе искусственного интеллекта. Однако такая технология не освобождает от ответственности в рамках международного права, подвергается активной критике и вызывает тревогу международного сообщества. Автономное вооружение на основе искусственного интеллекта может предпринимать и осуществлять атаки, вызывая потери на невоенных объектах. Созданный в 2002 г. на основе Римского статута Международный уголовный суд предлагает решение этой проблемы относительно даже самых продвинутых вооружений, таких как беспилотные устройства на основе искусственного интеллекта; при этом лица, связанные с созданием и управлением такими устройствами, будут нести уголовную ответственность, если преступят закон в случае участия в войне или вооруженном конфликте.