Автономные средства ведения войны – роботы, беспилотники, дроны военного назначения в настоящее время широко используются в военных действиях. Различные образцы военной техники, в основе управления которой заложены системы искусственного интеллекта, стоят на вооружении всех основных армий мира и имеют самое разное предназначение. Их объединяет то, что эти системы способны без участия человека выполнять задачи, не только потенциально опасные, например, транспортные, саперные, энергетические, но и напрямую они предназначаются для уничтожения «живой силы» – людей на поле боя. Причем для этого их наделили способностью, не только действовать удаленно от их оператора, но и самостоятельно, без участия человека, определять цели для уничтожения.

Анализ боевых доктринальных документов ведущих армий мира свидетельствует о том, что в современной войне ставка делается именно на автономные роботизированные системы. Например, в США расходы на создание этих систем за минувшее десятилетие возросли более чем в 6 раз [[1]], треть американской оперативной боевой авиации уже сейчас является беспилотной, на 20-летнюю перспективу ее планируют сделать основной ударной силой. [[2]] Подобные планы разрабатываются и для наземных боевых машин. Практически все ведущие армии мира наращивают свои расходы на создание и развертывание автономных роботизированных систем (далее – АРС). За последние годы кратно увеличилось их применение в вооруженных конфликтах. Если раньше их использовали в основном для разведки и наблюдения, то теперь они регулярно выполняют боевые задачи как основные ударные оперативно-тактические средства ведения боя.

Здесь можно было бы перечислять множество примеров конкретных изделий АРС, которые с разной степенью успешности применяются в отечественном и зарубежном военном деле. Однако в этой аудитории для всех вполне очевидно, что применение автономного искусственного интеллекта можно считать свершившимся юридическим фактом. Роботы принимают решение на открытие огня и на отражение военного нападения, они могут действовать за тысячи километров от театра военных действий и самостоятельно использовать любые виды оружия, вплоть до систем массового поражения людей.

Но проблема в том, можем ли мы сказать, что право и закон как-то учли этот факт, или как-то отреагировали на него?

Разумеется, нет. При всем обилии актов российского законодательства мы не встретим в них ничего, что касается регламентации использования искусственного разума в военном деле. По существу, военные законодатели проглядели свершившуюся на этом направлении военно-техническую революцию. Не существует ни одной нормы права, которая была бы посвящена гуманизации средств ведения войны, а тем более – АРС с искусственным интеллектом. Между тем, бурное развитие этих систем в корне меняет традиционные представления о вооруженных конфликтах, на которых основывается международное гуманитарное право.

Дело в том, что автономность боевого применения роботов означает, что за ними сохраняется вполне определенная возможность действий без контроля со стороны человека. Имея искусственный интеллект, дрон реализует боевую задачу самостоятельно. Приступив к ее выполнению дрон не может ее изменить или отменить даже, если обстановка коренным образом изменилась или возникли новые обстоятельства, в частности, гуманитарные, которые не могли быть учтены заранее при составлении и запуске программы дрона. Получив задачу на уничтожение врага, дрон лишен возможности отказаться от уничтожения, даже если уничтожаемый уже перестал быть врагом. Возможность ошибки или сбоя программы, а также отсутствие у дрона осмысленной избирательности и соразмерности нанесения ущерба противнику не оставляют шанса для того, чтобы считать АРС законным средством ведения войны. Поэтому есть все основания законодательно определить, как их разработка и применение согласуются с нормами международного гуманитарного права.

Сегодня в этом вопросе нам как нельзя полезно вспомнить изначальные принципы, с которых начиналось создание современного международного гуманитарного права, у истоков которого стояла наша страна. В Санкт-Петербургской Декларации 1868 г. впервые было сказано, что «что успехи цивилизации должны иметь последствием уменьшение, по возможности, бедствий войны» и что «единственная законная цель, которую должны иметь государства во время войны, состоит в ослаблении военных сил неприятеля»[3]. Необходимо напомнить Гаагские конвенции 1907 г. в которых определено, что «воюющие не пользуются неограниченным правом в выборе средств нанесения вреда неприятелю»[4]; «воспрещается бомбардировать… незащищенные порты, города, селения, жилища или строения»[5]. Женевские конвенции от 12 августа 1949 г. о защите жертв войны ограничили применение средств ведения войны к гражданскому населению, раненым и больным, потерпевшим кораблекрушение, военнопленным и другим лицам, пользующимся международным покровительством во время войны.

В современном понимании принцип гуманизации средств ведения войны был закреплен Генеральной Ассамблеей ООН в Резолюции от 19 декабря 1968 г. № 2444, которая провозгласила, что «право сторон, участвующих в конфликте, прибегать к средствам поражения противника не является неограниченным». Дополнительный протокол I от 8 июня 1977 г. к Женевским конвенциям от 12 августа 1949 г. установил, что «в случае вооруженного конфликта право сторон, находящихся в конфликте, выбирать методы или средства ведения войны не является неограниченным» (п. 1 ст. 35)[6].

Действующее международное право устанавливает систему общих и специальных запретов применять определенные виды оружия, которое: а) действует неизбирательно, т.е. как против военных, так и против гражданских объектов; б) причиняет излишние повреждения или излишние страдания; в) имеет своей целью причинить обширный, долговременный и серьезный ущерб природной среде. Специальные международно-правовые запрещения обязывают воюющих защищать от военных нападений женщин, детей, раненых и больных, а также гражданские объекты, необходимые для выживания гражданского населения, установки и сооружения, содержащие опасные силы.

Следовательно, правовая проблема военных АРС сводится к тому, что, если ранее любое боевое применение оружие осуществлял непосредственно человек, то теперь возникла новая реальность – техника способна вести бой самостоятельно, без участия человека и сама определять боевое применение по любым целям, независимо от человека. Автономность дрона – нового средства ведения войны от человека – требует нового правового понимания того, с помощью каких гарантий, мер регулирования и ответственности обеспечить соблюдение принципов гуманности на войне.

Кроме того, АРС – это многокомпонентное средство ведение войны, в котором могут сочетаться как различные виды оружия (поражающие факторы), так и разные виды искусственного интеллекта. В тоже время, военный робот не имеет душевных свойств личности, он не сентиментален и бездушно выполняет боевую задачу, повинуясь только техническим идентификаторам, алгоритмам принятия решений, приборам распознавания и боевого поражения.  

С чисто военно-технической точки зрения, могут возразить, что:

Во-первых, оснащение роботов огневой мощью может быть строго подчинено международно-правовым стандартам. Например, если в международном праве существует запрет на конкретные виды оружия – химического, бактериологического, стрелкового, минного, зажигательного, лазерного и др., то не существует никаких технических преград для того, чтобы не давать это оружие роботам.

Во-вторых, программное обеспечение военных роботов способно учесть все категории защищаемых во время войны лиц, чтобы не имели никакой технической возможности стрелять по запрещенным объектам.

В-третьих, современные системы искусственного интеллекта способны самообучаться, в них могут быть полностью интегрированы различные степени автономности, алгоритмы гуманитарного применения – соразмерности и избирательности нанесения вреда неприятелю.

Эти и другие аргументы все же оставляют неясными многие моральные, юридические и политические вопросы:

Например, где гарантии, что оснащение дронов различными системами огня не приведет к суммарному эффекту их боевого применения, который в совокупности может быть по сути антигуманным, а следовательно, противозаконным? Так совмещение систем залпового огня, объемного взрыва и лазерного оружия, предпринятые вместе и сразу, разве не могут выйти за предел международного запрета об избирательном и соразмерном применении военной силы?

Или допустим, что дрон может быть оснащен ядерным или другим оружием массового поражения, не запрещенного международным правом. Сможет ли такой дрон, прекратить свое боевое задание, в случае, когда необходимость в нем отпала – например, когда во время полета дрона к цели выяснилось, что приказ на применение был ошибочным? Или если противник признал свое поражение в войне? За время движения дрона дислокация противника может изменится настолько, что вместо него на рубеже атаки дрона окажется гражданское население?

Удовлетворительного ответа на эти вопросы военных производственники пока не дают. Не лишне вспомнить и о вероятностях технических программных сбоев, когда, например, удар дрона может быть нанесен не так, как изначально предполагалось его интеллектуальной начинкой. Никто не может гарантировать, что автономный дрон застрахован от попадания не в то место, в котором позволительно стрелять или взрывать?

Еще один сложный вопрос в том, как с помощью машинного интеллекта гарантировать достоверное опознавание дроном противника (комбатанта)? Согласно международному гуманитарному праву, вооруженные группы и подразделения противника должны находящихся под командованием лица, ответственного перед государством за поведение своих подчиненных, подчиняющиеся внутренней дисциплинарной системе, которая, среди прочего, обеспечивает соблюдение норм международного права, применяемых в период вооруженных конфликтов.

Можно ли охватить программой дрона оценку этих признаков противника, без которой применять оружие не гуманно?

Войска воюющих сторон состоят из комбатантов и некомбатантов. Лица, входящие в состав войск противника, кроме медицинского и духовного персонала, являются комбатантами, т.е. они имеют право принимать непосредственное участие в военных действиях. Они должны вести военные действия в соответствии с законами и обычаями войны, им запрещено вести военные действия против гражданского населения и незащищенных объектов; применять оружие массового уничтожения, а также оружие, причиняющее излишние страдания; разрушать сокровища культуры; причинять обширный, долговременный и серьезный ущерб природной среде и др. Возможно, в искусственный разум дрона и можно будет записать опознавание, скажем, раненого, ребенка, женщины или военнопленного. Но как при прочих равных условиях дрон будет определять противника, который прекратил сопротивление или который за мгновение переходит из статуса комбатанта в статус некомбатанта и наоборот?

Бой – это очень сложная форма человеческого бытия, в которой юридически значимые факты меняются молниеносно, в которой возникают и столь же внезапно исчезают паллиативы и альтернативы: убивать или не убивать; стрелять или не стрелять в жертву; а если стрелять, то в сердце или в руку. В бою может оказаться так, что защищаемый конвенцией ребенок ведет бой как взрослый комбатант. По оценке экспертов ООН, за последнее десятилетие непосредственно в результате вооруженных конфликтов было убито свыше 2 млн. детей, втрое больше детей было ранено или искалечено[7].

В современных войнах потери среди гражданского населения и разрушения гражданской инфраструктуры являются не просто издержками войны, но последствием преднамеренных действий тех, кто официально не участвует в военных действиях. Во многих современных вооруженных конфликтах воюющие и официально не воюющие стороны направляют свои силы против гражданского населения с тем, чтобы изгнать или ликвидировать часть населения, или же чтобы ускорить военную капитуляцию. Граница между гражданским населением и комбатантами зачастую бывает размыта. Комбатанты часто живут или ищут убежища в деревнях и иногда используют невинных мирных людей, и даже детей, в качестве живого щита.

Переход в бою из одного состояния в другое непредсказуем, он не поддается алгоритмированию не только для машин, но даже для людей он юридически не регламентирован. Есть множество обстоятельств современного боя, которые пока не доступны компьютерному разуму, несмотря на то, что работы над этим ведутся неустанно. Довод о том, что в принципе человечеству под силу создать безупречную в гуманитарном отношении интеллектуальную начинку для военных роботов, учитывающую все обстоятельства, пока представляется футуризмом, но тем не мене он уже сейчас требует глубочайшей юридической проработки.

Суммируя сказанное, поиск решения гуманитарно-правовой проблемы АРС военного назначения видится на двух основных направлениях: а) правоприменительном и б) правотворческом.

Правоприменение призвано обеспечить реализацию принципов международного гуманитарного права при производстве и применении этих систем. Но для этого требуется подчинить регламентацию технической компоновки АРС нормам действующих международных договоров, которые регламентируют ограничение конкретных видов вооружений и методов ведения боевых действий.

Причем для этого не нужно конструировать какой-то инновационный правовой механизм, достаточно вспомнить и опираться на уже существующий механизм. Он предусмотрен, в частности, ст. 36 Дополнительный протокол I к Женевским конвенциям, в котором сказано, что «При изучении, разработке, приобретении или принятии на вооружение новых видов оружия, средств или методов ведения войны» каждая страна «должна определить, подпадает ли их применение, при некоторых или при всех обстоятельствах, под запрещения, содержащиеся в… нормах международного права». А это значит, что в национальном законодательстве должен существовать порядок проведения гуманитарно-правовой экспертизы новых средств и методов ведения войны, принимаемых на вооружение в конкретной стране.

Тем не менее, в отечественном военном праве до настоящего времени этот порядок не нашел позитивной правовой регламентации. В ст. 4 Федерального закона «Об обороне»[8] у главы государства имеются полномочия по утверждению федеральных государственных программ вооружения. Однако вполне очевидно, что нормы международного гуманитарного права заслуживают значительно более полной имплементации в российское внутреннее законодательство. В настоящее время отсутствует какой-либо закон или подзаконный акт, который бы в прямой постановке определил порядок приемки на вооружение систем с учетом их соответствия международным гуманитарным стандартам. Причем этот пробел касается не только дронов, но и всех иных видов оружия и боевых средств и методов, принимаемых на вооружение. Поэтому этот аспект было бы вполне уместно учесть при совершенствовании отечественного военного законодательства.

В области международного гуманитарного правотворчества, сложную политическую проблему может представлять инициатива нашей страны по заключении специального международного правового акта по вопросам АРС военного назначения.

Позитивный гуманистический заряд и отправные точки подобного договора очевидны и они в целом созвучны контексту существующей договорной регламентации, предпринятой под эгидой ООН таких, как, в частности, Конвенция о некоторых видах обычных вооружений (1980 г.) и протоколы к ней, касающиеся осколочных боеприпасов, лазерного, зажигательного оружия, Международный кодекс поведения в отношении поставок оружия (2000 г.), Конвенция по кассетным боеприпасам (2008 г.) и др.

Во взаимосвязи с имеющимися в международном гуманитарном праве  нормами, касающимися регламентации средств ведения войны можно поставить на обсуждение следующие отправные положения:

1. Сфера применения договора должна включать все ситуации, указанные в статье 2, общей для Женевских конвенций от 12 августа 1949 г. а также предусмотренные в п. 4 ст. 1 Дополнительного протокола I к этим Конвенциям.
2. Определения понятий автономных роботизированных систем военного назначения, в том числе их классификация и минимальные стандартные признаки распознавания и государственной идентификации.
3. Общие ограничения в отношении применения военных роботов должны предусматривать конкретные технические критерии подконтрольности этих устройств военному командованию стороны договора. В этом отношении необходимо сформулировать требования к поражающим свойствам (вооружению), управлению и программному обеспечению робота, которые должны исключать при любых обстоятельствах неизбирательное применение вооружения. Программное обеспечение и система контроля робота должны полностью исключать действия, которые могут повлечь случайные потери жизни, ранения среди гражданского населения и других защищаемых лиц, нанесения ущерб гражданским объектам, который был бы чрезмерным по отношению к ожидаемому конкретному и непосредственному военному преимуществу. Кроме того, нужно предусмотреть, на любых стадиях разработки, производства, транспортировки и применения роботов конкретные практические меры предосторожности для защиты гражданского населения от воздействия оружия робота с учетом всех существующих обстоятельств, включая гуманные и военные соображения.
4. Специальные положения договора должны предусматривать конкретные параметры боевого применения роботов, применительно к правовому состоянию будь то состояние войны, перемирия, международная контртеррористическая или коалиционная операция. При этом должна быть предусмотрена деактивация роботов не только контролирующим командованием, но и по методу «двух ключей» если, например, в случае перемирия, или иного обоюдного прекращения военных действий, обе стороны участвующие в конфликте по договоренности могли бы дезактивировать роботов, находящихся в автономном боевом режиме патрулирования, охранения, дозора или иного применения.

Боевое применение роботов может быть ограничено специальными нормами, применительно к конкретным материальным объектам – земли, лесов, вод, заповедных и охраняемых природных территорий, городов и населенных пунктов, гражданских объектов, таящие опасные силы (дамбы, электростанции, ирригационные сооружения и др.). Должен быть учтен аспект защиты от автономного боевого воздействия военных роботов для всех охраняемых международным правом объектов культурного наследия, исторических памятников, храмов и в целом для защиты любых культурных ценностей во время войны.

Нужно также предусмотреть регистрацию и предание гласности сведений о расположении АРС в случаях послевоенного урегулирования. Соответствующие регистрационные документы (базы данных) подлежат хранению сторонами договора и после прекращения активных военных действий используются для защиты гражданских объектов и лиц от опасности автономных действий дронов; либо в случаях, когда вооруженные силы ни одной из сторон не находятся на территории противника, предоставляют друг другу всю имеющуюся в их распоряжении информацию о расположении роботов и их автономных действиях. По взаимной договоренности стороны вооруженного конфликта обязаны предать гласности информацию об АРС в контексте мер, регулирующих прекращение военных действий.

5. Процедура возложения ответственности на государство за применение АРС. Современная ситуация вокруг химического оружия, когда западные страны пытаются возложить ответственность на любое неугодное им государство по сфабрикованным обвинениям, должна бы научить нас отстаивать свои интересы и жестко парировать подобные попытки на дальних подступах. Для этого надо разработать универсальный механизм установления фактов, создать систему международной гуманитарной экспертизы в отношении всех средств ведения войны, включая роботизированные. Базарными истерическими пикировками в средствах массовой информации в этой теме не добиться успеха, здесь побеждать можно только четко сформулированными юридическими формулировками и взаимоприемлемыми процедурами, созданными на уровне лучших процессуальных стандартов беспристрастного и достоверного правосудия, о которых нужно уметь договариваться заблаговременно.
6. Международное сотрудничество сторон договора по АРС должны включать положения не только о поствоенном урегулировании, но и о прелиминарных действий государств в условиях мирного времени, которыми будет контролироваться соблюдение единых критериев государственной идентификации, допустимости вооружения и боевого применения роботов, условия предоставлении информации, а также технической и материальной помощи, - включая при соответствующих обстоятельствах совместные операции для обезвреживания, деактивации или ликвидации АРС.

Подытоживая сказанное, следует подчеркнуть, что решение проблемы боевых автономных роботизированных систем видится в сопряжении усилий на стыке техники, морали, политики и права. Здесь необходимо совместить многие отрасли знания, прежде всего, технические и гуманитарные. Для того чтобы инициировать решение этой задачи предлагаем поставить перед государственной властью, в том числе перед законодателями, следующие практические шаги:

1. Внести в российское законодательство о безопасности и обороне, о военно-промышленных заказах систему поправок, согласно которым разработка новой военной техники и вооружений должна сопровождаться независимой гуманитарноправовой экспертизой, проводимой на каждом из этапов такого производства и приемки военной продукции в соответствии с международными обязательствами нашей страны, вытекающим из ст. 36 Дополнительный протокол I к Женевским конвенциям. Государственные требования к организации подобной экспертизы, к допуску и квалификации экспертов – это отдельные вопросы, которые необходимо будет решить при формулировании соответствующих законодательных предложений.
2. Разработать систему международно-правовых инициатив на универсальном, региональном, техническом и отраслевом уровне по закреплению международного свода норм в отношении автономных роботизированных систем военного назначения. В частности, сформировать план последовательных и целенаправленных внешнеполитических инициатив с тем, чтобы в них предлагаемая гуманитарная идея работала на обеспечение национальных интересов России.
3. Разработать проект статей универсальной конвенции о регулировании производства и применения автономных роботизированных средств ведения войны. 

Ссылки:

 

[1]. Annual Defense Budget // Defense Department's Annual Performance Plan. 2017.

[2]. Unmanned Systems Integrated Roadmap. Dep’t of Def., FY 2013–2038.

[3]. Декларация об отмене употребления взрывчатых и зажигательных пуль, принятая в г. Санкт-Петербурге 29 ноября 1868 г. // Собрание трактатов и конвенций, заключенных Россией с иностранными державами. Т. IV.- С.-Петербург, 1878.

[4]. IV Гаагская конвенция о законах и обычаях сухопутной войны от 18 октября 1907 г. // Действующее международное право. Т. 2.- М., 1997. С. 575 - 587.

[5]. IX Гаагская конвенция о бомбардировании морскими силами во время войны от 18 октября 1907 г.

[6]. Сборник международных договоров СССР. Вып. XLVI. - М., 1993. С. 134 - 182.

[7]. О положении детей в вооруженных конфликтах. Док. ООН: A/51/306; A/62/228.

[8]. Федеральный закон от 31 мая 1996 г. № 61-ФЗ "Об обороне"// Собрание законодательства Российской Федерации.1996. № 23. Ст. 2750.

 

© ГЛЕБОВ Игорь Николаевич, доктор юридических наук, профессор,
Заслуженный юрист Российской Федерации

 Аннотация. Автор представляет расширенную и дополненную концепцию международно-правового регулирования роботов военного назначения - автономных средств ведения войны. Ранее автор первым из российских юристов-международников изложил теоретическую и практическую модель гуманитарно-правовой регламентации создания и применения роботов военного назначения. Несмотря на то, что в официальных юридико-дипломатических кругах эту проблему предпочитают не замечать, она приобретает все большее значение в силу фактического применения этих систем, зачастую переходящего границы гуманного и допустимого в поведения цивилизованных государств. Оставляя эту тему в небрежении и не пытаясь найти для нее правовые рамки, государства упускают время. До того как это оружие выйдет из-под контроля, нанося нашей цивилизации непоправимые раны, остается совсем не долго. Поэтому необходимы все новые усилия для гуманитарного правового осмысления этого явления и выработки запретов в тех областях и параметрах, где это оружие может быть ограничено в интересах гуманности и уменьшения страданий человечества от войн и кровопролитных конфликтов.

Ключевые слова: роботы, дроны, война, гуманитарное право, искусственный разум, конвенционный гуманизм, искусственный военный интеллект.

Annotation. The author presents an expanded and augmented concept of the international legal regulation of military robots - autonomous means of warfare. Earlier, the author was the first of the Russian lawyers of international affairs who outlined the theoretical and practical model of the humanitarian legal regulation of the creation and use of military robots. Despite the fact that in official legal and diplomatic circles they prefer not to notice this problem, it is becoming increasingly important due to the actual use of these systems, often crossing the boundaries of humane and permissible in the behavior of civilized states. Leaving this challenge in disregard and not trying to find a legal framework for it, states miss the time. Before this weapon goes out of control, inflicting irreparable wounds on our civilization, it does not last long at all. Therefore, all new efforts are needed for humanitarian legal understanding of this phenomenon and elaboration of prohibitions in those areas and parameters where these weapons can be limited in the interests of humanity and reduction of human suffering from wars and bloody conflicts.

Keywords: robots, drones, war, humanitarian law, artificial intelligence, conventional humanism, artificial military brains.