104. Другое позитивное явление в контексте разоружения заключается во включении в договоры, касающиеся вооружений, положений об оказании помощи жертвам. Такая забота о жертвах перекликается с другими усилиями, направленными на решение вопросов ущерба, причиняемого гражданскому населению применением оружия и военными действиями, включая практику учета людских потерь и добросовестного возмещения ущерба – применяемую, например, некоторыми государствами Международных сил содействия безопасности, – в случае гибели гражданских лиц при отсутствии признанных нарушений МГП. Такая практика служит подтверждением принципа ценности человеческой жизни.
105. Существуют также важные инструменты "мягкого" права, которыми можно регулировать создание БАРС. К числу примеров соответствующих инструментов "мягкого" права в области разоружения относятся кодексы поведения, межправительственный диалог, обмен информацией и меры укрепления доверия и рамочные конвен-ции. Кроме того, деятельность неправительственных организаций (НПО) и общественное мнение могут стимулировать введение ограничений в области вооружений.
106. Статья 36 Первого Дополнительного протокола к Женевским конвенциям является особенно актуальной, предусматривая на этот счет, что "при изучении, разработке, приобретении или принятии на вооружение новых видов оружия, средств или методов ведения войны Высокая Договаривающаяся Сторона должна определить, подпадает ли их применение, при некоторых или при всех обстоятельствах, под запрещения, содержащиеся в настоящем Протоколе или в каких-либо других нормах международного права, применяемых к Высокой Договаривающейся Стороне".
107. Этот процесс имеет характер не внешней инспекции, а внутренней интроспекции и основан на добросовестности сторон. Соединенные Штаты, хотя и не являются государством-участником, еще в 1947 году создали официальные обзорные механизмы по вопросам вооружений. Хотя государства нельзя обязать предавать гласности результаты проводимых ими обзоров, одним из способов обеспечения большего контроля в сфере появления новых видов вооружений, таких как БАРС, будет побуждение их к большей открытости в вопросах процедуры, которой они придерживаются при проведении общих обзоров на основании статьи 36.
108. В 2012 году Соединенные Штаты, с принятием министерством обороны соответствующей директивы, приступили к реализации важного процесса саморегулирования в связи с БАРС, признав необходимость национального контроля за их производством и развертыванием и введя определенного рода мораторий. Этой директивой предусматривается, что автономные системы оружия "должны быть спроектированы таким образом, чтобы позволить командирам и операторам осуществлять надлежащую степень человеческого контроля в отношении применения силы. В ней определяются конкретные уровни, на которых дается официальная санкция на разработку и принятие на вооружение разных видов роботов. В частности, в директиве предусмотрен запрет на разработку и развертывание БАРС, если не соблюдены определенные процедуры. Эта важная инициатива одного из крупных потенциальных производителей БАРС должна быть одобрена и может открыть возможности для мобилизации международной поддержки в пользу национальных мораториев.
IV. Выводы
109. Есть, несомненно, убедительные доводы в пользу проявления большой осмотрительности в подходе к возможному созданию БАРС. Их применение может иметь далеко идущие последствия для социальных ценностей, в том числе глубоко повлиять на защиту жизни и принцип ценности человеческой жизни, равно как и на международную стабильность и безопасность. Хотя в настоящее время не ясно, как БАРС смогут во многих отношениях удовлетворять требования МГП и МППЧ, можно предвидеть, что при определенных обстоятельствах они смогут соблюдать эти требования, особенно если они будут использоваться бок о бок с солдатами. Даже если это так, существует широко распространенное беспокойство в связи с тем, что наделение БАРС возможностью убивать людей может принизить ценность самой жизни. Неустающие военные машины, готовые к применению нажатием кнопки, создают опасность перманентного вооруженного конфликта (хотя и низкой интенсивности), устраняя возможность послевоенного восстановления. Тем, кто хочет принять БАРС на вооружение, придется доказывать, что конкретные виды их применения в тех или иных конкретных условиях следует разрешить. Ввиду далеко идущих последствий их применения для защиты человеческой жизни потребуются убедительные доказательства.
110. Если слишком долго оставлять этот вопрос без внимания, он в буквальном смысле будет вырван из рук человека. Кроме того, следуя по пятам проблемного применения и оспариваемых обоснований беспилотников и прицельного уничтожения, БАРС могут серьезно подорвать способность мировой правовой системы сохранять минимальный мировой порядок.
111. Некоторые меры необходимо принять немедленно, тогда как другие могут последовать позднее. Если опыт беспилотников считать показательным, то необходимо будет с самого начала поставить на повестку дня задачу обеспечения транспарентности, ответственности и верховенства права. Потребуются моратории для того, чтобы не допустить принятия мер, которые позднее могут оказаться необратимыми, а всеохватывающий процесс принятия решения относительно подхода к этому вопросу должен идти одновременно на национальном, межгосударственном и международном уровнях.
112. Чтобы инициировать этот процесс, потребуется создать международный орган для мониторинга ситуации и выработки вариантов действий на более далекую перспективу. Непрекращающаяся работа этого органа, или его преемника, по вопросам, возникающим в связи с БАРС, будет иметь крайне важное значение ввиду постоянной эволюции технологии и необходимости обеспечить защиту права на жизнь – чтобы не допустить ни индивидуальных случаев произвольного лишения жизни, ни обесценения жизни в более широком плане.
V. Рекомендации
А. Организации Объединенных Наций
113. Совет по правам человека должен призвать все государства объявить и соблюдать национальные моратории, по крайней мере, на испытания, производство, сборку, передачу, приобретение, принятие на вооружение и применение БАРС до тех пор, пока не будет разработана согласованная на международном уровне рамочная система в отношении будущего БАРС.
114. Предложить Верховному комиссару по правам человека в приоритетном порядке созвать группу высокого уровня по вопросам БАРС, состоящую из экспертов в различных областях, таких как право, робототехника, компьютерная наука, военные операции, дипломатия, управление конфликтами, этика и философия. Эта группа должна опубликовать свой доклад в течение одного года, и ее мандат должен включать:
a) проведение анализа технических достижений, имеющих отношение к БАРС;
b) оценку правовых и этических вопросов и вопросов политики, касающихся БАРС;
c) выработку рамочной основы, позволяющей международному сообществу эффективно решать правовые вопросы и вопросы политики, возникающие в связи с БАРС, и разработку на этот счет конкретных рекомендаций по вопросам существа и процедуры; в своей работе группа должна стремиться содействовать широкому международному диалогу;
d) оценку достаточности или недостатков существующих международно-правовых и национальных нормативных основ регулирования БАРС;
e) подготовку предложений относительно последующей деятельности по итогам работы группы.
115. Все соответствующие учреждения и органы Организации Объединенных Наций должны, когда это уместно, в своих отношениях со сторонами, ведущими работу в области робототехниче-ского оружия:
a) подчеркивать необходимость обеспечения полной транспарентности применительно ко всем аспектам разработки роботизированных систем оружия;
b) добиваться от государств большей международной транспарентности относительно их процедур проведения обзора вооружений, в том числе процедур обзора на основании статьи 36 Дополнительного протокола I к Женевским конвенциям.
B. Региональным и другим межправительственным организациям
116. Поддержать предложения, изложенные в рекомендациях в адрес Организации Объединенных Наций и государств, в частности призыв к введению мораториев в качестве немедленной меры.
117. Когда необходимо, принимать инициативные меры, аналогичные или параллельные инициативам Организации Объединенных Наций.
C. Государствам
118. Ввести национальный мораторий в отношении БАРС в соответствии с предложением, содержащимся в пункте 114.
119. Заявить – в одностороннем порядке и в рамках многосторонних форумов – о приверженности соблюдению норм МГП и МППЧ во всей деятельности, связанной с роботизированными системами оружия, и принять и применять строгие процедуры соблюдения данных норм на всех стадиях разработки таких систем.
120. Взять обязательство обеспечивать максимально возможную степень транспарентности применительно к своим внутренним процедурам обзора вооружений, включая параметры, используемые при испытаниях роботизированных систем. Государствам следует как минимум обеспечить в интересах международного сообщества транспарентность относительно процедур (если и не существа результатов деятельности), которых они придерживаются, и взять обязательство проводить как можно более строгий обзор вооружений.
121. Принимать участие в международных обсуждениях и в межправительственном диалоге по вопросам БАРС и быть готовыми к обмену передовыми методами с другими государствами и сотрудничать с группой высокого уровня по вопросам БАРС.
D. Разработчикам роботизированных систем
122. Принять кодекс или кодексы поведения, этики и/или практики, определяющие содержание ответственного поведения в отношении БАРС в соответствии с МГП и МППЧ, либо усилить существующие кодексы.
E. НПО, гражданскому обществу и правозащитным группам и МККК
123. Рассматривать последствия применения БАРС для прав человека и для людей в ситуациях вооруженного конфликта и вести просветительскую работу по данному вопросу.
124. При любой возможности помогать государствам и взаимодействовать с ними в деле приведения их процедур и деятельности в данной области в соответствие с нормами МГП и МППЧ.
125. Призывать государства к обеспечению максимально возможной транспарентности в отношении их процедур обзора вооружений.
126. Поддерживать работу группы высокого уровня по вопросам БАРС.
По материалам доклада организации "Human Rights Watch" о полностью автономном оружии ("роботах-убийцах"). 2013 г.
По мере быстрого развития и быстрого увеличения количества автоматизированного оружия, оружие начинает на поле боя брать на себя некоторые функции солдат. Эксперты в области вооружений и робототехники предсказывают, что в течение 20-30 лет может быть разработано полностью автономное оружие (или "роботы-убийцы"), которое сможет выбирать и поражать цели по своему усмотрению без человеческого вмешательства. В настоящее время военные официальные лица говорят, что люди пока еще сохраняют возможность выбора при принятии решения: использовать (по умолчанию – смертельное) оружие или нет. Но однажды роботы смогут делать этот выбор по своему усмотрению.
Данный доклад был подготовлен негосударственными организациями "Human Rights Watch" ("Наблюдение за правами человека") и "International Human Rights Clinic" ("Интернациональная клиника гуманитарных прав", подразделение Гарвардской школы права). Первоочередной задачей этих организаций является: оценить, какое влияние полностью автономное оружие оказало бы на гарантии защиты мирного населения во время войны.
Этот отчет анализирует: выполняли бы "роботы-убийцы" требования международного гуманитарного права и давали ли бы они возможность проверять факты убийства гражданских лиц на соответствие нормам международного гуманитарного права.
Похоже, что полностью автономное оружие не только будет неспособно соответствовать юридическим стандартам, но также подорвет существенные неюридические гарантии безопасности для гражданских лиц. Авторы доклада приходят к заключению, что полностью автономное оружие не будет совместимо с международным гуманитарным правом. Его применение существенно увеличит риск гибели или ранения мирных жителей во время вооруженного конфликта. Поэтому необходим запрет на разработку, изготовление и использование такого оружия. И правительства всех стран должны срочно добиваться этого.
Полностью автономного оружия, которому уделяется основное внимание в этом отчете, еще не существует, но соответствующая технология развивается. И предшественники роботов-убийц уже используются. Многие страны используют системы оборонительного оружия, которые запрограммированы так, чтобы автоматически уничтожать воздушные цели. Другие предшественники полностью автономного оружия (использующиеся или находящиеся в разработке) предназначены для уничтожения живой силы и могут быть мобильным оружием нападения. Вооруженные силы дают высокую оценку такому оружию, потому что оно снижает риск поражения собственных солдат. Примеры, описанные в этом докладе, показывают, что много стран, и прежде всего США, близки к созданию роботов-убийц и имеют большой интерес к достижению этой цели.
Классификация оружия по степени автономности
Автоматизированное оружие, которое является "беспилотным", т. е. управляется удаленно оператором, часто делится на три категории по степени человеческого участия в его действиях:
• Человек В системе управления оружием (условно, IN): роботы применяют оружие только после человеческой команды;
• Человек НА системе управления оружием (условно, ON): роботы выбирают цели и применяют оружие самостоятельно, но под наблюдением человека, который может отменить действия робота;
• Человек ВНЕ системы управления оружием (условно, OUT): роботы выбирают цели и применяют оружие самостоятельно, без какого-либо человеческого участия. Человек не может отменить действий робота.
Примечания. В этом отчете термины "робот" и "роботизированное оружие" охватывают все три типа автоматизированного оружия. Другими словами, все, начиная от беспилотных самолетов с дистанционным управлением и заканчивая полностью автономным оружием – "роботами-убийцами". Хотя эксперты обсуждают точное определение, что такое робот, по существу роботы – это машины, которые работают на основании того, как они запрограммированы. Некоторые роботы обладают определенной степенью автономии, что означает способность машины работать без человеческого наблюдения/участия. Уровень автономии робота может измениться в очень широких пределах. Данная классификация и тенденция в развитии оружия являются прекрасным примером для ТРИЗ (теория решения изобретательских задач) на линию развития "вытеснение человека из технической системы".
1. Планы развития автономного оружия
Использование роботов в боевых действиях – уже не новость. Американские "дроны" (беспилотные самолеты, удаленно управляемые оператором) Predator, Reaper широко использовались в Афганистане и других странах. Эти дроны уже обладают некоторым уровнем автономии, которая относится к способности машины работать без человеческого наблюдения. Дроны обеспечивают разведку и обнаруживают цели, а оператор идентифицирует цель, принимает решение и подает дрону команду на применение оружия, что соответствует степени автономности IN (Человек В системе управления оружием). Таким образом, у нынешнего автоматизированного оружия в "петле принятия решения" (decision loop) все еще есть человек, т. е. требуется человеческое вмешательство прежде, чем будет применено оружие. Если бы оружие было полностью автономно, то оно идентифицировало бы цели и само их уничтожало.
Поскольку наблюдается тенденция вытеснения человека из "цепи принятия решения", в скором времени полностью автономное оружие ("роботы-убийцы") будет само принимать решение о применении оружия. По мнению военных экспертов, вооруженные воздушные силы будущего будут все более и более беспилотными и автономными. В последнее время министерство обороны США ежегодно тратит примерно 6 млрд. долл. на научные исследования в этой области. Военные стратегические документы, особенно США, отражают планы увеличения степени автономности систем вооружений. Министерство обороны США предполагает развитие беспилотных воздушных, наземных и подводных систем, легко совместимых с системами, управляемыми человеком, постепенное уменьшение степени человеческого контроля и принятия решения. По оценкам экспертов, полностью автономное оружие будет на вооружении к 2025 г.
2. Предшественники полностью автономного оружия
2.1. Системы автоматического оборонительного оружия
Системы автоматического оборонительного оружия являются первым шагом на пути к полной автономии оружия. Данные системы обнаруживают воздушные цели и автоматически применяют свои средства поражения, чтобы их обезвредить. Человеческое участие в работе системы здесь ограничено принятием или отвержением плана действий компьютера за несколько секунд до применения средств поражения. У США есть несколько таких систем. Автоматизированная корабельная система ближнего боя "Фаланга" была установлена на боевые корабли еще в 1980 г. и до сих пор широко используется США и союзниками в модернизированных версиях.