58. Такая легкость может в перспективе влиять на принятие политических решений. Ввиду низких или пониженных людских потерь в вооруженном конфликте для государства, имеющего в своем арсенале БАРС, национальное общество может со временем проявлять все больше безразличия и оставлять решение о применении силы как вопроса в основном финансового или дипломатического плана на усмотрение государства, что будет приводить к ощущению "обыденности" вооруженного конфликта. Таким образом, БАРС могут понизить для государств порог для начала вооруженного конфликта или иного использования смертоносной силы, в результате чего вооруженный конфликт уже не будет являться средством, к которому прибегают в последнюю очередь. Как отмечается в докладе Генерального секретаря о роли науки и техники в контексте международной безопасности и разоружения, "…улучшение технических характеристик автономных средств открывает перед страной возможность для их использования в ходе военных действий, не опасаясь негативной реакции населения по поводу гибели людей". Объяснение использования автономных систем как менее затратную альтернативу развертыванию живой силы на поле боя может, следовательно, являться ложной дихотомией. Если сухопутное вторжение не пользуется достаточной поддержкой, то подлинной альтернативой применению беспилотных систем будет неприменение силы вообще.
59. Можно слышать тот довод, что если доводить вышеприведенную аргументацию до ее логического завершения, то государства вообще не должны пытаться разрабатывать какие-либо военные технологии, понижающие жестокость вооруженного конфликта или позволяющие сократить общие людские потери за счет повышения точности оружия. Тогда применение беспилотников и нанесение воздушных ударов с больших высот с использованием "умных" бомб следует также считать проблемным, поскольку они тоже понижают потери живой силы стороны, использующей их (и в некоторых случаях противной стороны), тем самым устраняя для государств политические ограничители в отношении готовности прибегнуть к военным действиям.
60. Такой довод при ближайшем рассмотрении не выдерживает критики. Понятно, что государствам желательно сократить потери в живой силе во время конфликта, но тогда возникает вопрос о том, можно ли в этом случае говорить о "войне" – в отличие от одностороннего истребления, – когда одна сторона не подвергается угрозе потери жизней и не несет никаких издержек, помимо экономических. Существует качественное отличие понижения степени риска для тех, кто участвует в вооруженном конфликте, от ситуации, когда одна сторона более не является "участником" вооруженного конфликта, поскольку ее комбатанты не подвергаются никакой угрозе. БАРС, как представляется, доводят проблемы, поднимаемые бес-пилотниками и нанесением воздушных ударов с больших высот, до их крайнего предела в практическом и правовом плане.
61. Даже если было бы справедливо считать, что в случае применения БАРС количество жертв на один вооруженный конфликт иногда будет меньше, то общая численность потерь в живой силе в совокупности может быть, тем не менее, выше.
62. Самое уместное замечание заключается в том, что возросшая точность поражения и возможность наносить удары в любой точке мира, даже когда не существует никаких линий связи, позволяют считать, что БАРС будут весьма привлекательны для тех, кто захочет прибегать к прицельному уничтожению. Случаи нарушения суверенитета государств – помимо возможных нарушений норм МППЧ и МГП, – нередко ассоциируемые с программами прицельного уничтожения, могут понизить степень безопасности в мире и отрицательно сказаться на защите жизни людей.
С. Применение государствами БАРС во время вооруженного конфликта
63. Следующий вопрос заключается в том, смогут ли БАРС применяться с соблюдением норм МГП. Постольку поскольку ответ на этот вопрос является отрицательным, этот вид оружия должен быть запрещен. Однако, как заявляют сторонники БАРС, это не означает, что БАРС никогда не должны совершать ошибок – мерилом должно являться поведение людей, которые будут принимать решения, что не всегда отвечает самым высоким стандартам.
64. Некоторые эксперты говорят, что в некоторых отношениях роботы можно заставить соблюдать требования МГП даже лучше людей. Робототехник Рональд Аркин, например, предложил способы оснащения военных роботов "этическим регулятором", с тем чтобы они удовлетворяли таким требованиям.
65. Иного рода соображение состоит в том, что если существует техническая возможность запрограммировать БАРС таким образом, чтобы они соблюдали нормы МГП лучше людей, то тогда, по существу, может иметь место обязательство применять их – точно так же, как некоторые правозащитные группы выдвигают тот довод, что при наличии "умных" бомб лучше применять такие бомбы, а не те, которые имеют не столь избирательное действие.
66. Особое значение в этом контексте имеют правила МГП, касающиеся различения и соразмерности. Правило различения имеет целью минимизировать последствия вооруженного конфликта для гражданского населения за счет запрещения выбора гражданского населения в качестве цели и объекта неизбирательных нападений. В ситуациях, когда БАРС не могут надежно отличать комба-тантов или других участников боевых действий от гражданского населения, их применение должно быть запрещено.
67. Есть ряд факторов, которые, вероятно, будут ограничивать способность БАРС действовать в этом отношении в соответствии с этими правилами, в том числе технологическое несовершенство современных сенсоров, неспособность робота понимать контекст и трудность применения языка МГП при определении на практике статуса не-комбатантов, который должен быть преобразован в компьютерную программу. Роботам, например, будет трудно определить, ранен ли человек и не участвует в бою, а также понять, находятся ли солдаты в процессе сдачи в плен.
68. Нынешнее распространение асимметричных военных действий и вооруженных конфликтов немеждународного характера, к тому же в городской обстановке, служит существенным ограничителем способности БАРС отличать гражданское население от законных военных целей. Это особенно справедливо в тех случаях, когда необходимо произвести сложную оценку ситуации для определения, например, "прямого участия в боевых действиях". Эксперты отмечают, что в военных действиях по борьбе с повстанцами и при нетрадиционных методах ведения войны, когда комбатантов можно вычислить только с помощью интерпретации поведения, неспособность БАРС интерпретировать намерения и эмоции будет служить серьезным препятствием для соблюдения правила различения.
69. Однако люди необязательно превосходят машины в своей способности проводить различие. В некоторых условиях технология может обеспечивать более высокую степень точности. Например, солдат в ситуации, когда неясно, является ли незнакомое лицо комбатантом или гражданским, может под воздействием инстинкта самосохранения сразу открыть огонь, тогда как робот может использовать иную тактику, чтобы приблизиться, и только когда будет обстрелян, открыть ответный огонь. Следовательно, роботы могут действовать "консервативным образом", и "могут стрелять вторыми". Кроме того, в некоторых случаях мощные сенсоры и процессорная мощность БАРС могут потенциально рассеивать "туман военных действий" для обычных солдат и предупреждать совершение таких ошибок, которые нередко приводят в вооруженном конфликте к злодеяниям, и тем самым содействовать сохранению жизни людей.
70. Правило соразмерности требует, чтобы ущерб, который, как ожидается, будет причинен гражданскому населению, соизмерялся до начала нападения с военным преимуществом, которое предполагается получить в результате операции. Соблюдение этого правила, которое считается "одним из самых сложных правил международного гуманитарного права", в значительной мере зависит от субъективных ценностных оценок и субъективного анализа специфики конкретных обстоятельств.
71. Соответствие нападения правилу соразмерности необходимо определять в каждом конкретном случае в зависимости от специфики условий и с учетом всей совокупности обстоятельств. Военное значение цели, которое определяет степень допустимого сопутствующего ущерба, постоянно меняется и зависит от момента в конфликте. Выражается беспокойство на тот счет, что неограниченность правила соразмерности в сочетании со сложным характером обстоятельств может вылиться в нежелательное и неожиданное поведение БАРС со смертоносными последствиями. Неспособность "конструировать" и контекстуализировать обстановку может иметь следствием решение БАРС начать нападение на основе не только неполного, но и ошибочного понимания обстоятельств. Следует, однако, признать, что это случается и с людьми.
72. Соразмерность, как это широко признается, предполагает необходимость вынесения суждения конкретно человеком. Доминирующие правовые толкования этого правила прямо базируются на таких понятиях, как "здравый смысл", "добросовестность" и "стандарт разумности командира". Остается только выяснить, в какой мере эти понятия могут быть переведены на язык компьютерных программ сегодня или в будущем.
73. Помимо этого, оценки соразмерности нередко предполагают вынесение суждений скорее качественного, а не количественного плана.
74. Ввиду вышеизложенного возникает вопрос о том, смогут ли БАРС во всех случаях (с одной стороны) или же никогда не смогут (с другой) удовлетворять этому совокупному набору стандартов. Ответ на этот вопрос, вероятно, является не столь однозначным в том смысле, что в некоторых случаях они могут удовлетворять ему (как, например, в случае оружейной системы, настроенной только для ведения ответного огня и применения в традиционных боевых условиях), а в других случаях не могут (например, когда гражданское лицо с большим металлическим предметом в руках необходимо отличить от комбатанта в гражданской одежде). Будет ли тогда существовать возможность категоризации различных ситуаций, чтобы можно было запрещать применение БАРС в одних случаях и разрешать в других? Некоторые эксперты утверждают, что, по крайней мере, на начальном этапе определенный анализ таких аспектов, как соразмерность, должен проводиться командирами, тогда как другие аспекты можно оставить на решение БАРС.
D. Правовая ответственность за БАРС
75. Индивидуальная ответственность и ответственность государства имеют основополагающее значение для обеспечения ответственности за нарушение норм международного права прав человека и международного гуманитарного права. В отсутствие перспективы понести ответственность действенность факторов сдерживания и предупреждения понижается, что ведет к ухудшению защиты гражданского населения и возможному совершению военных преступлений.
76. Роботы неспособны принимать нравственные решения, и как следствие их никаким известным способом невозможно привлечь к ответственности, если они лишают жизни, что обычно влечет за собой уголовную ответственность, если подобные решения принимаются людьми. Кто же тогда должен нести ответственность?
77. Комбинированный характер технологии БАРС и многочисленность уровней, которые, вероятно, будут вовлечены в принятие решений об их применении, выливаются в потенциальное существование пробела, или вакуума ответственности. К числу кандидатов на привлечение к юридической ответственности относятся разработчики программного обеспечения, создатели или продавцы аппаратных компонентов, военные командиры, подчиненные, применяющие эти системы, и политические лидеры.
78. Традиционно уголовная ответственность в первую очередь будет, по-видимому, вменяться военным: ответственность командования следует считать одним из возможных решений проблемы ответственности за нарушения, совершаемые БАРС. Поскольку командир может нести ответственность за самостоятельные действия подчиненного лица, вменение ответственности командиру за действия автономного робота может служить аналогией. Однако уголовная ответственность командования традиционно вменяется только тогда, когда командир знал или должен был знать, что подчиненное ему лицо планировало совершить преступление, и не принял мер для его предотвращения либо в случае его совершения не принял мер для наказания виновного. Важно будет установить, в частности, будут ли командиры в состоянии достаточно хорошо понимать сложный характер программирования БАРС, чтобы их можно было привлекать к уголовной ответственности.
79. Высказывается мысль о том, что ответственность за гражданский ущерб должна, по меньшей мере, возлагаться на разработчиков программы и производителей оборудования в соответствии со схемой, аналогичной обеспечению строгой ответственности за качество продукции. Однако действие национальных законов об ответственности за качество продукции применительно к робототехнике в основном не проверено. В производстве БАРС непременно задействовано множество людей, и ни один человек в одиночку не будет, вероятно, в состоянии понять сложное взаимодействие составных элементов БАРС. Сомнительно также, что возлагать бремя предъявления гражданских исков на жертвы было бы справедливым, поскольку они вынуждены будут предъявлять иски в иностранном государстве и нередко не будут иметь для этого средств.