Призыв к мораторию на создание и применение боевых автономных роботизированных систем

После приведения их в действие боевые автономные роботизированные системы (БАРС) способны работать без дальнейшего вмешательства человека. В то время как беспилотники управляются людьми, эти новые боевые системы, которые еще не используются, могут самостоятельно принимать решения о целях.

В этом ужасающем докладе Специального докладчика по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства или произвольных казнях Кристофа Хейнса БАРС рассматриваются как дополнительное измерение старых правовых, моральных и религиозных дилемм, возникающих при убийстве одного человека другим.

Хейнс утверждает, что эти роботы «потенциально могут создать новые угрозы для права на жизнь…, что породит международный раскол и ослабит роль и верховенство международного права и тем самым подорвет систему международной безопасности».

Специальный докладчик сообщил, что «настоящий доклад представляет собой призыв взять такую паузу, чтобы можно было серьезно и основательно заняться этим вопросом». Он предостерег, что после приведения их в действие будет уже поздно пытаться выработать соответствующие ответные меры. «Как и в случае любой технологии, революционизирующей применение смертоносной силы, может существовать недостаточно знаний относительно связанных с такой технологией потенциальных рисков, пока эта технология не разработана, что затрудняет формулирование надлежащей ответной реакции; однако впоследствии наличие таких систем и могущество влиятельных заинтересованных кругов могут исключить возможность принятия мер, направленных на достижение надлежащего контроля», - говорит он.

По словам Хейнса, военное командование может быть склонно к использованию роботов в связи с большей физической и психологической дистанцированностью от убитых. По его мнению, «присущие человеку качества, такие как боязнь смерти и потери близких и неприятие вынужденности убивать других людей» больше не будут служить сдерживающим фактором при применении в бою БАРС.

Специальный докладчик заявил, что вооруженные конфликты больше не смогут восприниматься как «крайние меры». Общественность может чувствовать себя отстраненной от боев и «оставлять решение о применении силы как вопроса в основном финансового или дипломатического плана на усмотрение государства, что будет приводить к ощущению "обыденности" вооруженного конфликта».

Обращая внимания на глобальный договор о запрете наземных мин, Специальный докладчик задал вопрос꞉ «Верно ли, в сущности, позволять автономным машинам решать, кого и когда убить?» «Это очень важный вопрос, - сказал Хейнс, - ведь если ответ отрицательный, никакие доводы не могут оправдать использование БАРС независимо от их технических возможностей».

По словам Специального докладчика, «такой подход зиждется на том убеждении, что решение начать применение смертоносной силы должен где-то принимать человек и в результате субъективизировать (или взять на себя ответственность за) потерю каждой жизни в ходе военных действий как часть дебилеративного процесса человеческого общения. Машины лишены нравственности и смертности и в результате не должны иметь власти над людьми при решении вопросов жизни и смерти. Это относится к числу причин, в силу которых были запрещены противопехотные мины».

Хейнс напомнил об опыте двух мировых войн꞉ «Организация Объединенных Наций была создана людьми, которые сражались в ужасной войне. Около 70 лет прошло без мировых войн. Приверженность достижению этой цели можно понимать как следствие долговременного и, по существу, межпоколенческого воздействия настойчивого утверждения принципа ответственности человека за принятие решений, предполагающих совершение убийства».

В довершение Специальный докладчик добавил, что именно те, кто выступают в пользу создания и применения БАРС, должны доказать, что «должно допускаться их применение при особых обстоятельствах. Учитывая значительные последствия для защиты жизни, потребуются существенные доказательства».

Хейнс призывает Совет по правам человека настоять на том, чтобы все государства наложили мораторий на испытания, производство, сборку, передачу, приобретение, подготовку и применение БАРС до тех пор, пока не будет достигнуто соглашение о регулирующих нормах. Специальный докладчик также хочет, чтобы в приоритетном порядке была созвана группа экспертов из разных областей, в том числе области права, вычислительной техники, робототехники, военных операций и этики, для обсуждения данного вопроса на высшем уровне и обеспечения основы для последующего диалога на национальном уровне и разработки международных норм.

Хейнс подвел итог своему выступлению꞉ «В сущности, я не предлагаю окончательное решение. Я призываю к проведению инклюзивного, открытого процесса для нас как для мирового сообщества, как для людей, чтобы прийти к ответственному решению о том, как мы будем обращаться с этой новой технологией».

31 мая 2013 г.