Военные роботы-убийцы, законность и этичность автономного оружия

Беспилотные транспортные средства, или беспилотники, быстро становятся основным боевым оружием — относительно недорогое и позволяет солдатам находиться на безопасном расстоянии. Форма войн входит в стадию использования вооруженных роботов. Однако, как далеко это зайдёт, и как это выглядит с этической стороны?

«Техническое назначение беспилотников приобретает новый смысл в этом мире», — сказал П.В. Сингер TED Talks video в феврале 2009 года. Сингер — автор книги «Собраны для войны», ведущий сотрудник аналитического центра Brookings Institution и директор его подразделения «Оборонная инициатива XXI века»,

В войне в Ираке использовались считанные единицы беспилотных транспортных средств, но теперь это число возросло до нескольких тысяч. Индустрия военных беспилотников быстро развивается. Вооруженные роботы лишены человеческих чувств, а за километры от них ими управляет команда молодых солдат перед компьютерами.

Война будет качественно другая. Сингер считает, что технология находится только на начальной стадии. Конечно, США — лидер в военной робототехнике, но другие страны быстро перенимают эту методику.

Согласно данным, предоставленным Сингером, в 2009 году было 43 страны, развивающие беспилотные транспортные средства, и это число может увеличиваться, поскольку системы становятся менее дорогими и более доступными.

«Это означает, что вещи, о которых раньше говорили только в научной фантастике, теперь обсуждают в коридорах власти, например в Пентагоне. Эпоха военных роботов началась», — сказал он.

Меняется форма войны

Сейчас идут жёсткие дискуссии по поводу этической составляющей применения беспилотных транспортных средств, но военные вряд ли откажутся от этой технологии в ближайшее время.

Беспилотники берегут солдат. Патрулируя в небе, они малоуязвимы к потенциальным засадам, установленным минам, и другим опасностям, с которыми могут столкнуться наземные войска. Так как эти роботы небольшого размера, они используют меньше ресурсов, имеют широкий диапазон обзора, и управлять может один военный, находящийся в безопасности, например на Невадской военной базе.

Есть немало ужасных историй про ошибочные удары по гражданскому населению.

«Данные о гибели гражданских лиц малодостоверны, а цифры часто преувеличены, но предположительно, более 600 гражданских людей погибло от ошибочных атак. Это число показывает, что на каждого погибшего военного, приходится около 10 погибших гражданских лиц», — говорится в докладе Брукингского института (США).

В настоящее время обсуждается вопрос, нарушают ли беспилотные транспортные средства международное право? «Отдельная ракета, запущенная с беспилотника, возможно, в настоящее время не незаконна. Однако в целом беспилотную систему вооружений (поскольку она уже работает, и в будущем военные роботы могут быть потенциально опасны) разумно запретить», — говорится в докладе организации, расположенной на территории Великобритании The Fellowship of Reconciliation.

Существует также «побочные эффекты» в войне, в которой участвуют беспилотные транспортные средства. Сингер отметил, что те, кто управляет беспилотными системами, часто более подвержены стрессовым расстройствам.

«Вы идёте на работу, и в течение 12 часов стреляете по целям, направляя оружие на боевиков. Потом садитесь в свой автомобиль и едете домой, где за обеденным столом разговариваете с детьми о домашних делах», — рассказал Сингеру оператор беспилотника Predator.

Эксперты сравнили эту систему вооружения с видеоигрой. Существует опасение, что такое ведение войны размывает границы между действительностью и виртуальным миром.

Роботы-убийцы

В настоящее время вызывает беспокойство, как далеко продвинется технология беспилотных средств. История показывает, что там, где есть спрос, будет и предложение. Между компаниями, производящими такие аппараты, уже развернулась конкуренция.

Беспилотники Predator, которые продаются в США, Италии и Турции, производятся американской компанией General Atomics. Harpy, сделанные Israel Aerospace Industries, и в настоящее время продаются в Китай, Южную Корею, Индию. Подобное оружие продается и в другие страны.

Однако следующая стадия представляет собой еще более угрожающую картину. В настоящее время появляются автономные системы — роботы убийцы, которым не требуются операторы, имеющие человеческие чувства.

DARPA («Агентство передовых оборонных исследовательских проектов», США) в начале 1980-х приступило к разработке автономных воздушных, наземных и морских транспортных средств под названием «роботы-убийцы».

«В 1985 году различные усилия DARPA (в том числе, направление «роботы-убийцы») привели к программе «умное оружие» (Smart Weapons), которой занимается Тактический Технологический Офис (ОТТ), разрабатывая типы модульного интеллектуального автономного оружия. Достижения в области компьютерных технологий и программного обеспечения (таких, как автоматическое распознавание цели), в конце концов, сделали автономное оружие возможным», — из доклада DARPA об автономной навигации, под названием «Движущая сила».

Военные выдвигают теории о том, каким образом пойдёт развитие в этом направлении — от дистанционно управляемых крыс-киборгов, до роботов, которые могут питать себя, потребляя биологические материалы (DARPA утверждает, что роботы смогут работать даже бензопилой и питаться вегетарианской пищей).

По программе Self-Explanation Learning Framework («Структура изучения самопонимания»), DARPA планирует построить самообучающихся роботов, которые смогут «собирать» себя. «DARPA стремится построить системы, которые смогут участвовать в строительстве собственной конструкции», — говорится в докладе DARPA от 2009 года.

Среди экспертов робототехники есть разные представления о фактической угрозе, идущей от создания автономных боевых роботов.

В 2009 году в американских войсках насчитывалось более 11 000 роботов. «Если текущие тенденции сохранятся, то в обозримом будущем военные роботы на поле битвы будут встречаться всё чаще, они будут все больше совершенствоваться и становиться автономными», — пишет Армин Кришнан в своей книге «Роботы-убийцы, законность и этичность автономного оружия».

Он добавляет, что есть беспокойство по поводу «будущих обычных видов вооружения, которые могут превратить войну в нечто еще более опасное, чем массовое убийство».

Сингер заявил, что мир, возможно, находится на этапе, похожем на время появления атомной бомбы. Он задаёт вопрос: «Неужели мы столкнемся с реальностью новых войн в 21-м веке?».

Версия на английском