Он заявил: «Машины, обладающие властью отнимать жизнь без участия человека, политически неприемлемы, морально отвратительны и должны быть запрещены международным правом».

Появление турецких беспилотных летательных аппаратов, управляемых искусственным интеллектом, в небе Ливии вновь вызвало вопросы о том, как смертоносное автономное оружие повлияет на региональную геополитику и следует ли его запрещать.

Процветающая индустрия беспилотных летательных аппаратов Турции вновь оказалась в центре внимания международного сообщества после доклада ООН, в котором говорится, что беспилотные летательные аппараты турецкого производства, основанные на искусственном интеллекте, могли быть использованы для уничтожения вражеских войск в Ливии в прошлом году. Если этот инцидент подтвердится, он ознаменует дебют «роботов-убийц» на глобальном театре военных действий.

В докладе группы экспертов ООН по Ливии указывается, что беспилотный летательный аппарат-камикадзе Kargu-2, изготовленный турецкой государственной компанией STM, вероятно, использовался в марте 2020 года в столкновениях между силами поддерживаемого Турцией Правительства национального согласия (ПНС) и Ливийской национальной армией (ЛНА) восточного военного командира Халифы Хафтара (ее поддерживали Россия, Египет и ОАЭ. – Прим.) во время осады последним ливийской столицы Триполи. «Логистические конвои и отступающие силы Хафтара были выслежены и дистанционно атакованы беспилотными боевыми летательными аппаратами или смертоносными автономными системами вооружения, такими как STM Kargu-2 и другие барражирующие боеприпасы, – говорится в докладе. – Смертоносные автономные системы вооружения были запрограммированы на атаку целей. Они не требуют обмена данными между оператором и боеприпасом: по сути это способность действия по принципу «выстрелил-забыл-нашел», – отметили авторы доклада, не уточнив, был ли кто-то убит этими боеприпасами.

Турецкие военные источники, знакомые с этим вопросом, подтвердили, что «Каргу-2» неоднократно использовались в Ливии, но отрицали, что беспилотникам, которые имеют как автономный, так и ручной режим работы, было разрешено использовать искусственный интеллект для выбора и поражения целей. Беспилотники работали автономно только до достижения целевых районов, после чего операторы на земле принимали решения о нанесении удара, как сообщили источники «Аль-Монитор» на условиях анонимности.

STM описывает Kargu-2 как барражирующий ударный беспилотный летательный аппарат с возможностью обработки изображений в реальном времени и встроенными алгоритмами машинного обучения, которые также оснащены возможностями роения, позволяющими работать вместе рою числом до 20 дронов. В автономном режиме «Каргу-2» может быть запрограммирован на атаку целей без обмена данными между наземным блоком/оператором и боеприпасом.

Доклад ООН был встречен националистической эйфорией в проправительственных СМИ Турции, которые хвалили Kargu-2 как еще одно доказательство того, как далеко продвинулась отечественная оборонная промышленность при президенте Реджепе Тайипе Эрдогане с ее продажами беспилотных летательных аппаратов в Азербайджан, Катар и Украину. Иностранные наблюдатели тем временем сосредоточились на глобальных последствиях событий в Ливии и продвижении беспилотных летательных аппаратов на театрах военных действий по всему региону.

В статье от 3 июня, озаглавленной «Вооруженные недорогие беспилотные летательные аппараты, изготовленные Турцией, изменяют поля сражений и геополитику», The Wall Street Journal сообщила: «Небольшие вооруженные силы по всему миру развертывают недорогие беспилотные летательные аппараты, оснащенные ракетами, используя их против бронированных врагов. Это новая тактика боя, которая оказалась успешной в прошлом году в региональных конфликтах, изменив стратегический баланс между Турцией и Россией. Беспилотники, построенные в Турции с использованием доступных цифровых технологий, уничтожали танки и другую бронетехнику, а также системы ПВО российских ставленников в боях в Сирии, Ливии и Азербайджане».

По мнению военных аналитиков стамбульского Центра экономических и внешнеполитических исследований, лица, принимающие политические и военные решения в Турции, рассматривают беспилотные военные системы и роботизированную войну не просто как военную модернизацию, а как возможность стать пионером следующего геополитического прорыва [страны].

Наряду с Kargu-2, боевая система с неподвижным крылом Alpagu и автономный разведывательный беспилотник Togan, также разработанные STM, являются примерами передовых автономных возможностей в турецкой оборонной промышленности. По данным компании, все три беспилотных летательных аппарата используют компьютерную визуализацию для наведения на цель и запрограммированы с помощью алгоритмов машинного обучения для оптимизации возможностей классификации целей, отслеживания и атаки без необходимости подключения к GPS.

Хотя такие технологии выглядят как революционный шаг в войне, с начала 2000-х годов в мире кипят споры о том, следует ли регулировать или запрещать смертоносные автономные системы оружия, учитывая этические опасения по поводу их способности выбирать и поражать цели без вмешательства человека. Публикация доклада ООН по Ливии вновь разожгла дебаты, которые до сих пор были в основном гипотетическими.

Другой аспект дискуссии заключается в том, как и в какой степени автономные системы изменят характер войны. Американский журнал Popular Mechanics проводит сравнение с тем, как атомная бомба послужила разделителем между эпохами, говоря, что события в Ливии могут аналогичным образом разделить время, когда люди полностью контролировали оружие, и время, когда машины принимали свои собственные решения убивать.

Многие утверждают, что смертоносные автономные системы должны быть запрещены в соответствии с международным договором, аналогичным Договору ООН о запрещении ядерного оружия 2017 года, разработанному в качестве юридически обязательного документа, направленного на полное искоренение ядерного оружия.

Другой аргумент состоит в том, что смертоносные автономные системы подпадают под сферу применения неизбирательного оружия и должны быть запрещены в соответствии с существующей конвенцией ООН, запрещающей или ограничивающей обычные виды оружия, которые считаются наносящими чрезмерные повреждения или имеющими неизбирательное действие.

В 2019 году генеральный секретарь ООН Антониу Гутерриш призвал государства принять меры по запрещению автономных систем вооружений. «Машины, обладающие властью отнимать жизни без участия человека, политически неприемлемы, морально отвратительны и должны быть запрещены международным правом», – сказал он.

В середине мая Международный комитет Красного Креста настоятельно призвал правительства запретить использование автономного оружия для нападения на людей и ввести строгие ограничения на другие виды его применения. Тем временем Human Rights Watch призвала к новому процессу переговоров по международному договору о «роботах-убийцах», указав на доклад ООН об инциденте с участием «Каргу-2» в Ливии и на предполагаемое использование Азербайджаном [барражирующих] боеприпасов израильского производства в нагорно-карабахском конфликте в прошлом году.

STM смолчала перед лицом международной реакции на доклад ООН. Компания, вероятно, довольна рекламой с точки зрения маркетинга и будущего экспорта, но ей необходимо учитывать не только технологический аспект этого вопроса, но и его последствия с точки зрения международного права, дипломатии и этических соображений.

Еще в 2013 году я написал статью «Война беспилотников и современное формирование стратегии: виляет ли хвост собакой?», в которой ставился вопрос о том, подрывают ли новые военные технологии принцип подчинения военной техники военной стратегии и, следовательно, политике. Этот вопрос остается актуальным и сегодня в контексте развития смертоносного автономного оружия. Такое оружие, вероятно, изменит характер войны, включая политические и этические взгляды на войну. Перед лицом односторонних детерминистских взглядов на влияние автономных систем я склонен полагать, что взаимодействие автономных систем с военной стратегией, этикой, культурой и политикой едва ли еще началось.