Рої массового знищення: приклад декларації про озброєні та повністю автономні рої дронів WMD

У 2017 році дослідник штучного інтелекту Стюарт Рассел представив відеофільм «Slaughterbots» на засіданні Конвенції ООН про звичайні озброєння, нагадує mwi.usma.edu.

Коли доктор Рассел і Інститут майбутнього життя випустили відео на YouTube, воно швидко поширилося з неймовірною швидкістю. У цьому ролику вигадані рої дронів розпізнають, прицілюються і вбивають супротивників самостійно. Безпілотники вбивають активістів і політичних лідерів, а виробник бойових роботів стверджує, що безпілотники вартістю 25 мільйонів доларів можуть знищити половину міста.

Хоча бійні у фільмі є вигадкою, багато держав розробляють технологію рою безпілотників і автономну зброю. На кожній дільниці збройних сил США розробляються рої безпілотників, у тому числі кораблі військово-морського флоту і план ВПС по використанню роїв у широкому спектрі військових завдань — від збору розвідувальних даних до придушення протиповітряної оборони противника. Росія, Китай, Південна Корея, Великобританія та інші теж розробляють рої. У той же час цілий ряд держав розробили або розробляють автономну (в основному стаціонарну оборонну) зброя — від гарматної вежі Південної Кореї SGR-A1 до системи ближнього озброєння Сполучених Штатів «Фаланга». Поєднання цих технологій створює зброю у стилі бойні: озброєний, повністю автономний рій дронів — або AFADS. (Для цілей цієї статті автор визначає «повністю автономні», щоб позначати системи зброї, які є як самонавідними, так і саморушними; «дрон» — будь-яка безпілотна платформа, яка працює на суші, морі, повітрі або космосі; «рої» як використання декількох безпілотників, які співпрацюють для досягнення спільних цілей.)

Через це AFADS слід класифікувати як зброю масового знищення. Як автор стверджує у власному новому дослідженні в Центрі стратегічних досліджень стримування ВПС США, AFADS може перевищити будь-який довільний поріг для масових жертв і за своєю природою не може розрізнити військові і цивільні цілі.

Чому класифікація має значення (і чому це складно)

Класифікація Дронових роїв як WMD (weapons of mass destruction — зброя масового знищення — ЗМЗ) має важливі концептуальні, правові наслідки і наслідки для національної безпеки. Концептуально, розуміння того, чи є AFADS (чи ні) ЗМЗ, вимагає ретельної дискусії з приводу обсягу терміна і його альтернатив. Хоча такі безпілотні рої виявляють сильну схожість із традиційною ЗМЗ, вони також мають суттєві відмінності. Юридично класифікація AFADS як ЗМЗ означає Договір по морському дну і договір по космосу, який можна застосовувати до роїв. Ці договори обмежують розміщення зброї масового знищення в зонах «загального надбання» (дно океану і космічний простір), але вони роблять це без точного визначення ЗМЗ. Традиційні агенти ЗМЗ — біологічна, хімічна та ядерну зброю — також мають численні політики, програми, урядові та міжнародні організації та договори, спрямовані на боротьбу з їх поширенням і забезпечують основу для реагування на їх використання. З точки зору національної безпеки класифікація AFADS як ЗМЗ також має вплив, оскільки використання зброї масового знищення, включаючи хімічні агенти, може радикально змінити громадську підтримку військових дій. Якщо AFADS є ЗМЗ, то політика, договори і норми у галузі нерозповсюдження та нерозповсюдження, застосовні до традиційного ЗМЗ, заслуговують на увагу.

Однак класифікувати конкретну зброю як зброю масового ураження досить складно, оскільки визначення поширюються більше, ніж є сама зброя. Комплексний огляд Сета Каруса визначень ЗМЗ включає двадцять різних формул, які використовуються тільки урядом США. Частково через це інші автори не згодні з самим терміном «зброя масового знищення», підкреслюючи його невизначеність, можливість політичного зловживання і значення того, що всі традиційні агенти ЗМЗ — біологічні, хімічні та ядерні агенти — рівні загрози.

Термінологічні дебати занадто великі і широкі, щоб їх можна було дозволити тут  опублікувати, але незалежно від того, яке визначення ЗМЗ є кращим (або альтернативи не-ЗМЗ), відділення цієї зброї від звичайної має на увазі, що ЗМЗ за своєю суттю різні у способах, і вимагають особливого уваги.

Рої дронів як ЗМЗ

Озброєні, повністю автономні рої безпілотників повинні бути класифіковані як ЗМЗ через ступені їх потенційної шкоди і внутрішньої нездатності провести відмінність між військовими і цивільними цілями — обидві ці характеристики є критеріями існуючої зброї, віднесеної до категорії зброї масового знищення.

Масштабована шкода

Масштабованість збройних груп безпілотників означає, що вони можуть обійти будь-який довільний поріг для визначення «масового знищення» — незалежно від того, чи прив’язане таке визначення до однієї тисячі жертв, двох тисяча або будь-якого іншого числа. Беручи до уваги, що розмір і вплив звичайної зброї обмежений низкою чинників, існує мало обмежень по масштабованості рою дронів. Дронові платформи відомі, технології порівняно легко освоюються. Центр по вивченню безпілотників в Бард-коледжі виявив в дев’яноста п’яти країнах військові безпілотники, які включають 171 різних типів безпілотників. Технологія досить проста, тому базові дрони можна купити в Best Buy або в 3D-друку. Для перетворення дронів у рій потрібно тільки програмне і апаратне забезпечення, щоб дрони могли обмінюватися інформацією і приймати рішення, а також фінансувати сталий розвиток і придбання.

Здатність Intel управляти все більшою кількістю дронів, що швидко покращується, ілюструє простоту масштабування. У 2016 році компанія підняла у повітря сотню дронів одночасно. У 2017 році пролетіло триста дронів. До 2018 року їм вдалося підняти 1218 дронів, а потім 2 018. Дайте всім 2 018 дронам бомби, і колектив напевно може завдати масових втрат.

Звичайно, точна кількість шкоди сильно залежить від контексту. Захисники можуть бути озброєні системами контрдронів або складними засобами протиповітряної оборони. Якщо бійні стають дійсно всюдисущими, держави можуть всюди повісити мережі. І навпаки, гнучкий характер роїв дронів дозволяє їм включати пристосування, такі як нейтралізація або хімічна зброя. Дронові рої можуть також працювати у декількох областях і включати протитанкову зброю, засоби радіоелектронної боротьби або інші системи, що підвищують живучість.

На щастя, поки існує небагато прикладів, щоб судити про здатність роїв безпілотників заподіяти шкоду. Найбільш близький приклад стався у січні 2018 року, коли сирійські повстанці масово випустили десять необроблених безпілотників проти російської військової бази у Сирії. Хоча російські військові стверджували, що перемогли безпілотники, рух «Вільний Алавіт» заявив, що знищив ракетну пускову установку С-400 вартістю 400 мільйонів доларів. Докази шкоди мінімальні, і у обох учасників є сильні стимули перебільшувати або відверто брехати, тому про точну шкоду судити складно.

За своєю суттю невибораючий

Природа роїв дронів стимулює високий рівень автономії. У міру того як кількість дронів у рої зростає, труднощі з їх управлінням теж зростають. Дії кожного дрона повинні бути скоординовані для досягнення цілей і запобігання зіткнень. Оскільки кількість безпілотників стає дійсно величезною, людський контроль над роєм може виявитися неможливим. Уже зараз оператори безпілотних літальних апаратів ВПС США відчувають нестачу персоналу і більш високі показники вигоряння у порівнянні з іншими областями кар’єри.

Автономне визначення того, чи є мета дійсною, є надзвичайно складним завданням. Розглянемо озброїного ворожого солдата у військовій формі. Нібито, це очевидна законна мета — якщо тільки вони не хворі або поранені. Але якщо солдат направляє зброю назад, то навіть поранений солдат може бути дійсною метою. Що ще більш важливо, автономна система повинна мати можливість ефективно розрізняти збройних і неозброєних, ворогів і дружніх, а також уніформу і цивільний одяг. Навіть якщо система може надійно розрізняти граблі і гвинтівку, вона повинна робити це в складних умовах, коли об’єкт прихований або замаскований. Надійна дискримінація може зажадати штучного інтелекту майже на рівні людини, що навряд чи можливо у найближчому майбутньому, якщо взагалі будь-коли.

Ступінь складності також буде залежати від області дії. Морські рої (наземні або повітряні безпілотники, що використовуються у морі) зіткнуться з набагато меншою кількістю екологічних перешкод, ніж наземні рої. У відкритому океані гілки дерев не затінять корабель противника. Аналогічно, військові судна можуть більш легко відзначатися окремо від цивільних суден через дуже різні конструкції і наявності великих систем зброї. Проте, відносна легкість дискримінації є лише відносною, і це досі є серйозною проблемою для вирішення.

Деякі держави можуть вирішити не розробляти таку зброю через практичні труднощі або з етичних причин; однак слід припустити, що не всі. Від бомбардування Дрездена до застосування сирійським урядом хімічної зброї та різних геноцидів у Африці багато держав вирішили не турбуватися про жертви серед цивільного населення у досягненні своїх військових цілей. Ірак навіть прагнув до цього в якості стратегічної мети: перелякане населення представляє меншу загрозу для режиму. Так само, як АК-47 поширюється у нестабільних регіонах по всьому світу, чому ж не автономні безпілотники?

Що наразі?

США повинні обмежити розповсюдження збройних, повністю автономних безпілотників, встановити норми проти їх використання, серйозно розглянути військову силу, якщо вони будуть використані, та підготувати американських військових до можливості конфлікту. Зокрема, США повинні розглянути кілька кроків.

По-перше, уряд США може офіційно висловити свою позицію, що AFADS слід розглядати як ЗМЗ. Широке визнання допоможе розробити міжнародні норми проти AFADS і сприятиме обговоренню істотних відповідей. Зокрема, Сполучені Штати повинні зайняти позицію, згідно з якою AFADS підпадають під дію Договору по морському дну і Договору по космосу. Заборона AFADS на використання в космічному просторі і на морському дні може мати другорядні переваги для національної безпеки, такі як зниження ризику від роїв безпілотників до ядерних сил, що базуються у морі.

По-друге, Сполучені Штати повинні розширити сферу діяльності організацій по боротьбі зі ЗМЗ. Сполучені Штати повинні оцінити, чи повинні урядові організації та міжнародні організації, що займаються протидією ЗМЗ, включати AFADS. Оскільки AFADS як і раніше представляють собою нову загрозу, початкові зусилля повинні бути спрямовані на запобігання виникненню і нерозповсюдження. Основну увагу слід приділяти кодифікації норм проти використання у міжнародних договорах, розширенню режимів експортного контролю для включення AFADS і розробці політики покарання для порушників. Бюро з міжнародної безпеки і нерозповсюдження при Державному департаменті та Бюро по промисловості і безпеки при Міністерстві торгівлі, ймовірно, будуть ключовими учасниками.

По-третє, Вашингтон повинен вивчити методи перевірки і довіри. Перевірка використання AFADS, ймовірно, буде дуже складною, оскільки один ключовий аспект — повна автономія — існує в основному в коді. Різноманітні пропозиції були розроблені для вирішення цієї проблеми з автономною зброєю в цілому, і вони можуть бути застосовні до роїв. Наприклад, держави можуть розробити системи управління, що вимагають аутентифікації оператора, дозволів на запуск з повітряним зазором і обміну інформацією про методи забезпечення безпечної роботи. Зусилля по виявленню і розробці ефективних методів повинні вживатися у співпраці з іншими урядами.

Нарешті, Сполучені Штати і більш широке міжнародне співтовариство повинні обговорити, чи є використання AFADS достатнім для того, щоб заслужити військове втручання в конфлікт. Ці дебати повинні бути зосереджені на масштабах використання і характері мети (військові проти цивільних). Використання роя з десяти тисяч дронів на цивільне населення може заслуговувати втручання, але використання рою з двох дронів проти військової бази під час триваючого конфлікту, ймовірно, не повинно. Встановлення точного порогу, ймовірно, буде неможливим; зрештою, штати можуть визначати сценарії і загальні фактори, які підтримали б або відхилили втручання. Держави повинні також розглянути варіанти нижче рівня військової сили (наприклад, санкції) і співпрацювати з спільнотою міжнародного гуманітарного права для визначення існуючих правових рамок, спрямованих на обмеження зброї, що завдає надмірної шкоди цивільному населенню.

Технологія рою дронів, особливо самонавідних, саморухомих роїв дронів, пов’язана зі значним ризиком для глобальної безпеки. Нездатність розробити міжнародні норми, підкріплені надійною політикою, для запобігання виникненню і протидії виникненню AFADS створює ризик для менш захищених Сполучених Штатів і набагато більш небезпечного світу.

Автор:
Захарі Калленборн є старшим консультантом в групі ABS, що спеціалізується на безпілотних системах (роях), тероризмі із застосуванням зброї масового знищення і широкомасштабної війни зі застосуванням зброї масового знищення. Його дослідження публікувалися в «Огляді нерозповсюдження», «Дослідження з конфліктів і тероризму», «Війні на скелях», «DefenseOne» та інших виданнях. Його останнє дослідження «Чи є Drone Swarms зброєю масового знищення?» вивчає, чи слід вважати рої безпілотників ЗМЗ та їх здатність виконувати традиційні функції ЗМЗ.

, ,

Добавить комментарий

Войти с помощью: 

Ваш адрес email не будет опубликован.

Этот сайт использует Akismet для борьбы со спамом. Узнайте как обрабатываются ваши данные комментариев.

UkrNET - поисково-информационный ресурс