Системное соперничество: демократии и цифровые авторитаризмы

Искусственный интеллект (ИИ) может по-прежнему иметь потенциал для решения некоторых из наиболее трудноразрешимых мировых проблем и помощи в достижении Целей устойчивого развития (ЦУР) ООН, но когда дело доходит до рисков для конфиденциальности и гражданских свобод, ИИ уже изменил правила игры в пользу авторитарных государств, сообщает justsecurity.

Инструменты на базе искусственного интеллекта обострили все ранее существовавшие формы репрессий, включая массовую и целевую слежку, цензуру и распространение пропаганды.

Вопреки первоначальным ожиданиям, что репрессивные государства не смогут контролировать открытый Интернет, ИИ обеспечил совершенно новый уровень государственного контроля над коммуникационной инфраструктурой и информационным пространством.

Его технологические преимущества включают масштабируемую способность сканировать запрещенный контент и отфильтровывать несогласные мнения.

В другом направлении – производстве идей – автократы обрели новую способность контролировать общественные нарративы и формировать гражданский дискурс с помощью генерируемого ИИ и усиленного контента.

Новые инструменты социальной инженерии, такие как китайская система социального кредита, формируют мотивацию и поведение граждан.

Помимо нарушения неприкосновенности частной жизни и гражданских свобод, эти системы могут в значительной степени уничтожить человеческую свободу действий и человеческое достоинство.

Более серьезная угроза, которую представляют все эти технологии на базе ИИ, заключается в том, что они способствуют распространению цифрового авторитаризма: всеобъемлющей техносоциальной системы и модели управления, которая предполагает контроль и безопасность государства, а не свободу и безопасность граждан.

Вместо того, чтобы рассматривать проблему как серию отдельных приложений, используемых для подавления, демократии должны смотреть на цифровой авторитаризм через призму системного соперничества и осознавать, что они сталкиваются с конкуренцией со стороны мощной репрессивной модели управления, распространяющейся по всему миру.

Эта модель распространяется различными способами. Это, безусловно, она включает распространение технологии, но также включает распространение ценностей, норм и концепций, связанных с надлежащим использованием и ограничениями технологии.

Авторитарная модель также распространяется через пропаганду и экономическое принуждение, иногда называемое «жесткой силой», и даже через согласованные усилия по влиянию на органы, устанавливающие технические стандарты, где репрессивный потенциал может быть встроен в технические протоколы будущего. Эти элементы обычно идут в комплекте.

Китай как модель цифрового авторитаризма

Ярчайшим примером цифрового авторитаризма является китайская версия, которая проявляет глобальное влияние на нескольких уровнях. Во-первых, Китай стал образцом внутренних репрессий, основанных на искусственном интеллекте, с резко возросшими возможностями наблюдения в их собственных «умных городах» и контролем на уровне паноптикумов в регионах, считающихся «угрозами безопасности», таких как Синьцзян.

Они продемонстрировали потрясающе эффективный контроль над внутренней информационной сферой и способность управлять поведением граждан с помощью мощных стимулов, встроенных в их систему социального кредитования.

Китай также продвигает разработку суверенной цифровой валюты, которая существенно усилит их репрессивные возможности у себя дома.

Во-вторых, Китай экспортирует эти репрессивные возможности и нормализует их использование по всему миру. Посредством более широких инициатив в области экономической торговли и развития, таких как “Пояс, один путь” и “Цифровой шелковый путь”, Китай построил целые системы инфраструктуры, с помощью которых он получил рычаги воздействия на хрупкие государства, которые продлятся ближайшие десятилетия, а также новые источники данных, которые может быть втянуты в Пекин.

В-третьих, Китай формирует дебаты на международной нормативной арене, наводняя зону многосторонней дипломатии, связанной с технологиями. Их защита оказалась очень эффективной в нормативных органах, таких как Совет ООН по правам человека, где Китай склонил большинство делегаций поддержать их репрессивное использование технологий в Гонконге и Синьцзяне.

Они также продемонстрировали способность оказывать влияние на органы, устанавливающие технические стандарты, такие как Международная телекоммуникационная отрасль (ITU), где устанавливаются стандарты совместимости на будущее. Их цель состояла в том, чтобы продвинуть предпочтительные протоколы Китая в качестве глобального стандарта по умолчанию для Интернета вещей (IOT) и других новых технологий.

В-четвертых, на мировом рынке идей Китай распространяет пропаганду слабости демократии, используя так называемых дипломатов «волков-воинов», которые агрессивно атакуют авторитет демократий, особенно США, их единственного соперника-сверхдержавы.

Китай также продвинул концепции управления Интернетом, такие как «киберсуверенитет», который, по сути, является обновленной версией давней авторитарной позиции, согласно которой репрессии в суверенных, а теперь и киберграницах не должны подвергаться критике со стороны внешних субъектов на основе международного права и принципов в области прав человека.

Наконец, мы не можем игнорировать тот факт, что растущее глобальное влияние Китая началось с массивных стратегических инвестиций в новые технологии.

Китай очень рано осознал, что доминирование в технологиях приведет к усилению власти в других сферах – военной, экономической, геополитической, нормативной.

Коммунистическая партия Китая публично заявила о своем намерении выиграть гонку искусственного интеллекта против США к 2030 году и сделала серьезные инвестиции в другие развивающиеся технологии, такие как квантовые вычисления.

Их нынешнее стремление первыми разработать суверенную цифровую валюту является еще одним проявлением их глубокого понимания связи между технологической известностью и мировой властью.

Итог: китайское правительство ставит перед собой задачу переделать глобальный порядок 21 века по своему собственному имиджу и в соответствии со своими репрессивными ценностями. Демократическим правительствам и заинтересованным сторонам необходимо признать экзистенциальную угрозу, исходящую от этой конкурирующей цифровой авторитарной модели.

Решения: как бороться с авторитарной цифровой моделью

Демократические заинтересованные стороны должны преодолеть опасения по поводу масштабов и сложности угрозы и перейти к практическим действиям. В качестве первого шага мы должны осознать, что ничем нельзя победить что-то. В то время как сторонники авторитаризма извлекли выгоду из искусственного интеллекта и цифровых технологий для подавления и контроля, демократические правительства были застигнуты врасплох и не имели убедительного альтернативного видения цифрового общества, отражающего демократические ценности. Это две стороны одной и той же проблемы: без активного демократического плана мы беззащитны перед энергичным цифровым авторитарным подходом.

По общему признанию, оцифровка и порожденные ею системы искусственного интеллекта резко изменили контекст, в котором должны действовать демократии и защищать права человека. Но пора демократическим лидерам осознать эту реальность и активно включиться в эту радикально изменившуюся цифровую среду с подходом, основанным на правах человека.

Агрессивное распространение авторитарных заявлений, концепций и практик должно встретить более привлекательную демократическую альтернативу. Фактически, хорошее нападение будет нашей лучшей защитой.

Самые многообещающие рецепты делятся на три группы действий.

1. Разработка и демонстрация демократической модели цифрового ограничения дома

Во-первых, демократии должны привести в порядок свою собственную политику и практику в области цифровых технологий. Когда дело доходит до использования правительством данных и цифровых инструментов, а не об активном лидерстве, основанном на ценностях, мы стали свидетелями бессознательного дрейфа к неограниченному доступу к данным и неконтролируемым действиям, которые нарушают частную жизнь и гражданские свободы и подрывают верховенство закона.

Значительная часть этой проблемы заключается в недостаточном признании в рамках правительства или частного сектора центральной роли частной жизни в осуществлении всех основных свобод. Кроме того, процессуальные принципы необходимости, соразмерности и законности, которые являются важнейшими чертами существующей рамки в области прав человека и служат основой для оценки законности нарушений основных прав, игнорируются, главным образом, в правоприменительной и надзорной практике.

Проще говоря, демократические правительства не разработали адекватных институциональных ограничений на свое собственное использование данных и инструментов ИИ, чтобы в достаточной степени отличать свою практику от практики авторитарных.

Аналогичным образом, когда дело доходит до регулятивных усилий по борьбе с «вредным» онлайн-контентом, многие демократические государства рассматривают требования к сканированию и фильтрации ИИ как серебряную пулю, не оценивая необходимость и эффективность этих инструментов или соразмерность ущемления свободы возможностям. вред, который они стремятся предотвратить.

Несовершенные правила платформы, принятые демократиями, копируются непосредственно в авторитарных условиях, что ведет к понижательной глобальной спирали в отношении основных обязательств по свободному выражению мнений и доступу к информации.

Эта тенденция свидетельствует о том, что практика и регулятивные подходы, на которые опираются демократии в своих внутренних контекстах, оказывают значительное непреднамеренное воздействие на глобальные нормы.

Демократические правительства должны понять, насколько важное значение в условиях глобализации цифровой среды имеет приверженность верховенству права и принципам процесса необходимости и соразмерности.

Чтобы решить эту проблему, демократические правительства должны разработать и внедрить процессы оценки воздействия на права человека – со встроенными оценками необходимости, соразмерности и законности – для своих собственных закупок, использования и регулирования данных, платформ и инструментов на базе искусственного интеллекта.

Учитывая значительное влияние, которое оказывают технологические компании частного сектора на осуществление основных прав (особенно права на неприкосновенность частной жизни, свободу выражения мнений, свободу собраний и ассоциаций и право на демократическое участие), демократические правительства должны также обязать компании частного сектора проводить оценки воздействия на права человека при разработке и развертывании продуктов и услуг.

2. Практикуйте лидерство в международной технической дипломатии и установлении стандартов:

Во-вторых, демократии должны подтвердить лидерство на международной арене, где установлены кибер-нормы, технические стандарты и процессы управления. Это арены, на которых разыгрывается системное соперничество. В то время как авторитаристы наводнили зону многосторонней кибердипломатии и международной технологической политики, демократии отошли от лидерства из-за отсутствия у них ясности в отношении того, что влечет за собой соблюдение законов и принципов прав человека в цифровом контексте.

Существенный момент: нам не нужны новые принципы. Скорее, нам нужно укрепить уверенность в неизменной актуальности и применимости существующих рамок международного права прав человека, которые признаны во всем мире и имеют статус международного права.

Тем не менее, нам действительно необходимо провести тяжелую работу по формулированию того, как на практике придерживаться нашей существующей международной системы прав человека в радикально изменившемся цифровом контексте.

Необходимо инициировать глобальный процесс с участием многих заинтересованных сторон для разрешения разногласий между демократическими участниками относительно легитимности различных методов обработки данных, правил платформ и приложений инструментов на базе ИИ.

Восстановление демократического альянса на основе общего понимания того, как соблюдать нормы международного законодательства в правах человека в цифровом обществе, следует рассматривать как стратегический приоритет наравне с кибербезопасностью и более традиционными измерениями национальной безопасности.

3. Инвестируйте в технологические инновации как средство продвижения демократических ценностей.

И последнее, но не менее важное: демократии должны признать, что нормативное лидерство и технологическое лидерство идут рука об руку.

Если наша цель – распространение демократических ценностей, а не авторитарных норм, мы должны возглавить технологические инновации, особенно в области искусственного интеллекта и квантовых вычислений.

Доминирование в этих сферах перерастет в рычаги влияния и влияние в нормативных сферах и органах, устанавливающих технические стандарты.

Кроме того, нам необходимо гораздо более активно экспортировать демократическую цифровую инфраструктуру в рамках наших программ помощи в торговле и экономическом развитии, а не уступать возможность Китаю внедрять ценности в цифровую инфраструктуру в развивающемся мире.

* * *

Таким образом, внутренняя практика, международные нормы, технологические инновации и стандарты тесно связаны с системами цифрового управления. Сила цифровой авторитарной модели проистекает из того факта, что эти элементы работают в тандеме. Демократии должны признать эту взаимозависимость и продемонстрировать лидерство во всех трех сферах одновременно и скоординированно.

Технологические практики, которые мы демонстрируем в нашем национальном контексте, нормы, которые мы отстаиваем на международных технических форумах, и инвестиции, которые мы делаем в новые технологии и демократическую информационную инфраструктуру, будут взаимно усиливать друг друга. Если этот сложный комплекс задач будет охвачен и решен с чувством безотлагательности и цели, которой он заслуживает, процветающее, безопасное демократическое будущее может быть укреплено. Это основные элементы, на основе которых мы можем построить демократическое цифровое общество.