Мелани Сиссон, старший научный сотрудник аналитического центра Брукингского института, и Тяньцзяо Цзян, доцент Фуданьского университета, совместно написали статью, которая была опубликована на прошлой неделе в преддверии переговоров между президентом Дональдом Трампом и председателем КНР Си Цзиньпином в Вашингтоне 24 сентября.
Эта пара участвовала в американо-китайском диалоге по вопросам ИИ и национальной безопасности, который с 2019 года проводится Центром международной безопасности и стратегии Брукингского института и Университета Цинхуа.
Сиссон и Цзян призвали США и Китай подготовиться к такому сценарию на фоне растущей обеспокоенности по поводу всё более мощных и автономных систем ИИ.
13 сентября генеральный директор компании Anthropic Дарио Амодей предположил, что США и Китай должны провести переговоры об ИИ, чтобы снизить риски «потенциального разрушения».
«Нам следует поговорить с китайцами и посмотреть, сможем ли мы вместе ограничить скорость развития этой технологии», — сказал Амодей, проведя параллель с переговорами о разоружении в области ядерного оружия между США и Советским Союзом во времена холодной войны.
Сиссон считает, что люди должны сохранять за собой исключительное право инициировать кибератаки с использованием ИИ на системы управления, контроля и связи ядерных сил других стран.
«Возможные катастрофические последствия»
«Преднамеренная кибератака с использованием искусственного интеллекта на NC3 другого государства [ядерное командование, контроль и связь] могла бы… инициировать военный кризис с возможными катастрофическими последствиями», — написала Сиссон, добавив, что возможна также непреднамеренная атака.
«Незапланированная атака всё ещё может быть вызвана человеческой ошибкой, техническими ограничениями моделей ИИ или действиями агентов ИИ, которые ведут себя так, как люди не ожидали».
Она также предупредила о другом сценарии.
«Злоумышленник может использовать кибервозможности на основе ИИ для проведения несанкционированной атаки».
«Соединённые Штаты и Китай не выработали общего подхода к регулированию ИИ в военной сфере», — пишет Сиссон.
«Однако это не означает, что они не заинтересованы в том, чтобы исключить возможность того, что некоторые военные применения ИИ нанесут ущерб гражданскому населению, поставят под угрозу общество и подорвут глобальную стабильность».
Цзян предложил установить «красные линии», чтобы ИИ не мог самостоятельно принимать решение о применении ядерного оружия, а также призвал США и Китай выработать общее определение понятия «значимый человеческий контроль».
Он также предложил создать военную горячую линию между двумя странами и заявил, что инцидент с воздушным шаром в 2023 году, когда американский военный сбил китайский разведывательный аэростат, дрейфовавший в сторону Атлантического океана, должен стать «тревожным сигналом».
«Без механизма горячей линии дроны и беспилотные суда, управляемые искусственным интеллектом, с большой вероятностью приведут к новым случайным эскалациям в будущем», — написал Цзян.
Сценарий «Дом динамита»
Сценарий, предложенный Сиссон и Тяньцзяо, похож на сюжет фильма «Дом динамита», вышедшего на Netflix в прошлом году. В фильме межконтинентальная баллистическая ракета с ядерной боеголовкой летит в Чикаго из какой-то точки в Тихом океане после того, как в результате кибератаки выходят из строя военные спутники, из-за чего США не могут достоверно определить, была ли ракета запущена Китаем или Северной Кореей, и ограничены в возможностях реагирования.
9 октября 2025 года некоммерческая организация Nuclear Threat Initiative, базирующаяся в Вашингтоне, опубликовала пост в блоге, в котором предположила, что сюжет фильма вполне реален и что необходимо усилить механизмы, «защищающие от киберугроз и других угроз, которые могут привести к несанкционированному, непреднамеренному или случайному применению ядерного оружия».
На этой неделе министр государственной безопасности Китая Чэнь Исинь написал в журнале China Cyberspace, что ИИ «кардинально меняет форму ведения военных действий».
По его словам, ИИ уже играет роль на поле боя, и в качестве примера он привёл удары, наносимые с помощью ИИ, во время текущего конфликта между США и Ираном.
Однако ранее на этой неделе официальный представитель Министерства иностранных дел Китая Го Цзякунь негативно отреагировал на эссе Амодея об угрозе, которую ИИ представляет для человечества.
«Нагнетание страха, конфронтация и ожесточённая конкуренция только помешают процессу глобального управления ИИ, что не отвечает ничьим интересам», — сказал Го.
Агентство Reuters участвовало в подготовке этого материала.
__________
Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times Russia в Telegram
