Искусственный интеллект и 5G могут обойтись слишком дорого. И речь не столько о деньгах

Как заявил в 2018 году китайский эксперт по искусственному интеллекту (ИИ) Кай-фу Ли, сегодня данные — это нефть, а Китай — это Саудовская Аравия.

С коммерческой точки зрения, бенефициарами данных являются Baidu, Alibaba и Tencent — китайские эквиваленты Google, Amazon и Facebook, которые передают их в массивную платформу искусственного интеллекта. А она поддерживает алгоритмы, чтобы клиенты возвращались снова и снова, заявляет Роберт Сполдинг, эксперт по национальной безопасности и бригадный генерал ВВС США в отставке.

«Алгоритмы, которые заставляют людей возвращаться за покупками, это те же самые алгоритмы, которые можно использовать, чтобы заставить их полюбить Коммунистическую партию Китая [КПК]», — сказал в интервью The Epoch Times Сполдинг, автор книги «Стелс-война: как Китай победил Америку, пока она спала».

«Это очень мощный способ влиять на людей. В Amazon Prime знают, как заставить вас покупать больше вещей, поэтому с помощью той же психологии они [КПК] заставляют вас больше любить их или по крайней мере больше любить их идеи».

Мировое господство

Поскольку КПК стремится расширить своё влияние за пределы Китая, понимание того, как думают жители Запада, имеет для неё большую ценность. Собирая данные, КПК может научиться «систематически мотивировать [вас], когда вы хороший гражданин, и сдерживать, когда вы плохой гражданин», — сказал Сполдинг.

Эта идея составляет основу китайской «системы социального кредита», которую Саманта Хоффман из Австралийского института стратегической политики описывает как «использование сбора и анализа больших данных для мониторинга, формирования и оценки поведения в рамках экономических и социальных процессов».

«Чтобы система функционировала, она должна предусматривать наказания за действия, выходящие за рамки установленных поведенческих границ, и преимущества, чтобы стимулировать людей и организации к добровольному подчинению или по крайней мере сделать участие единственным рациональным выбором», — написала Хоффман в отчёте за 2018 год, озаглавленном «Технологически усовершенствованный авторитарный контроль с глобальными последствиями». 

На экране показаны посетители, которых снимают камеры видеонаблюдения с искусственным интеллектом и технологией распознавания лиц на 14-й Китайской международной выставке общественной безопасности в Пекине 24 октября 2018 г. NICOLAS ASFOURI / AFP / Getty Images

«Так что подумайте об этом так, — сказал Сполдинг. — Скажем, например, вы используете WeChat в Китае и говорите, что Си Цзиньпин великолепен, у Си Цзиньпина есть замечательные идеи. Затем вы замечаете, что чем больше вы так делаете, тем дешевле ваши продукты… тем дешевле ваши авиабилеты, ваша обувь, а если вы критикуете, цены будут выше».

Это мощная форма принуждения к соблюдению линии партии.

Система личного социального кредита всё ещё находится в стадии разработки с различными пилотными программами по всему Китаю, но она имеет большой потенциал вкупе с китайской системой массового наблюдения, получившей название «Скайнет», для отслеживания и ранжирования поведения граждан.

«»1984 год» оживает», — сказал Сполдинг, имея в виду антиутопический роман Джорджа Оруэлла о тоталитарном режиме, который следит за своими гражданами день и ночь, чтобы обеспечить соответствие партийной идеологии. 

Логотип китайского приложения для обмена мгновенными сообщениями WeChat на экране планшета, 24 июля 2019 г. Martin Bureau / AFP / Getty Images

Китайский коммунистический режим запрещает почти все международные социальные сети и коммуникационные платформы, вместо этого поощряя разработку отечественных эквивалентов, таких как WeChat (китайский аналог Facebook, и др.). Использование WeChat практически обязательно в Китае, так как в приложение интегрированы такие услуги, как банковское дело, путешествия, покупки и общение.

По мере расширения использования приложения за пределами Китая растёт и слежка, и потенциал влияния.

Опасения по поводу конфиденциальности и безопасности

Наблюдения Сполдинга сделаны в связи с опасениями Запада по поводу безопасности использования китайских приложений. Прежде всего TikTok, популярного приложения для коротких видео, которое принадлежит базирующемуся в Пекине интернет-гиганту ByteDance Technology Co.

TikTok, как и все другие китайские компании, обязан сотрудничать со спецслужбами, когда их об этом просят, что является одной из причин, по которой Соединённые Штаты считают китайские коммуникационные приложения угрозой для национальной безопасности.

Эксперты по кибербезопасности также предупредили, что TikTok нельзя доверять.

Марк Грабовски, доцент, специализирующийся на киберправе и цифровой этике в Университете Адельфи, охарактеризовал TikTok как «вредоносное ПО китайского правительства, маскирующееся под приложение для социальных сетей».

Хотя сервер данных компании находится в Соединённых Штатах, компания Penetrum, занимающаяся кибербезопасностью, обнаружила, что приложение в значительной степени связано с китайскими серверами.

Женщина проходит мимо штаб-квартиры ByteDance, компании-учредителя приложения для обмена видео TikTok, в Пекине 16 сентября 2020 г. GREG BAKER/AFP через Getty Images

Манипуляции

Кертис Эллис, директор по политике некоммерческой организации America First Policies, предупредил в августе во время интервью American Thought Leaders о возможности сбора данных приложением TikTok.

«TikTok — это приложение для сбора данных, замаскированное под социальную сеть. Оно собирает информацию об имени пользователя, IP-адресе вашего телефона и всех компьютеров в вашей сети Wi-Fi», — сказал он.

Все эти данные могут быть введены в системы ИИ, чтобы понять, как люди ведут себя, вплоть до прогнозирования того, как они думают. Обладая этими знаниями, можно влиять на поведение людей, зачастую даже не осознавая, что это происходит.

«Это не просто сбор данных — это средство убеждения, — сказал Эллис. — Он использует искусственный интеллект для подачи отобранных видео пользователям, поэтому на ваше устройство загружаются видео, которые выбираются алгоритмами, написанными Коммунистической партией Китая».

Искусственный интеллект

По словам Сполдинга, главная проблема заключается в том, что Китай уже продвинулся вперёд в развитии искусственного интеллекта.

Этим занимаются связанные с государством и субсидируемые им технологические компании, такие как Baidu, Alibaba и Tencent — владелец WeChat.

Всё чаще устанавливаются камеры распознавания лиц. По словам Сполдинга, эта технология означает, что в будущем не понадобится подвергать телефон детальному наблюдению.

Сценарий «умного города» Сполдинг описывает так. Человек выходит из дома и произносит слово Uber — камеры снимают его лицо, читают по губам, и такси подъезжает. Таким образом, каждое движение отслеживается и может быть использовано против любого человека и общества в целом.

«Все эти данные, которые собираются и делают вашу жизнь более удобной, предназначены для того, чтобы они [КПК] поняли, кто вы как личность, каковы ваши убеждения и с кем вы взаимодействуете», — сказал Сполдинг.

«Как только у них появится представление о том, кто вы, они могут начать встраивать это в алгоритмы коммерческой деятельности, которая будет развиваться».

Тогда доступ к основным услугам, таким как здравоохранение, правительство и транспорт, может зависеть от их оценки вас как гражданина.

«Это то, что они [КПК] стремятся экспортировать, и они экспортируют это через свои глобальные экономические отношения с другими корпоративными клиентами, другими корпорациями за пределами их границ», — сказал Сполдинг.

5G и государство наблюдения

КПК активно инвестирует в разработку и развёртывание мобильных сетей 5G в странах по всему миру в рамках своей инициативы «Один пояс, один путь» и «Цифровой шёлковый путь» (Digital Silk Road).

5G обеспечит гораздо большую интеграцию технологий, где все виды электронных устройств, от зубных щёток до автомобилей без водителя, подключены к интернету и могут обмениваться данными друг с другом. И все их данные собираются.

Благодаря этой глобальной сети становится всё труднее избежать регистрации каждого движения и действия.

«Это ужасная вещь, не так ли? — говорит Сполдинг. — Сегодня вы можете выбросить свой телефон [чтобы вас не отследили]. Но когда построена сеть 5G, миллионы подключённых устройств на квадратную милю означают, что куда бы вы ни пошли, вас будут отслеживать, потому что это больше не ваш телефон, это город, построенный вокруг вас, он предназначен для отслеживания вас. Тогда вы ничего не сможете сделать».

Сполдинг отметил, что это пока невозможно в западных странах, потому что там отсутствует необходимая инфраструктура.

Синьцзян, автономный район на северо-западе Китая и его население, состоящее из этнических уйгуров, стали испытательным полигоном для такого рода высокотехнологичного государственного наблюдения, написал Росс Андерсен, заместитель редактора The Atlantic.

Две уйгурские женщины проходят через вход на рынок в Хотане в районе Синьцзян 31 мая 2019 г. GREG BAKER/AFP via Getty Images

Андерсен обрисовал положение, когда камеры расположены через каждые несколько кварталов, и есть несколько контрольно-пропускных пунктов, на каждом из которых фиксируются передвижения граждан.

Если кто-то хочет покинуть город, то должен пройти ещё одно сканирование лица и документов.

Обязательные телефонные приложения отслеживают онлайн-активность, включая покупки и разговоры. В рамках обязательной «проверки здоровья» берутся образцы крови и ДНК. Записываются голоса.

Даже потребление электроэнергии контролируется для выявления незаконно проживающих жителей. Отказ от социальных сетей также может вызвать подозрения.

По словам Андерсена, по мере совершенствования ИИ и роста баз данных такой вид проверки граждан можно легко автоматизировать.

Что делать?

Саманта Хоффман предложила западным странам пересмотреть исследовательское сотрудничество с Китаем и экспорт западных технологий, чтобы убедиться, что они не используются при разработке систем наблюдения.

Использование строгих законов о защите данных, которые должным образом регулируют конфиденциальность и порядок экспорта и использования личных данных за границей, также может противодействовать действиям китайской компартии.

Сполдинг назвал решение премьер-министра Великобритании Бориса Джонсона, принятое в июле, запретить, а затем удалить оборудование 5G Huawei из британской сети в течение следующих семи лет «очень позитивным».

Бригада работает на вышке сотовой связи, чтобы обновить её для работы с новой сетью 5G в Ореме, штат Юта, 10 декабря 2019 г. GEORGE FREY/AFP через Getty Images

По словам Сполдинга, единственный способ защитить демократическое население от потенциального шпионажа КПК — это предложить совершенно новое решение.

По его словам, такое решение и путь вперёд — это предоставление альтернативной и безопасной сети 5G, которая обеспечит конфиденциальность данных для конечных пользователей и, следовательно, защиту от опасности подрывной деятельности или контроля со стороны КПК.

Тогда у людей будет альтернатива и они смогут выбирать.

«Мы должны взять под свой контроль свою судьбу как свободные люди», — говорит Сполдинг.

«Мы не можем позволить корпоративным отношениям с Китаем или политическим отношениям правительства с Коммунистической партией Китая или финансовыми учреждениями влиять на наши демократические свободы. Мы должны взять на себя ответственность за свою судьбу».

Источник: The Epoch Times