По мере приближения президентских выборов в США усиливаются опасения по поводу влияния искусственного интеллекта (ИИ) и технологии фейков на выборный процесс.
Подделками называются очень убедительные и обманчивые цифровые материалы — как правило, видео, аудиозаписи или изображения, которые всё чаще создаются с помощью искусственного интеллекта и часто используются в целях введения в заблуждение или мошенничества.
Эксперты в области ИИ и обнаружения фальшивок рассказали The Epoch Times о проблемах, связанных с ложной информацией, в том числе генерируемой ИИ, и о мерах, принимаемых для борьбы с этим.
Риджул Гупта, соучредитель и генеральный директор компании DeepMedia_AI, подчеркнул тревожный рост числа дипфейков и их влияние на выборы 2024 года.
«В 2024 году будут проведены выборы с применением технологии глубокой фальсификации, чего не было на предыдущих выборах, — сказал он. — Она станет распространённой только в 2024 году, и это связано с доступом к ней. Базовые версии этой технологии существовали и в 2020 году, но их качество было недостаточно высоким, чтобы обмануть людей. Люди могли определить, что это подделка».
По словам Гупты, качество улучшилось в 2022 году и продолжает расти ежемесячно. Контент становится настолько качественным, что обычный человек, увидев или услышав его на TikTok или YouTube, будет уверен, что он настоящий.
«Они не ищут подделку, — сказал он. — Они не пытаются определить, что это подделка. Для них это звучит реально, поэтому они просто принимают это за реальность. Но последнее, что необходимо для того, чтобы это действительно стало массовой проблемой, — это доступ. Поэтому первым препятствием было качество, и оно было достигнуто только в прошлом году. Вторым препятствием стал доступ».
Теперь, говорит Гупта, инструменты доступны в интернете для широких масс, и, как правило, бесплатно.
«В большинстве случаев вам даже не нужна кредитная карта, и вы можете создать глубокую подделку любого человека всего за пять секунд, — сказал он. — Вот что является новым. Это то, что произошло за последние несколько месяцев, и именно поэтому 2024 год станет выборами глубоких подделок».
«Это проблема, которая не даёт мне спать по ночам», — сказал Гупта.
«Это одна из основных причин, по которой я основал компанию DeepMedia, — быть лидером в борьбе с дезинформацией и ложным информированием. Около шести лет назад я увидел надпись на стене. Я увидел будущее, в котором люди не смогут отличить, что настоящее, а что ложное».
Обнаружение подделок
Для борьбы с растущей угрозой подделок партнёр Гупты Эмма Браун, соучредитель и главный операционный директор компании DeepMedia, подчеркнула важность точных и масштабируемых методов обнаружения.
Компания DeepMedia разработала передовые и интеллектуальные средства обнаружения подделок, которые были проверены правительством США и компаниями по всему миру.
Браун отметила, что DeepMedia обладает самыми точными в мире возможностями обнаружения подделок по лицу и голосу, что обеспечивает надёжную идентификацию контента, созданного искусственным интеллектом.
Ещё одним важным для компании фактором является масштабируемость. По её словам, DeepMedia способна ежедневно обрабатывать огромное количество видеоматериалов, что позволяет быстро выявлять подделки в больших по объёму данных.
В-третьих, надёжность платформы DeepMedia обеспечивает такие передовые функции, как точная категоризация контента, позволяющая пользователям извлекать конкретную информацию из контента, созданного искусственным интеллектом.
«Мы активно участвуем в обеспечении безопасности наших выборов в преддверии угроз со стороны ИИ», — сказала Браун.
Расширение возможностей общественности
Признавая необходимость привлечения общественности к борьбе с дезинформацией, генерируемой ИИ, компания DeepMedia недавно бесплатно предоставила свои возможности по обнаружению фальшивок на сайте X, ранее известном как Twitter.
По словам Гупты, пользователи могут отметить @DeepMedia и добавить хештег #DeepID к любому медиаконтенту, и бот DeepMedia в Twitter оперативно пропустит контент через свою систему обнаружения подделок и быстро предоставит результаты.
«Мы надеемся, что это позволит рядовым пользователям и журналистам получить необходимые инструменты для защиты от дезинформации ИИ», — сказал он.
Это значительный шаг на пути демократизации борьбы с дезинформацией и ложным информированием под управлением ИИ.
«Президентские выборы 2024 года в США станут критической проверкой способности бороться с влиянием фальшивок на общественное восприятие и результаты выборов».
Гупта подчеркнул, что проблема выходит за рамки технических решений, и призвал людей сохранять бдительность и информированность.
«Слияние ИИ и выборов требует нашего коллективного внимания и действий по защите целостности демократических процессов», — сказал он.
Отвечая на вопрос о том, были ли уже замечены искусственный интеллект или глубокие подделки в избирательном цикле 2024 года, Браун сказала, что это было лишь в нескольких случаях, которые не получили большого распространения.
В одном из фейковых видеороликов Хиллари Клинтон якобы одобряла кандидата в президенты, губернатора Рона ДеСантиса.
«Это была полная подделка, и наши детекторы смогли обнаружить её с высокой степенью точности, — сказала Браун. — Но подобные случаи могут нанести ущерб кампании ДеСантиса».
«Поэтому мы будем наблюдать их всё чаще и чаще, особенно по мере того, как освещение избирательного сезона будет набирать обороты».
Доверять своим источникам
Компания Conversica работает в области ИИ с 2007 года. Генеральный директор компании Джим Каскейд предложил уникальный взгляд на роль ИИ в выборах 2024 года.
«Нами движет позитивная цель и полезный аспект прикладного ИИ», — сказал он.
Технологии ИИ при продуманном использовании могут способствовать улучшению избирательного процесса, отметил он.
ИИ может стать благой силой на выборах, считает Каскейд. Инструменты на базе ИИ могут улучшить коммуникацию, дать ценные сведения о предпочтениях избирателей и оптимизировать работу избирательных кампаний. По его словам, необходимо найти баланс между использованием ИИ в положительных целях и защитой от злоупотреблений.
Он подчеркнул необходимость этичного использования контента, генерируемого ИИ, в политическом дискурсе и бдительности в обеспечении подлинности информации в избирательном контексте, что подчёркивает важность доверия к источникам в эпоху контента, генерируемого ИИ.
«Я думаю, что это просто фундаментально. Вы должны изучить свой источник».
Он признал, что, хотя технологии ещё не в полной мере позволяют отличить настоящий контент от фальшивого, всё же можно проявлять осторожность, оценивая достоверность источников, предоставляющих информацию.
Проблема фальсификаций в 2024 году
Проблема фальсификаций на выборах 2024 года многогранна. Благодаря стремительному развитию технологий искусственного интеллекта, злоумышленники могут легко создавать очень убедительные фальшивки, включая видео, аудиозаписи и изображения, для манипулирования общественным мнением.
Это представляет серьёзную угрозу подрыва доверия к политическим кандидатам и институтам.
Эксперты считают, что для борьбы с вредоносным использованием ИИ необходимы коллективные усилия правительств, технологических компаний и общества в целом по повышению осведомлённости, развитию цифровой грамотности и принятию нормативных актов.
Каскейд призвал кандидатов, участвующих в предвыборной гонке, предложить политику и нормативные акты в отношении ИИ, которые обеспечивали бы его использование с пользой для общества, а не во вред, и не вносили бы раскол.
Избиратели и граждане также должны быть в курсе событий, связанных с фальсификацией и развитием ИИ, и знать, как защитить себя, используя навыки аналитического мышления и критически оценивая информацию, с которой они сталкиваются в интернете.
__________
Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times Russia в Telegram
