Министерство обороны США включается в борьбу с фейковым контентом

Министерство обороны США включается в борьбу с фейковым контентом

Министерство обороны США (DOD) запускает крупномасштабный проект, направленный на борьбу с распространением дезинформации, фейковых новостей и другого вирусного пропагандистского контента, представляющего угрозу национальной безопасности страны.

Инициатива Пентагона связана с растущими противоречиями в американском политическом истеблишменте. По словам представителя DOD, республиканское большинство в Конгрессе пытается препятствовать проведению честных президентских выборов 2020 года, поэтому департамент вынужден принять меры по противодействию «масштабным дезинформационным кибератакам и накатывающей лавине фальшивых новостей», мгновенно распространяющихся в популярных социальных сетях, таких как Google, Twitter и Facebook.

Республиканцы блокируют любые попытки американских властей противостоять хакерским атакам и наводнению интернета фейковыми новостями во время президентской гонки. Лидер большинства сенатор  Митч Макконнелл (Mitch McConnell) выступил против рассмотрения поправок в законодательство о безопасности выборов и назвал подобные инициативы «современным маккартизмом». Оппоненты обвинили Макконнелла в пособничестве России и нежелании защитить страну от внешнего вмешательства.

В рамках проекта Агентству передовых оборонных исследований DOD (Defense Advanced Research Projects Agency) поручено найти разработчика программного обеспечения для выявления подделок в более чем полумиллионе текстов, изображений, видео и аудиозаписей. В случае успешного четырехлетнего тестирования система может быть использована для обнаружения злонамеренных действий в интернете и сфабрикованных новостей, влияющих на формирование общественного мнения.

 «Еще десять лет назад реалистичные подделки считались научной фантастикой. Сегодня с помощью передовых технологий, таких как искусственный интеллект, можно создавать огромное количество фальшивого контента в минимальные сроки и мгновенно распространять его через соцсети. Нет оснований полагать, что темп развития инноваций в ближайшее время замедлится», – подчеркнул Эндрю Гротто (Andrew Grotto), эксперт Центра международной безопасности при Стэнфордском университете.

Факторы риска

Проблема внешнего вмешательства и распространения фейковых новостей через социальные сети стала особенно актуальной после президентских выборов в США 2016 года. Хотя Дональд Трамп (Donald Trump) неоднократно отвергал утверждения о том, что «сомнительный контент» на платформах Facebook, Twitter и Google помог ему победить, сторонники Хиллари Клинтон (Hillary Clinton) уверены, что именно поток дезинформации повлиял на результаты выборов.

По прогнозам аналитиков, 2020-2022 годы станут периодом наибольшей активизации информационных кибератак, поскольку политические события являются самой благоприятной средой для распространения клеветнических слухов о чиновниках и вымышленных новостей. При этом, обнаружить источник так называемых глубоких подделок, созданных с помощью технологии Deepfake, практически невозможно.  

«Главным фактором риска является использование социальных сетей для формирования общественного мнения и влияния на выборы. Инициатива DOD по созданию эффективной системы обнаружения сфабрикованного контента может частично решить проблему, однако, без законодательного контроля вряд ли удастся добиться желаемых результатов», – отметила Дженнифер Григил (Jennifer Grigil), доцент Сиракузского университета

Современные технологии на основе ИИ, такие как Deepfake, позволяют создавать максимально реалистичный фальшивый контент без специального оборудования, навыков и больших финансовых вложений. Для специалистов не составляет особого труда заменить лица в видеоролике, заставить политика или известную личность сказать и сделать что угодно.

ИИ-приложения широко используются для создания потрясающих визуальных эффектов в голливудских фильмах и видеоиграх. В то же время они стали популярным инструментом геополитического саботажа путем распространения фейковых новостей и фотореалистичной пропаганды.

«Особенно пугает перспектива объединения различных форм фальшивого контента в единую платформу. Злоумышленники уже сейчас могут создавать реалистичные поддельные видеоролики, генерировать любой текст и запускать чат-ботов для взаимодействия с людьми. Представьте себе потенциальную угрозу интеграции всех этих технологий в руках определенной группы влиятельных людей, занимающихся политической пропагандой», – сказал Гротто. 

Эксперты обеспокоены объемами сфабрикованного контента на популярных платформах социальных сетей. Согласно исследованиям, 20% публикаций на новостных сайтах являются фейками. При этом, более половины пользователей Facebook верят в их достоверность.

После президентских выборов в США 2016 года глава Facebook Марк Цукерберг (Mark Zuckerberg) назвал фальшивые новости вызовом для крупнейшей в мире социальной сети и пообещал приложить максимум усилий для борьбы с дезинформацией на платформе.

Среди последних инициатив Facebook – создание группы редакторов-журналистов,  отвечающих за модерацию новостной ленты и отбирающих самую актуальную проверенную информацию. Также компания планирует запустить специальный раздел новостей News Tab, где будут публиковаться материалы крупных онлайн-платформ и авторитетных изданий, таких как The New York Times, The Wall Street Journal, The Washington Post и The Atlantic.

Агентство передовых оборонных исследований надеется создать эффективную систему, способную обнаруживать фальшивый контент, прежде чем он станет вирусным. Она будет основана на комплексном наборе детекторов, которые смогут выявлять «семантические ошибки», такие как несимметричность лица, несоответствие украшений или деталей одежды, странные зубы, необычный фон и другие.

«Система должна существенно усложнить создание подделок, поскольку злоумышленникам придется корректировать каждую семантическую деталь. В то же время, экспертам по безопасности  достаточно обнаружить одно или несколько мелких несоответствий», – говорится в сообщении агентства.

Обучение и тестирование алгоритма будет проводиться на сканировании и анализе 250 тысяч новостных статей и 250 тысяч постов в социальных сетях, включая пять тысяч поддельных материалов. Проект рассчитан на четыре года, его планируется реализовать в три этапа. Также компания намерена проводить еженедельные хакатоны.

Параллельно агентство продолжит исследовательскую программу  MediFor, направленную на устранение технологических пробелов аутентификации изображений, поскольку ни одна существующая сквозная система не может выявить манипуляции с изображениями, снятыми цифровыми камерами и смартфонами.

Предстоящие президентские выборы в США, к сожалению, пройдут без задействования новой системы Министерства обороны США. Поэтому американским властям придется найти другие эффективные способы борьбы с дезинформацией.

Оставьте свой комментарий