Клин клином: Facebook будет бороться с подделками, создавая собственные

Клин клином: Facebook будет бороться с подделками, создавая собственные

Для решения проблемы создания алгоритмически сгенерированных видеороликов, так называемых Deepfake, Facebook совместно с Microsoft и семью академическими учреждениями США с конца этого года до весны 2020-го проведет конкурс Deepfake Detection Challenge, на организацию которого корпорация выделила десять миллионов долларов.

Его цель – разработка методики для обнаружения мошенников и предотвращения ситуаций, когда людей вводят в заблуждение. Победителей выберет специальный механизм, который оценит и сравнит эффективность алгоритмов разных команд. Авторы лучших решений получат гранты и призы.

«Такая технология позволит каждому определить, когда ИИ использовался для изменения видео», – отметил технический директор Facebook Майк Шропфер .

Однако обучить алгоритм отбирать выделенные видеоролики – непростая задача, поскольку для этого требуются массивные наборы данных этих подделок. Поэтому гигант социальных сетей решил пригласить платных актеров для создания библиотеки фальшивых видео, используя которую  алгоритмы смогут обучаться и совершенствоваться. На этот шаг компания Facebook вынуждена была пойти в связи с угрожающими масштабами распространения таких видео на платформе.

Технология манипулирования изображениями и видео развивается невиданными темпами, нынешние возможности, позволяющие отличить реальное от подделки, уже не справляются с поставленной задачей. Более того, прорыв в исследованиях, связанных с искусственным интеллектом и машинным обучением, сделал процесс создания глубоких подделок более дешевым и легким – теперь каждый может делать собственные поддельные видеоролики. И, что настораживает, их становится все труднее распознать. Фальшивые новости сегодня выходят на совершенно новый уровень убеждения. Ведь одно дело – читать сфабрикованную историю о несуществующем событии, и совсем другое – наблюдать, как реальные люди, например, политики, делают и говорят вымышленные вещи, в итоге, поставив под сомнение законность информации, которую вы видите в Интернете.

AI Foundation – организация, продвигающая ответственное использование AI, в прошлом году запустила инструмент  Reality Defender для выявления гиперреалистичных фальшивых видео.

На прошлой неделе приложение Zao стало лидером по скачиванию в App Store на территории Китая. Его создатели предложили пользователям превратиться в кинозвезд, помещая свои лица в любой отрывок популярного фильма или видеоролика. Эксперты высказали опасения о том, что это может привести к распространению дезинформации в сети, а также нашли угрозу персональным данным пользователей.

Оставьте свой комментарий