Zao: лучшая реализация Deepfake или еще один способ кражи конфиденциальных данных

Zao: лучшая реализация Deepfake или еще один способ кражи конфиденциальных данных

Новое бесплатное приложение Zao для замены лиц в сценах сотен фильмов и телешоу мгновенно стало вирусным, возглавив рейтинг приложений для  iOS в китайском магазине App Store. Однако восторг от возможности стать киногероем или суперзвездой быстро сменился негодованием, когда было обнаружено вопиющее нарушение конфиденциальности.

Как сообщает Bloomberg, разработчиком Zao является Changsha Shenduronghe Network Technology – дочернее подразделение китайской компании Momo, владеющей социальной сетью и сервисом потокового вещания.

Основанное на технологии искусственного интеллекта Deepfake (глубинное обучение), приложение позволяет за считанные минуты поменяться местами с такими звездами, как Мэрилин Монро (Marilyn Monroe), Джим Парсонс (James Parsons) в фильме «Теория большого взрыва» или Леонардо Ди Каприо (Leonardo Dicaprio). Для этого достаточно ввести свой номер телефона и загрузить фотографию.

Уникальные способности Zao по созданию супер реалистичного поддельного видео продемонстрировал в своем Twitter Аллан Ся (Allan Xia), опубликовав 30-секундный ролик со своим изображением вместо лица Ди Каприо в нескольких сценах известных фильмов.

«Это лучшая реализация Deepfake, которую я когда-либо видел. Приложению понадобилось меньше восьми секунд, чтобы превратить меня в Ди Каприо, используя всего одну небольшую фотографию», – написал Аллан.

Максимальной реалистичности глубокой подделки можно добиться, если загрузить несколько селфи с открытыми/закрытыми глазами и ртом, отмечается в публикации Bloomberg.

По словам Ся, Zao предлагает ограниченное количество клипов, в которые можно вставить свое лицо. Вероятней всего, разработчик использует определенный набор видео для обучения ИИ-алгоритма.

Zao – далеко не первое приложение для создания deepfake-подделок. Snapchat,  StyleGAN от Nvidia, FaceApp от российской компании Wireless Lab или технология для превращения фотографии в поющий портрет, разработанная британским исследовательским центром Samsung, позволяет создавать потрясающие визуальные эффекты.

Уникальность Zao заключается в том, что приложение не анимирует отдельно фотографию, а вставляет изображение в существующее видео, демонстрируя невероятную скорость развития технологии.

Между тем, звездный час китайского приложения длился недолго. Через сутки после запуска App Store накрыла волна негативных отзывов пользователей Zao с обвинениями в нарушении конфиденциальности.

Дело в том, что пользовательское соглашение предусматривает неограниченное право разработчика на использование загружаемого контента. Китайский исследовательский центр электронной коммерции призвал власти  принять меры по отношению к компании, которая «нарушает установленные в стране законы и стандарты».

Разработчики Zao немедленно отреагировали на критику, заявив, что в дальнейшем фотографии и видео будут использоваться исключительно для улучшения функционала приложения и только после согласия пользователей. Также компания пообещала удалять загруженный контент с сервера, как только он будет удален пользователем из приложения.

Внести изменения в свою политику пришлось и создателям FaceApp – приложения, которое дважды становилось вирусным с периодичностью в два года.  В июле оно снова вернулось в ТОП App Store благодаря новой функции «состаривания» лиц.

После  того, как выяснилось, что FaceApp загружает изображения из галереи смартфона при установленном запрете на доступ, разработчики были вынуждены предоставить пользователям возможность удаления своих фотографий с сервера.

Deepfake-подделки в последнее время вызывают множество споров. Особенно обеспокоены потенциальным использованием технологии для геополитического саботажа и распространения фейковых новостей американские политики накануне президентских выборов в США.

Обычные люди также начинают осознавать риски, связанные с предоставлением личных фотографий, и необходимость в обеспечении конфиденциальности.

Оставьте свой комментарий