L’application « Zao », dont son phonétique du caractère chinois « à créer », a été développée par Momo. Cette application utilise une technologie encore novatrice, qui suscite quelques inquiétudes.

ZAO permet aux utilisateurs de prétendre jouer dans des films à succès en téléchargeant des images sur l’application, qui crée ensuite des clips vidéo simulés à l’aide de l’apprentissage automatique.

Cette application est le dernier exemple de « deepfake ». Il s’agit d’un terme faisant référence à des vidéos manipulées ou à une autre représentation numérique produite par une intelligence artificielle sophistiquée qui produit des images et des sons apparemment réalistes, mais fabriqués.

Le développement rapide de cette technologie deepfake suscite des inquiétudes quant à la manière dont elle pourrait être utilisée, soit pour influencer les élections ou pour toute autre activité malveillante.

« Zao est (en) un territoire complètement inexploré », a expliqué Jennifer Zhu Scott, fondatrice de Radian Partners, une société d’investissement privée spécialisée dans l’intelligence artificielle.

D’après cette dernière, « l’avenir de la société ne sera probablement pas facile en raison de la méfiance croissante à l’égard de la technologie ». D’ailleurs, John Villasenor, chercheur principal en études sur la gouvernance, au Centre d’innovation technologique de Brookings, a expliqué que les « deepfakes suppriment les informations de manière à tirer le meilleur parti de la dynamique d’un écosystème de médias sociaux privilégiant le trafic par-dessus tout ».

Rapide et facile, cette technologie « peut être facilement diffusée sur les réseaux sociaux à un public qui – avec la bonne combinaison de planification, de timing et de chance – pourrait atteindre dans des millions ».

Assurant avoir changé sa politique de confidentialité après la polémique, les créateurs de ZAO ont tout de même indiqué qu’ils pourraient « conserver vos données plus longtemps si les autorités gouvernementales ou les tribunaux nous le demandent ».

En outre, la société partagera les informations des utilisateurs avec les autorités si le contenu est considéré comme une menace pour la « sécurité nationale » et la « santé publique ».