La société chinoise Tencent Cloud a annoncé le lancement d'une plateforme de production de deepfakes destinée à « la production, les ventes et les services ».
Le Deepfakes-as-a-Service, c'est un peu ce que propose Tencent cloud avec un nouvel outil de création d'humains numériques à la demande. Rattaché à Tencent cloud TI, une plateforme d'apprentissage automatique regroupant une dizaine d’algorithmes d'IA, le service n'a besoin que d'une vidéo de trois minutes, d’une centaine de phrases parlées et de 24 heures, pour générer un avatar numérique en haute définition.
130 euros par deepfake
Il pourra être modélisé avec un corps complet, ou uniquement la tête et le buste. Les deepfakes peuvent, au choix, être en modélisés en 3D réaliste, 3D semi-réaliste, dessin animé 3D, personne réelle 2D et dessin animé 2D. Le tout, pour 130 euros. Il sera également possible de définir son arrière-plan, et le ton employé par le double numérique.
Pour l'heure, la plateforme est disponible en chinois et en anglais. La société utilise une technologie développée en interne qui s’appuie sur des modèles acoustiques d’apprentissage en profondeur et de vocodeurs de réseau neuronal, qui convertissent les caractéristiques acoustiques en voix de synthèse, afin de personnaliser la voix et éviter les timbres plats et robotiques.
The Register nous apprend également que l’avatar numérique peut également intégrer un système de questions-réponses, à la manière d'un chatbot. A quelles fins sera utilisée cette plateforme ? Tencent Cloud a indiqué auprès de The Register qu'elle servira à « la production, les ventes et les services », comme la diffusion de publireportages.
Deepfake et utilisations malveillantes
L’outil soulève évidemment quelques craintes à l’heure où les deepfakes sont encore très peu régulés et représentent une menace pour l’usurpation d’identité, mais aussi plus globalement la sécurité numérique. En novembre dernier par exemple, des pirates avaient publié un deepfake de l’ex-patron de l'exchange de cryptomonnaies FTX, Sam Bankman-Fried sur un compte certifié Twitter. Le faux promettait aux investisseurs ayant tout perdu suite à l’effondrement de la société, de récupérer leurs mises, et même de la doubler.
En Chine, le régulateur national de l'Internet (CAC) commence à réglementer ces activités. Il exige notamment des entreprises développant « des fonctions telles que le dialogue intelligent, la voix humaine synthétisée, la génération de visage humain et des scènes réalistes immersives » d'indiquer de manière visible qu'il s'agit de faux, afin d'éviter la confusion du public. En Europe, c'est l'artificial intelligence Act (AI Act), actuellement discuté au Parlement européen, qui doit imposer des contraintes pour limiter les risques associés à l'IA.