Cette correction fait suite à la vague de deepfakes pornographiques ciblant la chanteuse Taylor Swift qui a déferlé sur le web. Les images auraient été générées à l’aide de l’outil de Microsoft.
Microsoft n’aurait peut-être pas dû licencier ses équipes dédiées à l’éthique dans l’IA. Alors que des deepfakes de l’artiste Taylor Swift pullulent et ne cessent d’affoler la toile, Microsoft s’est mis en mode pompier, après avoir indirectement allumé l’incendie.
Puisque ce serait son outil Microsoft Designer, alimenté par DALL-E3 (OpenAI) qui aurait servi à créer les deepfakes en question. Le générateur d’images a fait l’objet d’utilisations abusives après que des utilisateurs soient parvenus à créer des images pornographiques de la célèbre chanteuse. Les photos auraient ensuite largement circulé sur X, ou encore sur 4chan. Pour parvenir à générer ces deepfakes, les utilisateurs ont en fait exploité une faille qui consistait à mal orthographier le nom d’une célébrité et utiliser des termes sexuels pour parvenir à tromper la machine.
Des fautes d’orthographe pour berner le système
Contacté par nos confrères de ZDNET, Microsoft a déclaré : « Nous continuons à enquêter sur ces images et nous avons renforcé nos systèmes de sécurité existants afin d’empêcher que nos services ne soient utilisés à mauvais escient pour générer des images de ce type. » Les failles ont depuis été corrigées par la firme qui a rendu la génération d’images de célébrités tout simplement impossible et ce, même si le nom était mal orthographié. La firme rappelle que les tentatives de création de contenus inappropriés peuvent mener à la perte d’accès de ses services.
Bien plus qu’un incident isolé, ces deepfake soulève de nombreuses questions. Avec l’avènement des IA génératives, les experts craignent que l’utilisation de deepfakes à des fins frauduleuses soit de plus en plus fréquente. Au-delà des photos, « en ajoutant la voix ou la vidéo, ces deepfakes nouvelle génération permettront de lancer des chaînes d'extorsion plus vraies que nature contre les entreprises privées », avait par exemple estimé la société de cybersécurité Vade.