Google DeepMind a dévoilé un nouvel outil baptisé SynthID qui détecte les images créées par des intelligences artificielles et est présenté comme un moyen de lutter contre la désinformation.
Le raz-de-marée de contenus produits par les IA ces derniers mois n’en finit plus de déferler. Parmi lesdits contenus, les deepfakes et les images générées par des IA sont sans doute les plus médiatisés, tant il devient de plus en plus difficile de les détecter. Au-delà de la prouesse technique, de nombreux acteurs, pouvoirs publics en tête, craignent que la production et la diffusion de fausses informations ne se multiplient avec une efficacité jusqu’ici inégalée.
Des filigranes qui n’altèrent pas l’image
En partenariat avec Google Cloud, Google DeepMint, la branche IA de la firme de Mountain View, a lancé une version bêta de SynthID. Avec cette technologie, Google dit s’inscrire dans une volonté de développer et déployer une IA responsable. « Être capable d'identifier le contenu généré par l'IA est essentiel pour permettre aux gens de savoir quand ils interagissent avec les médias générés et pour contribuer à prévenir la propagation de la désinformation. », écrit la firme dans son communiqué.
Comment ça marche ? L’outil peut détecter les images générées ou partiellement modifiées par l’IA à l’aide d’un filigrane numérique implanté dans les pixels d’une image. Les filigranes sont suffisamment discrets pour ne pas altérer la qualité du contenu, par exemple si celui-ci doit être utilisé à des fins commerciales. Le motif lui, reste néanmoins détectable par les ordinateurs « même après des modifications telles que l'ajout de filtres, le changement de couleurs et l'enregistrement avec divers systèmes de compression avec perte, le plus couramment utilisés pour les fichiers JPEG. », détaille Google.
Un outil pas infaillible
L’outil est rendu disponible, dans un premier temps, à un petit nombre de clients de la plateforme Vertex AI utilisant le modèle de conversion texte-image Imagen. La firme prévient qu’en l’état, son outil, bien que prometteur, n’est pas infaillible contre les manipulations les plus abouties. Il pourra néanmoins évoluer, et permettre par exemple, de prendre en charge les contenus audio, textuel et vidéo.