La Californie s’attaque aux deepfakes

L’Etat de Californie a introduit dans sa législation l’interdiction et la pénalisation de certains types de deepfakes, à commencer par les deepfakes à caractère pornographique, mais aussi celles visant un candidat à une élection.

En mai dernier, une vidéo diffusée sur Facebook devenait virale. On y voyait  Nancy Pelosi, présidente démocrate de la Chambre des Représentants, s’exprimer avec difficulté, comme ivre. Cette vidéo partagée 2,3 millions de fois était en réalité altérée, un deepfake. Cette vidéo truquée a été au centre d’une passe d’armes entre l’élue de San Francisco et le réseau social sur son retrait de la plateforme.

L’Etat de Californie a décidé de prendre le taureau par les cornes. Le gouverneur a signé début octobre deux actes législatifs pénalisant la création et la diffusion de deepfakes. Le premier porte sur les vidéos truquées au contenu sexuel explicite. La loi condamne déjà la diffusion d’une photo ou d’une vidéo qui « expose les parties intimes du corps d’une personne ou montre cette personne se livrant à un acte sexuel » sans le consentement de cette personne.

Si cette mesure permet de condamner le revenge porn, elle n’est cependant pas adaptée aux deepfakes. Le nouveau texte vise donc « la création et la diffusion de matériel sexuellement explicite […] si l'individu représenté [sur la vidéo] n'a pas consenti à sa création ». Sont notamment comprises « les parties du corps nu générées par ordinateur en tant que parties du corps nu de l'individu représenté »

De même, la loi interdit que soit « produit, distribué, publié ou diffusé, avec malveillance, des éléments de campagne » contenant une image truquée mettant en scène un candidat à une charge publique. Mais ne sont pas incluses d’éventuelles vidéos truquées. Le second texte signé début octobre par l’exécutif californien comprend les deepfakes.

Deepfakes politiques

« Jusqu'au 1er janvier 2023, ce projet de loi interdirait à une personne, à un comité ou à une autre entité, dans les 60 jours précédant une élection de distribuer des contenus audio ou visuels trompeurs » indique l’exposé des motifs de la loi. Par « contenus audio ou visuels trompeurs », le texte entend « une image ou un enregistrement audio ou vidéo de l'apparence, du discours ou de la conduite d'un candidat qui a été intentionnellement manipulé de manière à ce que l'image, l'enregistrement audio ou vidéo paraisse faussement à une personne raisonnable comme étant authentique » et inciterait le spectateur à avoir une impression fondamentalement différente de celle qu’il aurait en visionnant le contenu original.

Il s’agit d’empêcher la manipulation d’élections au moyen de deepfakes. Un certain nombre d’exceptions sont néanmoins prévues, notamment la parodie ou la satire ou, pour un média télévisé, radiophonique, Web ou papier, lorsque ledit contenu altéré est clairement marqué comme tel lorsque le média a connaissance de l’altération, ou du moins qu’il affiche explicitement qu’il existe des doutes quant à l’authenticité de ce contenu.