La Cnil veut faire de l’Intelligence Artificielle (IA) l’un de ses principaux axes de travail, alors que le secteur connait un coup d'accélérateur sans précédent.
L’année dernière c’était les cryptomonnaies, c’est désormais au tour de l’Intelligence artificielle, et plus particulièrement des IA génératives d’être scrutées à la loupe par les régulateurs. Alors qu’à l’échelle communautaire l’Union européenne travaille sur son projet de réglementation de l'IA le AI Act, en France, c'est la Cnil qui planche sur le sujet.
Un plan en 4 volets et 6 axes prioritaires
Elle a publié, mardi 16 mai, un nouveau plan pour les années à venir baptisé « Plan d’action pour un déploiement de systèmes d’IA respectueux de la vie privée des individus ». Ledit plan est structuré autour de 4 volets que sont :
- Appréhender le fonctionnement des IA et leurs impacts pour les personnes
- Permettre et encadrer le développement d’IA respectueuses de la vie privée
- Fédérer et accompagner les acteurs innovants du secteur en France et en Europe
- Faire l’audit et contrôler les systèmes d’IA et protéger les personnes
Dans ce cadre, le gendarme des données personnelles a identifié 6 axes de travail prioritaire :
- La loyauté et la transparence des traitements de données sous-jacents au fonctionnement de ces outils
- La protection des données publiquement accessibles sur le Web face à l’utilisation du moissonnage, ou scraping, de données pour la conception des outils
- La protection des données transmises par les utilisateurs lorsqu’ils utilisent ces outils, allant de leur collecte (via une interface) à leur éventuelle réutilisation, en passant par leur traitement par les algorithmes d’apprentissage automatique
- Les conséquences sur les droits des personnes sur leurs données, tant en ce qui concerne celles collectées pour l’apprentissage de modèles que celles qui peuvent être fournies par ces systèmes, telles que les contenus créés dans le cas d’IA génératives
- La protection contre les biais et les discriminations susceptible de survenir
- Les enjeux de sécurité inédits de ces outils.
Données et apprentissage d’IA
Dans le détail, la Cnil dit vouloir accompagner le secteur dans sa mise en conformité. Elle soumettra bientôt à consultation un guide sur les règles applicables au partage et à la réutilisation des données, notamment dans le cadre de l’apprentissage des modèles d’IA. « Ce guide sera donc pertinent pour toute une partie des traitements de données nécessaires à la conception des systèmes d’IA, dont les IA génératives », écrit-t-elle. Un appel à projet va aussi être lancé courant 2023 sur l’usage de l’IA dans le secteur public.
Le programme « d’accompagnement renforcé » lancé en 2023 va quant à lui chaperonner les entreprises spécialisées dans leur conformité au Règlement général sur la protection des données (RGPD).
Cnil oblige, des contrôles portant sur l’usage de la vidéosurveillance augmentée, de l’intelligence pour la lutte contre la fraude seront effectués en 2023. La Cnil prévient qu’elle sera : « particulièrement attentive » aux acteurs traitant les données personnelles dans le cadre d’entraînement ou d’utilisation des systèmes d’IA. Ces derniers devront réaliser une analyse d’impact relative à la protection des données, documenter les risques, prendre des mesures afin de les diminuer, informer les utilisateurs et prévoir des mesures d’exercice des droits des personnes.