Il y a quelques jours, la CNIL (Commission nationale de l’informatique et des libertĂ©s) a prĂ©sentĂ© un plan d’action visant Ă encadrer l’intelligence artificielle (IA), en particulier l’intelligence gĂ©nĂ©rative. Et c’est notamment Marie-Laure Denis, prĂ©sidente de la CNIL, auditionnĂ©e par la mission d’information de l’AssemblĂ©e nationale dĂ©diĂ©e Ă l’IA. DĂ©cryptage.
IA : En quoi consiste ce plan d’action ?
Ces dernières annĂ©es, la CNIL a entrepris une sĂ©rie d’initiatives visant Ă anticiper et rĂ©pondre aux dĂ©fis posĂ©s par l’intelligence artificielle (IA). En 2023, elle compte poursuivre ses efforts en se concentrant sur les camĂ©ras augmentĂ©es et en Ă©largissant son champ d’action aux IA gĂ©nĂ©ratives, aux grands modèles de langage, et aux applications dĂ©rivĂ©es, notamment les chatbots. Concrètement, son plan d’action repose sur quatre piliers essentiels Ă savoir :
– Comprendre le fonctionnement des systèmes d’IA et Ă©valuer leurs rĂ©percussions sur les individus ;
– Favoriser et encadrer le dĂ©veloppement d’IA respectueuses de la vie privĂ©e ;
– Unir et soutenir les acteurs innovants de l’Ă©cosystème de l’IA en France et en Europe ;
– Examiner les systèmes d’IA pour assurer la protection des droits des personnes.
Évaluer leurs répercussions sur les individus
L’utilisation croissante des techniques innovantes dans le fonctionnement des outils IA soulève de nombreuses questions en ce qui concerne la protection des donnĂ©es personnelles des utilisateurs, comment celles-ci sont utilisĂ©es, les consĂ©quences gĂ©nĂ©rĂ©es sur les droits de ces mĂŞmes personnes et leurs donnĂ©es, sans oublier leur protection contre de possibles discriminations.
Encadrer le dĂ©veloppement d’IA respectueuses de la vie privĂ©e
En parallèle Ă cela, de nombreux intervenants ont exprimĂ© Ă la CNIL leur prĂ©occupation quant Ă l’application du RGPD Ă l’intelligence artificielle, notamment en ce qui concerne la formation des IA gĂ©nĂ©ratives. Afin de soutenir les acteurs du domaine de l’intelligence artificielle et de se prĂ©parer Ă la mise en Ĺ“uvre du règlement europĂ©en sur l’IA, actuellement en discussion au niveau europĂ©en (sur lequel la CNIL et ses homologues europĂ©ennes ont Ă©mis un avis en 2021), la CNIL a dĂ©jĂ pris quelques mesures qui sont :
– des premières fiches sur l’IA et ses principes fondamentaux ainsi qu’un guide pour aider les professionnels Ă se conformer Ă la rĂ©glementation ;
– la mise en place d’une position concernant l’utilisation de la vidĂ©osurveillance « augmentĂ©e », qui intègre l’IA pour analyser des images captĂ©es dans l’espace public.
La CNIL a annoncĂ© poursuivre ses travaux relatifs Ă la conception de systèmes d’IA et Ă la constitution de bases de donnĂ©es pour l’apprentissage automatique. Ces travaux ont aboutit Ă plusieurs publications Ă partir de l’Ă©tĂ© 2023, suite Ă des consultations prĂ©alables menĂ©es en collaboration avec divers acteurs. L’objectif est de fournir des recommandations concrètes, notamment en ce qui concerne la conception de systèmes d’IA tels que ChatGPT.
Accompagner les acteurs innovants de l’écosystème IA en France
Concernant l’accompagnement des acteurs innovants de l’écosystème IA en France et en Europe, la CNIL ambitionne d’engager un dialogue avec les centres de R&D (recherche&dĂ©veloppement), entreprises françaises et Ă©quipes de recherche souhaitant « dĂ©velopper des systèmes d’IA dans une logique de conformitĂ© aux règles de protection des donnĂ©es personnelles. »
Veiller à la protection des individus face aux systèmes IA
Afin de garantir le dĂ©veloppement de systèmes d’intelligence artificielle respectueux des droits et des libertĂ©s individuelles, la CNIL s’engage Ă surveiller leur conformitĂ©. Pour cela, l’agence publique a pour projet de mettre en place des outils permettant d’auditer les systèmes d’IA soumis Ă son examen, que ce soit avant ou après leur mise en service. En 2023, les activitĂ©s de contrĂ´le de la CNIL se concentrent sur les points suivants :
– VĂ©rifier que les acteurs publics et privĂ©s respectent la position Ă©noncĂ©e en 2022 concernant l’utilisation de la vidĂ©osurveillance « augmentĂ©e » ;
– Évaluer l’utilisation de l’IA dans la lutte contre la fraude (notamment la fraude Ă l’assurance sociale) en examinant les implications liĂ©es Ă l’utilisation de tels algorithmes ;
– Traiter les plaintes dĂ©posĂ©es auprès de la CNIL et engager des enquĂŞtes concrètes en rĂ©ponse Ă ces plaintes.
Qu’est-ce que la CNIL ?
Tu ne le sais peut-ĂŞtre pas, mais la CNIL (Commission nationale de l’informatique et des libertĂ©s) est une autoritĂ© administrative indĂ©pendante en France, chargĂ©e de veiller Ă la protection des donnĂ©es personnelles et des libertĂ©s individuelles dans le contexte de l’utilisation des technologies de l’information. Elle voit le jour en 1978 et est rĂ©gie par la loi française relative Ă l’informatique, aux fichiers et aux libertĂ©s.
Concrètement, la CNIL s’assure que les donnĂ©es personnelles des individus sont collectĂ©es, traitĂ©es, et utilisĂ©es de manière lĂ©gale et Ă©thique. Elle Ă©met des recommandations et des lignes directrices pour aider les entreprises et les organisations Ă respecter la rĂ©glementation en matière de protection des donnĂ©es. Elle informe Ă©galement le public sur ses droits en matière de protection des donnĂ©es et sur les risques liĂ©s Ă la vie privĂ©e en ligne. Comment ? Grâce Ă des ressources Ă©ducatives pour aider les citoyens Ă mieux comprendre les enjeux de la protection des donnĂ©es.
Tu l’auras compris, la CNIL joue un rĂ´le majeur dans la protection de la vie privĂ©e et des droits individuels en France, en veillant Ă ce que les donnĂ©es personnelles soient traitĂ©es de manière appropriĂ©e et sĂ©curisĂ©e, et en sanctionnant les violations de la rĂ©glementation lorsque cela est nĂ©cessaire. C’est donc tout naturellement que ce plan d’action vient s’assurer que le dĂ©ploiement de systèmes d’IA respectent en tout point Ă la vie privĂ©e des individus.
Lire aussi : Meta dévoile Code Llama, une IA à destination des développeurs