Vous n’avez pas pu passer à côté de Chat GPT qui en quelques mois a bouleversé nos usages.
Il s’agit d’un outil conversationnel qui permet de répondre à une multitude de questions dans un langage naturel. Cette technologie peut interagir avec l’utilisateur sur tout type de domaine allant de la vie courante, au domaine médical et en passant par le domaine juridique.
Ces technologies posent de nombreuses questions et notamment au regard du risque d’atteinte aux données à caractère personnel des utilisateurs.
En effet, comme tout traitement de données à caractère personnel, la collecte et l’utilisation de données via un système d’intelligence artificielle (IA) doit respecter le RGPD et les droits des personnes :
- Le système doit avoir une finalité :
La mise en place d’un système d’IA reposant sur l’apprentissage automatique nécessite la succession de deux phases : la phase d’apprentissage et la phase de production. Mais qui définit cette finalité ? L’éditeur du service d’intelligence artificielle ou son utilisateur ?
- Le système doit être établie sur une base légale :
En tout état de cause, un système d’IA ne pourra pas être mis en œuvre sur des données personnelles collectées illégalement, autant en phase d’apprentissage qu’en phase opérationnelle. Comment savoir si l’utilisateur qui a introduit ces données les a collecté de manière licite ?
- Le système doit minimiser les données collectées :
Il est nécessaire de déterminer les types de données nécessaires à l’entraînement et au fonctionnement d’un système d’IA
- Le système doit établir une durée de conservation des données collectées :
Dans le cadre d’un apprentissage permanent, combien de temps les données peuvent-elles être conservées ?
- Le système doit se prémunir des risques de la collecte ;
- Le système doit être transparent sur les données qu’il collecte ;
- Le système doit mettre en œuvre le droit des personnes sur leurs données ;
- Le système doit prévoir la prise de décision automatisée ;
Les systèmes d’IA sont bien souvent constitutifs de traitement pouvant mettre en œuvre des mécanismes de prise de décision automatisée.
Le responsable du traitement doit donc prévoir la possibilité d’une intervention humaine de sa part pour permettre à la personne concernée d’obtenir un réexamen de sa situation, d’exprimer son point de vue, d’obtenir une explication sur la décision prise et de contester la décision.
- Le système doit éviter les discriminations algorithmiques.
Comment être certain qu’il n’existe pas des biais dans la mise en œuvre des algorithmes conduisant à des discriminations ?
Vous l’aurez compris, ces technologies, aussi nouvelles soient elles, ne doivent pas déroger aux règles en vigueur et notamment à la règlementation des données à caractère personnel.
Sources
https://www.coe.int/fr/web/artificial-intelligence/what-is-ai
https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd
© Savaïdes Avocat Juin 2023
Contact: +33624495112 s.savaides@savaides-avocat.com 162 Cours Lieutaud 13006 Marseille
partagez cet article en citant sa source : s.savaides@savaides-avocat.com
« CHAT GPT doit respecter le RGPD ! »
Bon à savoir
De nouveaux cadres européens sont à venir :
– Evolution de la directive ePrivacy ;
– Le Digita Markets Act (DMA), le Digital Services Act (DSA) et le Digital Governance Act (DGA) ;
– Le règlement sur l’intelligence artificielle (RIA).
Plus de renseignements :
