Le Parlement européen approuve des protections renforcées pour les consommateurs sur l’IA

Le Parlement européen a renforcé aujourd’hui les protections des consommateurs dans ce qui sera le premier ensemble obligatoire de règles complètes au monde sur les systèmes d’IA. C’est une évolution bienvenue. Les négociations entre le Parlement et les gouvernements nationaux peuvent maintenant commencer, en vue de convenir d’un texte final au cours du second semestre de l’année et de faire de la loi sur l’IA une loi de l’UE.

Ursula Pachl, directrice générale adjointe du Bureau européen des consommateurs (BEUC), a déclaré :
« Nous applaudissons le Parlement européen qui fait pression pour de nouveaux droits améliorés des consommateurs lorsque les gens traitent ou sont soumis à des décisions prises par des systèmes d’IA. Cette position est d’autant plus importante compte tenu de la quasi-absence de protections des consommateurs que la Commission et les États membres de l’UE ont mises en avant.

« Avec l’IA générative comme ChatGPT partout dans l’actualité ces derniers mois, l’IA est soudainement devenue réelle pour de nombreuses personnes, et pourtant son déploiement ne fait que commencer. Au fur et à mesure que l’IA atteint de plus en plus de domaines de notre vie, nous devrons être protégés des dommages qu’elle peut causer. Les interdictions proposées par le Parlement aujourd’hui sur l’utilisation de la reconnaissance faciale dans les espaces accessibles au public, ou sur la notation sociale par les entreprises, sont essentielles pour protéger les droits fondamentaux. La création de droits pour les consommateurs, comme le droit d’être informé qu’un système d’IA à haut risque prendra une décision à votre sujet, est également très importante.

« Nous regrettons cependant que le Parlement donne aux entreprises la possibilité de décider si leur système d’IA est considéré à haut risque ou non, et d’échapper ainsi aux principales règles de la loi.

« Nous avons maintenant besoin que le Parlement s’en tienne à ses armes et tienne bon pour que sa position soit adoptée par les États membres. »

Le mardi 20 juin, Forbrukerrådet (membre norvégien du BEUC) lancera un rapport sur les risques de l’IA générative pour les consommateurs, y compris ChatGPT.¹ Le rapport soulignera à quel point il est important de protéger les consommateurs avec une technologie de cette portée.

Résultat du vote en plénière aujourd’hui

Les députés ont voté pour :

• Interdire l’identification biométrique à distance, telles que la reconnaissance faciale, utilisées par des entités privées dans des espaces accessibles au public. C’est une étape positive car cette technologie est trop envahissante et porte atteinte à nos droits fondamentaux. La Commission avait déjà proposé de l’interdire lorsqu’il est utilisé par les pouvoirs publics dans les espaces publics.

• Interdire la notation sociale lorsqu’elle est utilisée par des entités privées, c’est-à-dire lorsqu’un système d’IA évalue un individu en fonction de son comportement social ou de ses préférences. C’est une pratique trop envahissante et trop arbitraire pour être utilisée sur les consommateurs.

• Donner aux consommateurs le droit de demander un recours collectif lorsqu’un système d’IA a causé du tort à un groupe de consommateurs.

• Les consommateurs bénéficient de plusieurs droitsy compris le droit d’être informé lorsque l’on fait l’objet d’une décision d’un système d’IA à haut risque, le droit de porter plainte auprès d’une autorité au sujet d’un système d’IA, le droit d’assigner une autorité de contrôle en justice si elle n’agit pas.

• Soumettre l’IA générative telle que ChatGPT à des règles spécifiquescomme obliger les développeurs d’IA à identifier, réduire et atténuer les risques pour la santé, la sécurité et les droits fondamentaux avant de mettre le système d’IA sur le marché.

Cependant, les votes d’aujourd’hui présentent également des aspects négatifs importants :

• Le Parlement a sapé le principe selon lequel risque élevé les systèmes doivent répondre à des obligations spécifiques en laissant trop de latitude aux développeurs pour décider si leur système est considéré à haut risque ou non.

• Le principes de transparence et d’équitédont le BEUC a appelé à s’appliquer à toutes les IA quel que soit le niveau de risque, ne sont que volontaires, ce qui limitera leur utilité.

• Pas d’interdiction de la reconnaissance des émotions lorsqu’il est utilisé par des entreprises sur des consommateurs, ce qui peut entraîner de graves intrusions dans la vie privée des consommateurs et dans leur capacité à prendre des décisions de manière autonome. Cela envoie un signal dangereux aux consommateurs alors que les États membres ont manifesté leur volonté de l’interdire.

Remarques
Pour plus d’informations, vous pouvez consulter la fiche d’information du BEUC sur l’IA et notre liste de contrôle pour les décideurs de l’UE.

¹ Forbrukerrådet organisera un séminaire le jour du lancement du rapport.