L’Europe s’apprête à encadrer les applications de l’IA en interdisant les pratiques à risque et en établissant des mesures de contrôle pour les entreprises. L’objectif principal est de promouvoir l’innovation tout en assurant la sécurité et les droits des utilisateurs. Lors d’un vote en commission le jeudi 11 mai, les eurodéputés ont décidé de franchir une nouvelle étape en approuvant un projet de régulation de l’intelligence artificielle plus rigoureux que la version initiale d’avril 2021, avec une majorité écrasante.
L’application du réglement
L’Europe avance avec un texte qui reprend les réglementations déjà en vigueur pour la sécurité des produits. Cependant, après avoir classé les utilisations de l’intelligence artificielle considérées comme « à risque », elle prévoit d’imposer des contrôles aux entreprises. Ces utilisations « à risque » de l’IA concernent les infrastructures critiques, l’éducation, les ressources humaines, le maintien de l’ordre et la gestion des migrations.
Selon le texte, les entreprises qui développent ces IA sont tenues d’assurer le maintien d’un contrôle humain, d’établir une documentation technique et de mettre en place un système de gestion des risques, parmi d’autres mesures. Chaque pays membre de l’UE sera responsable de son propre organisme de contrôle. Aucune autre obligation ne sera imposée aux applications qui ne sont pas classées comme « à risque ».
Des utilisations de l’IA interdites
Les eurodéputés ont approuvé l’interdiction de l’utilisation de la reconnaissance faciale dans les espaces publics et des outils de police prédictive. Ce sont deux exemples d’applications de l’IA que l’Europe ne souhaite pas voir se développer sur son territoire. Dans le texte d’avril 2021, les systèmes qui établissent des notes sociales, effectuent une identification biométrique, pratiquent la manipulation subliminale qui ciblent les personnes vulnérables étaient aussi visés.
Impact des IA génératives
En ce qui concerne les IA génératives, qui redessinent le paysage numérique et se sont largement répandues, de nouvelles mesures de transparence seront mise en place. Des outils tels que ChatGPT, Midjourney ou encore DALL-E devront très probablement dévoiler quels contenus protégés par des droits d’auteur ont été utilisés pour former leur modèle de langage.
De plus, ces IA devront probablement être soumises à des tests par des experts indépendants afin de contrôler les risques potentiels liés à la sécurité, à la santé, aux droits fondamentaux, à la démocratie ou à l’environnement. Les éventuelles utilisations malveillantes devront être publiés dans une documentation distincte. Et dans tous les cas, le respect du RGPD sera essentiel.
Quelle sera la date d’entrée en vigueur de l’IA Act ?
Le projet préliminaire adopté par les députés européens constitue une première étape vers l’adoption d’un texte de régulation complet des utilisations de l’IA, après deux ans de négociations. La prochaine étape du processus législatif est la confirmation en juin, lors d’une séance plénière de la commission, des résultats de cet accord initial.
Ensuite aura lieu une nouvelle période de négociations avec les États membres avant la rédaction et le vote du texte final. Margrethe Vestager, vice-présidente de la commission ne veut pas perdre de temps et espère « entamer les premières négociations politiques avant l’été » pour finaliser cette année.
