Le mercredi 21 avril 2021, la Commission Européenne a dévoilé une proposition de réglementation ayant pour but d’encadrer l’utilisation de l’intelligence artificielle en Europe.
La Commission européenne a rendu publiques certaines propositions pour mieux encadrer l’usage et le développement de l’intelligence artificielle. Dans ces propositions, la Commission opère un classement entre les utilisations de l’intelligence artificielle considérées comme représentant un « risque minimal » aux utilisations considérées comme étant « inacceptables ».
Comment la Commission Européenne appréhende-t-elle l’intelligence artificielle ?
La Commission propose des règles à adopter afin de s’assurer que ces systèmes d’intelligence artificielle dans l’UE soient à la fois : transparents, éthiques, impartiaux et le tout sous contrôle humain. La Commission propose alors un classement de ces systèmes en fonction de leur niveau de risque :
-Certains systèmes sont jugés « inacceptables », ces derniers sont considérés comme représentants une menace certaine pour les citoyens de l’UE. Ils sont alors interdits, ce sont tous les systèmes permettant aux pouvoirs publics d’instaurer un système de notation sociale, ou des jouets/applications à destination d’enfants utilisant l’assistance vocale et encourageant les enfants à adopter des comportements dangereux.
-Il y a des systèmes considérés comme étant à « haut risque » : ce sont entre autres, tous les systèmes susceptibles de mettre en danger la vie et la santé des citoyens (par exemple : les transports), les systèmes déterminant l’accès d’une personne à l’éducation et sa carrière professionnelle (par le biais de notations par exemple).
-Les systèmes représentant un risque limité : Sont visés ici les systèmes d’intelligence artificielle tels que les dialogueurs ou « Chatbots », ces derniers doivent être transparents afin de permettre aux utilisateurs interagissants avec le dialogueur, de prendre des décisions réfléchies. L’utilisateur a, alors, le choix de décider de continuer ou d’arrêter d’utiliser le site web/application.
-Les systèmes représentant un risque minimal : Ces systèmes sont des applications gratuites, telles que des jeux vidéo ou des filtres d’e-mail basés sur l’intelligence artificielle.
Dans cette proposition de réglementation, après avoir classée les systèmes d’intelligence artificielle en fonction de leur niveau de risque, la Commission indique la marche à suivre pour les systèmes considérés comme étant à “haut risque”.
Quel avenir pour les systèmes d’intelligence artificielle à « haut risque » ?
Ces systèmes sont considérés comme tels parce qu’ils concernent des secteurs importants de la vie de tous les jours. Notamment parce qu’ils peuvent influer sur la vie de chaque citoyen par exemple : la notation de crédit pouvant priver les citoyens de la possibilité d’obtenir un prêt, la vérification de l’authenticité de documents de voyage pouvant influer sur l’entrée de personnes sur le territoire national, etc..
Pour les fournisseurs de systèmes d’IA à haut risque, il y aura une procédure à respecter pour que ces systèmes soient à disposition du public.
Une fois mis au point, ce système devra faire l’objet d’une évaluation de conformité et satisfaire aux exigences fixées par la Commission en matière d’intelligence artificielle. Si le résultat de l’évaluation est bon, ces systèmes d’intelligence artificielle sont enregistrés sur une base de données de l’Union Européenne spécialement créée à cet effet. Une déclaration de conformité doit, ensuite, être signée et le système d’intelligence artificielle doit porter le marquage « CE ». Le système peut alors être mis à disposition du public.
Étant considérés comme présentant un « haut risque » ces systèmes d’IA, même une fois commercialisés, continuent à être surveillés par les autorités. Ces systèmes continuent également à être surveillés régulièrement par les utilisateurs qui peuvent signaler les incidents graves et dysfonctionnements rencontrés.
Quelles sanctions les fournisseurs de systèmes d’intelligence artificielle risquent-ils en cas de non-respect des règles fixées par la Commission Européenne?
Les entreprises qui ne respectent pas les règles édictées par la Commission pourraient être condamnées à une amende pouvant aller jusqu’à 20 millions d’euros, ou 6% de leur chiffre d’affaires.
Afin de contrôler et superviser les Etats dans l’adoption de nouvelles règles en matière d’IA, la Commission propose de créer un comité européen de l’intelligence artificielle. L’objectif étant de dessiner les contours d’une “IA éthique”.
Ce comité comprendrait un représentant par Etat membre de l’Union Européenne, il supervisera l’application de la réglementation et sera chargé « d’émettre des recommandations et des avis pertinents à la Commission » portant sur la liste des systèmes d’intelligence artificielle considérés comme « inacceptables » par la Commission et des systèmes d’intelligence artificielle considérés comme étant à « haut risque ».
Votre avocat IA, Maître Arnaud Touati, met à votre service son expertise aussi bien technique que juridique dans le domaine de l’intelligence artificielle afin de vous accompagner au mieux dans vos projets de mise en conformité.
