À Strasbourg, le Parlement Européen vote l'IA Act, la première loi mondiale sur l'IA

Avec l'IA Act, le Parlement Européen vient d'adopter une législation unique pour encadrer l'utilisation de l'intelligence artificielle. 

Des risques inacceptables 

En 2020, l'Union Européenne faisait le choix de créer une commission spéciale sur l'intelligence artificielle. Quatre ans plus tard (ce qui est rapide dans le processus législatif européen, ndlr) la loi a été votée à une très large majorité par les eurodéputés par 523 voix pour et 46 voix contre. 
 

La puissance du traitement des données personnelles peut contrevenir et contrevient à nos droits fondamentaux

Ce nouveau règlement classe par catégories les risques liés à l'IA. Le premier, les risques jugées "inacceptables" et donc interdits. Parmi eux l'exploitation des données personnelles pour la notation sociale des individus, mais aussi la justice prédictive : "La puissance du traitement des données personnelles peut contrevenir et contrevient à nos droits fondamentaux. C'est comme dans le film Minority Report, ce système avec de l'IA qui permet de prévoir les actes des gens" précise David Cormand, député les Verts. 

Un devoir de transparence

Mais cette loi est avant tout un texte de régulation, pas tant d'interdictions. C'est le cas notamment des risques jugés élevés, ceux liés notamment à la création d'images ou de vidéos générées par une IA. Ces images ne seront pas interdites mais il sera désormais obligé de mentionner le fait qu'elles aient été créées artificiellement. 

Des conséquences sur le savoir, sur l'éducation, sur la démocratie 

L'origine des informations délivrées par une IA devra elle aussi être mentionnée, notamment pour les agents conversationnels (type Chat GpT). "Si vous demandez à une IA, l'histoire de telle information, elle va chercher dans un certain nombre de données des productions intellectuelles disponibles sur internet. Nous ce qu'on souhaite, c'est qu'il y ait une traçabilité, dans quel article scientifique, dans quel livre elle est allée chercher pour obtenir le résultat qu'on vous donne. Car on voit bien que la personne qui va programmer l'intelligence artificielle, elle peut inciter à aller chercher dans telle ou telle source, ce qui va influencer l'information produite par l'IA [...] On voit bien que tout cela a des conséquences sur le savoir, sur l'éducation et in fine sur la démocratie " 

Si ces interdictions et cette transparence souhaitées n'étaient pas respectées, un système de sanctions financières se déclencherait alors, avec à terme la possibilité pour l'UE de refuser qu'une entreprise en faute exerce sur le sol européen. 

Je pense qu'on se raconterait des histoires si on considérait que l'objectif de cette loi serait une compétitivité avec la Chine ou avec les États-Unis

En matière d'IA, L'Union Européenne accuse un retard conséquent sur les géants de Chat GPT et autres outils d'intelligence artificielle crées en Chine ou aux États-Unis. Alors à la tentation pour certains de dire que cette loi replacerait l'UE dans la compétition, David Cormand répond :  "Ce n'est pas une législation qui permet de compenser ou de remplacer des investissements massifs ou d'inventer des entreprises de la taille de Google ou de Meta. Je pense qu'on se raconterait des histoires si on considérait que l'objectif de cette loi serait une compétitivité avec la Chine ou avec les États-Unis". 

L'objectif est ailleurs avec la loi : créer un cadre, avec ce qui est consenti ou non par l'Union Européenne. 

"L'intérêt général, ce sont les citoyens qui le détermine, ce ne sont pas les entreprises privées"

Ce cadre sera-t-il suffisant pour face aux géants de l'IA ? Pour David Cormand, c'est une base, un dispositif qui devra être complété à l'avenir, pour faire face aux nombreuses pressions "Il y a eu des manques, notamment à cause de la France qui a beaucoup influencé pour qu'il y ait notamment des usages d'IA pour la surveillance de masses et la surveillance biométrique pendant les JO, sous-couvert de sécurité... C'est toujours comme ça, sous couvert d'arguments, on nous prive de nos libertés fondamentales"

Pour l'avenir, le combat continue pour le député européen : "Si on veut garder notre souveraineté démocratique, notre souveraineté démocratique, il ne doit pas incomber à ces firmes de décider ce qu'est un progrès. Elles ont le droit d'innover, mais l'intérêt général, ce sont les citoyens qui le déterminent, ce ne sont pas les entreprises privées".