L’IA fascine quand on publie une chanson des Beatles avec la voix de John Lennon générée par l’IA, mais inquiète quand de fausses images créées à partir d’applications comme Midjourney circulent sur les réseaux sociaux.
Les conférences internationales sur le sujet se multiplient et mêlent catastrophisme et admiration pour des applications toujours plus intelligentes. L’Union européenne a décidé de réguler l’utilisation de l’IA pour protéger l’utilisateur posant des jalons pour d’autres législateurs.
La communication du Parlement européen annonce que les députés s’engagent “pour une intelligence artificielle digne de confiance.“ Le texte reprend en effet les fondamentaux de l’Union européenne, comme garantir un marché unique pour les applications IA légales, ou obliger à respecter les droits de la personne en matière de protection des données ou en matière de durabilité environnementale. Ces obligations reposent d’abord sur les entreprises qui produisent ces applications.
Mais le cœur du texte, c’est la définition de ce qui est permis et ce qui ne l’est pas. L’innovation ne permet pas tout, disent les députés européens. Le texte définit les “utilisations considérées comme dangereuses”, c’est-à-dire celles qui interagissent avec les personnes, comme dans l’éducation, la santé, la surveillance, la sécurité. Pour ces systèmes, il sera nécessaire de réaliser une analyse d’impact avant la mise sur le marché, avec obligation de prévoir des contrôles humains réguliers. Il faudra également prévenir l’utilisateur qu’il est en contact avec une machine, par exemple préciser que les images générées sont produites artificiellement.
La reconnaisance faciale au cœur des débats
Le texte veut également interdire l’utilisation d'algorithmes pour discriminer, trier, cibler les personnes fragiles ou en prenant en compte leur comportement en politique, leurs idées, leurs races ou leurs caractéristiques physiques. La biométrie a forcément fait débat. Finalement, la reconnaissance faciale sera possible en direct à distance pour les personnes dans les lieux publics pour la police, et l’armée. Mais sont exclus le profilage sur des critères sexuels, politiques ou religieux.
Enfin, reste le vaste sujet de l’IA générative, comme ChatGPT, c'est-à-dire des applications qui peuvent créer, au-delà de gérer des tonnes de données. Le sujet a été intégré au débat en cours de route face à l'explosion de ChatGPT. Les députés exigent plus de transparence sur les algorithmes et sur les bases de données; L’Allemagne, la France ne souhaitaient pas de régulation spécifique sur les IA génératives au nom de la libre entreprise, pour ne pas entraver l’innovation, a t-on entendu. Cette position a été prise en fait pour soutenir deux entreprises l'allemande Aleph Alpha et la française Mistral AI.
Un office européen de l'IA va être créé au sein de la Commission européenne pour surveiller les entreprises concernées. Il pourra infliger, à partir de 2026, des amendes allant jusqu'à 7% du chiffre d'affaires, avec un plancher de 35 millions d'euros, pour les infractions les plus graves.
