Volker Türk, le Haut-Commissaire de l’ONU aux droits de l’homme, a appelé dans une lettre ouverte envoyée aux États et aux entreprises du secteur à une "action urgente" pour encadrer les systèmes d'intelligence artificielle et la recherche dans ce domaine.
Le Haut-Commissaire de l’ONU a déploré qu’actuellement "nous dépendons presque entièrement d’un petit nombre d’entreprises puissantes pour opérer les bons choix en matière de développement de l’IA pour l’ensemble de l’humanité". Selon le Haut-Commissaire, tous les droits humains sont menacés par cette technologie, y compris les droits à la vie et à l’alimentation, à la vie privée, à la santé et à la sécurité.
Il pointe du doigt l’IA agentique, cette IA autonome, ce système capable de planifier, exécuter et ajuster des suites d'opérations complexes qui peut progresser seule, avec le risque qu’elle prenne des décisions qui puissent tuer des êtres humains.
"Des populations entières pourraient se retrouver privées d’eau potable, de chauffage et de services financiers. L’IA agentique accélère déjà le rythme et l’ampleur des conflits armés, tout en érodant les garde-fous qui nous séparent du lancement d’armes de destruction massive", a-t-il encore averti.
Ce passage fait sans doute référence à la guerre à Gaza où l’IA a déterminé les cibles que l’armée israélienne allait détruire, sans prendre en compte les victimes civiles que cela pourrait entraîner et parfois en classant comme terroristes et dangereuses des personnes selon des critères discutables.
Le secteur s’auto-régule, est-ce souhaitable?
Volker Türk s’adresse dans son courrier principalement aux États-Unis et à la Chine, les principaux développeurs d’IA sont en Chine et aux États-Unis. Il conclut sa missive par cette conclusion : "Aucun pays ne peut réguler seul cette technologie. Aucune entreprise ne devrait pouvoir décider seule des risques que le monde doit accepter".
Il semble que Pékin soit conscient du problème. Le chef du renseignement chinois, le ministre de la Sécurité d'État, Chen Yixin, a averti dimanche que l’IA était de nature à menacer la sécurité nationale, des puissances étrangères pouvant utiliser cette technologie pour déstabiliser un pays.
Des "forces hostiles" exploitent les technologies d’IA générative pour "fabriquer des rumeurs en matière de politique et diffuser des informations nuisibles", a-t-il écrit dimanche, dans un article publié en ligne.
Côté américain, l’appel à la prudence est venu des entreprises leaders en IA. Les patrons américains du secteur technologique ont plaidé pour un ralentissement des avancées dans le domaine ce week-end. Le chef d’entreprise d’Anthropic, Dario Amodei, s’est exprimé en faveur d’une décélération, afin de permettre de mieux appréhender les risques découlant des nouvelles capacités de l’IA. Il a été soutenu publiquement par son homologue d’OpenAI, Sam Altman, ainsi que par Elon Musk.
Les patrons d’Anthropic et d’OpenAI, leaders américains de l’IA, ont été mis en cause par un ingénieur qui a démissionné début septembre en les accusant de mettre en danger la race humaine avec une intelligence capable de s’auto-gérer et de s’auto-améliorer. Selon lui, le danger de voir l'humanité détruite d'ici la fin de la décennie par une IA incontrôlable n'est pas un argument marketing, mais une conviction partagée en privé par les créateurs mêmes de ces technologies.
