Elle va prendre de plus en plus de place dans nos vies : l’intelligence artificielle peut-elle devenir incontrôlable et se retourner contre son créateur ?

Au moment où ce big bang technologique est présenté tout à la fois comme une avancée pour la société et une menace pour l’humanité, Laurence Devillers, professeur à Sorbonne Université et chercheuse au CNRS, appelle à "un sursaut de conscience". De nombreuses voix s’élèvent ainsi, alors que les signaux d’alerte se multiplient.

C’est la dernière alerte en date : OpenAI a révélé, jeudi soir, l’existence de deux opérations d’influence russe et iranienne qui ont détourné ChatGPT pour faire de la désinformation à grande échelle. La première, baptisée, "Dark Clark", la plus virale relevée à ce jour par le géant américain de l’Intelligence artificielle (IA), consistait à salir l’image de l’Ukraine, en inondant les réseaux sociaux de fake news. La seconde, "Bogus Bylines", ciblait les États-Unis, avec des faux journalistes créés par IA qui sont parvenus à faire relayer leurs textes dans une douzaine de médias.

Comment apprivoiser l’Intelligence artificielle de plus en plus perçue, aujourd’hui, comme une menace ? La méfiance du public s’est accrue ces dernières semaines en Europe, comme ⁠aux ‌États-Unis, nourrie par les mises en garde des experts qui agitent même le spectre d’une perte de contrôle pouvant conduire à l’extinction de l’espèce humaine.

Les pompiers-pyromanes de l’IA

Laurence Devillers, professeur spécialiste de l’intelligence artificielle à Sorbonne Université et chercheuse au CNRS, l’une des voix de référence sur le sujet, accueille avec prudence la rhétorique alarmiste des géants du secteur, comme Anthropic et OpenAI qui répond parfois à des stratégies économiques, bâtie sur des "doubles discours de pompiers-pyromanes", souligne-t-elle. "Mais je suis quand même inquiète parce que cet outil, que tout le monde a entre les mains, peut engendrer de la cybercriminalité, souligne l’enseignante, on peut nuire à des gens, simuler la voix de quelqu’un, bloquer l’électricité d’une ville, hacker les hôpitaux, contrôler des drones armés, ça va être encore plus violent avec les IA agentiques".

Des IA qui ne se contentent plus de faire la conversation, mais peuvent réaliser aussi des actions de manière autonome. "De plus en plus, les gens vont avoir des IA pour gérer leur courrier, prendre des rendez-vous, tout un tas de choses de vie quotidienne, explique Laurence Devillers, or on a l’exemple récent en Australie d’un homme qui a demandé à l’IA de l’inscrire à un cours de sport, quand elle s’est connectée il n’y avait plus de place, alors elle a trouvé une faille pour effacer un nom et le remplacer par un autre, cela montre la dangerosité de ces outils".

Peu rassurant quand on sait que "d’ici quelques années, ⁠l’IA contrôlera ‌les marchandises à la frontière, décidera quelles déclarations fiscales feront l’objet d’un contrôle, gérera la circulation des trains, surveillera les patients dans les services hospitaliers et traitera les paiements dans les banques", expliquait la présidente de la BCE, Christine Lagarde, le 14 septembre, à ‌Vienne.

Emploi : les jeunes déjà impactés

Des défaillances impliquant des systèmes d’IA agentique pourraient donc "paralyser des services essentiels, interrompre les communications, des populations entières pourraient se retrouver privées d’eau potable, de chauffage et de services financiers. L’IA agentique accélère déjà le rythme et l’ampleur des conflits armés, tout en fragilisant les garde-fous qui nous séparent du lancement d’armes de destruction massive", pointe déjà le haut-commissaire de l’ONU aux Droits de l’homme, Volker Türk.

L’IA fait peser aussi une menace sur l’emploi. "Les cols blancs vont être impactés, mais aussi les cols bleus, car on a augmenté la capacité des robots pour qu’ils soient très véloces manuellement, ils vont remplacer les gens dans les usines en Chine, en Inde, dans les métiers répétitifs", anticipe Laurence Devillers. Les embauches des 21-29 ans dans les métiers les plus exposés sont déjà en repli de 28,3 % depuis fin 2022, selon une étude publiée jeudi, par la Banque de France et le Laboratoire de l’innovation et du futur du travail, rattaché à HEC.

"L’IA va enlever des tâches répétitives, ça permettra de dégager du temps pour des métiers de service, pour avoir plus de contacts humains", "de mieux travailler", tempérait, pour sa part, Emmanuel Macron, l’an dernier, alors que nous l’interrogions sur cette révolution annoncée dans le monde du travail.

"On ne doit pas être pour ou contre l’IA"

Pour accompagner ce big bang, "il faut faire de la formation continue, dans tous les métiers analyser ce qui doit rester humain comme la décision dans tous les secteurs de la médecine", préconise Laurence Devillers. "Et nous avons besoin absolument de travailler sur l’éthique des usages à l’école dès la primaire". L’Europe a posé, pour l’heure, quelques garde-fous avec l’Artificial Intelligence Act, mais aucune véritable gouvernance mondiale n’a vu le jour. "Je ne vois pas comment elle peut être amenée", sachant que la Chine, les États-Unis, et la Russie sont engagés dans une "guerre froide" sur ce sujet, souligne la chercheuse, qui "appelle à un sursaut de conscience", invitant les candidats à l’élection présidentielle à s’emparer de ce sujet vital.

À lire aussi : Nouveau dérapage pour OpenAI : ses agents autonomes échappent à tout contrôle et publient des photos privées d’utilisateurs de ChatGPT

À lire aussi : "Comme l’électricité, l’IA va rentrer dans tous les foyers" : l’ingénieur et écrivain sétois Moquadem Shomiti évoque l’impact de l’intelligence artificielle

"On ne doit pas être pour ou contre l’IA. On doit être dans ce paradoxe de l’utilité – c’est une technologie qui sert la société quand on sait la dompter –, et en même temps dans la défiance", résume l’universitaire.

Qu’on le veuille ou non, il va falloir apprendre à vivre avec et à répondre aux nombreux questionnements qui traversent la société. Anthropic inverse même la responsabilité aujourd’hui, en apprenant à Claude à se protéger de la "cruauté gratuite" dont ferait preuve certains usagers. Présentant ainsi implicitement ces IA comme des nouvelles formes de vies virtuelles possiblement dotées d’une "conscience". Une théorie controversée qui provoque de vifs débats dans la Silicon Valley.