Deepfakes, chatbots, images ou vidéos générées par IA : quelles sont les nouvelles obligations de transparence imposées par l’Union européenne depuis ce 2 août ? - RTBF Actus
Emmanuel Macron en vacances avec Marine Le Pen, Jordan Bardella et Jean-Luc Mélenchon ? C’est ce que montrent trois clichés postés sur Instagram le 21 juillet dernier. Sur ceux-ci, le président français apparaît, tout sourire, dans une villa, en rue et sur un rooftop avec quelques-uns de ses opposants politiques.
Ces images, "likées" par plus de 208.000 personnes sont le genre de contenus typiquement produits par des Intelligences Artificielles (IA) génératives à but satirique ou de désinformation, plutôt que des photos authentiques.
Outre le fait qu’aucun média officiel français n’ait relayé ces supposés moments partagés, les images montrent certaines incongruités : l’épaule de Jordan Bardella qui "rogne" sur le visage de Marine Le Pen, des chaussures qui n’ont pas la même couleur ou des habits interchangés alors que les scènes sont censées se dérouler durant la même soirée, ou encore des visages au rendu très lisse, presque "plastifié", avec un manque de pores ou de texture réaliste.
Ces lignes directrices distinguent les fournisseurs (les organismes qui développent des systèmes d’IA, comme Open AI – ChatGPT, Gemini ou Claude.ai) des responsables du déploiement de systèmes d’IA (notamment les plateformes qui utilisent des systèmes d’IA comme Instagram, Facebook ou TikTok).
Ces deux groupes n’ont pas les mêmes obligations de transparence.
Concernant les fournisseurs, ceux-ci doivent désormais respecter deux lignes directrices principales suivant l’article 50 :
- Concevoir les systèmes d’IA de manière à garantir que les individus soient explicitement informés chaque fois qu’ils interagissent directement avec un système d’IA
- Ajouter des signes lisibles par machine pour permettre la détection de contenu généré ou manipulé par l’IA
Concrètement, explique Trisha Meyer, maîtresse de conférences en gouvernance numérique et participation à la Brussels School of Governance de la Vrije Universiteit Brussel, "les fournisseurs doivent disposer d’un système de marquage ou d’étiquetage qui peut prendre la forme de filigranes ou de métadonnées, et ce, pour tous les types de contenu : texte, vidéo, image".
Pour cette chercheuse, ces obligations marquent une étape importante dans la lutte contre la désinformation car "il sera beaucoup plus facile pour les vérificateurs de faits, par exemple, de détecter les contenus générés et manipulés par l’IA".
Pour Laurence Dierickx, maîtresse de conférences au Département des Sciences de l’Information et de la Communication de l’Université libre de Bruxelles (ULB), ce système comporte une limite de taille : "toutes ces techniques de marquage peuvent être contournées : on peut par exemple recadrer, faire une capture d’écran, ajouter un petit peu d’humain dedans, ou encore le petit symbole Gemini, il suffit de le retirer et voilà, c’est bon."
Avant d’ajouter que "les fraudeurs, les vrais, ceux qui ont des velléités criminelles, ceux qui utilisent des fausses vidéos pour arnaquer les gens sur des faux de sentiments, ou que ce soit des fraudes à l’investissement, eh bien ils vont toujours passer entre les mailles du filet. Ce sont des gens qui se moquent pas mal des amendes de l’Union européenne."
Pour elle, ces obligations s’inscrivent dans un environnement dans lequel "c’est compliqué d’avoir confiance tellement on est exposé à du vrai et du faux".
Instagram, Facebook ou encore TikTok peuvent donc décider d’informer les utilisateurs d’une manière plus ou moins visible qu’une vidéo ou une image a été générée avec un système d’IA. Mais n’y sont pas obligés.
Ils le sont lorsque les utilisateurs sont exposés à trois types de contenus :
1. Des outils de reconnaissance des émotions et de catégorisation biométrique : lorsqu’une entreprise utilise une technique qui permet de classer une personne dans une catégorie (par exemple son âge) grâce à son visage, sa voix ou sa façon de taper au clavier. La reconnaissance biométrique en temps réel dans les lieux publics, elle, est interdite, sauf cas très particuliers.
2. Des publications textuelles sur des sujets d’intérêt public sans relecture humaine ni contrôle éditorial au-delà de 200 tokens (soit environ 150 mots).
Sur ce dernier point, Laurence Dierickx, est un peu perplexe : "La relecture humaine, c’est assez flou. On peut imaginer, par exemple dans le cas des réseaux de propagande russe, que des articles sont générés par IA mais que simplement en indiquant que quelqu’un les a relu cela respecterait le critère exigé. Quel est le contrôle ? Un simple mot pourrait suffire à contourner l’obligation".
3. Des "deepfakes" : un contenu image, audio ou vidéo généré ou manipulé par l’IA qui ressemble à des personnes, des objets, des lieux, des entités ou des événements existants et qui apparaîtrait faussement à une personne comme authentique ou véridique. Des exceptions sont prévues pour les "deepfakes" faisant partie d’œuvres ou de programmes artistiques, créatifs, fictionnels, ou satiriques.
Selon l’IA Act, trois critères cumulatifs doivent être réunis pour qu’un contenu constitue un "deepfake" : ressemblance (un degré élevé de similarité entre le contenu falsifié et le sujet simulé), existant (les personnes, objets, lieux, entités ou événements simulés doivent ressembler à quelqu’un ou quelque chose qui existe, peut plausiblement exister ou aurait pu plausiblement exister dans la réalité) et fausse apparence d’authenticité ou de véracité (cela se rapporte à la caractéristique essentielle du contenu "deepfake" et à sa capacité potentielle à tromper ou à induire en erreur une personne quant à l’authenticité ou à la véracité du contenu).
C’est le cas par exemple avec cette image du joueur de football de l’équipe du FC Barcelone, Frenkie de Jong, entrant dans un appareil d’Imagerie à Résonnance Médicale (IRM) alors qu’il a réellement subi une grave blessure, indiquée sous le nom du compte, "IA Info" sur Instagram.
Pour autant, le porte-parole du SPF Economie reconnaît que "l’échéance du 2 août 2025 pour la désignation de ces autorités compétentes s’est toutefois révélée difficile à respecter". Et ce, tant pour la Belgique que pour plusieurs autres États membres, pour deux raisons principales, indique-t-il :
- La mise en place d’un système national de gouvernance pour l’AI Act constitue un exercice institutionnel complexe. En Belgique, cela implique non seulement la désignation des autorités nationales de surveillance compétentes, mais également la définition de la répartition des compétences entre les différentes autorités existantes aux niveaux fédéral et fédéré, ainsi que l’organisation de leur coopération.
- Par ailleurs, l’AI Act constitue un nouveau cadre réglementaire horizontal qui touche à de nombreux domaines de politique publique. Les États membres avaient donc besoin de temps pour concevoir la structure de surveillance la plus appropriée, y compris pour prévoir les moyens nécessaires.
L’avant-projet de loi désignant les autorités fédérales compétentes pour surveiller l’AI Act sera soumis au gouvernement en première lecture après les vacances parlementaires. D’ici-là, les citoyens peuvent également s’adresser au Service Desk de la Commission européenne. Les demandes qui y sont introduites sont traitées par l’AI Office, le centre européen d’expertise en matière d’intelligence artificielle.
Tout comme la désignation des autorités de surveillance, l’article 50 de l’IA Act qui entre en vigueur ce 2 août "aura un délai de grâce pour mettre en place ces systèmes d’étiquetage", précise Trisha Meyer qui estime "que nous ne verrons pas vraiment les résultats avant la fin de cette année".
Sans oublier, ajoute Laurence Dierickx, que cette loi n’est pas rétroactive, ces obligations ne s’imposent donc pas à tous les contenus générés jusque-là.