Google Earth met sur pause un outil d’IA jugé inquiétant

Une journée après sa mise en ligne, Google Earth met sur pause une option de son logiciel de visualisation terrestre qui permettait de modifier ses cartes à l’aide de l’intelligence artificielle (IA). L'option en question aurait pu faciliter la désinformation et même permettre à des gouvernements de nier des atrocités, selon une sommité de la vérification d’images.

Le nouvel outil avait été mis en ligne cette semaine.

Il suffisait d’indiquer à Google Earth quel endroit sur la Terre on voulait voir. On pouvait ensuite, en un clic, obtenir une boîte de commandes et indiquer à Google Earth comment modifier l’image.

Pendant la rédaction de cet article, Google a annoncé mettre sur pause cette option.

Nous savons que les utilisateurs accordent une confiance unique à Google Earth pour obtenir une vision fiable du monde. Nous avons vu des professionnels du secteur géospatial utiliser cette fonctionnalité à des fins très utiles, a fait savoir un porte-parole.

Cependant, nous avons également constaté que des personnes partageaient des captures d'écran d'images générées qui semblent enfreindre nos règles. Nous retirons donc cette fonctionnalité de Google Earth pendant que nous travaillons à la mise en place de garde-fous plus stricts.

Alors qu'il était toujours actif, nous avons testé l’outil en positionnant Google Earth sur le Stade olympique de Montréal. Nous lui avons ensuite demandé de nous montrer le bâtiment en feu.

En quelques secondes à peine, l’outil a obtempéré à la consigne. Il a été tout aussi facile de générer une image satellite de chars d’assaut entourant le monument montréalais.

D’autres utilisateurs sur les réseaux sociaux ont facilement réussi à générer des images de conflits ou d’attentats terroristes à même Google Earth.

Inquiétudes

Ces exemples inquiètent le chercheur et journaliste néerlandais Henk van Ess, qui a signalé l’existence de cette nouvelle fonctionnalité sur son compte X, jeudi (nouvelle fenêtre), et dans un billet de blogue (nouvelle fenêtre).

M. van Ess est un expert reconnu mondialement dans la recherche d’information en sources ouvertes (OSINT). Cette pratique consiste à utiliser des sources d’informations obtenues sur le web, telles que des photos téléversées sur les réseaux sociaux ou, justement, des cartes satellite obtenues sur des plateformes, comme Google Earth, pour mener des enquêtes.

Il regrette en outre le manque de garde-fous qui étaient en place alors que l'outil était toujours actif.

Google affirme bloquer les sujets potentiellement dangereux. J’ai testé pour voir si je pouvais créer une image de réfugiés mexicains à la frontière américaine, une centrale nucléaire en Iran, un écrasement d’avion à Amsterdam, un hôpital bombardé à Gaza... Le système n’a rien refusé, déplore-t-il.

Cela est particulièrement inquiétant, parce que Google Earth est un outil indispensable pour les journalistes et les chercheurs qui tentent de documenter et de vérifier des crimes de guerre ou des atrocités, selon lui.

C’est dangereux, parce que la fausse image est créée à même l’outil utilisé par les chercheurs pour vérifier si une image est vraie.

Avant le lancement de cette nouvelle option, il était possible de prendre une capture d’écran de Google Earth et de la modifier à l’aide d’un autre système d’IA générative. Cet outil fait tout simplement faciliter le tout.

On a retiré l’effort nécessaire, déplore M. van Ess. Tout ce qu’il faut maintenant, c’est une commande d’une phrase et on obtient un résultat immédiat, déjà placé aux bonnes coordonnées sur la carte, dans la vraie lumière de l’endroit, au bon angle.

Nuire au travail journalistique

Le journaliste explique que l’existence même de cette fonction pourrait avoir des conséquences sur l’information.

Le principal danger, ce ne sont pas pas les fausses images; c’est qu’un politicien peut maintenant nier la véracité d’une vraie image montrant une atrocité en disant que c’est de l’IA. Il n’a pas besoin de l’outil [d’IA de Google Earth]; il a simplement besoin que tout le monde sache que l’outil existe, affirme M. van Ess.

Nous prenons la désinformation au sérieux, a répondu Google à M. van Ess en réponse à des journalistes sur X qui déploraient l’existence de cet outil. L'entreprise américaine dit empêcher la création d’images potentiellement dangereuses et assure continuellement mettre à jour [ses] protections.

En outre, Google explique que les images générées par cet outil contiennent le filigrane invisible SynthID.

En téléversant ces images dans un système d’IA – comme Gemini de Google – ou encore en effectuant une recherche par image inversée dans Google, ce filigrane sera détecté, et on informera l’utilisateur que l’image a été générée à l’aide de l’intelligence artificielle.

Selon nos tests, Gemini et Google Images ont en effet identifié les images du Stade olympique que nous avons créées comme étant des montages générés par l’IA en montrant du doigt quelques éléments invraisemblables dans les photos.

Gemini et Google Images n’ont toutefois pas pu indiquer si les images contenaient le filigrane SynthID.

Le robot conversationnel a refusé notre demande et le moteur de recherche a indiqué qu’il s’agissait d’une simulation créée par une agence de communication en 2022 pour illustrer la dévastation de la guerre.

Sa source : un article du Journal de Montréal (nouvelle fenêtre) à propos d’images générées par IA du Stade olympique détruit par les bombes, mais qui n’avait rien à voir avec les images que nous avons générées.

Gemini a refusé de nous dire si les images contenaient le filigrane SynthID.

Selon des tests menés par Henk van Ess, les systèmes de Google identifiaient les images qu’il a créées comme étant de l’IA, mais d’autres détecteurs d’images générées par l'intelligence artificielle ont plutôt indiqué qu’elles étaient véridiques.