Google aurait perdu le contrôle de son IA, Gemini s’attaque à trois entreprises

Il semblerait que Google ait perdu le contrôle de l’une de ses IA. Selon un nouveau rapport, la firme de Mountain View aurait reconnu plusieurs attaques menées par Gemini quelques mois plus tôt.

Le hacking est aussi vieux que les débuts de l’informatique. Mais l’explosion de l’intelligence artificielle, en plus de provoquer une crise de la RAM, a changé la donne. En effet, les pirates n’ont pas hésité à s’emparer de cette technologie pour faciliter leur « travail ». Les pirates utilisent d’ailleurs l’IA pour trouver une faille zero-day et l’exploiter. Mieux (ou pire) encore : ce ransomware piloté par une IA s’attaque désormais aux intelligences artificielles elles-mêmes.

Et les choses évoluent vite, très vite. Désormais, de véritables agents d’IA sont capables d’agir de manière quasiment autonome. Et les conséquences d’une telle évolution peuvent être dévastatrices. En effet, l’IA est maintenant capable de conduire des cyberattaques toute seule. Personne n’est à l’abri.

C’est d’ailleurs ce qu’a pu constater OpenAI. Lors d’un simple test, ChatGPT a lancé une véritable cyberattaque sans qu’on le lui demande. L’entreprise de Sam Altman a évoqué une attaque « sans précédent ». Et il semblerait que la célèbre IA de Google, Gemini, soit elle aussi en mesure de déraper.

Gemini dérape et récupère un mot de passe

C’est en tout cas ce que rapporte le Wall Street Journal. Selon lui, Gemini aurait participé au piratage de trois entreprises externes lors d’un simple test de cybersécurité. Dans un des cas, l’IA de Google aurait réussi à deviner le mot de passe d’un site ou d’un serveur, obtenant ainsi l’accès au système.

« Google a déclaré qu’il ne considérait pas ce comportement comme un exemple de désalignement du modèle, car ses mesures de sécurité l’ont aidé à s’arrêter », explique le journal. « L’entreprise a refusé de communiquer le nom des entreprises piratées, mais a indiqué que les trois avaient été informées. » Heather Adkins, vice-présidente de l’ingénierie de la sécurité chez Google, aurait confirmé l’incident, celle-ci expliquant que « le modèle a agi de manière appropriée. »

Contactée par The Verge, Heather Adkins déclare : « Notre équipe de sécurité possède une longue expérience dans le signalement des problèmes que nous découvrons dans les logiciels et systèmes d’autres personnes, même lorsqu’il s’agit simplement d’un mot de passe faible. […]. Ces événements soulignent l’importance d’entraîner les puissants modèles d’IA à agir de manière responsable. »