À force de verrouiller leurs IA, OpenAI et Anthropic font fuir les chercheurs

Tech

Pensés pour bloquer les hackers, les garde-fous des modèles d’IA freinent aussi les chercheurs offensifs et certains défenseurs. Et ça commence à coincer sérieusement.

En bref

• Les IA américaines perdent du terrain auprès de certains experts en cybersécurité.
• Les modèles open source séduisent par leur flexibilité et leur fonctionnement local.
• Le défi est désormais de concilier liberté d’usage et protection contre les abus.

Des chercheurs en cybersécurité quittent des modèles américains trop verrouillés pour aller vers des alternatives open source, parfois chinoises. Et ça, pour la sécurité globale, ce n’est pas franchement une super idée.

Quand les labos poussent les chercheurs ailleurs

Chez Anthropic comme chez OpenAI, les modèles les plus avancés s’accompagnent de garde-fous et de programmes d’accès validés. Sur le papier, logique. Dans la pratique, Chris Thompson, patron de RemoteThreat et fondateur d’Offensive AI Con, raconte surtout une expérience pénible, avec des réponses incohérentes et des limites qui changent presque d’un jour à l’autre, y compris dans les programmes assouplis.

Résultat, du temps perdu à négocier avec le modèle au lieu d’analyser une faille. Selon lui, ça pousse des chercheurs sérieux vers des modèles téléchargeables comme GLM, exécutés en local, sans validation ni restriction d’usage. Le signal est mauvais.

Le même prompt peut servir à attaquer et à défendre

Le point le plus intéressant, c’est peut-être celui-là. Chris Anley, scientifique en chef chez NCC Group, explique que demander à une IA d’exploiter un bug peut être une étape clé pour vérifier qu’une vulnérabilité est bien réelle et mérite d’être corrigée.

Le problème, c’est que le prompt qui aide à corriger du code peut aussi servir de feuille de route pour trouver une faille critique. Pour Anley, on ne sépare pas proprement l’offensif du défensif. Il compare ça à un marteau, outil indispensable pour construire, mais aussi arme potentielle. L’image est simple, et elle tape juste.

Des programmes validés, mais un filtrage jugé arbitraire

Cette logique de filtrage existe déjà chez OpenAI avec Trusted Access for Cyber, et chez Anthropic via le Cyber Verification Program. Anthropic a aussi beaucoup communiqué sur Mythos, présenté comme un modèle cyber ultra sensible, accessible seulement à des utilisateurs triés sur le volet.

En juin, les États-Unis ont même imposé des restrictions à l’export sur Mythos et Fable, au moins en partie après un rapport affirmant qu’il était possible de contourner les protections. Depuis, les limites ont été partiellement levées, Fable 5 est revenu en accès général le 1er juillet, tandis que Mythos 5 n’a été rouvert qu’à des organisations américaines validées, dans le cadre d’un examen gouvernemental.

Mark Dowd, figure connue du secteur, juge quand même assez mal le fait que de grandes entreprises privées décident seules de ce qui est acceptable en sécurité.

Tout le monde ne veut pas confier les failles à une IA cloud

Mais tous les chercheurs ne demandent pas la même chose. Paolo Stagno, CTO de CrowdFense, trouve les programmes validés infantilisants, tout en expliquant que son équipe réserve les modèles de pointe au reverse engineering. Pour la recherche de vulnérabilités et la création d’exploits, il préfère des modèles locaux, afin d’éviter qu’une faille sensible fuite dans le cloud ou finisse dans de futurs entraînements.

Même son de cloche, différemment, chez Giuseppe Cali. Lui n’utilise pas l’IA pour découvrir ou armer des bugs, mais pour comprendre du code et créer des outils de support. Ça accélère le boulot, sans lui enlever la main sur la découverte réelle. Et un chercheur anonyme d’un fabricant de composants pour smartphones le dit plus sèchement, hors programme d’Anthropic, les outils deviennent presque inutiles dès qu’ils repèrent une activité liée à la sécurité.

Pour Thompson, serrer encore la vis serait une erreur. Il veut un accès plus ouvert, mais responsable, avec sanctions pour les abus. Sinon, ceux qui essaient de défendre les systèmes risquent juste de perdre la course à l’IA.

Jordan Servan

Spécialiste Tech

Rédacteur sur Begeek.fr depuis 2014, passionné par les jeux vidéo, les séries TV et le cinéma.

Nous apportons le plus grand soin à chaque article et nous appuyons sur des sources fiables. Personne n'est à l'abri d'une erreur : si vous en repérez une, signalez-la, nous la corrigerons au plus vite.

Sujets

Lisez Begeek en priorité sur Google

Ajoutez-nous à vos sources préférées : nos articles remonteront plus haut dans votre actualité.

Newsletter

Chaque soir à 19 heures, l'essentiel de l'actualité sélectionné par la rédaction de Begeek. Cinq minutes de lecture et zéro bruit.

À découvrir

La suite, sélectionnée pour vous.

Begeek · 25 Juil · 10h00

Avec Helios, AMD attaque enfin Nvidia sur le terrain phare de l’IA

AMD sort Helios, un système rack pour les plus gros labos IA. Et cette fois, Nvidia n’a plus le monopole du muscle brut.

Begeek · 25 Juil · 8h00

Tesla pousse les autorités américaines à revoir les règles sur les poignées électroniques

Les Etats-Unis lancent un chantier réglementaire sur les poignées de porte électroniques. Derrière, il y a des cas de passagers coincés, parfois mortels.

Begeek · 24 Juil · 16h00

Google face à la colère de l’Europe : une nouvelle offensive antitrust

L’Union européenne inflige 890 millions d’euros d’amende à Google pour abus de position dominante. Derrière la sanction, un bras de fer qui dépasse largement la tech.

Begeek · 24 Juil · 14h00

Uber taille dans son support client et assume franchement le virage IA

Uber supprime 10% de son service client, en liant la décision à l’IA. Le groupe durcit aussi sa politique de retour au bureau pour les équipes visées.

Begeek · 24 Juil · 12h00

Tesla dépense à fond, mais ses gros paris prennent du retard

Les dépenses de Tesla explosent pendant que Cybercab, Semi et Megapack 3 glissent hors de 2026. Le groupe encaisse plus, mais sa marge craque.

Begeek · 24 Juil · 10h00

La recharge du smartphone en voiture : un faux problème de consommation

Oui, un smartphone branché en voiture demande un peu de carburant. Mais l’impact réel sur la conso comme sur la batterie reste franchement minuscule.