Pour faire de l’IA une coéquipière mieux vaut une défense personnalisée

Alors que l’utilisation de l’intelligence artificielle (IA) en entreprise continue d’augmenter rapidement, à hauteur de 18 % des organisations de plus de 10 salariés selon une étude de l’Insee, la question de la sécurisation des données et des flux est devenue centrale.

Si les fournisseurs de modèles intègrent nativement leurs propres mécanismes de protection, ces barrières standards montrent rapidement leurs limites en environnement professionnel. Conçus pour couvrir la responsabilité des éditeurs plutôt que les risques métiers des utilisateurs, ces dispositifs génériques créent un faux sentiment de sécurité tout en engendrant des frictions opérationnelles.

Dès lors, s’en remettre uniquement aux protections par défaut ne suffit plus pour répondre aux exigences réelles des équipes SecOps.

Pour les problèmes que les garde-fous natifs doivent, en théorie, pouvoir traiter, comme les jailbreaks, les fournisseurs d’IA eux-mêmes ont confirmé l’impossibilité d’une résistance parfaite. Ils appuient ainsi l’idée d’un arbitrage nécessaire entre sécurité et praticité. Les entreprises se doivent donc d’implémenter leurs propres garde-fous IA plutôt que de s’en remettre uniquement à ceux, incertains, des fournisseurs ou plateformes.

Une protection personnelle à géométrie variable

Chaque utilisateur nécessite un niveau de contrôle différent. Pour les chercheurs en cybersécurité, les garde-fous doivent permettre de s’appuyer sur les modèles pour les recherches. Sinon, ils utiliseront les techniques habituelles de jailbreak pour passer outre, ou changeront de modèle jusqu’à trouver celui qui leur permet de travailler.

En revanche, l’activité d’autres départements, comme les ressources humaines, requiert un contrôle nettement plus strict afin de les protéger contre un large éventail de contenus malveillants. De même, des ingénieurs logiciels ne peuvent laisser aucun code malveillant ou vulnérable s’infiltrer dans la base de code.

Ainsi, même ces utilisateurs expérimentés aux profils très techniques nécessitent un niveau de protection différent de celui des chercheurs en cybersécurité. Le déploiement de garde-fous propres permet de fournir des niveaux de protection adaptés à chaque groupe d’utilisateurs.

De plus, les défenses des fournisseurs les protègent avant tout eux-mêmes, notamment en empêchant la distillation de modèles, qui pourrait leur faire perdre leur avantage concurrentiel, et les usages abusifs génériques, qui pourraient engager leur responsabilité.

Pour une entreprise, l’objectif reste de protéger ses propres actifs, en prévenant les fuites de données sensibles vers des tiers, évitant une mauvaise utilisation de ses systèmes informatiques, ou protégeant ses réseaux contre le code malveillant généré par un LLM, par exemple. S’ajoute à cette découvrabilité juridique des échanges IA les récentes modifications des politiques de conservation des fournisseurs.

Tous ces éléments soutiennent clairement l’impératif de mettre en place des garde-fous pour empêcher les utilisateurs de divulguer des informations confidentielles aux fournisseurs d'IA.

De plus, en l'absence de contrôles adéquats, l'IA devient rapidement un multiplicateur de force pour les menaces internes. Par exemple, l'injection indirecte de requêtes et l'empoisonnement de contexte inter-origines permettent à des attaquants externes d'exploiter discrètement le LLM de leur victime pour causer des dégâts similaires ou dérober des données sensibles.

De nombreuses organisations craignent également que leurs utilisateurs s'appuient sur des LLM compromis qui délivreraient des contenus inappropriés ou inséreraient du code malveillant clandestin dans les réponses. L’établissement de garde-fous propres garantit ainsi un niveau de sécurité robuste et homogène, peu importe le fournisseur ou le modèle choisi.

Uniformité et observabilité

En outre, une infrastructure de sécurité correctement cadrée permet également une application uniforme des règles de sécurité. Différents cas d'usage nécessitent différents modèles, et deux versions d'un même modèle proposent souvent des garde-fous distincts. Certaines entreprises utilisent plus de 100 modèles et versions de modèles différents répartis chez plusieurs prestataires.

Or, se reposer sur les garde-fous du fournisseur pose un problème de visibilité, car ces derniers fonctionnent comme des boîtes noires. Ils appliquent généralement leurs restrictions par un refus générique ou une dégradation silencieuse des réponses, sans fournir de logs clairs indiquant le déclenchement d’un garde-fou et la raison.

Par conséquent, les équipes SecOps n'ont aucune visibilité sur quels utilisateurs se heurtent aux garde-fous, à quelle fréquence ils y sont confrontés, les garde-fous spécifiques déclenchés, et si l'utilisateur a abandonné sa requête ou s'il a persisté jusqu'à contourner la restriction.

L’implémentation de garde-fous personnalisés permet de combler ce déficit de visibilité, en donnant les moyens d'évaluer le niveau de risque associé à chaque utilisateur lorsqu'il rencontre ces blocages.

Les garde-fous natifs présentent également une autre limite d'observabilité, à savoir qu'ils se cantonnent généralement au modèle lui-même. Ils n'analysent pas l'écosystème global, comme les serveurs MCP avec lesquels communiquent les agents qui invoquent le modèle, ni les autres outils sollicités au cours du processus. Le déploiement de garde-fous propres permet d'inspecter l'ensemble de ce trafic critique.

Les fournisseurs de modèles utilisent des classificateurs probabilistes basés sur des LLM pour filtrer le contenu. Ce fonctionnement rencontre une forte résistance des experts en cybersécurité en raison des faux positifs, d’autant que la simple persévérance permet souvent de déjouer ces protections.

À l'inverse, l’utilisation de garde-fous personnalisés permet de combiner des règles déterministes (expressions régulières, correspondance exacte de données, empreintes numériques/fingerprinting) pour détecter le contenu sensible avant qu'il ne quitte le réseau, et un autre ensemble différent de règles déterministes pour détecter le contenu malveillant ou inapproprié avant qu'il ne soit réinjecté dans le réseau depuis le LLM.

Associés à des classificateurs basés sur les LLM, de tels garde-fous offrent des défenses à la fois prévisibles et complètes, tout en conservant la flexibilité propre aux LLM pour détecter une large variété de menaces.

S'en remettre aux seuls garde-fous natifs des fournisseurs d'IA expose les entreprises à de lourdes failles de sécurité et d'opérabilité. Pensées pour protéger les éditeurs plutôt que leurs clients, ces barrières génériques manquent de transparence, d'agilité et d'efficacité face aux fuites de données ou aux cyberattaques ciblées.

Pour préserver leurs actifs et garantir une gouvernance robuste, les organisations se doivent d'implémenter leurs propres solutions de contrôle. Cette approche sur mesure permet d'ajuster les restrictions selon les métiers, de reprendre une visibilité SecOps totale sur les flux et d'unifier la sécurité sur l'ensemble de leur écosystème IA, quel que soit le modèle utilisé.

*Frederic Tak-Kit Ong est Country Manager France de Netskope