Ils "sont essentiels à la sûreté, à la sécurité, à la cybersécurité et à l'innovation": Nvidia, Microsoft, Google... Les entreprises américaines s'allient pour défendre les modèles d'IA ouverts

Publié aujourd'hui à 12h26

Emmenées par Nvidia, plusieurs entreprises d'IA et de la tech ont signé une lettre dans laquelle ils expliquent pourquoi les modèles ouverts, notamment ceux dits open weight sont essentiels dans le secteur, à l'heure où des responsables américains menacent les récents modèles chinois de restrictions.

Les modèles d'IA doivent-ils être ouverts ou fermés? C'est un sujet qui divise le secteur de l'IA depuis des années et qui est revenu sur le devant de la scène ces derniers jours. Le patron de Nvidia, Jensen Huang, y a même dédié sa toute première publication sur le réseau social X.

"Les modèles ouverts renforcent la sécurité et la cybersécurité, accélèrent l'innovation et la diffusion des technologies, et favorisent la souveraineté. Le monde a besoin à la fois de modèles fermés de pointe et de modèles ouverts de pointe", a-t-il affirmé dans son message et dans lequel il partage une lettre signée par son entreprise et plusieurs autres dont Google, Microsoft, Meta, OpenAI, Mistral ou encore SpaceX.

Ce contenu ne peut pas être affiché

Ce contenu ne peut pas être affiché sans votre consentement car il implique l’utilisation de cookies déposés par son fournisseur. Ces cookies peuvent notamment permettre de mesurer l'audience, personnaliser le contenu ou suivre votre navigation. Pour afficher ce contenu, vous pouvez :

Paramétrer vos choix afin d'accepter uniquement les cookies liés à ces contenus tiers en cliquant sur « Paramétrer les cookies ». Vous pouvez à tout moment modifier vos choix et retirer votre consentement en cliquant sur « Paramétrage des cookies » figurant en bas de page de ce site.

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles. Sans votre consentement, ce contenu ne peut pas être affiché

Elles y expliquent pourquoi les modèles open weight sont importants. Ce terme est utilisé pour qualifier un modèle dont seuls les paramètres sont connus, là où un modèle est dit ouvert ou open source lorsque son code de programmation est accessible à tous et peut donc être consulté et modifié.

"Notre leadership ne sera pas jugé à l'aune d'un seul modèle d'IA de pointe, mais sur la capacité des États-Unis à bâtir un écosystème solide et ouvert qui rayonne dans tous les secteurs. C'est essentiel pour créer des opportunités d'innovation et de prospérité à travers tout le pays", soutiennent les signataires dans leur lettre, qui a aussi été partagée par les patrons de Microsoft, Satya Nadella, et de SpaceX, Elon Musk.

Des modèles essentiels pour l'innovation et la sécurité

Ils jugent les modèles open weight essentiels dans cet objectif car "ils rendent l'IA de pointe plus accessible, plus adaptable et largement disponible". Même si seuls leurs paramètres sont connus, il est en effet possible de les télécharger, de les examiner, de les modifier et de les exécuter sur sa propre infrastructure.

Ce contenu ne peut pas être affiché

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles. Sans votre consentement, ce contenu ne peut pas être affiché

Non seulement, ils offrent plus de contrôle aux utilisateurs comparé aux modèles fermés, ils renforcent aussi la concurrence, évitant ainsi que l'IA ne soit bénéfique qu'à une poignée d'entreprises. "Les modèles open weight sont essentiels à un écosystème d'IA sain", a assuré Satya Nadella sur X.

"Nous percevons un sentiment croissant et erroné concernant les modèles ouverts. Il est crucial de comprendre que les modèles ouverts sont essentiels à la sûreté, à la sécurité, à la cybersécurité et à l'innovation", a déclaré Jensen Huang dans une interview accordée à Bloomberg pour justifier la publication de la lettre.

Ce contenu ne peut pas être affiché

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles. Sans votre consentement, ce contenu ne peut pas être affiché

"Ils sont nécessaires pour les start-up ainsi que pour la souveraineté, qu'il s'agisse de celles des entreprises ou d'une souveraineté plus large", a ajouté le PDG de Nvidia, jugeant important que les modèles d'IA soient aussi ouverts que possible.

Un avis qui n'est pas partagé par toutes les entreprises du secteur. Anthropic, connu pour le robot conversationnel Claude, considère que ces programmes informatiques à la base des chatbots sont trop dangereux pour être ouverts et doivent être contrôlés par les sociétés pour des raisons de sécurité. C'est aussi le cas d'OpenAI, qui a pourtant signé la lettre.

Leur opinion est aussi liée à la concurrence chinoise. Les deux start-up ont récemment partagé leurs inquiétudes concernant les modèles open source de Pékin auprès d'autorités de régulation américaines, rapporte le New York Times. Ces dernières semaines, plusieurs entreprises chinoises, à l'instar de Moonshot AI, ont en effet dévoilé des modèles qui impressionnent par leurs capacités et font peur aux États-Unis à l'heure où le pays veut gagner la course à l'IA face à la Chine.

Ce contenu ne peut pas être affiché

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles. Sans votre consentement, ce contenu ne peut pas être affiché

Anthropic et OpenAI accusent ces sociétés d'avoir développé leurs modèles en utilisant les données des leurs. Un processus connu sous le nom de "distillation". Des accusations qui ont également été formulées par le secrétaire au Trésor américain, Scott Bessent, et le conseiller de Donald Trump pour la science et la technologie, Michael Kratsios, qui estiment que cela revient à du vol de propriété intellectuelle.

"Nous soutenons l'IA open source et l'innovation qu'elle débloque. Mais open source ne signifie pas pour autant que la propriété intellectuelle américaine est à la portée de tous. Lorsque des entreprises chinoises mènent des attaques de 'distillation' secrètes à l’échelle industrielle qui franchissent la ligne rouge du vol de propriété intellectuelle, des sanctions et des inscriptions sur la liste des entités seront envisagées", a menacé Scott Bessent sur X. C'est dans ce contexte que les entreprises se sont réunies pour défendre les modèles ouverts.

Qui dit modèle fermé ne dit pas forcément sécurisé

Ces inquiétudes autour de l'open source n'empêchent pas Nvidia et Microsoft de s'appuyer sur des modèles ouverts pour alimenter la demande pour leurs services de cloud computing et leurs puces. Pour ces entreprises et les autres signataires de la lettre, ces modèles et ceux dits open weight permettent, par leur nature, à davantage de personnes d'évaluer leur sécurité.

"Dans un monde où les cyberattaquants exploitent une IA de pointe, les défenseurs doivent avoir accès à des modèles aux capacités comparables afin de pouvoir détecter, simuler et contrer les menaces émergentes. Les modèles ouverts renforcent les capacités de défense, accroissent la transparence et permettent à de nombreuses équipes de détecter et corriger les vulnérabilités", arguent-ils.

Reconnaissant que ces derniers comportent des risques liés, car le développeur initial n'en a plus le contrôle, ils soulignent le fait que les modèles fermés ne sont pas sans danger.

Ils "peuvent être compromis, détournés ou présenter des défaillances indétectables pour les acteurs extérieurs", pointent les signataires.

Le piratage de Hugging Face par deux modèles d'OpenAI en est la preuve, a déclaré Jensen Huang à Bloomberg. Alors que le créateur de ChatGPT cherchait à évaluer leurs capacités en matière de piratage dans un environnement isolé, ils ont réussi à faire sauter les verrous et se sont connectés à internet pour ensuite pirater la plateforme populaire auprès des programmeurs.

placeholder video

"Le fait qu'un système soit fermé ne le rend pas nécessairement sûr ou sécurisé (...) Les points de défaillance uniques constituent notre plus grande vulnérabilité. En tant qu'industrie et en tant que société mondiale, nous ne pouvons pas nous permettre d'avoir des points de défaillance uniques. Nous devons disposer de mécanismes d'auto-défense massivement distribués", a martelé le PDG de Nvidia.

Le piratage de Hugging Face montre à quel point il est important d'avoir des modèles ouverts pour une autre raison, insiste-t-il. La plateforme, qui a détecté l'incident avant OpenAI mais sans en connaître l'auteur, a pu se défendre grâce à un modèle open source de la start-up chinoise Z.ai. Il leur a permis de localiser la faille de sécurité et le point d'intrusion pour ensuite stopper l'attaque.

Ce contenu ne peut pas être affiché

Pour en savoir plus, vous pouvez également consulter notre politique de protection des données personnelles. Sans votre consentement, ce contenu ne peut pas être affiché

Après sa rencontre avec OpenAI, le patron de Hugging Face, Clément Delague, a d'ailleurs révélé ce qu'il avait demandé à l'entreprise. À commencer par une "transparence radicale". Il a exhorté la start-up à rendre publiques "les traces des agents 'rebelles' pour que toute la communauté de recherche puisse étudier ce qui s'est passé".

"La première cyberattaque par un agent autonome est un événement sans précédent. Elle mérite une réponse sans précédent", a proclamé le patron de la plateforme.