L’IA pourrait provoquer des “incidents majeurs” d’ici un à deux ans
Les agents d’intelligence artificielle pourraient provoquer des “incidents majeurs” d’ici un à deux ans, si les entreprises et les États ne font pas le nécessaire pour les rendre sûrs, a prévenu mercredi Demis Hassabis, président de Google DeepMind.
A. FO
Source: Belga, AFP
14 octobre 2026, 13:02
Ajoutez-nous à vos favoris Google
Les pertes de contrôle d’agents autonomes observées ces derniers mois “sont en quelque sorte des signaux d’alerte avancés, parce que ces systèmes ne sont pas encore très puissants, donc les incidents ne sont pas majeurs, mais ils pourraient l’être d’ici un à deux ans si nous n’accentuons pas les efforts” en matière de sécurité, a-t-il déclaré lors d’un sommet sur l’IA à Dublin
Une course à l’IA au détriment de la sécurité ?
Les fournisseurs d’intelligence artificielle doivent “garder la maîtrise de leurs systèmes”, malgré la concurrence acharnée au sein du secteur qui les pousse à relâcher leurs efforts, a affirmé pour sa part la commissaire européenne au Numérique Henna Virkkunen, également présente à Dublin (suite ci-dessous).
“Nous constatons une concurrence mondiale si féroce que les entreprises ne semblent pas consacrer suffisamment de temps et de ressources à tester réellement leurs modèles”, a-t-elle averti. “Nous avons d’ailleurs observé plusieurs incidents révélant que les entreprises ne sont pas toujours conscientes des actions entreprises par leurs agents. Elles doivent être capables de garder la maîtrise de ces systèmes”.
“Ces modèles sont aujourd’hui si performants qu’il devient de plus en plus difficile de les évaluer”
“Ces modèles sont aujourd’hui si performants qu’il devient de plus en plus difficile de les évaluer ; il est donc crucial d’allouer aux experts le temps nécessaire pour tester les systèmes”, a souligné la responsable, rappelant que ses services avaient “adressé une demande d’informations aux principales entreprises du secteur, les interrogeant sur les mesures de sûreté et de sécurité en place ainsi que sur les procédures d’évaluation externe”.
Pouvoir européen de régulation
L’UE dispose en effet depuis cet été de pouvoirs pour tenter de réguler le secteur, dans le cadre de sa loi pionnière sur l’intelligence artificielle, l’AI Act, et a commencé à demander des comptes aux entreprises sur différents sujets, allant de la sécurité au respect du droit d’auteur. La maîtrise des systèmes d’IA est “une exigence que nous affirmons très clairement dans notre AI Act”, a insisté Henna Virkkunen.
Google ouvre ses modèles à 200 chercheurs
Google a annoncé qu’il allait donner à 200 chercheurs européens un accès à ses modèles et systèmes d’intelligence artificielle les plus avancés, pour soutenir la recherche scientifique. Ces chercheurs seront sélectionnés par la Commission européenne, parmi les bénéficiaires du programme européen RAISE, a précisé à l’AFP le géant technologique américain, depuis Dublin. Ces spécialistes bénéficieront d’un accès direct aux outils scientifiques les plus évolués de Google DeepMind et de Google Cloud, indique l’entreprise. Cela inclut AlphaFold 3 (modèle spécialisé dans la recherche sur les protéines), AlphaGenome ou WeatherNext (prévisions météo).
“En fournissant une puissance de calcul vitale et des outils de pointe, cette initiative vise à accélérer l’innovation en Europe et à renforcer la compétitivité des chercheurs du continent”, explique le groupe.