Ce que préparent Numalis et son partenaire coréen pour empêcher l'IA de dérailler face à l'imprévu - ZDNET
Les intelligences artificielles sont performantes en laboratoire, mais que se passe-t-il face à l'imprévu ? Le Français Numalis et le Coréen ThinkforBL s'associent pour évaluer leur fiabilité, un enjeu devenu critique pour des secteurs comme la défense ou la santé.
L'IA sait désormais générer du texte, analyser des images, piloter des processus industriels ou assister des professionnels. Mais une question reste centrale : que se passe-t-il lorsque les conditions d'utilisation ne sont plus celles prévues lors de sa conception ?
C'est précisément le problème auquel veulent s'attaquer le montpelliérain Numalis et le coréen ThinkforBL. La société française, spécialisée dans l'évaluation de la robustesse des systèmes d'IA, et son partenaire sud-coréen viennent de signer un protocole d'accord pour accélérer le développement et la commercialisation de leurs technologies.
L'annonce intervient à Paris, dans le cadre de la « Korea-France Innovation », organisée pendant la visite d'État du président sud-coréen Lee Jae-myung en France.
- La menace invisible des agents IA en entreprise, et 90% des organisations sont concernées
Mettre les IA face à des situations qu'elles n'ont pas prévues
Un modèle d'IA peut afficher d'excellentes performances dans un environnement contrôlé et se comporter très différemment lorsque les données changent, que les conditions évoluent ou que des situations inattendues apparaissent.
C'est cette différence que les deux entreprises cherchent à mesurer.
ThinkforBL travaille sur Re, une technologie qui permet de définir différents scénarios susceptibles d'être rencontrés par une IA dans le monde réel. Le système identifie notamment les conditions à reproduire ainsi que les données nécessaires pour réaliser les tests.
Numalis apporte de son côté Saimple, une solution destinée à mesurer la stabilité d'un modèle lorsqu'il est confronté à ces différentes conditions.
L'objectif est donc de réunir les deux approches. Re définit les situations auxquelles le système doit être soumis, tandis que Saimple analyse ensuite son comportement.
Autrement dit : on ne cherche plus seulement à savoir si une IA donne la bonne réponse, mais si elle continue à fonctionner correctement lorsque son environnement change.
Des applications qui dépassent largement les chatbots
Cette problématique prend une autre dimension lorsque l'IA intervient dans des systèmes critiques.
Numalis développe ainsi des technologies d'évaluation destinées à plusieurs secteurs où une défaillance peut avoir des conséquences importantes : aéronautique et spatial, défense, ferroviaire, nucléaire, mais aussi finance, assurance et santé.
La société française revendique notamment des méthodes permettant de vérifier mathématiquement différentes propriétés des systèmes d'IA, parmi lesquelles la sécurité, la robustesse et l'explicabilité.
Le partenariat avec ThinkforBL doit permettre d'aller plus loin avec un système d'évaluation commun. Les deux entreprises travaillent à une solution capable de définir les environnements de test, de soumettre les modèles à différentes conditions et d'en mesurer la stabilité.
Le sujet intéresse également le secteur de la défense. Le protocole d'accord prévoit en effet d'étendre la collaboration à des projets de défense actuellement en cours.
Cette orientation n'est pas anodine. Pour les systèmes autonomes ou les outils d'aide à la décision utilisés dans des environnements militaires, la capacité d'un modèle à rester fiable lorsqu'il rencontre une situation imprévue peut être aussi importante que sa précision initiale.
- 35 000 entreprises sensibilisées mais peu d'achats, voici la nouvelle stratégie de l'État pour booster l'IA en France
La France et la Corée veulent faire émerger un marché de l'IA fiable
Le partenariat entre Numalis et ThinkforBL n'est pas nouveau. Les deux entreprises collaborent depuis l'année dernière dans le cadre d'un programme international de R&D franco-coréen.
Le nouvel accord doit désormais faire passer cette coopération de la recherche vers l'industrialisation.
Les entreprises prévoient de poursuivre conjointement le développement de leurs technologies, mais aussi leur commercialisation auprès des industriels. En Corée du Sud, plusieurs acteurs semblent déjà intéressés par Saimple. ThinkforBL indique que trois à quatre entreprises et institutions ont manifesté leur intérêt pour la solution.
Pour Arnault Ioualalen, dirigeant de Numalis, la robustesse constitue l'un des éléments fondamentaux de la fiabilité d'un système d'IA, notamment parce qu'elle touche directement aux questions de sûreté et de sécurité.
Park Ji-hwan, PDG de ThinkforBL, estime de son côté que la fiabilité deviendra l'un des enjeux majeurs de l'IA dans les prochaines années. Mais il pointe également un frein : le marché de l'évaluation de la fiabilité de l'IA reste encore suffisamment jeune pour qu'il soit difficile, pour les entreprises spécialisées, de se développer seules.
Un rapprochement technologique entre la France et la Corée du Sud
Le soutien public pourrait donc jouer un rôle déterminant dans la création de ce nouveau marché.
Cette coopération entre les deux pays s'inscrit dans un rapprochement technologique plus large.
Lors du sommet entre Lee Jae-myung et Emmanuel Macron, Paris et Séoul ont confirmé leur volonté de renforcer leur collaboration dans plusieurs technologies stratégiques, dont l'intelligence artificielle, les semi-conducteurs et l'informatique quantique.