Pilier technologique du Grand Défi[1] « sécuriser, certifier et fiabiliser les systèmes fondés sur l’intelligence artificielle », le programme Confiance.ai, lancé en janvier 2021 et piloté par l’Institut de Recherche Technologique (IRT) SystemX, affiche une dynamique soutenue et dévoile ses premiers résultats à l’occasion de la première Journée annuelle qui se tient à Toulouse ce 6 octobre 2021. Impulsé par un collectif de 13 industriels et académiques français[2], ce programme de 45 millions d’euros sur 4 ans ambitionne de relever le défi de l’industrialisation de l’intelligence artificielle (IA) dans les produits et services critiques.

« L’IA de confiance est l’un des enjeux actuels clés du monde industriel, tant la diffusion de l’IA est rapide dans tous les secteurs et notamment ceux qui ne tolèrent pas d’erreur de décision. Nous ne pouvons qu’être extrêmement satisfaits de la dynamique qui s’est mise en place en France dans le cadre du programme Confiance.ai. Pleinement opérationnel depuis janvier, il suscite l’engouement de très nombreuses PME et acteurs académiques venant rejoindre notre Maison Commune et apporter leurs expertises et technologies, en collaboration avec les 13 partenaires structurants à l’initiative du programme », commente Julien Chiaroni, Directeur du Grand Défi IA de confiance du sein du Secrétariat général pour l’investissement.

Une première version de l’environnement de confiance d’ici la fin de l’année intégrant plus de 20  composants technologiques ou méthodologiques

Pour relever ces défis, les partenaires du programme se sont concentrés sur 6 premiers cas d’usage : la compréhension de scène à partir d’une caméra, l’inspection par vision de soudure, la prédiction de demande en air liquide, l’interprétation de photos aériennes, le controle industriel visuel, ou encore l’évitement des collisions aériennes pour les systèmes d’aéronefs téléguidés.

Ces cas d’usages pratiques ont permis d’évaluer la pertinence de 20 premiers composants technologiques ou briques méthodologiques (ex : évaluation de la robustesse de réseau de neurones, quantification d’intervalle de confiance de prédictions, génération des modèles robustes à certaines perturbations, méthodes pour construire et caractériser les jeux de données, etc.), d’ores et déjà intégrés dans la première version de l’environnement de confiance développée et qui sera mise à la disposition des partenaires d’ici la fin de l’année. Cet environnement a vocation à terme d’offrir une plateforme d’outils logiciels souveraine, ouverte, intéropérable et pérenne au service de la conception, de la validation, de la qualification, du déploiement et de la maintenance de produits et services critiques à base d’IA.

Un écosystème de plus 40 partenaires d’ici la fin de l’année

Confiance.ai s’inscrit dans une démarche ouverte et intégrative. Le programme développe et fédère aujourd’hui l’écosystème national autour de l’IA de confiance et s’est ouvert à de nombreux partenaires associés.

Au-delà des 13 acteurs structurants du programme, 11 laboratoires ont rejoint récemment le collectif après avoir été sélectionnés dans le cadre d’un AMI (appel à manifestation d’intérêt) centré sur les défis scientifiques : Institut de mathématiques de Toulouse – ANITI, CRIL – Université d’Artois, CRISTAL – CNRS, LAMIH/UPHF / CRISTAL – Université de Lille, Inria KAIROS, IRIT – Université de Toulouse, LIP6 – Sorbonne Université, LITEM – Medial Lab – IMT, LITIS – Insa Rouen, ONERA et U2IS – ENSTA Paris. Ils contribueront à la montée en maturité de travaux scientifiques ou à la résolution de verrous scientifiques amont, le plus souvent sous la forme de thèse ou de doctorat. Le programme compte déjà à ce jour 9 thèses et 4 Postdocs.

D’autres partenaires tels que Apsys, LNE, Numalis et l’ONERA sont également venus renforcer le programme, en apportant leurs expertises et technologies.

Un autre AMI à destination des start-ups deeptech et PME innovantes lancé en juillet dernier devrait permettre d’intégrer une dizaine de pépites françaises au programme dès le 4ème trimestre 2021.

Au total, un puissant collectif de plus de 40 partenaires collaborera sur les sites de Paris Saclay et de Toulouse, deux places importantes de l’IA de confiance, autour de l’élaboration de cet environnement de confiance où chacun pourra tirer de la valeur de ces travaux. Confiance.ai a la chance de pouvoir s’appuyer sur cet écosystème et en particulier sur le programme Franco-Québécois DEEL, le 3IA Aniti et l’initiative DataIA.

Un programme qui contribue au projet de règlementation européenne « AI Act » de la Commission Européenne

La commission europenne a proposé un cadre juridique afin de promouvoir une IA de confiance. Toutefois, sa mise en œuvre opérationelle nécéssite le dévéloppement de solutions techniques permettant aux industriels d’y répondre. Confiance.ai permettra ainsi de créer un environnement technique (sur la certification, la fiabilité, l’évaluation, la transparence et l’auditabilité des algorithmes et des systèmes) qui garantira, demain, un haut de niveau de confiance dans les technologies d’IA.

[1] Les Grands Défis sont des programmes publics d’investissement qui vise à développer des technologies et innovations de rupture à fort impact social et économique.

[2] Air Liquide, Airbus, Atos, Naval Group, Renault, Safran, Sopra Steria, Thales, Valeo, ainsi que le CEA, Inria, l’IRT Saint Exupéry et l’IRT SystemX

Pour aller plus loin : 

Autres actualités