Communiqué de presse

Programme « Confiance.ai » : un collectif de 13 industriels et académiques français relève le défi de l’industrialisation de l’intelligence artificielle (IA) pour les produits et services critiques.

  • Les « Grands Défis » sont des programmes publics d’investissement qui visent à développer des technologies et innovations de rupture à fort impact social et économique. Le Grand Défi « Sécuriser, fiabiliser et certifier des systèmes fondés sur l’intelligence artificielle » a pour objectif de construire les outils garantissant la confiance placée dans les produits et services intégrant l’intelligence artificielle (IA) et entend ainsi fournir un cadre « technique » à la future proposition de réglementation européenne sur l’IA.
  • Demain, les technologies d’IA de confiance seront au centre de la conception et de la production de produits et services majeurs et variés comme le véhicule autonome, l’aéronautique de dernière génération, l’industrie 4.0, l’énergie ou la défense.
  • Doté d’un budget de 45 M€ sur la période 2021 – 2024, Confiance.ai ambitionne, grâce à un collectif de 13 partenaires industriels et académiques français majeurs, de créer une plateforme d’outils logiciels permettant l’intégration d’IA dans des produits ou services critiques, c’est-à-dire dont les accidents, les pannes ou les erreurs pourraient avoir des conséquences graves sur les personnes et les biens.
  • Confiance.ai mobilise l’expertise française en intelligence artificielle, mais aussi en ingénierie et en sureté de fonctionnement, pour offrir aux industriels des solutions leur permettant de développer de nouveaux produits et services à base d’IA de confiance, répondant ainsi à des enjeux majeurs autant sociétaux qu’en termes de compétitivité économique et de souveraineté.

Paris, le 1er juillet 2021

La question du fonctionnement sûr et fiable des logiciels est au cœur de nombreuses applications de tous les jours, qu’il s’agisse du transport (automobile, aviation, rail, etc.), des dispositifs de santé, des opérateurs d’intérêt vital. La diffusion rapide des logiciels d’intelligence artificielle (IA) dans tous les secteurs d’activité pose ainsi des questions spécifiques en termes de garanties sur leur « bon fonctionnement ». Que l’on pense à la sûreté d’une prise de décision « autonome » en temps réel comme pour le véhicule autonome, à des domaines ne tolérant pas l’erreur de décision (sécurité, justice, diagnostic de santé, etc.) ou à des attentes d’équité de traitement qui exigent la garantie que les traitements ne sont pas biaisés, la confiance placée dans les produits et services intégrant de l’IA doit ainsi impérativement être développée.

Dans le cadre du Grand Défi* « sécuriser, certifier et fiabiliser les systèmes fondés sur l’intelligence artificielle » impulsé par l’État et dirigé par Julien Chiaroni (Secrétariat général pour l’investissement), le programme Confiance.ai réunit un collectif de 13 partenaires industriels et académiques français majeurs : Air Liquide, Airbus, Atos, Naval Group, Renault, Safran, Sopra Steria, Thales, Valeo, ainsi que le CEA, Inria, l’IRT Saint Exupéry et l’IRT SystemX .

Tous sont fédérés autour d’une même ambition et conjuguent leurs forces et leurs compétences pour industrialiser et intégrer de l’IA de confiance dans les futurs produits et services industriels critiques, c’est-à-dire dont les accidents, les pannes ou les erreurs pourraient avoir des conséquences graves sur les personnes et les biens. Le montage et le pilotage du programme ont été confiés à l’IRT SystemX.

« Ces développements technologiques sont un prérequis à une IA de confiance, éthique et responsable en France et en Europe. De par l’excellence de sa recherche en mathématiques, en intelligence artificielle, en ingénierie et en sûreté de fonctionnellement, la France dispose d’atouts indéniables pour relever ce défi. C’est sur la combinaison de l’ensemble de ces forces que capitalise le programme Confiance.ai. Il se propose ainsi d’apporter un « cadre » technique à la proposition de réglementation européenne sur l’IA »,explique Julien Chiaroni, Directeur du Grand Défi IA de confiance au sein du Secrétariat général pour l’investissement.

Lors de l’événement de lancement du programme le 1er juillet qui s’est tenu dans le nouveau centre de R&D de Valéo dédié au véhicule autonome « Valeo Mobility Tech Center », Jean-Baptiste Djebbari, Ministre délégué chargé des Transports a déclaré :

« La France se dote aujourd’hui d’un cadre réglementaire complet pour la circulation des véhicules autonomes : c’est une première en Europe. Et nous avons donc plus que jamais besoin d’une IA sûre, performante et homologable. C’est l’objectif de Confiance.ai, le plus grand programme R&T de la stratégie nationale en Intelligence Artificielle lancée par le Président de la République en 2018, financé à hauteur de 30M€ par le Programme d’investissements d’avenir. Je me réjouis que des industriels de différents secteurs collaborent à ce grand défi. »

Cédric O, secrétaire d’Etat chargé de la Transition numérique et des Communications électroniques, a pour sa part salué les avancées de ce projet : « Avec la concrétisation de ce partenariat, le grand défi entre aujourd’hui dans une nouvelle dimension. L’IA de confiance, c’est-à-dire l’IA pour les systèmes critiques, est aujourd’hui nécessaire dans de nombreux domaines comme la voiture autonome aujourd’hui et l’aéronautique et le spatial demain. Au-delà du grand défi, c’est une preuve de la réussite de la Stratégie Nationale pour l’Intelligence Artificielle qui démontre encore une fois l’importance de l’investissement public dans les technologies de pointe. »

* Les Grands Défis sont des programmes publics d’investissement qui vise à développer des technologies et innovations de rupture à fort impact social et économique. 

Concevoir une plateforme d’outils logiciels pour l’IA de confiance

Ce collectif multi-filière s’attachera, sur la période 2021 à 2024, à concevoir et à proposer un plateforme d’outils logiciels souveraine, ouverte, interopérable et pérenne permettant l’intégration de l’IA dans des produits et services critiques de manière sûre, fiable et sécurisé.

Dédiée à l’ingénierie des produits et services industriels innovants intégrant de l’intelligence artificielle, cette plateforme fournira des méthodes et des outils logiciels au service de la conception, de la validation, de la qualification, du déploiement et de la maintenance de produits et services à base d’intelligence artificielle. Elle vise ainsi à réduire les coûts de développement de ces produits et services tout en garantissant leur « bon » fonctionnement.

Les premiers secteurs d’application seront l’automobile, l’aéronautique, l’énergie, le numérique, l’industrie 4.0, la défense et le maritime, avec des cas d’applications variés comme le contrôle industriel en ligne, la mobilité autonome ou les systèmes d’aide à la décision.

Un enjeu sociétal, de compétitivité économique et de souveraineté

Confiance.ai répond à la fois à des enjeux d’acceptation sociale, de compétitivité industrielle et de souveraineté nationale.

Partout dans le monde, usagers, citoyens, autorités et instances de réglementation, d’homologation ou de certification, attendent que ces nouveaux produits et services proposés soient sûrs, fiables, éthiques et de confiance. De même, la robustesse, la fiabilité et la sécurité des systèmes d’IA critiques seront indispensables pour permettre leur passage à l’échelle industrielle. Ainsi la capacité à expliquer les prises de décision suggérées par les algorithmes ou à apporter des preuves garantissant leur « bon » fonctionnement deviendra prochainement décisive.

Des solutions technologiques sur la certification, la fiabilité, l’évaluation, la transparence et l’auditabilité des algorithmes garantiront, demain, un haut de niveau de confiance dans les futures solutions d’IA pour l’industrie. La maîtrise de ces technologies représente un enjeu fort de souveraineté numérique mais également la capacité à mettre en œuvre la future réglementation européenne sur l’IA.

Pilier technologique du Grand Défi dédié à l’IA de confiance bénéficiant d’un investissement de 45M€, Confiance.ai est à ce jour le programme de recherche technologique le plus doté de la stratégie nationale #AIforHumanity visant à faire de la France un pays leader de l’intelligence artificielle. Il s’inscrit dans la lignée du « Manifeste pour l’intelligence artificielle au service de l’industrie » signé en juillet 2019, par 8 industriels français engagés pour « faire de l’IA une source de croissance et d’emploi dans leurs secteurs industriels ». 6 de ces grands groupes sont partie-prenante du programme Confiance.ai* .

* Airbus, Air Liquide, Renault, Safran, Thales et Valeo

Une stratégie collective et multi-filière

Le programme Confiance.ai traduit l’ambition du Grand Défi de fédérer des acteurs majeurs de la recherche et de l’industrie afin d’adopter une stratégie collective et multi-filière. Plus de 300 équivalents temps plein (ETP) sont mobilisés sur deux plateaux projets à Saclay et à Toulouse.

Cette ambition s’est construite collectivement pendant 9 mois et s’est matérialisée par une feuille de route stratégique. Cinq principaux axes la structurent : la caractérisation de l’IA, l’IA de confiance by design, l’ingénierie de la donnée et des connaissances, la maîtrise de l’ingénierie système fondée sur l’IA, et l’IA de confiance pour l’embarqué.

« Les enjeux de l’intégration de l’intelligence artificielle dans les systèmes critiques sont immenses et les attentes des industriels français sont importantes et à prendre en compte dès maintenant. Il existe de nombreux démonstrateurs, mais les industrialiser pour des applications critiques dans des systèmes industriels représente un défi d’envergure. Le programme Confiance.ai est en synergie avec les initiatives existantes (DEEL, ANITI, DATAIA, MIAI et IA2), et apporte un niveau d’intégration supplémentaire de par son orientation industrielle forte », commente Emmanuelle Escorihuela, Présidente du comité de pilotage du programme Confiance.ai.

Les travaux du programme Confiance.ai ont débuté en janvier 2021. Le calendrier prévoit, la livraison de briques technologiques intégrées chaque année, en veillant à la valorisation des actifs transférables vers les industriels du consortium sera réalisée dès les premiers résultats.

Le programme Confiance.ai ambitionne d’avoir une portée internationale forte qu’il construit d’ores et déjà avec le Québec où un programme complémentaire est en cours d’élaboration, ou en encore une coopération renforcée sur les normes avec l’Allemagne.

Un AMI pour intégrer start-ups et PME innovantes dans le programme

Un Appel à Manifestation d’Intérêt (AMI) est lancé ce 1er juillet 2021 pour intégrer dans les 7 projets du programme Confiance.ai des start-ups et PME innovantes dont les technologies sont susceptibles de contribuer à la résolution des verrous technologiques du programme. Ces verrous concernent les 3 thématiques suivantes : confiance et ingénierie système à composants IA, confiance et données d’apprentissage, confiance et interaction humaine. Les réponses sont attendues d’ici le 3 septembre prochain à 12h. A l’issue du processus de sélection, les start-ups et PME retenues pourront démarrer leurs travaux au 4ème trimestre 2021.

Relations médias

Marion Molina 
Tél. : 06 29 11 52 08 / 06 95 41 95 90
@ : marionmolinapro@gmail.com/ clairefline@gmail.com

Claire Flin
Tél. : 06 95 41 95 90
@ : clairefline@gmail.com

Téléchargement

Inscrivez-vous à la newsletter de Confiance.ai

pour en savoir plus sur les actualités du collectif et de l’IA de confiance

Centre de préférences de confidentialité

Analytics

Mesure d'audience

Google Analytics