L’environnement de confiance

Un environnement pour garantir aux industriels la confiance dans leurs systèmes d’IA

C’est par le développement et la mise à disposition de son Environnement de confiance que le programme Confiance.ai traitera la problématique de la confiance en l’IA.

L’Environnement de confiance se veut être la solution simple, valide et efficace dont ont besoin les industriels pour adopter une IA de confiance. L’Environnement de confiance assurera l’ajout progressif d’une IA de confiance dans les processus d’ingénierie existants des industriels
en revisitant les concepts et les méthodes existants.

De premiers déploiements de l’Environnement de confiance ont déjà eu lieu chez les partenaires industriels du programme. Disposer au plus tôt du retour d’expérience de ces derniers et de leurs équipes d’ingénierie s’inscrit dans la démarche du programme afin de s’assurer que les
éléments livrés sont en adéquation avec leurs besoins et leurs contraintes. Actuellement, une évolution continue est mise à disposition des partenaires du programme et chaque fin d’année marque la livraison d’une nouvelle version qui vient répondre aux objectifs fixés 12 mois plus tôt.

Un environnement de confiance modulaire et intéropérable

Finalité du programme Confiance.ai, l’Environnement de confiance se veut répondre aux besoins des industriels de la spécification de la problématique jusqu’au maintien en conditions opérationnelles et cybersécurité du système intégrant de l’IA. Cela impliquera le contrôle du comportement du dit système et, le cas échéant, la mise à jour de ses composants. L’instanciation de l’Environnement de confiance se présente sous la forme d’une chaine outillée modulaire et interopérable :

  • modulaire car destinée à couvrir et à atteindre des attributs de confiance différents selon le cas d’usage formulé et dont la variabilité ne saurait être abordée par un simple et unique ensemble d’outils
  • interopérable afin d’en assurer l’intégration progressive dans les ateliers et les environnements de conception existants. Cette interopérabilité se manifestera d’une
    part par la compatibilité de la chaine outillée avec les outils de conception utilisés dans les environnements et, d’autre part, par l’agnosticisme de l’environnement d’exécution sous jacent vis-à-vis des infrastructures suceptibles de l’héberger. Ainsi, la démarche adoptée envisage de compléter les ateliers d’ingénierie existants le plus simplement, sans les transformer.

En complément de l’Environnement de confiance, un ensemble de guides de conception outillés le complètera : ils seront à disposition des utilisateurs, quels que soient leurs rôles et seront destinés à les accompagner tout le long du processus de réalisation d’un système à base d’IA de confiance.

9 Functional sets

regroupés dans l’environnement de confiance

Les résultats du programme seront regroupés dans des Functional sets qui adresseront chacun une thématique de l’IA de confiance en proposant des méthodes pour la traiter et des outils pour en permettre la mise en oeuvre. Ces ensembles fonctionnels sont les suivants :

  • Ingénierie de bout en bout
  • Gestion du cycle de vie de la donnée
  • Gestion du cycle de vie des modèles et des composants
  • Déploiement embarqué et non embarqué
  • Conditions opérationnelles et supervision
  • Évaluation des composants d’IA,
  • Robustesse des composants d’IA
  • Incertitude des composants d’IA
  • Explicabilité des composants d’IA

Dernières Actualités

de confiance

Retour sur Confiance.ai Day 2024, le rendez-vous incontournable de l’IA de confiance

Retour sur Confiance.ai Day 2024, le rendez-vous incontournable de l’IA de confiance

Confiance.ai Day, l’événement incontournable sur l'IA de confiance, s'est tenu le 7 mars 2024 à la Direction Générale des Entreprises (DGE). Pour les 360 participants présents, c'était une opportunité unique de rencontrer les communautés d'ingénieurs et de scientifiques de l'IA et de découvrir les méthodes et les outils déployés par le collectif Confiance.ai. Lire plus

Le programme Confiance.ai au service de la réglementation européenne sur l’intelligence artificielle

Le programme Confiance.ai au service de la réglementation européenne sur l’intelligence artificielle

Accueil > Actualités > Un programme de R&D industrielle ambitieux en intelligence artificielle Confiance.ai est un programme de ... Lire plus

Interview de Fabien Le Voyer –  Directeur adjoint du programme en matière d’intelligence artificielle à Inria (PNRIA)

Interview de Fabien Le Voyer – Directeur adjoint du programme en matière d’intelligence artificielle à Inria (PNRIA)

"Confiance.ai a apporté des résultats sur trois volets et a permis entre autre de fédérer un ensemble d’acteurs large au niveau ... Lire plus

L’avenir de Confiance.ai : pérennisation et nouveaux horizons pour une IA de confiance

L’avenir de Confiance.ai : pérennisation et nouveaux horizons pour une IA de confiance

Accueil > Actualités > Le programme Confiance.ai, pierre angulaire de la stratégie nationale française pour l’intelligence ... Lire plus