Les start-up dans Confiance.ai : accélérateurs d’implémentation et vecteur de diffusion des bonnes pratiques

22 Déc 2022Divers

À l’issue d’un appel à manifestation d’intérêt (AMI) lancé en 2021, le programme Confiance.ai a sélectionné 12 start-up et PME innovantes pour intégrer leurs technologies dans le catalogue de solutions prévu pour améliorer la confiance dans les systèmes d’IA. Ainsi, les entreprises lauréates se confrontent aux cas d’usage industriels et proposent de nouvelles approches pour lever les verrous scientifiques et technologiques. Autre avantage non négligeable, elles peuvent également se préparer aux futures évolutions réglementaires du domaine.

Depuis leur intégration au programme Confiance.ai, les startups ont la possibilité de tester leurs technologies et de les faire progresser en les confrontant aux besoins des industriels. En effet, les exigences des cas d’usage apportés par les industriels est une opportunité pour eux d’affiner l’adéquation de leur solution à ces besoins. Par exemple, le programme a permis de mesurer, dans un contexte industriel, la pertinence de l’assistant vocal de Spix Industry. Les opérateurs, en usine ont besoin d’un niveau d’interaction adapté à leur contexte. Ainsi, cette collaboration a permis d’étudier l’apport technologique de l’assistant vocal et l’évaluation de son explicabilité par des méthodes issues des sciences humaines. Également, la société MyDataModels développe des algorithmes évolutionnaires et génétiques. Cette technologie a été utilisée pour comprendre son caractère interprétable. Son domaine d’applicabilité a pu aussi être étudié en fonction des cas d’usage industriels pour rechercher la bonne adéquation.

 

Une collaboration qui s’adapte aux niveaux de maturité des start-up et des PME

La collaboration entre Confiance.ai et ces 12 start-up et PME lauréates, s’adapte nécessairement aux niveaux de maturité des technologies. Pour certaines technologies dont les développements sont encore en cours, la co-construction se concentre sur la montée en maturité des solutions jugées intéressantes par le consortium. Pour les technologies déjà développées, la co-construction se concentre alors sur la démonstration de la satisfaction du besoin. Ainsi, le programme permet d’évaluer l’applicabilité de la solution sur les cas d‘usage proposés. En effet, la complexité des problématiques adressées permet rarement une évaluation facile a priori. L’adéquation au besoin et la mesure de performance d’une solution nécessite une réelle mise en pratique.  Par exemple, avec la société AI Redefined, le programme explore l’apprentissage continu : en faisant collaborer des humains et des agents numériques, la séparation temporelle stricte des phases d’apprentissage et de prédiction est effacée au profit d’une orchestration plus dynamique. Avec la société AIvidence, la co-construction a permis de mieux comprendre la dynamique de l’explicabilité. Avec la société Quantmetry, le programme a pu évaluer des méthodes d’estimation de l’incertitude. La co-construction peut continuer dans la durée car Quantmetry consolide ses méthodes en open source dans sa bibliothèque logicielle MAPIE.

Une collaboration qui permet la prise en compte d’approches différentes

Le programme travaille sur des problématiques complexes et multifacettes qui requièrent une diversité d’approches pour être correctement traités. Un projet commun, basé sur un cas d’usage de Valeo, illustre bien ce type de collaboration enrichie par la complémentarité. Le projet s’est intéressé prioritairement à la détection de piétons à partir de données capturées par des caméras embarquées. Le projet visait à évaluer la génération de données pour l’entrainement et la validation de modèles d’apprentissage. Il a mobilisé des experts de Valeo, Renault, Sopra Steria et de quatre PME françaises, Cervval, Golaem, Jolibrain, Oktal-SE. Ces dernières ont été sélectionnées pour générer des données synthétiques ou modifier des données (réelles ou synthétiques) par transfert de style. Ces données ont été utilisées pour réaliser des tests comparatifs en phase d’entrainement (apprentissage sur données générées, évaluation sur données réelles) et de validation (apprentissage sur données réelles, évaluation sur données générées) de modèles d’apprentissage profond.

 

La spécialisation des start-up et des PME, un avantage pour Confiance.ai

Pour survivre et réussir, les start-up et PME innovantes doivent fournir des résultats tangibles à court terme en opérant avec des moyens limités. Grâce à leur spécialisation, les start-up permettent d’accélérer la convergence des recherches. Leur intégration permet de stimuler le processus de réalisation de Confiance.ai. Dans le domaine de l’intelligence artificielle embarquée, la spécialisation est nécessaire pour résoudre les contraintes matérielles et logicielles. Dans ce but, Confiance.ai a travaillé en 2022 avec AzurIA et Datakalab. AzurIA apporte une expertise outillée pour savoir si une IA est embarquable : la combinaison des contraintes matérielles et logicielles de l’embarqué est étudiée dans le programme sous le prisme des critères de Confiance.ai. Une approche méthodique comparative a permis de rationnaliser cette évaluation d’embarquabilité. Datakalab est une start-up spécialisée dans la compression de réseaux de neurones. Pour embarquer un modèle prédictif sur un système matériel très contraint, comme une caméra, il est nécessaire de simplifier l’architecture des réseaux de neurones profonds. Au moment du déploiement, certaines couches ne sont plus nécessaires. Les travaux de Datakalab ont permis de voir que les méthodes classiques sont sous-optimales et de fournir une meilleure optimisation du réseau permettant d’améliorer le temps d’inférence.

Une préparation aux réglementations futures pour les start-up et les PME

Confiance.ai comporte un important volet sur la standardisation de l’IA de Confiance. Cet enjeu sociétal est aussi un enjeu commercial. Pourtant, les start-up n’ont pas les moyens pour s’impliquer dans les processus de création des normes et règlements. L’anticipation est clef pour être compatible et conforme au moment de l’application de nouvelles contraintes réglementaires ou de labellisation. Dans ce cadre, Kereval a apporté son savoir-faire dans le domaine du test. Les travaux sur l’évaluation de la robustesse ouvrent la voie à une démarche structurée autour du test en boite noire.

Prendre en compte au plus tôt les futurs critères de réglementation est un avantage compétitif pour les startups. Leur sensibilisation à cette problématique dans le cadre du Programme leur apporte un gain de temps et de compétence. La prise en compte de la problématique de la confiance au plus tôt est aussi bénéfique pour les utilisateurs finaux. En étant intégrées dès la conception des produits, les meilleures méthodes améliorent le service rendu.

 

La spécialisation des startups et leur excellence technique sont des ingrédients très utiles pour faire converger les travaux de recherche. L’intégration technique des composants apporte des contraintes créatrices qui permettent à tous les acteurs de se familiariser en profondeur avec les technologies impliquées. La dimension intégrative du programme, au-delà de l’aspect technologique, est aussi une aventure d’écosystème. En diffusant la problématique de la confiance, le programme permet à son écosystème de monter en maturité. La participation des start-up leur permet d’anticiper les évolutions du domaine et renforce la compétitivité française.

Étant donné le succès de ces collaborations, le programme continuera à s’ouvrir à d’autres partenariats avec des start-up et PME innovantes en 2023.

 

Les start-up lauréates de l’AMI 2021-2022

Sujet traité dans Confiance.ai
AI Redefined Collaboration Humain-IA
AIvidence Explicabilité
AzurIA IA embarquée
Cervval Création de données synthétiques
Datakalab Compression des réseaux de neurones
Golaem Création de données synthétiques
Jolibrain Création de données synthétiques
Kereval Études de robustesse
MyDataModels Modèles frugaux
Oktal SE Création de données synthétiques
Quantmetry Application de la bibliothèque MAPIE
SPIX Industry Assistant vocal explicable

 

Un article rédigé par Rémi Boyer.