Portrait de Philippe Dejean – Responsable du projet « Caractérisation et qualification d’une IA de confiance »

Pouvez-vous vous présenter ainsi que votre parcours ?

Philippe Dejean : Je suis docteur en informatique spécialisé dans le traitement et l’analyse d’images. Pendant les 25 années passées dans l’algorithmie des segments sol des satellites d’observation de la Terre, j’ai pu observer l’évolution des techniques d’apprentissage de modèles depuis les très simples perceptrons aux SVMs en passant par les ARTs. À chaque conception de nouveaux satellites, nous introduisions un peu plus de ces outils dans les chaînes algorithmiques mais les apprentissages demandaient beaucoup trop de données, souvent non disponibles, avec peu capacités de calcul ; la révolution des méthodes d’apprentissages profonds a été un moyen efficace pour pallier ces contraintes. L’arrivée du Deep Learning (Apprentissage Profond) a ouvert des portes à de nouvelles voies de recherche tout en faisant émerger de nombreuses interrogations et sans que les industriels, les PME a fortiori, aient vraiment le temps de s’y pencher : biais dans les données, confiance dans les modèles, etc. jusqu’aux problèmes d’éthique.

En juin 2021, j’ai rejoint l’IRT Saint-Exupéry comme ingénieur de recherche expert. Prendre part au programme Confiance.ai et être co-leader du projet sur la caractérisation et la qualification d’une IA de confiance est pour moi une opportunité incroyable de répondre à ces enjeux sociétaux et toutes les interrogations qui en découlent, ainsi qu’aux miennes en tant que citoyen.

Comment définiriez-vous l’IA de confiance ?

Philippe Dejean : Pour moi, l’IA de confiance est un produit logiciel qui doit pouvoir garantir que les décisions prises par l’IA pour, par exemple, l’assistance et l’aide aux diagnostics, aux choix, aux tris, etc. prennent en compte un ensemble de paramètres permettant d’accepter la décision proposée sans remise en cause. Cette IA de confiance est avant tout une IA dont, nous, partenaires académiques et industriels, par nos travaux dans le programme Confance.ai, avons à préparer les fondements et les concepts avec bienveillance et respect. Car la confiance ne s’acquiert pas immédiatement. Et, plus les enjeux sont importants, plus la confiance est un processus long qui nécessite une bonne appréhension de l’environnement. J’aime bien rapprocher la confiance de l’acte de « confier », c’est-à-dire remettre quelque chose de précieux à quelqu’un. Ainsi, pour moi, la confiance est un état d’esprit de don et d’accueil : je te confie quelque chose avec bienveillance, tu le reçois avec confiance. Comme disait un collègue qualiticien, « la confiance n’exclut pas le contrôle ». Nous avons donc également à présenter avec clarté l’ensemble de nos travaux. L’open source est là pour nous y aider et nous y obliger. C’est une bonne chose pour l’ensemble des chercheurs et une forme de garantie pour les utilisateurs.

La vague du Deep Learning permettant aujourd’hui la conception de systèmes ou d’applications du quotidien possédant de plus en plus de composants faisant appel à l’intelligence artificielle (IA), concevoir une IA de confiance devient essentielle. En effet, aujourd’hui, beaucoup d’utilisateurs ignorent totalement la présence de tels composants ce qui peut devenir problématique sur la durée (fake news, deepfake, publicité personnalisée, discours orientés, décision hâtive, influence, etc.). Parallèlement, ceux ayant conscience de la présence de l’IA dans les technologies utilisées au quotidien n’ont pas toutes les informations nécessaires à la bonne compréhension de cette IA, par exemple dans la validité des résultats, etc. qui leur sont proposés. La présence de l’IA est tellement en plein essor que la Commission Européenne souhaite légiférer au travers de l’AI Act afin de garantir les produits contenant des IA respectueuses.

Vous avez la responsabilité du projet « Caractérisation et qualification d’une IA de confiance » dans le cadre de Confiance.ai. En quoi consiste-t-il ? Quelles en sont les finalités ?

Philippe Dejean : Le projet « Caractérisation et qualification d’une IA de confiance » permet de construire la boîte à outils d’un ensemble de processus, méthodes et métriques dont le but est la mesure et l’explicitation des performances d’une IA. Cela englobe tous les domaines : le design et l’entraînement de modèles, la compréhension des modèles déjà entrainés (boîte blanche ou noire, voire grise), les modèles fondés sur les connaissances ou les données, la détermination des scores de confiance et enfin le monitoring du modèle pour respecter le domaine opérationnel (Operational Design Domain – ODD) et détecter les données hors domaine (Out Of Distribution – OOD) ; la définition des ODD et OOD étant traitée dans un autre projet du programme Confiance.ai. Si nous nous rapprochons des travaux du projet « Conception de l’IA de confiance » de Confiance.ai, relatifs à la robustesse et l’analyse des architectures, nous l’enrichissons des outils de ce projet.

À mi-parcours du programme, notre boîte à outils se remplit et de nombreux composants sont déjà intégrés dans l’Environnement de Confiance par le projet « Intégration et cas d’usages ». Toutefois, nous devons encore travailler sur la dimension « utilisabilité » pour permettre une véritable prise en main de ces outils par les partenaires industriels dans un premier temps. Ainsi, l’an prochain, nous allons consacrer nos efforts à introduire et prendre en compte les profils utilisateurs des cas d’usage fournis par les industriels du programme, les impliquant ainsi davantage dans la résolution des problématiques qu’ils apportent. Cela répondra ainsi en partie aux verrous technologiques relatifs aux besoins d’explicabilité pour les utilisateurs, designers et certificateurs.

Racontez-nous ce qui vous motive dans le fait de travailler sur le programme Confiance.ai. Qu’appréciez-vous le plus ?

Philippe Dejean : Travailler sur le programme Confiance.ai au sein de l’IRT Saint-Exupéry est une chance de pouvoir aborder l’ensemble des questions que je me suis posé jusqu’à présent sur le rôle grandissant de l’IA dans la vie de tous les jours. Nous formons un collectif unique de chercheurs et d’industriels qui mettons en œuvre toutes nos énergies pour répondre à des enjeux sociétaux cruciaux : c’est passionnant. Même si les aspirations de chacun sont différentes et que les secrets industriels doivent être respectés et protégés, nous mettons l’ensemble de nos savoir-faire en commun et à disposition de tous dans un esprit bienveillant. C’est un acte éminemment fort à destination des donneurs d’ordre et des citoyens. Nous travaillons et donnons avec bienveillance, pour qu’on puisse recevoir et utiliser avec confiance.