Le projet DEEL raconté par son directeur, Gregory Flandin

  • Scal[ia]

    4 mai 2022

Entretien avec Grégory Frandin, Directeur de Programme au sein d’ANITI et Responsable du projet DEEL.

Scalian : Peux-tu nous présenter la démarche derrière ces acronymes et les missions qui y sont portées ?

Grégory Flandin :

DEEL est l’acronyme de « Dependable and Explainable Learning« , il s’agit d’un programme de recherche transatlantique sur l’Intelligence Artificielle pour les systèmes critiques. L’idée du projet DEEL est née en 2017 à l’IRT Saint Exupéry du constat suivant : l’état de l’art et les normes existantes ne permettent pas de certifier les systèmes basés sur le Machine Learning. Pour être plus précis : au début du projet, il y avait un besoin de percée scientifique dans la théorie du Machine Learning pour apporter des garanties, mais aussi une percée en termes de processus industriels. Ceci est d’autant plus vrai lorsqu’on parle de systèmes critiques avec des vies humaines en jeu.

DEEL est aujourd’hui opéré par IVADO, CRIAQ et IID au Québec, ainsi que par ANITI et IRT Saint Exupéry en France. De fait, le projet rassemble des chercheurs de profils variés, mais également des acteurs industriels issus du domaine du transport (aéronaval, ferroviaire, automobile) et de l’intégration de l’intelligence artificielle.

Parmi ces entités, ANITI (Artificial and Natural Intelligence Toulouse Institut) est le 3IA toulousain (3IA : Institut Interdisciplinaire d’Intelligence Artificielle), centré sur le développement de l’IA hybride. Environ 10 chaires de recherches dans ANITI adressent un pan de l’IA certifiable.

Le projet DEEL

Scalian : Qu’est-ce qui fait la particularité du projet DEEL, relativement à d’autres initiatives de recherche dirigées vers l’Intelligence Artificielle ?

Grégory Flandin :

DEEL est clairement un programme pionnier en matière d’IA certifiable. A sa création et encore maintenant, peu d’initiatives aussi structurantes, regroupant autant de chercheurs et d’acteurs industriels dans le monde existent. DEEL est unique pour 3 raisons :

  • Sa mission est double : d’une part, créer de la connaissance scientifique de haut niveau, et d’autre part, développer des technologies directement utilisables par les industriels. Deux approches sont en œuvre, dites communément « Market Pull » et « Techno Push » : respectivement une approche partant des besoins systèmes pour définir des critères de succès aux enjeux scientifiques, et une approche centrée sur la production d’une solution innovante susceptible de rencontrer des utilisateurs en attente.
  • Son modèle de collaboration intégré rassemble des profils de mathématiciens capables de revoir les fondements théoriques du Machine Learning, des profils d’ingénieurs systèmes industriels capables de revisiter les processus de certification et les analyses de fiabilité, et enfin des profils de chercheurs en data science, capables de développer et d’intégrer les derniers développements mathématiques dans des outils logiciels.
  • Son implantation transatlantique à Toulouse et à Québec, voulue d’emblée afin de faire le pont entre deux écosystèmes complémentaires sur le plan de la recherche en Intelligence Artificielle et proches en matière de besoin industriel dans le domaine aéronautique et spatial.

Scalian : Quel avenir peut-on prédire à l’intelligence artificielle sur les 10 prochaines années, à la lumière des travaux portés aujourd’hui dans DEEL ?

Grégory Flandin :

Nous avons d’ores et déjà obtenus des résultats significatifs dans le cadre du projet DEEL :

  • Une étape importante a été franchie dans la compréhension des défis scientifiques par rapport aux objectifs industriels. Nous avons édité un livre blanc sur les enjeux du ML dans les systèmes certifiés (White Paper Machine Learning in Certified System (arxiv.org)).
  • Sous certaines hypothèses, nous avons été capables de traiter des cas d’utilisation réels de bout en bout, permettant d’obtenir des certificats liés à la fiabilité.
  • Nous avons développé plusieurs boîtes à outils et les avons mises à disposition des industriels (parfois publiquement en open source).
  • Et dans plusieurs situations, nous avons également été en mesure de mieux comprendre les fondements mathématiques sous-jacents au machine learning.

Il y a encore du travail à faire, mais plusieurs étapes importantes ont été franchies montrant que sous certaines hypothèses, embarquer certains types d’IA dans des systèmes critiques est possible dans un avenir proche. La généralisation à des IA en plus grande dimension sur des tâches plus complexes reste néanmoins un challenge. Il est, selon moi, vraisemblable qu’on passera par une étape de collaboration IA/humain permettant de tirer le meilleur de ce que savent faire l’un et l’autre. Mais cette collaboration pause également des questions telles que l’optimisation du partage des tâches, du périmètre entre l’humain et la machine, la garantie de la qualité de l’expression de l’un, l’explicabilité des décisions de l’autre, etc.

Scalian : Quelle est la prochaine grande échéance du projet DEEL ?

Grégory Flandin :

Une centaine de livrables ont été produits ou sont en cours de production dans le projet, ce qui signifie que nous avons en permanence de nombreuses échéances opérationnelles en cours. Nous avons déjà développé et publié plusieurs librairies, notamment sur la robustesse et l’explicabilité, et avons pour objectif d’en publier prochainement une nouvelle dédiée à la détection des biais dans les datasets.
Annuellement et depuis 2019, l’écosystème autour du projet DEEL organise la conférence mobiliT.ai. La prochaine échéance que nous tiendrons sera pour la prochaine édition, du 17 au 19 mai 2022 à Québec.

Dans sa définition actuelle, le projet se termine fin 2023. Les mois qui viennent seront consacrés à préparer avec les partenaires la suite du projet. Il s’agit à la fois d’ajuster les objectifs techniques au regard des avancées déjà obtenues et de ce qui nous reste à faire, mais également d’intégrer de nouveaux partenaires au projet. En effet, nous avons vu que de nombreuses synergies sont possibles entre les différents acteurs du domaine des transports. Ma conviction est que d’autres synergies sont possibles avec par exemple le secteur de l’énergie, de la santé, le secteur financier, et bien d’autres…

Scalian : Quels sont les meilleurs moyens de suivre l’avancement de vos travaux ?

Grégory Flandin :

DEEL s’exprime au travers de différents canaux  :

  • Un site web, lequel renvoie vers la liste de nos publications.
  • Un évènement ouvert à tous : MobiliT.AI
  • Les Carrefours DEEL , séminaires mensuelles organisés entre le Québec et la France
  • Les Workshop MLCS : des ateliers thématiques, le dernier desquels a eu lieu en septembre 2021 à Bilbao
  • Les afterworks ANITI sont également des évènements conviviaux permettant au 3IA de présenter les travaux menés dans ses chaires, et de favoriser le réseautage interne..
  • Et enfin une newsletter mensuelle autour du projet : Le  DEEL MAG

Scalian : Avec l’explicabilité, les biais, la robustesse, quelle est selon toi le prochain grand challenge de l’Intelligence Artificielle connexionniste ?

Grégory Flandin :

En effet, nous avons 5 grands défis scientifiques en cours dans le projet :

  1. Robustesse et Garanties théoriques : Nous définissons de nouvelles méthodes, conditions, et outils pour avoir plus de garanties sur le comportement des réseaux de neurones. Ces nouvelles méthodes permettent, sous des hypothèses données, d’avoir une meilleure confiance dans la robustesse des algorithmes d’apprentissage profond tout en proposant plusieurs indicateurs.
  2. Biais : Proposer et démontrer des solutions où les décisions ne sont pas influencées par des biais (inconnus et connus et inconnus), qui pourraient causer des systèmes d’apprentissage automatique biaisés et, donc, des décisions  non fiables.
  3. Explicabilité : Nous définissons et développons des outils permettant aux spécialistes des données  de prendre en compte les contraintes d’explicabilité. Nous définissons également des métriques qui permettent une évaluation objective des performances des algorithmes d’explicabilité.
  4. OOD : Nous définissons et développons des outils pour détecter les observations inconnues, et pour pouvoir utiliser ces nouvelles observations pour mettre à jour et augmenter la capacité des algorithmes.

La frugalité est un défi qui reste devant nous :

  • Frugalité à l’apprentissage : comment réduire la taille des bases de données nécessaires à l’apprentissage robuste
  • Frugalité à l’implémentation : comment réduire la taille des réseaux appris pour limiter la quantité de silicium nécessaire à l’implémentation

Ce sont des questions que nous nous posons déjà dans nos écosystèmes, mais pour lesquelles nous devront redoubler d’effort dans les années à venir. Pour des questions écologiques d’abord (il n’est pas soutenable de devoir faire tourner des centres de calculs massifs à chaque apprentissage), mais également économiques (construire des peta datasets est extrêmement coûteux) et finalement éthique (à ce jour seuls les GAFAM et autres grands groupes peuvent se « payer » certaines IA).

Enfin, notons des approches qui retiennent notre attention en ce moment et qui feront, à ne pas en douter, l’objet de recherche plus approfondies dans les prochaines années :

  • Le Machine Learning Quantique, qui pourrait constituer un élément de réponse à la question de la frugalité.
  • La question du contrôle des systèmes dynamiques par l’apprentissage par renforcement robuste, qui viserait à réunir le monde de l’automatique, de la commande robuste, et l’environnement d’apprentissage virtuel de l’apprentissage par renforcement. Cet axe de recherche en particulier illustre le partenariat actif entre Québec et Toulouse.
Grégory Flandin - ANITI
Grégory Flandin
Directeur de Programme au sein d’ANITI et Responsable du projet DEEL
LinkedIn

 

Envie de rester informé(e) ?
Abonnez-vous à la Newsletter Scal[ia]

 

 

 

ANITI DEEL IA machine learning