CAUSALI-T-AI
La causalité au service de la robustesse et de l’explicabilité des algorithmes d’IA
Aperçu
Proposer des approches, basées sur une modélisation causale, afin de rendre les algorithmes d’IA plus robustes et plus explicables.
Marianne Clausel, Professeure des Universités, Université de Lorraine
Le projet CAUSALI-T-AI défend l’idée que les approches causales peuvent contribuer à rendre le cycle de l’IA (des données aux modèles, des modèles aux décisions et des décisions aux nouvelles données) plus robuste et plus explicable.
Les verrous scientifiques concernent autant l’apprentissage de représentation causale, que les questions d’inférence. Les applications visées sont multiples et vont de la médecine personnalisée à l’économie en passant par l’énergie ou l’environnement.
Mots clefs : IA, modélisation causale, machine learning (ML)
Site internet du projet : https://sites.google.com/view/causali-t-ai/home?authuser=0
Les missions
Nos recherches
Etudier l’apprentissage de représentations causales
Découvrir des structures latentes riches et construire des représentations à la fois utiles à des tâches d’apprentissage automatique et causalement bien fondées.
Combiner inférence causale et adaptation de domaine
Développer des méthodes permettant d’adapter des modèles causaux d’un domaine source à des domaines cibles, et de proposer des interventions visant un but donné (algorithmic recourse).
Etudier l’apprentissage causal dans des environnements incertains
Développer des méthodes capables de répondre à des questions contrefactuelles dans des environnements incertains.
Construire des benchmarks pour la recherche
Référencer tous les codes open source développés dans le projet.
Le consortium
Université Grenoble Alpes, Université de Lorraine, Université Paris-Saclay,, CNRS, INRIA
Les objectifs du projet sont de développer de nouvelles approches causales, intégrant les dernières avancées dans le domaine de l’IA.
Le consortium entend saisir les opportunités offertes par le projet pour créer une synergie entre les chercheurs dans le domaine de la causalité et les chercheurs dans d’autres disciplines scientifiques.
Les approches causales permettent une compréhension approfondie des phénomènes observés, tout en ouvrant la possibilité d’explorer des scénarios alternatifs-dit contrefactuels- à ce qui a été observé.
Ces caractéristiques de la modélisation causale, en font une question fondamentale au cœur de nombreux domaines scientifiques, notamment en physique, en médecine et en économie. Il s’agit également d’une question pratique majeure d’un point de vue industriel et sociétal, qui régit la conception de politiques efficaces en comprenant quelles différences font la différence, et quelles sont les causes qui régissent les phénomènes observés.
Le but est aussi de promouvoir l’interaction des différentes communautés universitaires et industrielles en Europe autour de la causalité.
Une communauté de 6 chercheurs, 7 enseignants chercheurs, mobilisant en outre 8 doctorants, 4 post-doctorants.