MacLeOD

Apprentissage machine sur geometries et distributions

Aperçu

Rémi Flamary, professeur, Ecole Polytechnique

Laetitia Chapel, professeure, Institut Agro Rennes-Angers

Le projet MacLeOD vise à unifier l’apprentissage profond géométrique et basé sur la distribution en tirant parti du transport optimal pour comparer et transformer des distributions de données complexes sur des espaces géométriques, en développant des algorithmes efficaces et des architectures novatrices.

Mots clefs : Distributions, Geometric Deep Learning, Optimal Transport, Manifold, Graphs

Les missions

Nos recherches


Modéliser des distributions de données complexes à l’aide de nouveaux problèmes de transport optimal

Les problèmes OT existants ne sont pas adaptés aux besoins des modèles ML modernes et nous avons besoin de nouvelles formulations OT capables de s’adapter aux aspects géométriques et distributionnels des données dans le DL (géométrique) moderne.


Rechercher des algorithmes efficaces pour le traitement de distributions à grande échelle sur des variétés.

L’utilisation de l’OT dans le ML, et en particulier dans les couches d’apprentissage profond, est souvent limitée par le coût computationnel du problème OT. Nous devons développer de nouveaux algorithmes capables de s’adapter à la taille des ensembles de données modernes, tels que les méthodes de projection aléatoire et de découpage.


Concevoir des architectures d’apprentissage profond codant des distributions sur des variétés.

Les modèles d’apprentissage profond, en particulier ceux qui traitent les distributions, sont souvent limités au traitement des données appartenant à un espace euclidien. Il existe donc un besoin pour de nouveaux cadres capables de traiter efficacement les données sur des variétés, des espaces riemanniens aux espaces métriques plus généraux.


Développer le domaine de l’apprentissage profond géométrique distributionnel pour la modélisation de graphes.

Des travaux récents ont démontré la puissance de la combinaison du GDL et de la représentation distributionnelle pour le traitement des graphes, mais il manque un cadre général permettant de modéliser les contraintes ou la dynamique à partir des graphes grâce à des distributions évolutives.


Utiliser les distributions de modèles/données pour analyser et interpréter les réseaux neuronaux profonds.

Les réseaux neuronaux profonds sont réputés difficiles à analyser, et la conception de nouvelles méthodes basées sur la théorie des opérateurs pour analyser la distribution et les opérateurs de distribution le long des couches permettra de mieux comprendre les modèles.

Le consortium

Ecole/Institut Polytechnique de Paris, Université de Bretagne Sud, Ecole Normale Supérieure, Inria

Publications


Autres projets

 Géné-Pi
Géné-Pi
Mathématiques des modèles génératifs
Voir plus
 MadLearning
MadLearning
Mathématiques de l'apprentissage profond : De la théorie aux applications
Voir plus
 MAGICALL
MAGICALL
Mathématiques des modèles génératifs: une analyse interdisciplinaire des paysages de fonctions de perte
Voir plus
 PERSNET
PERSNET
Structures PERsistantes dans les Réseaux Neuronaux
Voir plus
 PRODIGE-AI
PRODIGE-AI
PRObability, ranDom matrIx theory, Geometry and gEneralization for generative-AI
Voir plus
 TENSOR4ML
TENSOR4ML
Méthodes TENSORielles pour maîtriser l'apprentissage automatique moderne
Voir plus
 THEOREM
THEOREM
Théorie pour des modèles génératifs plus performants
Voir plus
 Appel à chaires Attractivités
Appel à chaires Attractivités
Le Programme de recherche PEPR IA ouvre son appel à chaires Attractivité, à destination de chercheurs juniors et seniors, avec pour principal critère un excellent parcours en recherche dans les thèmes du PEPR IA.
Voir plus
 NNawaQ
NNawaQ
NNawaQ (Neural Network Adequate Hardware Architecture for Quantization)
Voir plus
 Package Python Keops
Package Python Keops
Package Python Keops pour les calculs tensoriels en (très) grande dimension (projet PDE-AI)
Voir plus
 MPTorch
MPTorch
MPTorch, framework d’encapsulation construit sur PyTorch
Voir plus
 FloPoCo
FloPoCo
FloPoCo (Floating-Point Cores), générateur de noyaux arithmétiques majoritairement pour les FPGA (projet HOLIGRAIL)
Voir plus
 CaBRNeT
CaBRNeT
CaBRNeT, une bibliothèque pour le développement et l'évaluation de modèles de raisonnement basé sur des cas simplifiés (projet SAIF)
Voir plus
 SNN Software
SNN Software
SNN Software, un outil open-source pour le design SNN (projet EMERGENCES)
Voir plus
 SDOT
SDOT
SDOT, logiciel pour le transport optimal semi-discret
Voir plus
 Lazylinop
Lazylinop
Lazylinop (Lazy Linear Operator), un opérateur linéaire paresseux de haut niveau basé en Python (projet SHARP)
Voir plus
 CAISAR
CAISAR
CAISAR, une plateforme de caractérisation de la sécurité et de l’intelligence artificielle robuste (projet SAIF)
Voir plus
 P16
P16
P16 ou développer, diffuser et maintenir un ensemble de bibliothèques souveraines pour l'IA
Voir plus
 AIDGE
AIDGE
AIDGE ou la plateforme ouverte de développement en embarqué du projet DEEPGREEN
Voir plus
 Jean-Zay
Jean-Zay
Jean Zay ou l'infrastructure nationale pour la communauté de recherche en IA
Voir plus
 ADAPTING
ADAPTING
Architectures adaptatives pour l'intelligence artificielle embarquée
Voir plus
 Bourse CEA AI Rising Talents
Bourse CEA AI Rising Talents
Le programme CEA AI Rising Talents, vous offre une formidable opportunité de concrétiser vos idées et de diriger votre propre projet de recherche au bénéfice de l’industrie et de la société.
Voir plus
 CAUSALI-T-AI
CAUSALI-T-AI
La causalité au service de la robustesse et de l’explicabilité des algorithmes d’IA
Voir plus
 EMERGENCES
EMERGENCES
Modèles émergents proche physique pour l'IA embarquée
Voir plus
 FOUNDRY
FOUNDRY
Les fondements de la robustesse et de la fiabilité en intelligence artificielle
Voir plus
 HOLIGRAIL
HOLIGRAIL
Approches holistiques pour les architectures plus efficaces pour l'inférence et l'apprentissage
Voir plus
 PDE-AI
PDE-AI
Nouvelles architectures pour l’apprentissage automatique
Voir plus
 REDEEM
REDEEM
Apprentissage automatique résilient, décentralisé et respectueux de la vie privée
Voir plus
 SAIF
SAIF
Sûreté de l’intelligence artificielle investiguée par les méthodes formelles
Voir plus
 SHARP
SHARP
Principes théoriques et algorithmiques de l’apprentissage frugal
Voir plus