PERSNET

Structures PERsistantes dans les Réseaux Neuronaux :
approches topologiques et statistiques pour améliorer
l’apprentissage profond

Aperçu

La vision unificatrice de ce projet consiste à exploiter les domaines interdépendants de l’analyse géométrique et topologique des données et des statistiques à haute dimension afin d’améliorer la conception, l’analyse et la surveillance des architectures de réseaux neuronaux profonds (DNN).

Gilles Blanchard, Institut de Mathématiques d’Orsay, Université Paris-Saclay

Le projet PERSNET vise à créer de nouvelles méthodes et améliorations pour les réseaux neuronaux profonds (DNN) basées sur la topologie, la géométrie et les statistiques, en particulier afin de surveiller les architectures profondes, de les régulariser ou de les compresser, et de prendre en compte leur connectivité graphique et leurs invariants.

Mots clés : Géométrie, Apprentissage profond, Transformateurs, Analyse topologique des données,
Statistiques, Haute dimension

Nos missions

Nos recherches


Développer des outils mathématiques fondamentaux (analyse topologique et géométrique des données, statistiques) pour l’apprentissage profond.

Développer et analyser des descripteurs et des méthodes TDA multiparamétriques pour la
caractérisation, l’analyse et l’amélioration de l’apprentissage automatique et de l’apprentissage profond.


Utilisez des outils pour améliorer les architectures d’apprentissage profond pour les données complexes, à l’aide de descripteurs géométriques et topologiques.

Develop a toolbox of new efficient and well-founded mathematical tools to analyse, monitor and improve DNN models


Utilisez ces outils pour analyser et surveiller les architectures d’apprentissage profond elles-mêmes (objectifs : efficacité, fiabilité, explicabilité, détection des anomalies).

Approfondir la compréhension théorique des architectures modernes d’apprentissage profond, à partir d’outils issus de la représentation des réseaux dans l’espace des chemins et de sa géométrie, ainsi que des statistiques à haute dimension. L’objectif est de tirer parti de cette meilleure compréhension pour améliorer les capacités d’apprentissage des réseaux neuronaux et leur efficacité (par exemple par compression).

Le consortium

Université Paris-Saclay, Inria, Paris Sciences Lettres, Ecole Centrale de Nantes

Publications


Autres projets

 Géné-Pi
Géné-Pi
Mathématiques des modèles génératifs
Voir plus
 MacLeOD
MacLeOD
Apprentissage machine sur geometries et distributions
Voir plus
 MadLearning
MadLearning
Mathématiques de l'apprentissage profond : De la théorie aux applications
Voir plus
 MAGICALL
MAGICALL
Mathématiques des modèles génératifs: une analyse interdisciplinaire des paysages de fonctions de perte
Voir plus
 PRODIGE-AI
PRODIGE-AI
PRObability, ranDom matrIx theory, Geometry and gEneralization for generative-AI
Voir plus
 TENSOR4ML
TENSOR4ML
Méthodes TENSORielles pour maîtriser l'apprentissage automatique moderne
Voir plus
 THEOREM
THEOREM
Théorie pour des modèles génératifs plus performants
Voir plus
 Appel à chaires Attractivités
Appel à chaires Attractivités
Le Programme de recherche PEPR IA ouvre son appel à chaires Attractivité, à destination de chercheurs juniors et seniors, avec pour principal critère un excellent parcours en recherche dans les thèmes du PEPR IA.
Voir plus
 NNawaQ
NNawaQ
NNawaQ (Neural Network Adequate Hardware Architecture for Quantization)
Voir plus
 Package Python Keops
Package Python Keops
Package Python Keops pour les calculs tensoriels en (très) grande dimension (projet PDE-AI)
Voir plus
 MPTorch
MPTorch
MPTorch, framework d’encapsulation construit sur PyTorch
Voir plus
 FloPoCo
FloPoCo
FloPoCo (Floating-Point Cores), générateur de noyaux arithmétiques majoritairement pour les FPGA (projet HOLIGRAIL)
Voir plus
 CaBRNeT
CaBRNeT
CaBRNeT, une bibliothèque pour le développement et l'évaluation de modèles de raisonnement basé sur des cas simplifiés (projet SAIF)
Voir plus
 SNN Software
SNN Software
SNN Software, un outil open-source pour le design SNN (projet EMERGENCES)
Voir plus
 SDOT
SDOT
SDOT, logiciel pour le transport optimal semi-discret
Voir plus
 Lazylinop
Lazylinop
Lazylinop (Lazy Linear Operator), un opérateur linéaire paresseux de haut niveau basé en Python (projet SHARP)
Voir plus
 CAISAR
CAISAR
CAISAR, une plateforme de caractérisation de la sécurité et de l’intelligence artificielle robuste (projet SAIF)
Voir plus
 P16
P16
P16 ou développer, diffuser et maintenir un ensemble de bibliothèques souveraines pour l'IA
Voir plus
 AIDGE
AIDGE
AIDGE ou la plateforme ouverte de développement en embarqué du projet DEEPGREEN
Voir plus
 Jean-Zay
Jean-Zay
Jean Zay ou l'infrastructure nationale pour la communauté de recherche en IA
Voir plus
 ADAPTING
ADAPTING
Architectures adaptatives pour l'intelligence artificielle embarquée
Voir plus
 Bourse CEA AI Rising Talents
Bourse CEA AI Rising Talents
Le programme CEA AI Rising Talents, vous offre une formidable opportunité de concrétiser vos idées et de diriger votre propre projet de recherche au bénéfice de l’industrie et de la société.
Voir plus
 CAUSALI-T-AI
CAUSALI-T-AI
La causalité au service de la robustesse et de l’explicabilité des algorithmes d’IA
Voir plus
 EMERGENCES
EMERGENCES
Modèles émergents proche physique pour l'IA embarquée
Voir plus
 FOUNDRY
FOUNDRY
Les fondements de la robustesse et de la fiabilité en intelligence artificielle
Voir plus
 HOLIGRAIL
HOLIGRAIL
Approches holistiques pour les architectures plus efficaces pour l'inférence et l'apprentissage
Voir plus
 PDE-AI
PDE-AI
Nouvelles architectures pour l’apprentissage automatique
Voir plus
 REDEEM
REDEEM
Apprentissage automatique résilient, décentralisé et respectueux de la vie privée
Voir plus
 SAIF
SAIF
Sûreté de l’intelligence artificielle investiguée par les méthodes formelles
Voir plus
 SHARP
SHARP
Principes théoriques et algorithmiques de l’apprentissage frugal
Voir plus