PERSNET

Aperçu

La vision unificatrice de ce projet consiste à exploiter les domaines interdépendants de l’analyse géométrique et topologique des données et des statistiques en grande dimension afin d’améliorer la conception, l’analyse et la supervision des architectures de réseaux neuronaux profonds (DNN).

Gilles Blanchard, Institut de Mathématiques d’Orsay, Université Paris-Saclay

Le projet PERSNET vise à créer de nouvelles méthodes et améliorations pour les réseaux neuronaux profonds (DNN) basées sur la topologie, la géométrie et les statistiques, en particulier afin de superviser les architectures profondes, de les régulariser ou de les compresser, et de prendre en compte leur connectivité graphique et leurs invariants.

Mots clés : Géométrie, Apprentissage profond, Transformeurs, Analyse topologique des données,
Statistiques en grande mission

Nos missions

Nos recherches

Développer des outils mathématiques fondamentaux (analyse topologique et géométrique des données, statistiques) pour l’apprentissage profond.

Avancées théoriques et méthodologiques, motivées par des questions issues de l’apprentissage profond, en analyse topologique des données multiparamétrique (algorithme MAPPER), en régularisation basée sur la topologie, et sur les méthodes de Bayes empirique en grande dimension.

Utiliser des outils pour améliorer les architectures d’apprentissage profond pour les données complexes, à l’aide de descripteurs géométriques et topologiques.

Pour le traitement de données complexes non-euclidiennes, développer des descripteurs topologiques et géométriques appropriés pour leur intégration dans des architectures d’apprentissage profond. Directions privilégiées: représentation de diagrammes de persistance par des espaces à noyau, quantisation, capture des invariants géométriques de nuages de points via le formalisme de d’espaces métriques mesurés discrets.

Utiliser ces outils pour analyser et superviser les architectures d’apprentissage profond elles-mêmes (objectifs : efficacité, fiabilité, explicabilité, détection d’anomalies).

Utilisation d’une part des descripteurs topologiques développés, d’autre part, du point de vue de la géométrie de l’espace des chemins du réseau, pour superviser la géométrie des réseaux neuronaux eux-mêmes, et améliorer leur régularisation, compression et parcimonie.  Exploiter le point des statistiques de grande dimension pour analyser et optimiser les architectures transformeur.