Calcul neuromorphique et apprentissage non supervisé

Mots clés

réseaux de neurones, calcul neuromorphique, cartes auto-organisatrices, gaz neuronaux, neurones impulsionnels

Détail de l'offre

Notre équipe de recherche étudie différents modèles de réseaux de neurones bio-inspirés, avec pour certains la perspective d'une implantation sur circuit neuromorphique. Dans ce contexte, les modèles impulsionnels (spiking neural networks) constituent une approche particulièrement adaptée aux architectures matérielles émergentes, en raison de leur traitement asynchrone et de leur codage temporel de l'information. La plupart des travaux en calcul neuromorphique se concentrent aujourd'hui sur des approches supervisées ou inspirées du deep learning. Nos travaux se concentrent au contraire sur les modèles non supervisés bio-inspirés, qui restent encore relativement sous-explorés selon le paradigme du calcul neuromorphique, malgré leur pertinence pour l'apprentissage en ligne, l'adaptation continue et la sobriété énergétique. Nous avons notamment défini dans [4] une version impulsionnelle de cartes auto-organisatrices (SOM, self-organizing map), dont l'apprentissage est obtenu par une règle STDP (Spike-Timing Dependent Plasticity, [5]) déterminée de façon à coder l'information dans le temps des spikes et non dans leur fréquence. A l'instar des cartes de Kohonen ([6]), un modèle connu d'auto-organisation inspiré du cortex, nos SOM impulsionnelles permettent une quantification vectorielle non supervisée de données dans laquelle les prototypes s'organisent selon des règles de voisinage pré-fixées.

Cette thèse vise à enrichir ces travaux selon différents axes complémentaires possibles. Tout d'abord, il s'agit d'étendre l'étude à des modèles neuronaux à topologie adaptative issus de la famille des gaz neuronaux (Neural Gas [7], Growing Neural Gas [8], GNG-T [9], Growing When Required [10], Self-Organizing Incremental Neural Network [11], etc.). Contrairement aux SOM classiques, ces modèles se caractérisent par une topologie dynamique, où la structure du graphe évolue au cours de l'apprentissage. Cette propriété introduit un défi majeur dans un cadre neuromorphique : comment définir des mécanismes impulsionnels d'apprentissage locaux, permettant non seulement l'adaptation des poids synaptiques mais aussi la création, la suppression et la réorganisation des connexions ? Un autre axe de recherche concerne l'intégration de ces modèles avec des capteurs neuromorphiques, en particulier les caméras événementielles. Ces capteurs fournissent un flux de données directement sous forme d'événements asynchrones, ce qui ouvre la voie à des chaînes de traitement entièrement impulsionnelles. L'étude portera notamment sur l'adaptation des modèles considérés et sur les stratégies de codage temporel permettant d'exploiter efficacement ces flux d'impulsions. Enfin, les travaux pourront être menés à différents niveaux d'abstraction, allant de la conception algorithmique jusqu'à l'implantation sur des architectures neuromorphiques (puces neuromorphiques ou plateformes de calcul neuromorphique, ou encore implémentations sur circuits FPGA). L'objectif sera d'identifier les compromis entre performance des modèles et contraintes matérielles.