Clustering pour l'extraction d'automate à partir de réseaux de neurones récurents H/F

Dans le cadre de travaux autour de l'intelligence artificielle de confiance, vous travaillerez sur l'évaluation de différentes méthodes de clustering pour l'extraction d'automate à partir de RNN., Avec les récents développements en matière d'IA, son utilisation est de plus en plus répandue et soulève de plus en plus de questions quant à sa robustesse, son respect de la vie privée ou autre. Un certain nombre de travaux ont émergés pour augmenter la confiance dans les IAs en se basant sur des méthodes formelles pour obtenir des garanties mathématiques de leur sûreté.

Pour les réseaux de neurones récurents, l'application de méthodes telles que l'interprétation abstraite pour vérifier cette sûreté est difficile à cause de leur reccurence. Apprendre un automate fidèle comme un modèle de substitution permet de réduire la complexité du modèle et de facilité sa vérification. Cet apprentissage dépend fortement de méthodes de clustering pour regrouper les états cachés du RNN. En rapprochant les états de même sémantique, il est possible de construire un automate reproduisant les trajctoires du RNN., Les méthodes actuelles de clustering pour l'apprentissage passif d'automates se base principalement sur l'utilisation de K-means à partir de traces d'exécution du RNN. Cette méthode est cependant limitée lorsqu'appliquée sur des données complexes et de haute dimension. Cela impacte alors la taille (nombre d'états) et la fidélité de l'automate extrait.

L'objectif principal de ce stage est d'étudier et d'implémenter différents algorithmes de clustering pour l'extraction d'automate à partir de RNN. Il se compose de 3 étapes:

1. Familiarisation avec apprentissage d'automates depuis des RNNs et état de l'art des méthodes de clustering
2. Implémentation et comparaison des algorithmes sur des benchmarks prédéfinis.
3. Si le temps le permet, conception d'une nouvelle méthode de clustering plus adaptée et/ou application des automates appris pour l'interprétabilité et l'explicabilité des RNNs., * L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,

• Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels,
• Une expérience à la pointe de l'innovation, comportant un fort potentiel de développement industriel,
• Des moyens expérimentaux exceptionnels et un encadrement de qualité,
• De réelles opportunités de carrière à l'issue de votre stage,
• Une participation aux transports en commun à hauteur de 75%,
• Un équilibre vie privée - vie professionnelle reconnu,
• Une politique diversité et inclusion,

Conformément aux engagements pris par le CEA en faveur de l'intégration des personnes handicapées, cet emploi est ouvert à toutes et à tous. Le CEA propose des aménagements et/ou des possibilités d'organisation pour l'inclusion des travailleurs handicapés.

Vous préparez un diplôme de niveau M1 ou M2 dans le domaine l'informatique. Vous possédez des connaissances en développement Python, en clustering et en intelligence artificielle.

Durée du contrat (en mois)

4 à 6 mois

Clustering pour l'extraction d'automate à partir de réseaux de neurones récurents H/F, Entité de rattachement Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat. Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs. Implanté au cœur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international. Les 20 000 collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales, Sur le campus Paris-Saclay, le rôle du Laboratoire Sûreté et Sécurité des Logiciels du #CEA-List est de développer des outils d'analyse pour augmenter la confiance dans les systèmes logiciels, en détecter des vulnérabilités, garantir la conformité à leurs spécifications, et en accélérer l'évaluation y compris dans des démarches de certification. Nos outils open-source sont développés afin d'être utilisés par l'industrie et leur développement est guidé par ses besoins.