Doctorant F/H

L’émergence des modèles de fondation constitue un changement de paradigme dans le domaine de l’apprentissage statistique (machine learning, ML). La disponibilité de modèles pré-entraînés tels que les grands modèles de langue (large language models, LLM) ou les modèles de vision comme CLIP facilite grandement le développement d’applications reposant sur l’analyse avancée de texte ou d’images, y compris pour des personnes ne disposant pas d’une expertise forte en ML. Les modèles de fondation contribuent ainsi à accélérer et massifier l’innovation technologique dans de nombreux domaines.

Plus récemment, la communauté du ML orienté graphe a également commencé à développer des modèles de fondation. Tout comme les modèles précités, ces graph foundation models (GFM) ont vocation à être pré-entraînés sur un ensemble de données large et diversifié, puis appliqués sans réentraînement (mode zero-shot) à de nouveaux domaines. Les modèles les plus avancés obtiennent déjà des performances comparables, voire supérieures à l’état de l’art des réseaux de neurones graphiques (graph neural networks, GNN) traditionnels sur certaines tâches., L’objectif de cette thèse est d’étudier le potentiel des GFM pour différentes tâches liées au domaine de la cybersécurité. Cette démarche s’inscrit dans la continuité de précédents travaux consacrés à l’utilisation de GFM pour la détection de mouvements latéraux, qui fournissent un premier exemple d’application fructueuse de ces modèles dans le domaine de la détection d’intrusion. Afin d’étendre ces résultats, les pistes suivantes sont envisagées:

• expérimentations sur d’autres applications en cybersécurité, notamment la classification de flux réseau, la détection d’anomalies dans des journaux système ou la détection de binaires malveillants ;
• identification de modèles et méthodes efficaces pour plusieurs applications différentes : cela inclut la construction du graphe représentant les données, la formulation de la tâche à réaliser (classification de sommet, prédiction de lien, etc.) et le choix du GFM existant le plus adapté ;
• conception de stratégies d’inférence permettant de maximiser la performance d’un GFM sur une tâche donnée (à l’image des chains of thought pour les LLM) ;
• entraînement de GFM spécialisés pour des applications en cybersécurité, par fine-tuning de modèles existants, voire par un pré-entraînement complet reposant éventuellement sur la conception d’architectures et de méthodes d’entraînement adaptées ;
• réduction de la taille et du coût computationnel d’un GFM, notamment par la distillation ou la quantification des paramètres.

Les contributions espérées permettraient, à terme, de faciliter la conception d’applications ML par des experts métier dans le domaine de la cybersécurité. Elles pourraient également contribuer à améliorer l’état de l’art pour certaines applications en exploitant les capacités croissantes des GFM généralistes. À travers ces deux axes, ce projet a pour ambition plus globale d’encourager l’adoption du ML par les professionnels de la cybersécurité.

Compétences techniques et niveau requis : expertise en sécurité, connaissances en IA

Langues : Français, Anglais

• Restauration subventionnée
• Transports publics remboursés partiellement
• Congés: 7 semaines de congés annuels + 10 jours de RTT (base temps plein) + possibilité d’autorisations d’absence exceptionnelle (ex : enfants malades, déménagement)
• Possibilité de télétravail (après 6 mois d’ancienneté) et aménagement du temps de travail
• Équipements professionnels à disposition (visioconférence, prêts de matériels informatiques, etc.)
• Prestations sociales, culturelles et sportives (Association de gestion des œuvres sociales d’Inria)
• Accès à la formation professionnelle
• Sécurité sociale

A propos du centre ou de la direction fonctionnelle

Le centre Inria de l’Université de Rennes est l’un des huit centres d’Inria et compte plus d’une trentaine d’équipes de recherche. Le centre Inria est un acteur majeur et reconnu dans le domaine des sciences numériques. Il est au cœur d’un riche écosystème de R&D et d’innovation : PME fortement innovantes, grands groupes industriels, pôles de compétitivité, acteurs de la recherche et de l’enseignement supérieur, laboratoires d’excellence, institut de recherche technologique.

Contexte et atouts du poste

Dans le cadre d’un partenariat (vous pouvez choisir entre)

• non pertinent,
• collaboration entre 2 équipes Inria : *****,
• collaboration {Equipe_Inria} et la startup *****,
• projet/programme /fonds européen *****,
• public avec {ANR, collectivités territoriales, partenaires académiques, *****}
• contrats de valorisation et de transfert avec *****, Le développement des GFM est une opportunité intéressante pour le champ de la cybersécurité. En effet, de nombreuses sources de données d’intérêt dans ce domaine sont bien adaptées à la représentation sous forme de graphe et l’application de GNN : binaires, journaux système, flux réseau, traces d’exécution, bases de connaissances en analyse de la menace (cyber threat intelligence, CTI). La démocratisation du ML orienté graphe à travers la généralisation des GFM pourrait donc faciliter la conception de nouvelles applications dans le domaine cyber, de la même manière que les LLM ont favorisé l’adoption du NLP dans divers domaines., Inria, l’institut national de recherche dans les sciences et technologies du numérique, est en appui de l’État pour les stratégies nationales de recherche et d’innovation du numérique en tant qu’Agence de programmes. Inria mène plus de 300 projets de recherche et d’innovation avec ses 3500 scientifiques, ingénieurs et personnels d’appui, en partenariat avec les universités et l’écosystème numérique (entreprises, entrepreneurs, acteurs publics). Ensemble, nous explorons des domaines clés comme l’intelligence artificielle, la cybersécurité, l’informatique quantique, le Cloud, la transformation numérique de la santé, les jumeaux numériques ou encore les technologies numériques pour la défense. Nous construisons des solutions concrètes telles que des logiciels, des startups technologiques, des partenariats avec les entreprises du tissu national et des formations de pointe. Notre objectif : l’impact scientifique, technologique et industriel au service de la souveraineté numérique de la France.