> Markdown version of [/jobs/ext/4099528-analyste-benchmarking-et-red-teaming-des-systemes-d-ia-generative](https://www.wearedevelopers.com/jobs/ext/4099528-analyste-benchmarking-et-red-teaming-des-systemes-d-ia-generative). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Analyste Benchmarking et Red Teaming des systèmes d'IA générative

- **Company:** Société Générale
- **Location:** Inconnu, France (Remote available)
- **Contract:** Internship / Graduate position
- **Skills:** LangGraph Framework, Application Programming Interfaces (APIs), Artificial Intelligence, Python (Programming Language), Machine Learning, Strategies of Testing, Large Language Models, Code Structure, Generative AI, Git
- **Published:** October 31, 2026
- **Apply:** https://espace-emploi.agefiph.fr/jobs/22243337

## About the Role

* Étudiant en Bac +4/5 en école d'ingénieurs ou en formation universitaire équivalente, vous maîtrisez les bases du machine learning et de Python
 * Une familiarité avec des bibliothèques telles que Transformers ou LangChain/LangGraph est appréciée, de même qu'un intérêt pour le développement de code structuré, Git et le déploiement d'applications d'IA via des API, des conteneurs ou le cloud
 * Vous disposez de bonnes qualités rédactionnelles et savez synthétiser et présenter clairement vos travaux. Autonome, rigoureux et curieux, vous êtes également force de proposition
 * Votre esprit d'équipe, votre enthousiasme et votre aisance relationnelle vous permettront de vous intégrer rapidement au sein de l'équipe

## Description

Attentif à votre qualité de vie et conditions de travail, vous bénéficiez d'avantages :

 * Télétravail possible selon le rythme de votre service, Le département Model Risk Management veille à la qualité et à la pertinence des modèles développés au sein du Groupe, ainsi qu'au suivi du risque de modèle de la banque. L'équipe est entre autres en charge de réaliser des benchmarks afin de tester les limites des modèles des entités auditées.

Le stage s'articule autour de deux volets complémentaires :

 * Étude méthodologique : analyser les méthodes de benchmarking et de Red Teaming appliquées aux modèles d'IA générative, avec une attention particulière portée aux nouveaux benchmarks dédiés à l'évaluation des systèmes agentiques
 * Mise en œuvre : déployer les méthodes retenues dans les outils utilisés par le département pour la validation des modèles

Dans ce cadre, les principales missions confiées seront les suivantes :

 * Analyse de l'état de l'art et prise en main des outils : réaliser une revue de la littérature consacrée aux méthodes d'évaluation et de benchmarking des LLM, avec un focus sur les systèmes agentiques et les LLM utilisés comme juges, et se familiariser avec les principales bibliothèques associées
 * Appropriation de l'environnement interne : prendre en main les outils du département, notamment l'application utilisée pour l'évaluation des risques associés aux LLM susceptibles d'être déployés au sein du Groupe
 * Développement de l'application : contribuer à l'évolution de l'outil de Red Teaming en intégrant des tests pertinents et les nouvelles approches identifiées dans la littérature
 * Campagnes de Red Teaming: concevoir et exécuter des scénarios de test afin d'identifier les vulnérabilités, les comportements inattendus, les erreurs de raisonnement et les principaux scénarios d'échec
 * Analyse comparative : comparer différentes stratégies de tests adversariaux afin d'identifier les pratiques les plus adaptées à l'évaluation des systèmes agentiques.
 * Documentation et restitution : formaliser les travaux réalisés et animer des ateliers interactifs afin de présenter les avancées aux membres de l'équipe

Apports du stage

Vous développerez vos connaissances en gestion du risque de modèle dans le secteur bancaire et consoliderez votre expérience en data science. Ce stage vous permettra également de renforcer votre esprit critique, vos capacités de résolution de problèmes, ainsi que vos compétences rédactionnelles et de présentation.