Lead Infraops - MLOps & Scalabilité IA H/F

Dans le cadre de l’évolution d’une solution logicielle phare du secteur éducatif (utilisée potentiellement par plus de 800 000 professeurs), l’entreprise développe une application innovante de génération de QCM assistée par Intelligence Artificielle.

L’applicatif génère des QCM sur la base des cours fournis par les enseignants ainsi que des référentiels de programmes scolaires.

Défi technique et stratégique :

• Stack technique : Angular / Python / FastAPI, TaskIQ (gestion de file d’attente), backend IA avec modèle auto-hébergé.
• Infra & Souveraineté : Datacenter souverain en France (trajectoire SecNumCloud, réplication multi-datacenter 2x, modèle type Mistral).
• Enjeux :Fort impact image et forte exposition auprès du Ministère de l’Éducation Nationale, des enseignants et des établissements scolaires. Les exigences de conformité, de sécurité, de haute disponibilité et de performance (scalabilité) sont maximales.

Objectifs de la Mission

Le consultant aura pour mission principale d’anticiper, de designer et d’exécuter la montée en charge et la résilience infrastructure/MLOps du module de génération de QCM.

Implémentation technique & Scalabilité

• Concevoir et implémenter la stratégie de scalabilité de l’architecture backend (Python / FastAPI).
• Mettre en oeuvre et optimiser la gestion des files d’attente asynchrones et tâches de fond avec TaskIQ.
• Configurer le Load Balancing et les mécanismes de scaling automatique (Auto-scaling).

Tests de charge & Performance

• Paramétrer, exécuter et analyser les tests de charge complexes pour garantir la tenue en volume (jusqu’à 800k utilisateurs potentiels).
• Identifier les goulets d’étranglement (CPU, RAM, GPU, réseau, latence d’inférence IA).

Haute Disponibilité & Réplication Multi-Datacenter

• Définir et implémenter l’architecture de backup et de réplication inter-datacenters (2x Datacenters souverains en France).
• Garantir la continuité de service (PRA/PCA) en respectant les contraintes strictes d’un environnement souverain.

Observabilité, Logging & Monitoring

• Déployer la chaîne de monitoring et de centralisation de logs (applicatifs, système et métriques IA).
• Alignement avec les outils et standards de suivi de logs métier de l’infrastructure hébergeur.

Support MLOps / Déploiement de Modèles (Bonus / Nice to have)

• Accompagner l’équipe Data Science dans l’installation, le déploiement et l’optimisation des modèles de LLM (ex: Mistral) sur l’infrastructure dédiée GPU/datacenter.

Livrables Attendus

• Architecture cible de Haute Disponibilité & Réplication : Documentation technique du schéma multi-DC, stratégie de backup/failover.
• Implémentation & Scripts de Scalabilité : Configuration fonctionnelle des files TaskIQ, règles d’auto-scaling et de Load Balancing.
• Campagnes de Tests de Charge : Protocoles, jeux de tests et rapports de performance détaillés avec plans d’actions correctifs.
• Stack de Monitoring & Logging : Dashboards opérationnels (métriques applicatives, système et LLM) et alertes configurées.
• Documentation d’Exploitation : Procédures de mise en production, automatisations (CI/CD) et guides de résolution d’incidents.

Profil recherchéDevOps / MLOps / Data Engineer Senior (5 à 8 ans d’expérience minimum sur des infrastructures à très forte charge et environnements critiques).Compétences Techniques Impératives (Niveau Expert)InfraOps & Scalabilité : Maîtrise des architectures distribuées, haute disponibilité, Load Balancing, réplication multi-AZ / multi-datacenter.Environnement Python & Asynchronisme : Expertise sur FastAPI, TaskIQ (ou Celery / Redis), gestion des workers et de la montée en charge.Observabilité & Tests : Maîtrise des outils de tests de charge (K6, Locust, JMeter) et des stacks de monitoring/logging (Prometheus, Grafana, ELK/OpenSearch).Conteneurs & Orchestration : Maîtrise avancée de Docker et Kubernetes (ou orchestrateur équivalent).Compétences Appréciées (Bonus)Expérience sur l’hébergement/déploiement de modèles d’IA / LLM (Mistral, vLLM, Ollama, HuggingFace) sur infrastructure GPU/serveurs dédiés.Connaissance des normes de sécurité et, * DevOps / MLOps / Data Engineer Senior (5 à 8 ans d’expérience minimum sur des infrastructures à très forte charge et environnements critiques).

Compétences Techniques Impératives (Niveau Expert)

• InfraOps & Scalabilité : Maîtrise des architectures distribuées, haute disponibilité, Load Balancing, réplication multi-AZ / multi-datacenter.
• Environnement Python & Asynchronisme : Expertise sur FastAPI, TaskIQ (ou Celery / Redis), gestion des workers et de la montée en charge.
• Observabilité & Tests : Maîtrise des outils de tests de charge (K6, Locust, JMeter) et des stacks de monitoring/logging (Prometheus, Grafana, ELK/OpenSearch).
• Conteneurs & Orchestration : Maîtrise avancée de Docker et Kubernetes (ou orchestrateur équivalent).

Compétences Appréciées (Bonus)

• Expérience sur l’hébergement/déploiement de modèles d’IA / LLM (Mistral, vLLM, Ollama, HuggingFace) sur infrastructure GPU/serveurs dédiés.
• Connaissance des normes de sécurité et contraintes d’hébergement souverain (SecNumCloud)., Angular Kubernetes Python Monitoring Docker

contraintes d’hébergement souverain (SecNumCloud).