Expert DevSecOps / LLMOps - Gitlab
Role details
Job location
Tech stack
Job description
La mission s?exécute dans un contexte multi-environnements (Landing Zone GCP, On-Prem, cloud de confiance/ SecNumCloud à venir) et s?interface avec les briques internes du groupe (API Gateway, observabilité, etc.).
La prestation s'articule autour de cinq missions clés : Fiabilisation et accélération du Portail V1
? Objectif : Améliorer et industrialiser les pratiques opérationnelles pour sécuriser et optimiser les services existants.
? Périmètre : Mise en ?uvre de la CI/CD, renforcement de la sécurité (IAM, secrets), structuration de l'observabilité (traces, métriques, logs) et des pratiques FinOps.
Conception et préparation du Portail V2 (cible 2026)
? Objectif : Définir et construire les fondations techniques de la future version du portail.
? Périmètre : Conception de l'architecture DevSecOps cible, production des artefacts documentaires (HLD/LLD), développement de l'Infrastructure as Code (IaC) et des pipelines, et pilotage de la migration.
Structuration de la filière LLMOps
? Objectif : Définir et mettre en ?uvre les standards, outils et processus pour industrialiser le cycle de vie des modèles génératifs.
? Périmètre : Intégration des évaluations continues (qualité, sécurité, coûts) dans la CI, mise en place de "guardrails" et de politiques de sécurité (Policies as Code), et garantie de la conformité (RGPD / AI Act).
Anticipation de l'IA Agentique
? Objectif : Préparer la plateforme à l'intégration future des technologies d'agents IA.
? Périmètre : Veille technologique, prototypage des briques d'orchestration et de contrôle (HITL, guardrails
spécifiques), et contribution à l'architecture cible.
Accompagnement et transfert de compétences
? Objectif : Assurer la montée en compétence et l'autonomie des équipes internes (Portail et Plateforme Data).
? Périmètre : Acculturation, production de documentation (playbooks, runbooks), formation et support méthodologique.
Activités détaillées
Pour réaliser ces missions, le prestataire mènera les activités suivantes :
? Ingénierie et industrialisation : Développement de pipelines CI/CD (GitLab), de scripts d'automatisation, d'Infrastructure as Code (Terraform), et de charts Helm.
? Qualité et sécurité : Mise en ?uvre des tests (unitaires, performance, SAST/SCA/SBOM), intégration des évaluations de LLM et des "guardrails" (input/output, LLMGuard) comme étapes bloquantes dans la CI.
? Déploiement : o Gestion et déploiement des modèles d?IA génératif
o Gestion et déploiement applicatif (solutions open source : LangFlow, LangFuse, OpenWebUI, n8n, LiteLLM, etc?) à l?échelle de l?entreprise.
? Support et MCO : Résolution d'incidents de niveau 2/3, optimisation des performances et des coûts, assistance technique aux équipes.
Exigences transverses
? Respect du référentiel technique et méthodologique de l?Entreprise, des procédures en vigueur (tests/validation),
des contraintes & délais du présent document et du cadre contractuel associé.
? Respect des exigences sécurité & conformité (IAM, Vault/KMS, réseau privé, DPIA, RGPD/AI Act,
journalisation/audit, résidence des données)., ? Respect des exigences sécurité & conformité (IAM, Vault/KMS, réseau privé, DPIA, RGPD/AI Act,
journalisation/audit, résidence des données).
Requirements
? Jenkins (périmètre à harmoniser)
Stack d'observabilité et d'évaluation LLM : ? Prometheus, Grafana, Loki, OpenTelemetry?, ? Jenkins (périmètre à harmoniser)
Stack d'observabilité et d'évaluation LLM : ? Prometheus, Grafana, Loki, OpenTelemetry?
