> Markdown version of [/jobs/ext/3083438-open-source-red-hat-ia-platform-engineer-h-f](https://www.wearedevelopers.com/jobs/ext/3083438-open-source-red-hat-ia-platform-engineer-h-f). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # Open Source - Red Hat IA Platform Engineer H/F - **Company:** Devoteam - **Location:** Crépy-en-Valois, France (Remote available) - **Contract:** Permanent contract - **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Amazon S3, Bash Shell, Cloud Engineering, Nvidia CUDA, Linux, Distributed Systems, Python (Programming Language), Open Source Technology, OpenShift, Red Hat Enterprise Linux, Ansible, Prometheus, YAML, Ceph (Software), Graphics Processing Unit (GPU), Pytorch, Large Language Models, Caching, Generative AI, Fastapi, Kubernetes, Machine Learning Operations, Docker - **Published:** September 26, 2026 - **Apply:** https://www.hellowork.com/fr-fr/emplois/83762859.html ## About the Role Issu(e) d'une formation d'ingénieur ou équivalent (Bac +5), vous avez une expérience confirmée en ingénierie de plateformes Kubernetes/Cloud Native et êtes passionné(e) par l'écosystème de l'IA générative et du LLMOps. ️ Compétences Techniques Clés :Socle Plateforme & Conteneurs : Maîtrise approfondie de Kubernetes et Red Hat OpenShift (4.x), Operators (OLM), GitOps (ArgoCD), Linux/RHEL, Podman/Docker.Plateformes & Frameworks IA : Expérience ou maîtrise de Red Hat OpenShift AI (RHOAI), vLLM, LLMD / LiteLLM, KServe, LangChain / LangGraph, LlamaIndex, Kueue, Kubeflow / Ray.Accélération & Stockage : Notions solides sur les GPUs NVIDIA (GPU Operator, CUDA, MIG), stockage distribué pour l'IA (S3/Ceph/ODF) et bases vectorielles (Milvus, Qdrant, pgvector).Développement & Automatisation : Python (PyTorch, SDKs IA, APIs FastAPI/REST), Bash, YAML, Ansible.Une connaissance d'OpenClaw est un plus ! Certifications (Fortement valorisées) :Red Hat Certified Specialist in AI/ML (EX267) ou OpenShift Administration (EX280 / EX380 / EX288).CKA (Certified Kubernetes Administrator) / CKAD. Soft Skills :Rigueur d'ingénierie, curiosité pour les dernières avancées open source (papers, nouveaux modèles, runtimes).Capacité à vulgariser des architectures d'IA complexes auprès de décideurs et d'équipes de Data Science.Esprit d'équipe, autonomie et goût pour les projets d'innovation à fort impact., Issu(e) d'une formation d'ingénieur ou équivalent (Bac +5), vous avez une expérience confirmée en ingénierie de plateformes Kubernetes/Cloud Native et êtes passionné(e) par l'écosystème de l'IA générative et du LLMOps. ️ Compétences Techniques Clés : * Socle Plateforme & Conteneurs : Maîtrise approfondie de Kubernetes et Red Hat OpenShift (4.x), Operators (OLM), GitOps (ArgoCD), Linux/RHEL, Podman/Docker. * Plateformes & Frameworks IA : Expérience ou maîtrise de Red Hat OpenShift AI (RHOAI), vLLM, LLMD / LiteLLM, KServe, LangChain / LangGraph, LlamaIndex, Kueue, Kubeflow / Ray. * Accélération & Stockage : Notions solides sur les GPUs NVIDIA (GPU Operator, CUDA, MIG), stockage distribué pour l'IA (S3/Ceph/ODF) et bases vectorielles (Milvus, Qdrant, pgvector). * Développement & Automatisation : Python (PyTorch, SDKs IA, APIs FastAPI/REST), Bash, YAML, Ansible. * Une connaissance d'OpenClaw est un plus ! Certifications (Fortement valorisées) : * Red Hat Certified Specialist in AI/ML (EX267) ou OpenShift Administration (EX280 / EX380 / EX288). * CKA (Certified Kubernetes Administrator) / CKAD. Soft Skills : * Rigueur d'ingénierie, curiosité pour les dernières avancées open source (papers, nouveaux modèles, runtimes). * Capacité à vulgariser des architectures d'IA complexes auprès de décideurs et d'équipes de Data Science. * Esprit d'équipe, autonomie et goût pour les projets d'innovation à fort impact. EUR Ansible Prometheus Bash Intelligence artificielle REST Kubernetes Python Autonomie Proxy YAML Automation Docker ## Description En tant qu'AI Platform Engineer, vous serez au coeur de cette convergence entre Platform Engineering (Kubernetes / OpenShift) et LLMOps. Vous concevrez, déploierez et opérerez les plateformes industrielles permettant d'entraîner, fine-tuner, orchestrer et servir des modèles d'IA générative (LLM, SLM, vision) sécurisés et souverains. 1 Orchestration & Serving LLM Haute Performance (High-Throughput Inference) - Déployer, optimiser et opérer les moteurs d'inférence de pointe : vLLM (PagedAttention, Prefix Caching, continuous batching), LLMD, LiteLLM Proxy, SGLang, TGI et Triton Inference Server. - Implémenter des architectures de Multi-LoRA Serving (S-LoRA) pour mutualiser un modèle de fondation unique et servir à chaud des dizaines d'adaptateurs métier sur un même GPU. - Mettre en oeuvre le serving déclaratif serverless via KServe et ModelMesh sur Red Hat OpenShift AI (RHOAI). 2 Orchestration Matérielle, Batch Scheduling & GPU FinOps - Déployer et configurer le NVIDIA GPU Operator, la Container Device Interface (CDI) et la Dynamic Resource Allocation (DRA). - Maximiser l'utilisation de la VRAM via le découpage NVIDIA MIG (Multi-Instance GPU) et le vGPU time-slicing. - Déployer et configurer Kueue pour le batch scheduling multi-tenant, la gestion fine des files d'attente de jobs GPU (ClusterQueue / LocalQueue) et le fair-sharing des quotas de calcul entre équipes. - Bâtir des architectures d'autoscaling élastique pilotées par le KV-Cache et les métriques de requêtes en attente avec KEDA et Prometheus. 3 Frameworks Agentiques, Pipelines RAG & Écosystème Llama Stack - Standardiser les briques d'IA générative d'entreprise en déployant le Llama Stack Operator et l'interfaçage avec les APIs unifiées d'inférence, de sécurité et d'agents. - Industrialiser des architectures RAG avancées et des workflows multi-agents avec LangChain, LangGraph et LlamaIndex. - Déployer et opérer des bases de données vectorielles distribuées à haute résilience (Milvus Distributed, Qdrant, pgvector, ChromaDB) adossées à OpenShift Data Foundation (Ceph / ODF). - Déployer et sécuriser des passerelles Model Context Protocol (MCP) en environnement Zero-Trust. 4 Fine-Tuning Souverain & Calcul Distribué - Industrialiser les pipelines d'alignement et de fine-tuning open source avec InstructLab (méthode LAB) et RHEL AI sur modèles souverains et open-weights (IBM Granite 3.x, Mistral AI, Llama 3.x / 4, DeepSeek). - Orchestrer les entraînements et traitements distribués avec KubeRay, Ray Serve, Kueue et Kubeflow Pipelines. 5 Sécurité, Gouvernance & Observabilité (IA Act Ready) - Intégrer des garde-fous éthiques et de sécurité : NeMo Guardrails, TrustyAI (explicabilité et détection des biais). - Mettre en place l'observabilité LLMOps complète avec OpenTelemetry (suivi de la latence TTFT / TPOT, traçabilité des tokens, auditabilité et FinOps IA). - Automatiser l'ensemble de la stack en GitOps (ArgoCD / OpenShift GitOps) et Ansible Automation Platform. ## Related Videos - [Docker Compose: Rediscovered](https://www.wearedevelopers.com/videos/1978-docker-compose-rediscovered) - [Docker network without Docker](https://www.wearedevelopers.com/videos/1418-docker-network-without-docker) - [CI/CD with Github Actions](https://www.wearedevelopers.com/videos/856-ci-cd-with-github-actions) - [Shipping Faster with Less: Render on Cloud Hosting, AI Workloads, and the Future of DevOps](https://www.wearedevelopers.com/videos/1894-shipping-faster-with-less-render-on-cloud-hosting-ai-workloads-and-the-future-of-devops) - [Docker exec without Docker](https://www.wearedevelopers.com/videos/1094-docker-exec-without-docker) - [Docker build without Docker](https://www.wearedevelopers.com/videos/100114-docker-build-without-docker) ## Related Articles - [Dev Digest 121 - AI goes offline](https://www.wearedevelopers.com/magazine/456-dev-digest-121-ai-goes-offline) - [Navigating the AI Shift](https://www.wearedevelopers.com/magazine/629-navigating-the-ai-shift) - [Find a Developer Job: 12 Best Job Sites For Developers](https://www.wearedevelopers.com/magazine/165-find-a-developer-job-12-best-job-sites-for-developers) - [Is Software Engineering Over-Saturated?](https://www.wearedevelopers.com/magazine/418-is-software-engineering-over-saturated) - [Dev Digest 120 - Apple and peers](https://www.wearedevelopers.com/magazine/455-dev-digest-120-apple-and-peers) - [Why Upskilling And Reskilling is Important For Developers](https://www.wearedevelopers.com/magazine/428-why-upskilling-and-reskilling-is-important-for-developers)