> Markdown version of [/jobs/ext/4149827-ai-engineer-paris-ou-rennes](https://www.wearedevelopers.com/jobs/ext/4149827-ai-engineer-paris-ou-rennes). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# AI Engineer - Paris ou Rennes

- **Company:** OCTOGONE
- **Location:** Paris, France
- **Contract:** Permanent contract
- **Skills:** Agile Methodology, Artificial Intelligence, Code Review, Continuous Integration, Python (Programming Language), Prometheus, Large Language Models, Grafana, Git, Kubernetes, SGLang, Docker
- **Published:** October 30, 2026
- **Apply:** https://www.indeed.com/viewjob?jk=d509adb339db0c4e

## About the Role

* Expérience confirmée du déploiement de LLM en production sur GPU
 * Maîtrise de vLLM et/ou SGLang
 * Optimisation d?inférence : quantization (AWQ, GPTQ, FP8), KV cache, batching, speculative decoding
 * Python et Rust
 * Environnements GPU NVIDIA, Docker, Kubernetes
 * Observabilité : Prometheus, Grafana, OpenTelemetry
 * Git, CI/CD, revues de code, méthodes agiles
 * Usage maîtrisé des assistants de code IA

## Description

Lieux de réalisation : Paris ou Rennes

La prestation sera intégrée au fonctionnement de l?équipe et à ses sprints.

Les interventions porteront sur les sujets suivants :

 * Intégration et déploiement de nouveaux modèles open source sur AI Endpoints (LLM, embeddings, speech-to-text, text-to-speech, ...)
 * Optimisation de l?inférence avec vLLM et SGLang : quantization, batching, KV cache, prefix caching, speculative decoding
 * Réalisation de benchmarks de performance sur les GPU actuels et sur les nouvelles générations à venir
 * Amélioration de l?autoscaling, de l?observabilité et de la fiabilité des services en production
 * Participation au run sur les produits

Livrables :

 * Nouveaux modèles déployés en production sur AI Endpoints, avec une configuration d?inférence optimisée et documentée
 * Rapports de benchmark par modèle et par GPU, avec des recommandations
 * Code livré par pull requests revues et intégrées (Python, Rust)
 * Dashboards et alertes de supervision des services
 * Documentation technique et transfert de connaissances à l?équipe