> Markdown version of [/jobs/ext/4021387-forward-deployed-engineer-ai-enterprise-solutions-1-1](https://www.wearedevelopers.com/jobs/ext/4021387-forward-deployed-engineer-ai-enterprise-solutions-1-1). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Forward Deployed Engineer - AI & Enterprise Solutions 1 1

- **Company:** NTT DATA Deutschland GmbH
- **Location:** Munchen, Germany (Remote available)
- **Experience:** Expert
- **Contract:** Permanent contract
- **Skills:** Artificial Intelligence, Cloud Computing, Nvidia CUDA, Databases, OpenShift, Haystack, Autoscaling, LangChain, Retrieval-Augmented Generation, Open-source Models, Large Language Models, Prompt Engineering, Qwen, Llamaindex, Agentic-AI, Containerization, Kubernetes, Information Technology, Ollama, Machine Learning Operations, Semantic Kernel, Docker, KServe
- **Published:** October 30, 2026
- **Apply:** https://www.itbbb.de/jobs/308786/forward-deployed-engineer-w-slash-m-slash-x-ai-and-enterprise-solutions-1-1-im-home-office#apply_form

## About the Role

* Du verfügst über 10-13 Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lösungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt.
 * Du bringst ausgeprägte Hands-on-Erfahrung mit Private AI und GenAI mit und beherrschst LLMs, RAG, Vector Databases, Prompt Engineering und Agentic AI sowie Frameworks wie LangChain, LlamaIndex, Haystack oder Semantic Kernel und Open-Source-Modelle wie Llama, Mistral, DeepSeek oder Qwen.
 * Du bist sicher im Umgang mit Kubernetes, Docker/OpenShift und MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie Evaluation, Tracing, Monitoring, Drift Detection und Production Support.
 * Du kennst dich mit GPU- und AI-Infrastrukturen aus - einschließlich NVIDIA Stack, CUDA, MIG, Model Serving, Quantization, Distributed Inference/Training, Storage und Networking - und kannst AI-Workloads hinsichtlich Performance, Skalierbarkeit und Verfügbarkeit optimieren.
 * Du verbindest dein technisches Know-how mit einem sicheren Verständnis für Security, Privacy und Sovereign AI, überzeugst im Umgang mit unterschiedlichen Stakeholdern und verfügst über Deutschkenntnisse auf mindestens C1-Niveau.

Mit uns hast du unzählige Möglichkeiten, groß zu denken, mutig zu handeln und Verantwortung zu übernehmen. Gestalte deine Zukunft in einer Kultur, die Zugehörigkeit lebt und dir Raum für Lernen und Networking gibt.

## Description

* Du designst, entwickelst, konfigurierst und implementierst Private-AI- und GenAI-Plattformen auf Basis von Open-Source- und Self-hosted-Technologien und erstellst High-Level- und Low-Level-Designs, Blueprints sowie Referenzarchitekturen für On-Premises-, Private-Cloud-, Hybrid- und Sovereign-AI-Umgebungen.
 * Du entwickelst und implementierst LLM-, RAG- und Agentic-AI-Lösungen - von Ingestion Pipelines und Vector Databases über Tool Integrations und Orchestrierung bis hin zu Evaluation Components.
 * Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/LLMOps zuverlässig in den produktiven Betrieb und verantwortest Deployment, Monitoring, Governance sowie Troubleshooting.
 * Du deployest und optimierst Self-hosted Foundation Models und Enterprise-AI-Workloads und verbesserst GPU Utilization, Quantization, Batching, Autoscaling und Latenz für leistungsfähige und hochverfügbare Inference-Architekturen.
 * Du begleitest unsere Kunden bei AI-Strategie, Platform Modernization und Infrastructure Readiness, treibst POCs und MVPs voran und bringst deine Expertise in RFPs, Angebote und Aufwandsschätzungen ein., Mobile phone/surf stickFlexible working hoursHome office options or remote workSabbatical opportunitiesWorkationHealth careFitness studioInfrastructure for maintaining health in the workplacePrivate accident insuranceTraining and development opportunitiesE-learning / learning platformsJob ticketCompany parking spaceSoft drinks, coffee, water, tea, milkSubsidies for public transportationBicycle leasing (Jobrad)Job bicycle (leasing, purchase + depreciation)Company carCompany pension schemeEmployee referral bonusInnovation bonus
Technical Consulting, ITbbb.de, Empfehlungsbund
Open to applicants from the following countries for full remote employment:
Germany