> Markdown version of [/jobs/ext/4553800-forward-deployed-engineer-ai-enterprise-solutions-1-1](https://www.wearedevelopers.com/jobs/ext/4553800-forward-deployed-engineer-ai-enterprise-solutions-1-1). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Forward Deployed Engineer - AI & Enterprise Solutions 1 1

- **Company:** NTT America Solutions, Inc.
- **Location:** Rosenheim, Germany (Remote available)
- **Experience:** Expert
- **Contract:** Permanent contract
- **Skills:** Artificial Intelligence, Cloud Computing, Nvidia CUDA, Databases, OpenShift, Haystack, Autoscaling, LangChain, Retrieval-Augmented Generation, Open-source Models, Large Language Models, Prompt Engineering, Qwen, Llamaindex, Agentic-AI, Containerization, Kubernetes, Information Technology, Ollama, Machine Learning Operations, Semantic Kernel, Docker, KServe
- **Published:** November 4, 2026
- **Apply:** https://www.adzuna.de/details/5950261794

## About the Role

Du entwickelst und implementierst LLM-, RAG- und Agentic-AI-Lsungen ? von Ingestion Pipelines und Vector Databases ber Tool Integrations und Orchestrierung bis hin zu Evaluation Components.
Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/LLMOps zuverlssig in den produktiven Betrieb und verantwortest Deployment, Monitoring, Governance sowie Troubleshooting.
Du deployest und optimierst Self-hosted Foundation Models und Enterprise-AI-Workloads und verbesserst GPU Utilization, Quantization, Batching, Autoscaling und Latenz fr leistungsfhige und hochverfgbare Inference-Architekturen.
Du begleitest unsere Kunden bei AI-Strategie, Platform Modernization und Infrastructure Readiness, treibst POCs und MVPs voran und bringst deine Expertise in RFPs, Angebote und Aufwandsschtzungen ein.
**Dein Skillset**
Du verfgst ber 10?13 Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lsungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt.
Du bringst ausgeprgte Hands-on-Erfahrung mit Private AI und GenAI mit und beherrschst LLMs, RAG, Vector Databases, Prompt Engineering und Agentic AI sowie Frameworks wie LangChain, LlamaIndex, Haystack oder Semantic Kernel und Open-Source-Modelle wie Llama, Mistral, DeepSeek oder Qwen.
Du bist sicher im Umgang mit Kubernetes, Docker/OpenShift und MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie Evaluation, Tracing, Monitoring, Drift Detection und Production Support.
Du kennst dich mit GPU- und AI-Infrastrukturen aus ? einschlielich NVIDIA Stack, CUDA, MIG, Model Serving, Quantization, Distributed Inference/Training, Storage und Networking ? und kannst AI-Workloads hinsichtlich Performance, Skalierbarkeit und Verfgbarkeit optimieren.
Du verbindest dein technisches Know-how mit einem sicheren Verstndnis fr Security, Privacy und Sovereign AI, berzeugst im Umgang mit unterschiedlichen Stakeholdern und verfgst ber Deutschkenntnisse auf mindestens C1-Niveau.
Mit uns hast du unzhlige Mglichkeiten, gro zu denken, mutig zu handeln und Verantwortung zu bernehmen. Gestalte deine Zukunft in einer Kultur, die Zugehrigkeit lebt und dir Raum fr Lernen und Networking gibt.