> Markdown version of [/jobs/ext/4501679-forward-deployed-engineer-ai-enterprise-solutions-1-1](https://www.wearedevelopers.com/jobs/ext/4501679-forward-deployed-engineer-ai-enterprise-solutions-1-1). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # Forward Deployed Engineer - AI & Enterprise Solutions 1 1 - **Company:** Ntt Group - **Location:** Erfurt, Germany (Remote available) - **Experience:** Expert - **Contract:** Permanent contract - **Skills:** Artificial Intelligence, Cloud Computing, Nvidia CUDA, Databases, Microsoft Office, Open Source Technology, OpenShift, Haystack, Autoscaling, LangChain, Retrieval-Augmented Generation, Open-source Models, Large Language Models, Prompt Engineering, Qwen, Llamaindex, Agentic-AI, Containerization, Kubernetes, Information Technology, Ollama, Machine Learning Operations, Semantic Kernel, Docker, KServe - **Published:** October 31, 2026 - **Apply:** https://www.indeed.com/viewjob?jk=02cde961d10bd276 ## About the Role Du verfgst ber 1013 Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lsungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt., Du bringst ausgeprgte Hands-on-Erfahrung mit Private AI und GenAI mit und beherrschst LLMs, RAG, Vector Databases, Prompt Engineering und Agentic AI sowie Frameworks wie LangChain, LlamaIndex, Haystack oder Semantic Kernel und Open-Source-Modelle wie Llama, Mistral, DeepSeek oder Qwen. * Du bist sicher im Umgang mit Kubernetes, Docker/OpenShift und MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie Evaluation, Tracing, Monitoring, Drift Detection und Production Support., Du verbindest dein technisches Know-how mit einem sicheren Verstndnis fr Security, Privacy und Sovereign AI, berzeugst im Umgang mit unterschiedlichen Stakeholdern und verfgst ber Deutschkenntnisse auf mindestens C1-Niveau. Mit uns hast du unzhlige Mglichkeiten, gro zu denken, mutig zu handeln und Verantwortung zu bernehmen. Gestalte deine Zukunft in einer Kultur, die Zugehrigkeit lebt und dir Raum fr Lernen und Networking gibt. ## Description Make this the place where you grow Private AI entsteht nicht auf dem Architekturdiagramm. Du bringst sie vom Design bis in den produktiven Betrieb. Als Private AI Architect (w/m/x) entwickelst du sichere, skalierbare und souverne AI- und GenAI-Plattformen und verbindest dabei Architektur mit echter Hands-on-Umsetzung. Ob Self-hosted LLMs, RAG oder Agentic AI: Du sorgst dafr, dass aus technologischen Mglichkeiten produktionsreife Enterprise-AI-Lsungen werden. #LI-DS1 Deine Benefits * Flexible Arbeitszeiten mit Gleitzeitregelung und Reisezeit ist Arbeitszeit * Home-Office Mglichkeit sowie Vereinbarung mit Vergtungszuschuss inkl. Arbeitsplatzausstattung mglich * 30 Tage Urlaub, zustzlich sind der 24.12. und 31.12. arbeitsfreie Tage, Umfangreiche Gesundheits- und Vorsorgeangebote: verlngerte Entgeltfortzahlung im Krankheitsfall, Betriebsrztliche Betreuung, Unfallversicherung auch fr Freizeitunflle weltweit, Familienservice * Interne und externe Weiterbildungsmglichkeiten in der NTT DATA Academy mit fachlichen Trainings, Zertifizierungsangeboten, Soft-Skill-Schulungen, Udemy Zugang * Diverse Communities und Initiativen (zu Diversity, Equity Inclusion, ESG und mehr) mit Wissensaustausch auf Augenhhe * Teamorientierte Unternehmenskultur mit viel Gestaltungsspielraum Deine Mission * Du designst, entwickelst, konfigurierst und implementierst Private-AI- und GenAI-Plattformen auf Basis von Open-Source- und Self-hosted-Technologien und erstellst High-Level- und Low-Level-Designs, Blueprints sowie Referenzarchitekturen fr On-Premises-, Private-Cloud-, Hybrid- und Sovereign-AI-Umgebungen. * Du entwickelst und implementierst LLM-, RAG- und Agentic-AI-Lsungen von Ingestion Pipelines und Vector Databases ber Tool Integrations und Orchestrierung bis hin zu Evaluation Components. * Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/LLMOps zuverlssig in den produktiven Betrieb und verantwortest Deployment, Monitoring, Governance sowie Troubleshooting. * Du deployest und optimierst Self-hosted Foundation Models und Enterprise-AI-Workloads und verbesserst GPU Utilization, Quantization, Batching, Autoscaling und Latenz fr leistungsfhige und hochverfgbare Inference-Architekturen. * Du begleitest unsere Kunden bei AI-Strategie, Platform Modernization und Infrastructure Readiness, treibst POCs und MVPs voran und bringst deine Expertise in RFPs, Angebote und Aufwandsschtzungen ein. Dein Skillset, Du kennst dich mit GPU- und AI-Infrastrukturen aus einschlielich NVIDIA Stack, CUDA, MIG, Model Serving, Quantization, Distributed Inference/Training, Storage und Networking und kannst AI-Workloads hinsichtlich Performance, Skalierbarkeit und Verfgbarkeit optimieren.