Make this the place where you grow

Private AI entsteht nicht auf dem Architekturdiagramm. Du bringst sie vom Design bis in den produktiven Betrieb. Als Private AI Architect (w/m/x) entwickelst du sichere, skalierbare und souverne AI- und GenAI-Plattformen und verbindest dabei Architektur mit echter Hands-on-Umsetzung. Ob Self-hosted LLMs, RAG oder Agentic AI: Du sorgst dafr, dass aus technologischen Mglichkeiten produktionsreife Enterprise-AI-Lsungen werden.

LI-DS1

Deine Benefits

* Flexible Arbeitszeiten mit Gleitzeitregelung und Reisezeit ist Arbeitszeit

* Home-Office Mglichkeit sowie Vereinbarung mit Vergtungszuschuss inkl. Arbeitsplatzausstattung mglich

* 30 Tage Urlaub, zustzlich sind der 24.12. und 31.12. arbeitsfreie Tage, Umfangreiche Gesundheits- und Vorsorgeangebote: verlngerte Entgeltfortzahlung im Krankheitsfall, Betriebsrztliche Betreuung, Unfallversicherung auch fr Freizeitunflle weltweit, Familienservice

* Interne und externe Weiterbildungsmglichkeiten in der NTT DATA Academy mit fachlichen Trainings, Zertifizierungsangeboten, Soft-Skill-Schulungen, Udemy Zugang

* Diverse Communities und Initiativen (zu Diversity, Equity Inclusion, ESG und mehr) mit Wissensaustausch auf Augenhhe

* Teamorientierte Unternehmenskultur mit viel Gestaltungsspielraum

Deine Mission

* Du designst, entwickelst, konfigurierst und implementierst Private-AI- und GenAI-Plattformen auf Basis von Open-Source- und Self-hosted-Technologien und erstellst High-Level- und Low-Level-Designs, Blueprints sowie Referenzarchitekturen fr On-Premises-, Private-Cloud-, Hybrid- und Sovereign-AI-Umgebungen.

* Du entwickelst und implementierst LLM-, RAG- und Agentic-AI-Lsungen von Ingestion Pipelines und Vector Databases ber Tool Integrations und Orchestrierung bis hin zu Evaluation Components.

* Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/LLMOps zuverlssig in den produktiven Betrieb und verantwortest Deployment, Monitoring, Governance sowie Troubleshooting.

* Du deployest und optimierst Self-hosted Foundation Models und Enterprise-AI-Workloads und verbesserst GPU Utilization, Quantization, Batching, Autoscaling und Latenz fr leistungsfhige und hochverfgbare Inference-Architekturen.

* Du begleitest unsere Kunden bei AI-Strategie, Platform Modernization und Infrastructure Readiness, treibst POCs und MVPs voran und bringst deine Expertise in RFPs, Angebote und Aufwandsschtzungen ein.

Dein Skillset, Du kennst dich mit GPU- und AI-Infrastrukturen aus einschlielich NVIDIA Stack, CUDA, MIG, Model Serving, Quantization, Distributed Inference/Training, Storage und Networking und kannst AI-Workloads hinsichtlich Performance, Skalierbarkeit und Verfgbarkeit optimieren.

Du verfgst ber 1013 Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lsungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt., Du bringst ausgeprgte Hands-on-Erfahrung mit Private AI und GenAI mit und beherrschst LLMs, RAG, Vector Databases, Prompt Engineering und Agentic AI sowie Frameworks wie LangChain, LlamaIndex, Haystack oder Semantic Kernel und Open-Source-Modelle wie Llama, Mistral, DeepSeek oder Qwen.

* Du bist sicher im Umgang mit Kubernetes, Docker/OpenShift und MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie Evaluation, Tracing, Monitoring, Drift Detection und Production Support., Du verbindest dein technisches Know-how mit einem sicheren Verstndnis fr Security, Privacy und Sovereign AI, berzeugst im Umgang mit unterschiedlichen Stakeholdern und verfgst ber Deutschkenntnisse auf mindestens C1-Niveau.

Mit uns hast du unzhlige Mglichkeiten, gro zu denken, mutig zu handeln und Verantwortung zu bernehmen. Gestalte deine Zukunft in einer Kultur, die Zugehrigkeit lebt und dir Raum fr Lernen und Networking gibt.

Wir sind Teil von NTT DATA, einem fhrenden Anbieter von Unternehmens- und Technologiedienstleistungen, KI und digitaler Infrastruktur mit einem Umsatz von ber 30 Mrd. $. Als Global Top Employer betreut NTT DATA 75 % der Fortune Global 100-Unternehmen und entwickelt mit Expert: innen in ber 70 Lndern gemeinsam innovative Lsungen, die dazu inspirieren, Neues zu wagen und Erfolge sichtbar zu machen. In der DACH-Region sind wir an 15 Standorten in Deutschland, sterreich und der Schweiz vertreten.