testKI-Engineer*in (all genders) - LLM-Infrastruktur und KI-Plattform

Die Abteilung IT-Services stellt eine leistungsfähige und sichere IT-Infrastruktur für die Forschungs- und Verwaltungsbereiche des Instituts bereit. Im Zuge der zunehmenden Nutzung Künstlicher Intelligenz bauen sie ihre zentralen KI-Services kontinuierlich aus und schaffen die technischen Voraussetzungen für einen sicheren und effizienten Einsatz moderner KI-Technologien am Fraunhofer IIS.

• KI-Infrastruktur betreiben und weiterentwickeln: Sie betreiben das IIS-zentrale LLM-Gateway, provisionieren LLM-Endpunkte in Cloud-Umgebungen wie AWS Bedrock und Azure sowie lokal und stellen den zuverlässigen Betrieb lokaler RAG-Systeme sicher.
• KI-Services sicher bereitstellen: Sie wählen geeignete LLM-Endpunkte aus und ordnen diese in Abstimmung mit dem Informationssicherheitsbeauftragten (ISB) der jeweils freigegebenen Informationsklassifizierung zu. Dabei setzen Sie geeignete Verfahren für Zugriffskontrolle und Authentifizierung, insbesondere SSO, um und berücksichtigen Anforderungen aus Datenschutz und Informationssicherheit.
• Betrieb überwachen und Ressourcen steuern: Sie etablieren Monitoring und Observability für die bereitgestellten KI-Services, verantworten Logging, Verfügbarkeit und Incident-Handling und behalten die Kosten sowie die Token-Nutzung im Blick.
• Qualität und Sicherheit gewährleisten: Sie evaluieren und benchmarken LLMs, führen systematische Tests durch und stellen die Qualität der eingesetzten RAG-Systeme sicher. Dabei entwickeln Sie geeignete Schutzmaßnahmen gegen Prompt-Injection und weitere LLM-spezifische Risiken.
• KI-Technologien kontinuierlich weiterentwickeln: Sie etablieren LLMOps-Prozesse für automatisierte Deployments, CI/CD sowie die Versionierung von Prompts und Konfigurationen. Darüber hinaus entwickeln Sie Best Practices, beispielsweise für Prompt Engineering, und stellen Coding-Agent-Tools und deren Konfigurationen bereit.
• Innovative KI-Lösungen erschließen: Sie arbeiten bei Bedarf mit Fine-Tuning, Embeddings und Vektordatenbanken und beobachten aktuelle Entwicklungen im Bereich der LLM-Technologien, um deren Potenziale für das Fraunhofer IIS zu bewerten.
• Forschung mit KI unterstützen: Sie behalten die KI-Use-Cases am Fraunhofer IIS im Blick und beraten Forschungsgruppen bei der Bewertung ihrer Use-Cases, der technischen Machbarkeit und der Auswahl geeigneter Lösungen.
• Wissen und Kompetenzen aufbauen: Sie unterstützen den institutsweiten Wissenstransfer durch Workshops, Onboarding und Dokumentation und fördern damit die sichere und effiziente Nutzung von KI-Technologien.
• KI strategisch weiterdenken: Sie beobachten den Markt sowie die Entwicklung neuer Modelle und Technologien und unterstützen bei Lizenz- und Vertragsthemen. Perspektivisch wirken Sie am Aufbau einer institutsweiten KI-Agentenplattform mit und übernehmen deren technischen Betrieb.

• Ein abgeschlossenes Studium der Informatik oder einer vergleichbaren Fachrichtung.
• Praktische Erfahrung im Umgang mit Large Language Models (LLMs) und modernen KI-Technologien.
• Sehr gute Programmierkenntnisse, idealerweise in Python, sowie Erfahrung in der Nutzung und Anbindung von APIs und im technischen Debugging.
• Erfahrung mit Docker und Kubernetes sowie mit Cloud-Plattformen wie AWS und/oder Azure.
• Kenntnisse in RAG-Architekturen und im Umgang mit Vektordatenbanken, beispielsweise FAISS, Qdrant oder Weaviate, sind von Vorteil.
• Erfahrung mit API- und Gateway-Technologien, beispielsweise REST, LiteLLM oder Kong, ist wünschenswert.
• Ein ausgeprägtes Bewusstsein für Informationssicherheit und Datenschutz sowie die Bereitschaft, diese Anforderungen bei der Entwicklung und dem Betrieb von KI-Lösungen konsequent zu berücksichtigen.
• Ausgeprägte Kommunikations- und Beratungskompetenz sowie Freude an der Zusammenarbeit mit Forschungsgruppen und dem Informationssicherheitsbeauftragten (ISB).
• Eine selbstständige, strukturierte und lösungsorientierte Arbeitsweise, Eigeninitiative und die Bereitschaft, Verantwortung für neue Themenfelder zu übernehmen.
• Offenheit für neue Technologien und die Fähigkeit, sich flexibel auf die dynamische Entwicklung im Bereich Künstliche Intelligenz und Large Language Models einzustellen.
• Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift.

Die Position ist auch für Berufsanfänger*innen mit entsprechenden Vorkenntnissen und Erfahrungen aus Praktika, Studien- oder Abschlussarbeiten geeignet.

• Spannende Tätigkeit: attraktives Arbeitsumfeld bei einem Weltmarktführer in einer hochinnovativen Schlüsselbranche.
• Praxisbezogene Projekte bieten unseren Mitarbeitenden Gestaltungsfreiraum: Sie motivieren dazu, Innovationen aktiv voranzutreiben und eigene Ideen einzubringen.
• Engagierte Teams fördern Kreativität und Eigenverantwortung: Hier haben Sie die Freiheit, Ihre Ideen zu entwickeln und aktiv mitzugestalten.
• Persönlicher Kontakt ist uns wichtig: Durch strukturiertes Onboarding erweitern Sie Ihr Netzwerk und kommen gut an unserem Institut an.
• Ihre Bedürfnisse nehmen wir ernst: Die bestmögliche Vereinbarkeit Ihres Berufs- und Privatlebens unterstützen wir durch zeitliche Flexibilität und hybrides Arbeiten.+
• Wir schaffen Raum für Begegnung: Sportliche Angebote vor Ort und remote, Events sowie Gemeinschaftsräume bringen unsere Mitarbeitenden zusammen.
• Unsere Mitarbeitenden genießen unsere wertschätzende Kultur: Wir sind offen, hilfsbereit und pflegen einen vertrauensvollen Umgang miteinander.
• Top Ausstattung am Arbeitsplatz: Mit unseren State-of-the-Art Technologien entwickeln wir Lösungen für Herausforderungen der Gegenwart und Zukunft.
• Ihre Ziele und Interessen liegen uns am Herzen: Wir unterstützen Sie regelmäßig durch fachliche und persönliche Seminare, Coachings sowie Sprachkurse.
• Die wöchentliche Arbeitszeit beträgt 39 Stunden. Die Stelle kann auch in Teilzeit besetzt werden, jedoch möglichst vollzeitnah. Die Stelle ist zunächst auf zwei Jahre befristet. Eine Verlängerung ist möglich. Anstellung, Vergütung und Sozialleistungen basieren auf dem Tarifvertrag für den öffentlichen Dienst (TVöD). Zusätzlich kann Fraunhofer leistungs- und erfolgsabhängige variable Vergütungsbestandteile gewähren.

Die Fraunhofer-Gesellschaft (www.fraunhofer.de) ist eine der weltweit führenden Organisationen für anwendungsorientierte Forschung. 74 Institute entwickeln wegweisende Technologien für unsere Wirtschaft und Gesellschaft - genauer: 30 000 Menschen aus Technik, Wissenschaft, Verwaltung und IT. Sie wissen: Wer zu Fraunhofer kommt, will und kann etwas verändern. Für sich, für uns und die Märkte von heute und morgen.

Willkommen am Fraunhofer-Institut für Integrierte Schaltungen IIS! Als größtes Institut der Fraunhofer-Gesellschaft forschen wir seit mehr als 30 Jahren in vielfältigen Themen rund um Künstliche Intelligenz, Mikroelektronik, Sensorik und Datenerfassung sowie Signalverarbeitung und -übertragung. Talente aus unterschiedlichen Ingenieur- und Naturwissenschaften finden bei uns zahlreiche Forschungsfelder unter einem Dach. Einige Aushängeschilder, die unsere Innovationskraft widerspiegeln: Neuromorphes Computing, 5G/6G-Mobilfunktechnologien, Generative KI in der Sprach- und Signalverarbeitung sowie Röntgenbildgebung in der Elektromobilität. Und wir machen noch so viel mehr! Welche zukunftsfähigen Lösungen finden Sie mit uns?