Werkstudent Edge AI / Embedded LLM - Robotik & autonome Systeme

Du arbeitest an Edge-AI-Systemen für Anwendungen wie Robotik, mobile Systeme und unbemannte Plattformen.

Dazu gehören je nach Projekt:

• LLMs und andere KI-Modelle lokal auf kleinen Edge-Geräten betreiben
• geeignete kleine Sprach- und multimodale Modelle auswählen und testen
• Quantisierung und Optimierung von Modellen für begrenzten RAM, Speicher und Rechenleistung
• lokale Inferenz ohne Cloud-Anbindung
• Integration von KI-Modellen in Embedded-Linux-Systeme
• Anbindung an Sensoren, Kameras, Aktoren und Mikrocontroller
• Entwicklung von Schnittstellen zwischen KI, Software und Hardware
• Messung und Optimierung von Latenz, RAM-/VRAM-Bedarf und Energieverbrauch
• Aufbau und Test eigener Hardware-Prototypen
• Firmware-Entwicklung und Hardware-Debugging, wo erforderlich

Das solltest du bereits können

Du studierst z. B. Informatik, Elektrotechnik, Technische Informatik, Embedded Systems, Robotik, Mechatronik oder einen vergleichbaren Studiengang.

Entscheidend ist für uns praktische Erfahrung.

Besonders interessant sind Erfahrungen mit mehreren dieser Themen:

llama.cpp · GGUF · lokale LLMs · Quantisierung · ONNX · PyTorch · C/C++ · Python · Linux · ARM · NVIDIA Jetson · Raspberry Pi / vergleichbare SBCs und SoCs · STM32 / ESP32 · CUDA · JTAG/SWD · SEGGER J-Link · ROS/ROS 2

Ideal ist, wenn du bereits ein LLM, VLM oder anderes KI-Modell auf einem kleinen Edge-Gerät tatsächlich betrieben und in ein Hardwareprojekt integriert hast.

Robotik-, Rover-, Drohnen-, Embedded-Vision- oder eigene Elektronikprojekte sind ausdrücklich interessant.

Wir entwickeln und erforschen KI-Systeme und deren Einsatz auf kleinen, lokalen Hardwaresystemen. Dafür suchen wir einen Studenten oder eine Studentin, der bzw. die bereits praktisch LLMs oder andere KI-Modelle auf Embedded- und Edge-Hardware zum Laufen gebracht hat.

Gehalt: ab 20,00€ pro Stunde

Leistungen:

• Kostenlose Getränke
• Kostenloser Parkplatz