Werkstudent:in KI-Infrastruktur & Hardware

OMM Solutions GmbH
4 days ago

Role details

Contract type
Internship / Graduate position
Employment type
Full-time (> 32 hours)
Working hours
Shift work
Languages
German
Experience level
Junior

Job location

Tech stack

Artificial Intelligence
Bash
Command-Line Interface
Linux
Firmware
Python
TensorFlow
Toolchain
Graphics Processing Unit (GPU)
PyTorch
Large Language Models
Deep Learning
Information Technology
Api Design
GPT

Job description

  • Installation und Inbetriebnahme von Tenstorrent Hardware (Wormhole und Blackhole Chips) inklusive Firmware-Setup und Treiberkonfiguration
  • Einrichtung und Wartung der Tenstorrent Software-Toolchain, insbesondere TT-Metal, pyMetal, ttnn, tt-metal und tt-vllm.
  • Integration und Deployment neuer Large Language Models (LLMs) in das Tenstorrent-Ökosystem
  • Anbindung und Nutzung von LLMs via VLLM (vLLM inference engine) und OpenAI API
  • Unterstützung bei Benchmarking, Performanceanalysen und Troubleshooting im Umfeld von Deep-Learning-Inferenz
  • Mitwirkung bei der Umsetzung neuer Softwareprodukte
  • Pflege und Erweiterung bestehender Software

Requirements

  • Eingeschriebene:r Student:in in Informatik, Elektrotechnik, Medieninformatik oder einem verwandten technischen Studiengang
  • Grundkenntnisse in Deep Learning Frameworks (z. B. PyTorch, TensorFlow)
  • Erste Erfahrung mit LLMs (z. B. LLaMA, Mistral, GPT) wünschenswert
  • Interesse an KI-Hardware wie GPUs, ASICs oder speziell Tenstorrent
  • Sicherer Umgang mit Linux (CLI, Bash, Package-Management)
  • Gute Python-Kenntnisse
  • Teamfähigkeit, Eigeninitiative und die Motivation, dich in komplexe technische Themen einzuarbeiten

Benefits & conditions

  • Direkte Arbeit mit hochmoderner KI-Hardware (Tenstorrent, GPUs, eventuell auch RISC-V Ecosystem)
  • Einblicke in das Deployment und Management moderner LLMs auf dedizierter Infrastruktur
  • Flexible Arbeitszeiten, hybride Arbeitsmöglichkeiten
  • Möglichkeit zur Bachelor-/Masterarbeit in angrenzenden Themenbereichen, * Betriebliche Altersvorsorge
  • Betriebsfeiern
  • Flexible Arbeitszeiten möglich
  • Jobrad (Lease-a-bike)
  • EGYM Wellpass
  • Kostenlose Getränke

Apply for this position