AI Platform Engineer (w/m/d)
On-site · Ulm, Baden-Wurttemberg, Germany or Taufkirchen, Bavaria, Germany
Job Summary
Aufbau und Weiterentwicklung unserer AI Plattform auf Kubernetes; Deployment und Betrieb von Large Language Models (LLMs) auf GPU-Servern; Aufbau und Betrieb performanter Model-Serving und Inference-Services; Etablierung von MLOps-Standards und Betrieb der on-prem MLOps-Plattform; Entwicklung von LLMOps-Workflows für produktive GenAI-Services; Containerisierung und Deployment von AI-Services mit Docker und Kubernetes; Skalierung und Optimierung von GPU- und CPU-Workloads; Entwicklung stabiler AI-APIs und Services; Aufbau von Monitoring, Logging und Observability; Automatisierung von Infrastruktur-, Plattform- und Model-Releases (CI/CD, GitOps, Infrastructure-as-Code) inkl. sicherer Rollouts/Rollbacks; Analyse und Optimierung von Performance, Skalierung und Stabilität.
Required Qualifications
- Abgeschlossenes Studium der Wirtschaftsinformatik, Informatik, Data Science oder eine vergleichbare Qualifikation
- Erfahrung im Aufbau oder Betrieb von Cloud-, Plattform- oder Infrastruktur-Systemen
- Gute Kenntnisse in Kubernetes und Container-Technologien
- Erfahrung mit Microservices, APIs und verteilten Systemen
- Erfahrung in MLOps/LLMOps (Model-/Prompt-Lifecycle, Serving, Evaluierung, Monitoring) sowie an produktiven AI-Systemen
- Erfahrung mit DevOps-Praktiken wie CI/CD, GitOps, Infrastructure-as-Code und Betriebs-/Release-Prozessen von Vorteil
- Erfahrung mit GPU-Workloads oder High-Performance-Systemen von Vorteil
- Gute Deutsch- und Englischkenntnisse
Apply with one swipe on Sorce. We auto-fill applications and apply on your behalf — no cover letters, no 40-minute forms.
Hiring someone like this?
Get your role in front of qualified candidates on Sorce.