MLOps / Platform Engineer (m/w/d)
$388,853–$499,321 year
On-siteThalheim bei Wels, Upper Austria, Austria
Job Summary
Manage and operate central Kubernetes cluster services including n8n workflow automation, LiteLLM LLM gateway, and MCP servers for secure AI agent interactions. Build and maintain platform-native services such as Ingress-Controllers, cert-manager, DNS, and Secret Management while establishing CI/CD and GitOps pipelines. Collaborate with engineering and AI teams to integrate new services and oversee production monitoring, incident resolution, and observability expansion. Support GPU-accelerated workloads and LLM serving infrastructure, handling request routing, scaling, and performance optimization for self-hosted models.
Required Qualifications
- Abgeschlossene Ausbildung (Uni oder FH) mit Schwerpunkt Data Science, Informatik, Software Engineering oder einer vergleichbaren Fachrichtung
- Fundierte Erfahrung im Software Engineering
- DevOps Know-how im Aufbau von MLOps-/LLMOps-Plattformen einschließlich CI/CD-Pipelines und Automatisierung
- Erfahrung in der Implementierung von Monitoring, Logging und Observability für Produktionssysteme
- Sicherer praktischer Umgang mit Kubernetes in Produktionsumgebungen
- Linux- und Netzwerkkenntnisse
- allgemeine DevOps-Grundlagen
Desired Qualifications
- Erfahrung mit Ray (oder vergleichbaren Frameworks für verteiltes Rechnen)
- Praxis im Umgang mit GPU-Infrastruktur
- Vertrautheit mit LLM-Serving oder dem Betrieb eines LLM-Gateways wie LiteLLM
- Grundkenntnisse in Observability-Stacks (Prometheus, Grafana, Loki o. Ä.)
Hiring someone like this?
Get your role in front of qualified candidates on Sorce.