Ingénieur MLOps (F/H)
HybridMundolsheim, Grand Est, France
Job Summary
Monitor GPU/Kubernetes infrastructure, manage NVIDIA Operator updates, and handle incidents. Deploy and expose AI models via vLLM, SGlang, and llama.cpp while packaging and securing APIs. Optimize performance through quantization and benchmarking, then fine-tune pipelines with CI/CD integration and model tracking. Maintain compliance with ISO 27001 and HDS standards, manage secrets, and conduct internal training sessions on emerging technologies. Report monthly on performance metrics and assist in audits. Based in Mundolsheim, this role supports the Architecture Linux & Devops team within Cloudéo, focusing on sovereign cloud infrastructure and responsible AI development.
Required Qualifications
- Cloud & Cloud Native
- Architecture et exploitation d'infrastructures Cloud (Kubernetes, XCP-ng, Vmware Cloud Director, KVM)
- Gestion de clusters Kubernetes (installation, configuration, mise à jour)
- Utilisation d'outils d'infrastructure as code (Terraform, Ansible, Crossplane)
- GPU & Accélération
- Installation et administration du NVIDIA GPU Operator
- Gestion des drivers NVIDIA, CUDA, cuDNN
- Optimisation de l'allocation des GPU (device plugins, pod‐affinity)
- MLOps / CI-CD
- Pipelines de formation et de déploiement (Gitlab, Argo...)
- Gestion des artefacts (model registry, versioning)
- Tests automatisés de modèles (unit, intégration, performance)
- Frameworks IA
- Déploiement de serveurs de modèles avec vLLM, SGlang, llama.cpp
- Compréhension du cycle de vie d'un LLM (quantisation, optimisation, inference)
- Connaissances en modèles de génération (transformers, diffusion)
- Observabilité & Sécurité
- Monitoring (Prometheus, Grafana, Loki)
- Tracing (OpenTelemetry)
- Gestion des secrets (Vault, KMS) et conformité (ISO 27001, HDS)
- Programmation & Scripting
- Python (pandas, torch, tensorflow, fastapi)
- Shell / Bash
- CI scripts (GitLab CI)
- Poste basé à Mundolsheim (67)
Desired Qualifications
- Conformité & sécurité
- respect des référentiels ISO 27001/HDS
- gestion des secrets
- participation aux audits
- MCO de l'infrastructure GPU/Kubernetes
- supervision
- mise à jour du GPU Operator
- gestion des incidents
- Déploiement et exposition d'IA
- packaging des modèles (vLLM, SGlang, llama.cpp)
- gestion des API sécurisées
- Optimisation & benchmark
- analyse des performances
- quantisation
- reporting mensuel
- Fine‐tuning
- pipelines d'entraînement
- traçabilité
- intégration CI/CD
- Formation & veille
- ateliers internes
- documentation
- suivi des évolutions technologiques
- Contraignant CDI
- Intégration
- visite des locaux
- présentation de votre équipe et des différents services
- prises en main et découverte des outils
- référent désigné comme votre parrain ou votre marraine
- management participatif et de proximité
- équipes autonomes dans un environnement collaboratif
- Partage de valeurs communes : entraide et innovation
- possibilités d'évolution, de responsabilités et de mobilité géographique
- espaces de travail agréables et à la pointe de la technologie
- politique RSE en plein développement
- développement durable
- alternance
- handicap
- recrutement inclusif
- formation
- Teambuilding
- Séminaires
- Concours des Pull de Noël
- Halloween
- Au Boulot à Vélo
- Collectes à But non Lucratif
- Carte Tickets Restaurant
- mutuelle santé
- plateforme d'avantage Comité d'Entreprise
- Welcome Pack (Sweat, Tasse, Lunch Box...)
- Un premier échange téléphonique avec Perrine, Chargée de Recrutement
- rencontre en présentiel avec Perrine, Sébastien, Directeur des Opérations Cloud
- Immersion dans l'équipe
- validation commune de votre intégration au sein de notre Groupe
- Tous nos postes sont ouverts, à compétences égales, aux candidatures de personnes reconnues en qualité de travailleurs handicapés et autres bénéficiaires de l'obligation d'emploi
- La diversité au sein du Groupe est un de nos enjeux majeurs car elle est source d'innovation et de performance
Hiring someone like this?
Get your role in front of qualified candidates on Sorce.