Ingénieur de Recherche – Sécurité de l’IA Agentique (H/F)
On-sitePalaiseau, Île-de-France, France
Job Summary
Develop countermeasures against vulnerabilities in generative models and analyze risks specific to agentic AI systems, including prompt injection and data leakage. Design protection mechanisms such as anomaly detection, adversarial robustness, and homomorphic encryption while evaluating solution efficacy through internal benchmarks and academic collaborations. Contribute to secure system architecture by integrating security into design requirements, collaborating with DevSecOps to automate vulnerability testing, and optimizing solutions for embedded environments. Monitor emerging threat trends, propose risk scenarios to guide R&D roadmaps, and validate solutions in real-world use cases like LLM-based cyberattack detection. Collaborate with product teams to embed security features and train engineers on best practices.
Required Qualifications
- Doctorat (ou expérience équivalente) en apprentissage automatique, sécurité de l'IA, ou systèmes distribués
- Apprentissage automatique (ML/DL) et apprentissage fédéré
- Théorie et pratique du ML/AI SecOps
- Notions de sécurité des modèles (robustesse, adversarial ML, propriété intellectuelle)
- Framework d'intégration de systèmes IA agentiques (ex : LangGraph)
- Développement Python, PyTorch/TensorFlow
- Anglais niveau C1 attendu (écrit et oral)
Desired Qualifications
- Travail en collaboration académique et industrielle
- Capacité à vulgariser les résultats auprès d'interlocuteurs variés
- Esprit d'innovation et autonomie dans l'exploration de nouvelles pistes
Hiring someone like this?
Get your role in front of qualified candidates on Sorce.