La massification des systèmes propulsés par IA engendre une surface d’attaque nouvelle, et place les LLMs au centre des composants à risque. Assurer leur résilience, et leur sécurité, et un enjeu nouveau qui mêle sécurité des systèmes, et compréhension des mécanismes propres au Machine Learning.
Notes
- Autour de l’injection de prompt : prompt_injection et mitigate_prompt_inj