L’attaque par injection survient si la sortie du LLM n’est pas traitée comme une donnée non sûre : à savoir nettoyée et correctement formatée. Par exemple, la production d’un LLM intégrée à un serveur web peut conduire à une injection XSS ; et plus largement, utilisée sans précautions comme facteur d’exploitation d’un environnement, ou d’un outil, elle peut conduire à des dégats systémiques, réputationnels, et financiers.
- Reflected XSS : Si la requête passe par un serveur, on peut exploiter l’exécution de notre playload faute de la sanitation de ce dernier par l’interface de chat.
- Stored XSS : On peut faire lire le payload stocké sur le serveur (par une interface de commentaire par exemple) par le LLm et l’interface de chat vulnérable.
Méthode : tester la gestion du formattage dans l’interface de chat ; puis, forger un payload, éventuellement hébergé sur notre propre serveur (quid de cors)