Motivations
À l’heure où le Time to Market est de plus en plus comprimé par la vélocité de l’IA, et la pression concurrentielle, de nombreux secteurs doivent s’astreindre à cet état de fait en rattrapant leur retard technique, au risque de perdre des opportunités commerciales. Seulement, l’avènement de l’IA n’a rien changé au risque de la mise en production rapide de produit dont les questions cyber ont été reléguées au second plan ; pour autant, il peut être difficile de concilier l’intégration avec les précautions inhérente au déploiement de systèmes propulsés par IA. Il n’est d’ailleurs pas toujours question de méconnaissance ou-bien de paresse — car parfois le retard technologique est si grand, et l’environnement si contraignant, que l’enrobage cyber est impraticable. Traiter de ces questions, c’est notablement complexifier ce qui est déjà une aventure en soi.
Sécurisation du déploiement
L’objectif est de rendre actionnable les recommandations de l’ANSSI 1
Continuité de la sécurité
R1
Intégrer la sécurité dans toutes les phases du cycle de vie d’un système d’IA
- Identifier le partage des responsabilités inhérent au scénario de déploiement.
- Évaluer et traiter les risques relatives à la supply chain.
- Identifier les interactions avec d’autres acteurs du SI.
- Se référer au guide d’hygiène de l’ANSSI2 et conditionner l’environnement de déploiement.
Sur un plan générique, se posent alors les questions :
- des composants de l’infrastructure,
- des flux réseaux nécessaires,
- de la séparation des responsabilités,
- du durcissement des supports.
Dans le cas d’un service IA :
- Quels sont les utilisateurs ?
- Le RAG est-il alimenté par des ressources métier ? Sont-elles critiques, confidentielles ? Tous les utilisateurs y ont-ils également accès ?
- Filtrages en entrée et sortie du modèle d’IA (prompt injection, …).
- Quelles sont les interconnexions ?
Analyse de risque
- cartographier l’ensemble des éléments en lien avec le modèle d’IA : bibliothèques tierces, sources de données, applications interconnectées, etc. ;
- identifier les sous-parties du système d’IA qui traiteront les données de l’organisation, en particulier celles contenues dans les requêtes des utilisateurs ;
- prendre en compte le scénario de partage de responsabilités et la question de la sous-traitance pour chacune des phases ;
- identifier les impacts directs et indirects en cas de réponses erronées ou malveillantes du modèle d’IA aux utilisateurs ;
- considérer la protection des données d’entraînement du modèle d’IA.
D’autres recommandations, plus récentes, par l’ANSSI5
Footnotes
-
https://messervices.cyber.gouv.fr/guides/recommandations-de-securite-pour-un-systeme-dia-generative ↩
-
https://messervices.cyber.gouv.fr/documents-guides/20181213_anssi_guide_cartographie_v1b.pdf ↩
-
https://media.defense.gov/2022/Sep/01/2003068942/-1/-1/0/ESF_SECURING_THE_SOFTWARE_SUPPLY_CHAIN_DEVELOPERS.PDF ↩
-
https://messervices.cyber.gouv.fr/documents-guides/Document_Analyse_de_risques_FR.pdf ↩