Les contenus générés par l'intelligence artificielle s'intègrent aux rapports, aux analyses et aux décisions professionnelles. Pour pouvoir expliquer leur origine, les entreprises doivent aussi réfléchir à la conservation des prompts, des sources utilisées et des versions produites.
Les entreprises conservent de plus en plus souvent les documents générés avec l'intelligence artificielle, mais pas nécessairement les éléments permettant de comprendre comment ils ont été créés. Cette lacune peut compliquer un audit interne, une enquête ou une procédure judiciaire.
Dans une analyse publiée le 15 octobre, Reuters souligne l'importance de préserver les informations associées aux productions de l'IA : instructions soumises au modèle, documents sources, versions du modèle utilisé, résultats intermédiaires, modifications humaines et journaux d'activité.
Un rapport final ne suffit pas toujours à reconstituer son processus de création. Les sources peuvent avoir été modifiées ou supprimées, les modèles mis à jour et les historiques de conversation effacés. Relancer la même requête plusieurs mois plus tard ne garantit donc pas d'obtenir le même résultat.
Adapter l'archivage au niveau de risque
Pour les directions des systèmes d'information, l'enjeu consiste à définir une politique de conservation proportionnée à l'importance des usages. Une réponse utilisée ponctuellement en interne ne présente pas le même niveau de risque qu'une analyse financière, un rapport de conformité ou un document mobilisé dans une décision sensible.
Les entreprises doivent notamment vérifier les capacités des plateformes utilisées : conservation des historiques, identification des versions de modèles, export des journaux et possibilité de préserver les données pertinentes lorsqu'un litige est anticipé.
Aux États-Unis, les obligations de conservation des preuves électroniques peuvent concerner les éléments associés à une production de l'IA lorsqu'ils sont pertinents pour une procédure. Cette question doit toutefois être appréciée selon le contexte juridique applicable ; elle ne signifie pas qu'il faille archiver systématiquement toutes les interactions avec un assistant.
La gouvernance de l'IA ne se limite donc plus au choix des modèles et à la protection des données. Elle suppose aussi de pouvoir retracer les étapes qui ont conduit à un résultat, distinguer les contributions humaines et automatisées et justifier les décisions prises à partir de ce résultat.
Suivez-nous