Anthropic et Accenture vont consacrer chacune au moins 1 milliard de dollars sur cinq ans à l'évaluation indépendante des modèles d'intelligence artificielle. Une collaboration qui fait émerger un nouveau rôle : celui d'évaluateurs intégrés directement au sein des laboratoires d'IA.
Anthropic s'associe à Accenture pour renforcer l'évaluation de la sécurité de ses modèles d'intelligence artificielle les plus avancés. Le partenariat prévoit la création d'équipes d'évaluation intégrées, pilotées par Faculty, l'activité spécialisée dans l'IA d'Accenture.
Ces équipes auront notamment pour mission de tester les vulnérabilités des modèles, de mener des exercices de « red teaming », d'évaluer leur alignement et de vérifier l'efficacité de leurs mécanismes de protection. Anthropic et Accenture prévoient chacune d'investir au moins 1 milliard de dollars sur cinq ans dans cette activité.
Des évaluateurs au coeur du développement
Le dispositif doit permettre aux évaluateurs d'avoir un accès beaucoup plus étendu aux processus internes d'un laboratoire d'IA. Ils pourront suivre la conception et l'entraînement des modèles, examiner certaines décisions de développement et signaler d'éventuels incidents ou failles.
Anthropic souligne toutefois que cette approche reste nouvelle. Il n'existe encore ni standards communs concernant les informations auxquelles les évaluateurs doivent accéder, ni cadre établi pour leurs modalités de financement ou de restitution.
Le laboratoire entend par ailleurs travailler avec plusieurs organismes d'évaluation. Le partenariat avec Accenture n'est donc pas exclusif.
Cette évolution traduit une volonté de faire de l'évaluation indépendante un élément permanent du développement des modèles d'IA avancés, alors que les entreprises cherchent à mieux maîtriser les risques liés à leur déploiement.
Suivez-nous