L'OCDE interroge 25 organisations sur l'usage des agents d'IA

L'OCDE a interrogé 25 organisations utilisant des agents d'IA. Aucune ne les laisse agir sans borne. Les agents agissent seul dans des périmètres définis, et un humain valide les actions irréversibles. L'OCDE souligne que les agents sortent de l'expérimentation pour entrer dans les flux de travail, et que leur gouvernance reste ouverte. Les organisations gouvernent leurs agents principalement avec les Principes de l'OCDE et le cadre de gestion des risques du NIST. Leur difficulté réside dans la traduction des principes en exigences d'ingénierie et la détection des erreurs avant la mise en service. Les agents agissent seul dans des bornes prédéfinies, et l'IA est contrôlée par des règles. L'OCDE rappelle que les agents doivent respecter des limites pour éviter des erreurs coûteuses. Les organisations déclarent que les garde-fous existent déjà dans les processus, mais il reste à les coder. L'évaluation des agents reste un point faible, avec des indicateurs métier insuffisants et des métriques propres aux agents. Les répondants soulignent que l'absence d'un texte de plus permet aux agents de s'auto-évaluer. L'OCDE propose une évaluation basée sur cinq questions, afin de vérifier la gouvernance des agents et les limites imposées.