L’intelligence artificielle (IA) offre des opportunités à l’administration fédérale, mais elle s’accompagne également de nouveaux défis. Le développement et l’utilisation de systèmes d’IA nécessitent des investissements considérables en infrastructures, en données et en expertise. Ces coûts doivent être compensés, dans un délai prévisible, par un gain tangible. Parallèlement, la complexité de nombreux procédés d’IA rend difficile la compréhension de leur fonctionnement et peut comporter des risques – tels que le renforcement des préjugés sociaux ou le manque d’explicabilité des décisions automatisées.
Un audit axé sur les risques doit donc prendre en compte de manière équilibrée les aspects techniques, organisationnels, juridiques et éthiques. Avec les trois dimensions de risque que sont la « fiabilité », la « rentabilité » et les « compétences », le guide d’audit de l’IA du Contrôle fédéral des finances (CDF) tient compte de la diversité des risques. Le choix de ces dimensions de risque s’appuie sur la stratégie partielle en matière d’IA de la Chancellerie fédérale. Treize domaines de risque sont associés à ces trois dimensions de risque.
Le cycle de vie d’une application d’IA diffère fondamentalement de celui des systèmes informatiques traditionnels : les modèles d’IA sont développés, entraînés et adaptés de manière dynamique et itérative, ce qui leur permet de développer, au cours de leur cycle de vie, de nouveaux schémas et de nouvelles capacités souvent difficiles à prévoir. Le guide tient compte de la dimension temporelle en divisant le cycle de vie de l’application d’IA en phases de planification, de développement et d’exploitation. Il précise en outre à quelle phase chacun des domaines de risque est pertinent. Il aide ainsi les évaluateurs à identifier et à évaluer systématiquement les risques tout au long du cycle de vie d’une application d’IA.