Étendre les missions de l'Agence française de sûreté de l'IA au contrôle interne des agents publics : aucun agent ne passe en production sans homologation préalable, aucun ne reste en production sans audit continu, et tout citoyen garde le droit de comprendre une décision et d'en demander le réexamen par un humain.
L’arrêt d’Albert France Services en janvier 2026, après des hallucinations et des réponses erronées, l’a montré : une IA non contrôlée dans l’administration est un danger pour les droits des usagers autant que pour la confiance dans l’État. Or aucun régime d’homologation propre aux agents publics n’existe aujourd’hui. Le règlement européen sur l’IA classe pourtant les systèmes de services publics essentiels en haut-risque, imposant une évaluation de conformité. Le Canada montre le modèle depuis 2019 avec sa Directive sur la prise de décisions automatisée : évaluation d’impact algorithmique, paliers de risque, points d’intervention humaine, registre fédéral et droit de recours.
Confier à l’Agence française de sûreté de l’IA (PP30) une mission de contrôle interne des agents publics, plutôt que créer une énième structure.
Avant la mise en production, homologation obligatoire : analyse d’impact inspirée du modèle canadien (graduée selon la réversibilité de la décision et les droits affectés), audit de calibration du seuil de certitude (M1.15), tests de biais et d’équité, contrôle de conformité au RGPD et au règlement européen sur l’IA, homologation cyber (M6.13).
En production, audit permanent : surveillance de la dérive des modèles, du taux d’escalade et du taux d’erreur, audits périodiques, et pouvoir de suspension immédiate d’un agent défaillant.
Pour le citoyen, des droits opposables : notification qu’une décision est assistée ou automatisée, droit à une explication des règles et des critères employés (article L. 311-3-1 du code des relations entre le public et l’administration, renforcé), et droit au réexamen de la décision par un agent humain. Chaque homologation alimente le registre public des agents (M1.17).
Commentaires et débats
Connectez-vous pour commenter.
Soyez le premier à ouvrir un débat, à contribuer et à commenter.