Dans un rapport publié le 13 novembre 2024, la Défenseuse des droits examine la montée en puissance de l’utilisation des algorithmes et des systèmes d’intelligence artificielle (IA) dans les services publics. Si ces outils promettent des gains d’efficacité, notamment dans la prise de décisions administratives, la Défenseuse des droits met en garde contre les atteintes possibles aux droits fondamentaux des usagers. Pour prévenir ces dérives, elle émet une série de recommandations.
Les services publics ont de plus en plus recours à l’intelligence artificielle
Le rapport de la Défenseuse des droits met en lumière le développement rapide des algorithmes dans l’administration publique. L’objectif est clair : standardiser voire améliorer et/ou accélérer certaines procédures souvent jugées complexes ou chronophages.
Différents types d’usages de l’IA ont ainsi été identifiés :
- le calcul des impôts ;
- l’attribution de prestations sociales versées par la CAF et la MSA ;
- la prédiction de risque de défaillance d’une entreprise ;
- la lutte contre la fraude fiscale ;
- ou encore la simulation du coût d’une embauche.
« De plus en plus de décisions administratives individuelles sont partiellement ou entièrement automatisées », écrit le Défenseuse des droits.
Les recommandations de la Défenseuse des droits pour encadrer l’utilisation de l’IA
L’utilisation de l’IA, bien qu’innovante, fait « aussi peser des risques majeurs sur les droits et libertés », souligne la Défenseuse des droits. « Contrairement à un service privé, auquel on peut – dans une certaine mesure- décider de ne pas avoir recours, les usagers des services publics n’ont pas d’autre choix qu’y recourir », ajoute-t-elle.
Face aux défis soulevés par l’utilisation de l’IA, la Défenseuse des droits propose plusieurs recommandations concrètes pour encadrer l’usage des algorithmes dans les services publics. Parmi elles :
- clarifier le rôle de l’humain : les critères et modalités d’intervention d’un fonctionnaire dans les décisions prises à l’aide de l’IA doivent être clairement définis ;
- former les agents publics : il est essentiel de garantir qu’ils comprennent et maîtrisent les outils algorithmiques qu’ils utilisent ;
- sanctionner les manquements : instaurer des pénalités en cas de non-respect des obligations d’information des usagers, notamment en matière de transparence ;
- renforcer le droit à l’explication : consacrer un droit clair pour les citoyens de demander une explication des décisions automatisées qui les concernent ;
- soutenir la recherche : investir dans l’étude des effets des systèmes d’IA pour alimenter le débat public et ajuster les politiques publiques ;
- encourager l’engagement citoyen : impliquer les associations et les usagers dans l’évaluation et la révision des pratiques algorithmiques.
D’un naturel curieux, aimant écrire et féru d’actualité, je me suis rapidement orienté vers la rédaction web. Après un détour par la PQR (presse quotidienne régionale), me voici désormais sur démarches administratives, avec toujours la même envie : celle de vous informer le mieux possible.