Le Conseil d’État est saisi par 15 associations, dont Amnesty International, la Fondation Abbé Pierre et La Quadrature du Net, qui demandent la suppression d’un algorithme utilisé par la Caisse nationale des allocations familiales (CNAF). Cet outil, censé mieux détecter les fraudes et erreurs parmi les allocataires, est accusé de cibler de manière discriminatoire les populations les plus fragiles.
Dans un communiqué commun publié mercredi, les associations soulignent que l’algorithme attribue à chaque allocataire un « score de suspicion ». Ce score est utilisé pour sélectionner les personnes susceptibles de faire l’objet d’un contrôle, augmentant la probabilité d’inspections chez celles jugées « à risque ». « Plus le score est élevé, plus le risque d’être contrôlé est grand », expliquent-elles, précisant que cet outil analyse les données personnelles de plus de 32 millions de personnes bénéficiant des prestations de la CAF.
Un algorithme accusé de discriminer les plus précaires
Les associations dénoncent les critères utilisés par l’algorithme pour déterminer ce score de suspicion. Après avoir eu accès au code source d’une version du programme utilisée entre 2014 et 2018, elles révèlent que « le fait d’avoir de faibles revenus, d’être au chômage ou de bénéficier du RSA ou de l’allocation adulte handicapé (AAH) » peut accroître le score. Elles estiment que ce système conduit à une sur-surveillance des personnes en situation de précarité, qui se retrouvent ainsi plus contrôlées que le reste de la population.
« Les personnes déjà fragilisées sont davantage ciblées par les contrôles, alors qu’elles sont souvent celles qui ont le plus besoin d’aide », souligne Katia Roux, chargée de plaidoyer Technologie et Droits humains chez Amnesty International.
La CNAF défend son outil
Face à ces critiques, la CNAF se défend. Son directeur général, Nicolas Grivel, a rappelé que l’algorithme est utilisé depuis 2011 et qu’il a pour objectif d’identifier les erreurs parmi les 13,5 millions d’allocataires. Selon lui, le système permet de cibler les indus « importants et répétés », notamment chez les bénéficiaires de prestations comme le RSA ou la prime d’activité, où les déclarations de revenus trimestrielles sont complexes et sujettes à des erreurs.
« Nous ne stigmatisons pas les plus précaires, nous versons plus d’argent à ceux qui en ont le plus besoin. Mais leurs situations, souvent instables, augmentent les risques d’erreurs », explique M. Grivel. Il assure que la CNAF se plierait à toute décision de justice, tout en soulignant que l’outil actuel permet une gestion plus efficace des aides sociales.
Une réforme en marche avec « Solidarité à la source »
Le directeur général de la CNAF a par ailleurs évoqué un projet en cours, baptisé « Solidarité à la source », qui pourrait changer la manière dont les aides sociales sont distribuées. Actuellement testé dans cinq départements, ce dispositif prévoit d’attribuer automatiquement les aides en fonction des revenus enregistrés par l’administration, sans nécessiter de déclarations de la part des allocataires. La généralisation du projet est prévue pour mars 2025.
Selon M. Grivel, ce nouveau système devrait « diminuer le risque d’erreur » et stabiliser les droits des bénéficiaires, tout en réduisant la nécessité d’utiliser des algorithmes pour contrôler les déclarations.