ATD Quart Monde dénonce l’utilisation d’un algorithme pauvrophobe par la CNAF

Les enquêtes de la Quadrature du Net et des Décodeurs du Monde confirment ce que les associations comme ATD Quart Monde dénoncent depuis plusieurs années : un algorithme discriminatoire et pauvrophobe qui cible en priorité les plus pauvres lors des contrôles de la CAF. Une maltraitance institutionnelle qui a de lourdes conséquences sur la vie des allocataires, alors même que l’outil numérique pourrait être, au contraire, un véritable vecteur d’accès aux droits plutôt qu’un instrument de contrôle social.

Communiqué de presse – 5 décembre 2023

« Un système discriminatoire et pauvrophobe

Nous le savions déjà : la numérisation et la dématérialisation des services ont progressivement vu se développer de nouveaux outils au sein des CAF : algorithme de calcul des droits, croisement de données de différents fichiers administratifs, algorithme attribuant une note en fonction de facteurs à risque et utilisé pour sélectionner celles et ceux devant faire l’objet d’un contrôle (scoring par le datamining), etc. Mais si ces pratiques étaient connues et dénoncées, le code source de l’algorithme utilisé pour aboutir au « score de risque » attribué aux allocataires était jusque-là un secret bien gardé.

Or, en ayant accès à l’algorithme utilisé par la CAF jusqu’en 2018, la Quadrature du Net et Le Monde confirment que l’algorithme discrimine délibérément certains profils, parmi lesquels les personnes les plus pauvres. Cet algorithme prend en effet en considération des critères sociodémographiques liés à des situations de précarité comme facteurs de risque élevés : le fait d’avoir des revenus faibles, d’être au chômage ou de ne pas avoir de travail stable, d’être un parent isolé ou encore de dédier une part importante de ses revenus à son logement…

En associant un risque plus élevé d’erreur ou de fraude à un allocataire selon ce type de critères, cet algorithme catégorise de facto les personnes les plus pauvres comme plus enclines à frauder et donc devant être davantage contrôlées. Pour ATD Quart Monde, il s’agit tout bonnement d’un ciblage inacceptable, basé sur la discrimination pour vulnérabilité économique, qui rappelons-le est punie par la loi depuis 2016.

Des conséquences sur la vie des plus pauvres

Cette toute-puissance de l’algorithme, n’est pas sans conséquence sur les allocataires, comme en témoignent trop souvent les personnes accompagnées par ATD Quart Monde. Le contrôle et la suspicion de principe laissent des traces non négligeables, tant matérielles que psychologiques.

Ces allocataires sont démunis face à des notifications sommaires de réclamation d’indus et n’ont pas les moyens de les contester. Une suspension de prestations durant plusieurs mois génère des situations dramatiques : impayés de loyers, dettes et frais bancaires colossaux. La peur crée des relations de méfiance avec les administrations.

Les agents de la CAF de leur côté sont de plus en plus nombreux à dénoncer une politique du chiffre au détriment de l’humain, ne trouvant plus de sens à leur mission dite de service public.

Ces pratiques, qui relèvent de la maltraitance institutionnelle, doivent cesser. C’est pourquoi, ATD Quart Monde demande que soit mis un terme à l’utilisation de cet algorithme de scoring par la CAF et qu’une commission parlementaire s’empare du sujet pour une enquête.

Un numérique au service de l’accès aux droits

Pour ATD Quart Monde, il apparaît urgent de remettre de l’humain au sein des administrations pour faciliter l’accès aux droits, avec des outils numériques au service de tout le monde.

Les algorithmes aujourd’hui utilisés par les institutions pour contrôler les allocataires pourraient plutôt être utilisés pour soutenir les agents de la CAF et permettre aux personnes d’accéder à l’ensemble de leurs droits. C’est d’ailleurs le sens des 12 propositions d’ATD Quart Monde pour de meilleures relations des CAF avec les personnes en situation de grande pauvreté, publiées récemment et élaborées avec des personnes concernées. Rien n’empêche que ces algorithmes soient développés pour lutter contre le non-recours et la compréhension des montants versés ou récupérés, par exemple :

• pour lancer des alertes directement sur le compte de l’allocataire afin d’identifier des droits qu’il pourrait demander.
• pour proposer aux conseillers des alertes automatiques sur les droits auxquels l’allocataire peut prétendre alors qu’il n’y a pas encore recours.
• pour expliquer de manière compréhensible les raisons du versement d’une prestation ou de la réclamation d’un trop perçu dans les courriers. »

En savoir plus