Ce que l'auteur de l'amendement explique

« Plusieurs mesures étendent massivement l’accès à des données sociales sensibles, renforçant le risque de fichage et de surveillance ciblée des allocataires du Revenu de solidarité active (RSA) et élargissant encore l’accès aux fichiers sociaux à de nombreuses institutions, sans garde-fous suffisants. Ce texte pousse encore plus loin une logique dangereuse : la pauvreté devient un motif de suspicion automatique. C’est un élargissement sans précédent du pouvoir de surveillance de l’État social, qui touche en premier lieu les allocataires du RSA. Pourtant, des données officielles indiquent que la fraude détectée au RSA représente moins de 0,3 % du budget total, selon la Caisse nationale des allocations familiales (CNAF) en 2021. De plus, parmi les « anomalies », plus de 90 % des indus sont des erreurs involontaires selon la CNAF. Les bénéficiaires du RSA ne sont pas des suspects de droit commun. Pourtant, le Gouvernement et plusieurs départements expérimentent déjà des technologies intrusives — scoring algorithmique, surveillance numérique, géolocalisation — qui n’existent même pas pour les fraudeurs fiscaux les plus fortunés. L’État social devient un État policier pour les pauvres. Or, l’utilisation d’outils de ciblage et d’intelligence artificielle (IA) déjà existants pose plusieurs problèmes éthiques et juridiques. Ainsi, certains dispositifs seraient discriminatoires et attentatoires aux droits fondamentaux des personnes percevant les minima sociaux. Par exemple, l’algorithme dit de « scoring social » utilisé par la CNAF vise à attribuer un « score de risques » à chacun des 32 millions de bénéficiaires (dont 13,5 millions d’enfants) de prestations sociales. Cela revient à évaluer, selon les chiffres de la CNAF en 2023, la moitié de la population française. Ce score, calculé mensuellement, définit la probabilité pour un allocataire d’être soumis à un contrôle : plus le score est élevé, plus le risque d’être contrôlé augmente. Parmi les facteurs augmentant ce score figurent notamment le fait d’avoir de faibles revenus, d’être au chômage, de percevoir le RSA ou l’Allocation aux adultes handicapés (AAH). Or, le volume de données traitées est colossal et concerne des informations très précises sur la vie des personnes. Cette pratique est en contradiction avec une obligation du Règlement général sur la protection des données (RGPD) qui exige de minimiser la quantité de données collectées et de ne recueillir que les données personnelles « adéquates, pertinentes »

Exposé sommaire déposé par M. Corbière (ECO). C'est son argument, cité tel quel.

Texte de l'amendement

Compléter l’alinéa 2 par les quatre phrases suivantes : « L’utilisation de traitements automatisés de données, y compris les techniques d’intelligence artificielle ou les systèmes de notation de risques, par les organismes mentionnés au présent article, ne peut intervenir qu’aux fins de vérification d’informations déjà détenues par l’administration et ne peut en aucun cas se fonder exclusivement sur la situation sociale, le niveau de ressources ou le bénéfice de minima sociaux. Ces traitements font l’objet d’une publication annuelle comprenant la finalité, les catégories de données traitées, les critères retenus, l’existence éventuelle de biais discriminatoires constatés et les modalités de contrôle humain des décisions prises. Toute décision affectant les droits d’un allocataire ne peut être fondée exclusivement sur un traitement algorithmique et doit faire l’objet d’une motivation individuelle reposant sur des éléments matériellement vérifiés. Un décret en Conseil d’État, pris après avis de la Commission nationale de l’informatique et des libertés et du Défenseur des droits, fixe les modalités d’encadrement, d’audit et de transparence de ces outils. »