Quand le profilage algorithmique décide de votre emploi, de votre crédit et de votre assurance, qui protège vos droits ?

À l’embauche, pour un crédit ou pour fixer une prime d’assurance, une même question revient de plus en plus souvent : qui décide vraiment de votre sort, une personne ou une machine ? Derrière cette promesse d’objectivité, le tri automatisé peut surtout figer des écarts déjà bien réels.

Le profilage, une promesse d’individualisation

Le profilage algorithmique repose sur une idée simple : analyser beaucoup de données pour prédire un comportement futur. En théorie, il permet de traiter chacun « au cas par cas ». En pratique, il produit surtout des classements, des scores et des probabilités.

Cette logique s’est installée avec la numérisation de la vie quotidienne. Navigation, achats, géolocalisation, interactions en ligne : tout alimente des systèmes capables d’anticiper ce que vous pourriez faire, aimer ou rembourser. La CNIL rappelle d’ailleurs que le profilage consiste à utiliser des données personnelles pour analyser et prédire le comportement d’une personne, avec des effets possibles sur le travail, la situation financière, la santé ou les préférences. Définition du profilage et droits face à une décision automatisée

Mais ce mécanisme ne se limite pas aux écrans ou aux plateformes culturelles. Il intervient aussi dans des secteurs où l’enjeu est plus lourd : décrocher un emploi, obtenir un prêt, payer son assurance. Dans ces domaines, le profilage ne sert pas seulement à recommander un film. Il conditionne l’accès à des ressources essentielles.

Le cœur du problème est là. Plus le système prétend être fin, plus il risque de transformer des régularités statistiques en décisions concrètes sur des vies singulières. Et plus il utilise des données passées, plus il recycle les inégalités qu’il prétend mesurer.

Travail, crédit, assurance : trois marchés où le tri rapporte

Dans le travail, le profilage sert à repérer un candidat, à classer des CV ou à prédire une performance future. L’objectif est clair : réduire le temps de sélection et limiter le coût d’un mauvais recrutement. Les entreprises gagnent en vitesse. Les services RH automatisent une partie du tri. Mais les candidats, eux, voient souvent disparaître la transparence sur les critères réellement utilisés.

La CNIL rappelle que les informations demandées à un candidat ne doivent servir qu’à apprécier sa capacité à occuper l’emploi proposé. Elle rappelle aussi que certaines formes de surveillance au travail, comme un keylogger qui enregistre toutes les frappes au clavier, sont disproportionnées. Contrôle de l’activité des salariés et limites juridiques

Dans le crédit, le profilage vise à estimer la solvabilité : autrement dit, la capacité d’une personne à rembourser. Ici, le bénéficiaire immédiat est la banque ou l’organisme prêteur, qui réduit son risque. Le demandeur, lui, peut se retrouver enfermé dans un cercle classique : peu de revenus, peu d’historique bancaire, donc un score faible, donc un crédit refusé, donc encore moins de marges pour améliorer sa situation.

La CNIL a publié en 2026 une recommandation spécifique sur l’évaluation de la solvabilité, preuve que le sujet reste très sensible. L’enjeu n’est pas seulement la protection des données. C’est aussi la possibilité, pour un particulier, de contester une décision fondée sur un calcul opaque. Recommandation CNIL sur l’octroi de crédit et la solvabilité

Dans l’assurance, le raisonnement est voisin. Le profilage sert à estimer un risque : risque d’accident, de maladie, de sinistre, ou même d’espérance de vie pour certains produits. L’assureur y voit un moyen d’ajuster plus précisément le prix au profil du client. Le client, lui, peut y perdre en mutualisation, c’est-à-dire en partage du risque entre tous les assurés.

C’est là que l’envers de la solidarité apparaît. Plus l’algorithme isole les profils, plus il fragmente le principe même qui fonde l’assurance : chacun paie pour que le risque soit supporté collectivement, y compris quand il frappe les plus vulnérables. La logique de personnalisation peut donc renforcer les écarts entre ceux que le système considère comme « bons risques » et les autres.

Pourquoi l’enjeu politique est plus large qu’un simple outil technique

Le profilage algorithmique n’est pas neutre. Il dépend des données disponibles, donc des traces déjà produites par des trajectoires sociales inégales. Il dépend aussi des objectifs assignés au système : réduire un coût, accélérer une décision, limiter une perte. Dans la plupart des cas, la performance économique pèse plus lourd que la correction des biais.

Cette tension se retrouve dans le droit européen. L’Union européenne classe plusieurs usages de l’IA dans les emplois, le crédit et certains services essentiels parmi les systèmes à haut risque. L’idée est simple : plus l’impact potentiel sur les droits des personnes est fort, plus les exigences de contrôle doivent être strictes. Cadre européen sur l’IA et systèmes à haut risque

Le débat oppose donc deux logiques. D’un côté, les entreprises et les institutions défendent des outils présentés comme plus efficaces, plus rapides et parfois moins arbitraires qu’une décision humaine. De l’autre, les défenseurs des libertés numériques, les régulateurs et plusieurs chercheurs rappellent qu’un score statistique peut devenir une boîte noire difficile à contester, surtout quand il touche à un salaire, un prêt ou une couverture santé.

Le véritable enjeu n’est pas de savoir si l’algorithme est « meilleur » qu’un humain abstrait. C’est de savoir ce qu’il optimise, pour qui, et avec quelles conséquences sociales. Un modèle peut réduire un risque financier tout en augmentant l’exclusion de ceux qui ont déjà le moins de ressources.

Ce qu’il faut surveiller maintenant

La suite se joue sur trois fronts. D’abord, la mise en œuvre concrète des règles européennes sur l’IA, qui doit encadrer les usages les plus sensibles. Ensuite, les nouvelles recommandations sectorielles, notamment en crédit, où les pratiques d’évaluation de solvabilité évoluent vite. Enfin, les recours des personnes concernées, car le droit à l’intervention humaine et à la contestation reste décisif quand un score décide à votre place. Droits face au profilage et décision automatisée