Prise de décision automatisée
Lorsqu'un logiciel décide de quelque chose concernant une personne sans qu'un être humain ne soit impliqué de manière significative, ce que restreint le droit de l'UE.
L’article 22 du RGPD de l’UE vous donne le droit de ne pas faire l’objet d’une décision basée uniquement sur un traitement automatisé lorsqu’elle vous affecte de manière significative : un prêt refusé, un compte clôturé, une candidature à un emploi filtrée. Vous pouvez demander si une machine a pris une décision, demander à un humain de l’examiner et contester le résultat. La plupart des gens ne le font jamais, principalement parce qu’ils ignorent que ce droit existe.
La partie contestée est ce qui compte comme implication humaine. Une personne qui approuve automatiquement une file de verdicts générés par une machine, sans avoir le temps ni l’autorité nécessaire pour en annuler un, ne satisfait pas à la règle. C’est cette lecture qui a donné lieu à l’amende de 825 millions d’euros infligée à Uber en août 2026 pour désactivation de chauffeurs.