Toma de decisiones automatizada
Cuando el software decide algo sobre una persona sin que haya una participación humana significativa, algo que restringe la legislación de la UE.
El artículo 22 del GDPR de la UE le otorga el derecho a no estar sujeto a una decisión basada únicamente en el procesamiento automatizado cuando le afecte significativamente: un préstamo rechazado, una cuenta cerrada, una solicitud de empleo filtrada. Puedes preguntar si una máquina decidió, pedir que un humano lo revise y cuestionar el resultado. La mayoría de la gente nunca lo hace, principalmente porque no sabe que existe el derecho.
La parte controvertida es lo que se considera participación humana. Una persona que aprueba una cola de veredictos generados por una máquina, sin el tiempo o la autoridad para revocar uno, no cumple la regla. Esa lectura es la que produjo la multa de 825 millones de euros contra Uber en agosto de 2026 por desactivaciones de conductores.