Uber multada con 825 millones de euros por dejar que el software decidiera

La autoridad de protección de datos de los Países Bajos ha multado a Uber con 825 millones de euros, unos 966 millones de dólares, por la forma en que suspendió y desactivó las cuentas de los conductores entre 2018 y 2022. El regulador descubrió que Uber utilizó software para señalar a los conductores por sospecha de fraude o calificaciones consistentemente bajas y actuó en función de esas señales sin una revisión humana adecuada y sin informar a los conductores adecuadamente lo que estaba sucediendo. Es la segunda multa más grande jamás impuesta en virtud de la ley de privacidad GDPR de la UE, solo detrás de la multa de Irlanda de 1.200 millones de euros contra Meta en 2023.

El gancho legal es una parte específica y a menudo pasada por alto del RGPD: el artículo 22, que dice que tienes derecho a no estar sujeto a una decisión basada únicamente en el procesamiento automatizado cuando esa decisión te afecte significativamente. Perder el acceso a la aplicación no es un inconveniente menor para un conductor, es el fin de sus ingresos, que es precisamente el tipo de consecuencia para la que se redactó la norma. La vicepresidenta Monique Verdier lo expresó claramente: una computadora no debería tomar por sí sola decisiones que tengan consecuencias tan importantes. Uber dice que apelará, considera que la multa es desproporcionada y cuestiona el hallazgo, argumentando que las desactivaciones permanentes no se realizan sin una revisión humana y que su proceso actual incluye apelaciones.

Qué está pasando realmente aquí: observe que nada en este caso involucra un modelo de lenguaje grande o algo que la mayoría de la gente llamaría IA. Se trata de software y reglas de puntuación, del tipo que ha estado funcionando silenciosamente dentro de las empresas durante una década. Eso es lo que hace que valga la pena prestar atención a la sentencia ahora: fija el precio de las decisiones automatizadas sobre las personas en un momento en que las empresas se apresuran a entregar decisiones mucho más trascendentales a sistemas mucho más capaces. El otro detalle que los reguladores siguen dando vueltas es lo que se considera revisión humana. Tener una persona en algún lugar del proceso no es suficiente si esa persona está aprobando una cola de veredictos generados por máquinas sin el tiempo o la autoridad para revocar uno. Es de esperar que la Ley de IA de la UE, que impone obligaciones adicionales a usos de alto riesgo, como decisiones laborales, se lea junto con casos como este y no en lugar de ellos.

Qué significa esto para ti: si una empresa en la UE toma una decisión sobre ti que tiene consecuencias reales, un préstamo rechazado, una cuenta cerrada, una solicitud de empleo filtrada, puedes preguntar si se tomó automáticamente, pedir que un humano la revise y impugnarla. La mayoría de la gente nunca lo hace, en gran parte porque no sabe que ese derecho existe. Si dirige una empresa que utiliza algún tipo de puntuación o filtrado automatizado para clientes, contratistas o solicitantes, vale la pena plantearse las dos preguntas que plantea este caso en su propia configuración: ¿puede una persona afectada descubrir que una máquina ha decidido y el ser humano en su circuito es realmente capaz de decir que no?

Fuentes

• Uber se enfrenta a una multa de casi mil millones de dólares por suspensiones automáticas de conductores (TechCrunch)
• La DPA holandesa multa a Uber con 825 millones de euros por desactivaciones automáticas de conductores (Observatorio Digital Watch)
• Uber multada con 825 millones de euros por desactivaciones automáticas de conductores (implicador)