Uber multata da 825 milioni di euro per aver lasciato decidere il software

L’autorità olandese per la protezione dei dati ha multato Uber da 825 milioni di euro, circa 966 milioni di dollari, per il modo in cui ha sospeso e disattivato gli account dei conducenti tra il 2018 e il 2022. Il regolatore ha scoperto che Uber utilizzava un software per segnalare i conducenti per sospetta frode o valutazioni costantemente basse e ha agito su tali segnalazioni senza un’adeguata revisione umana e senza dire adeguatamente ai conducenti cosa stava succedendo. Si tratta della seconda sanzione più grande mai emessa ai sensi della legge sulla privacy GDPR dell’UE, dietro solo alla multa di 1,2 miliardi di euro comminata dall’Irlanda contro Meta nel 2023.

Il gancio legale è una parte specifica e spesso trascurata del GDPR: l’articolo 22, che afferma che hai il diritto di non essere soggetto a una decisione basata esclusivamente sul trattamento automatizzato laddove tale decisione ti incida in modo significativo. Perdere l’accesso all’app non è un inconveniente da poco per un conducente, è la fine del suo reddito, che è proprio il tipo di conseguenza per cui è stata scritta la norma. La vicepresidente Monique Verdier lo dice chiaramente: un computer non dovrebbe prendere da solo decisioni che abbiano conseguenze così importanti. Uber afferma che farà ricorso, definisce la multa sproporzionata e contesta la conclusione, sostenendo che le disattivazioni permanenti non vengono effettuate senza una revisione umana e che il suo attuale processo include ricorsi.

Cosa sta realmente succedendo qui: nota che nulla in questo caso implica un modello linguistico di grandi dimensioni o qualcosa che la maggior parte delle persone chiamerebbe AI. Sta assegnando un punteggio a software e regole, di quelli che circolano silenziosamente all’interno delle aziende da un decennio. Questo è ciò che rende la sentenza degna di attenzione adesso: stabilisce il prezzo per le decisioni automatizzate sulle persone nel momento in cui le aziende si affrettano a affidare decisioni molto più consequenziali a sistemi molto più capaci. L’altro dettaglio che i regolatori continuano a cercare è ciò che conta come revisione umana. Avere una persona da qualche parte nel processo non è sufficiente se quella persona sta timbrando una coda di verdetti generati dalla macchina senza il tempo o l’autorità per ribaltarne uno. Aspettatevi che la legge UE sull’intelligenza artificiale, che prevede obblighi aggiuntivi sugli usi ad alto rischio come le decisioni sull’occupazione, venga letta insieme a casi come questo piuttosto che al loro posto.

Cosa significa per te: se un’azienda nell’UE prende una decisione su di te che ha conseguenze reali, un prestito rifiutato, un conto chiuso, una domanda di lavoro filtrata, puoi chiedere se è stata presa automaticamente, chiedere a un essere umano di esaminarla e contestarla. La maggior parte delle persone non lo fa mai, soprattutto perché la maggior parte delle persone non sa che esiste il diritto. Se gestisci un’azienda che utilizza qualsiasi tipo di punteggio o filtro automatizzato su clienti, appaltatori o candidati, vale la pena porre le due domande che questo caso solleva: una persona interessata può scoprire che una macchina ha deciso e l’essere umano nel tuo giro è effettivamente in grado di dire di no?

Fonti

• Uber rischia una multa di quasi 1 miliardo di dollari per le sospensioni automatizzate degli autisti (TechCrunch)
• La DPA olandese multa Uber da 825 milioni di euro per la disattivazione automatizzata dei conducenti (Digital Watch Observatory)
• Uber multata di 825 milioni di euro per disattivazione automatizzata dei conducenti (implicatore)