Un tribunale australiano ti farà presto dichiarare se hai usato l'intelligenza artificiale

Il tribunale del lavoro australiano ha fatto qualcosa di cui la maggior parte delle istituzioni ha solo parlato: ha dato un prezzo ai cattivi consigli sull’intelligenza artificiale. Sadnan Khan, un ex dipendente dell’ALDI che ha contestato il suo licenziamento, è stato condannato a pagare 1.230 dollari australiani per le spese legali del supermercato dopo che la Fair Work Commission ha scoperto che aveva utilizzato l’intelligenza artificiale come “consulente quasi legale” e ha insistito nonostante i ripetuti avvertimenti che il suo caso non aveva sostanziali prospettive di successo. Il vicepresidente Michael Easton ha definito questo passo raro e ha aggiunto una frase che verrà citata per un po’: “Se il signor Khan avesse letto correttamente le risposte generate dall’intelligenza artificiale, avrebbe saputo che il suo caso era destinato a fallire”.

Il caso è arrivato insieme a un rapporto commissionato dal tribunale su come le parti in causa utilizzano effettivamente questi strumenti, e i numeri ne spiegano l’urgenza. L’intelligenza artificiale generativa è stata in parte il motivo per cui il suo carico di lavoro è cresciuto del 40% tra il 2023-24 e il 2024-25. Circa il 40% dei casi esaminati coinvolgeva una parte in causa che utilizzava l’intelligenza artificiale. Più di tre quarti di quel gruppo utilizzava ChatGPT e il 60% di questi utilizzava la versione gratuita. Le persone che non parlano inglese come prima lingua avevano il doppio delle probabilità di utilizzare l’intelligenza artificiale rispetto ai madrelingua. Khan, originario del Bangladesh, ha detto alla ABC di aver utilizzato un ChatGPT a pagamento per dare un senso alla giurisprudenza che gli veniva citata, e ha ammesso di aver dimenticato di eliminare le istruzioni della chat dalle sue osservazioni. Dal 20 ottobre 2026, i richiedenti dovranno rivelare qualsiasi utilizzo dell’IA, verificare fatti, autorità e collegamenti ipertestuali e confermare le prove testimoniali, con conseguenze segnalate per coloro che non lo fanno.

Che cosa sta realmente succedendo qui: il tribunale sta attento a non dire che l’intelligenza artificiale è il problema, e questa sfumatura è importante. La sua stessa decisione rileva che l’intelligenza artificiale sta aiutando le persone con affermazioni autentiche che altrimenti sarebbero state del tutto respinte e che gli utenti sofisticati la trattano come uno strumento tra tanti. Il contrasto nei resoconti della ABC è netto. Il docente della Macquarie University Gregory Baker ha utilizzato un team di agenti di intelligenza artificiale per diventare la prima persona a sfidare con successo le leggi australiane sul lavoro occasionale, e lo ha fatto trattando i suoi documenti come un progetto software con una fase di controllo per ogni citazione. Chiedere a un chatbot di fungere da oracolo, ha detto, fa “un lavoro terribile”. Genevieve Grant, docente di diritto a Monash, sottolinea il meccanismo alla base dei fallimenti: i chatbot hanno una tendenza servile, nel senso che tendono ad essere d’accordo con te, il che può convincere qualcuno che la loro affermazione ha fondamento quando non è così.

Che cosa significa per te: non è necessario che tu sia in tribunale perché ciò si applichi. Ogni volta che usi un chatbot per qualcosa con conseguenze reali, un contratto, un reclamo, una questione fiscale, un modulo medico, presumi che ti dirà quello che vuoi sentire a meno che tu non lo faccia discutere con la controparte. Chiedigli qual è l’argomento più forte contro di te. Controlla ogni citazione che ti fornisce, perché un riferimento sicuro a un caso o a una regola è esattamente il tipo di cosa che questi modelli inventano. E leggi cosa ha scritto prima di inviarlo, tutto. Entrambi i dettagli cautelativi in ​​questa storia, le istruzioni della chat non rimosse e le risposte non lette, si riducono a quell’unico passaggio.

Fonti

• La Fair Work Commission condanna i consigli legali sull’IA “chiaramente sbagliati” mentre aumentano i casi con parti in causa sull’IA (ABC News)
• La Fair Work Commission stabilisce nuove regole per l’uso dell’intelligenza artificiale nei casi (Human Resources Director)
• La Fair Work Commission reprime i casi dubbi di intelligenza artificiale generativa (SmartCompany)