Ein australisches Gericht wird Sie bald dazu zwingen, zu erklären, ob Sie KI eingesetzt haben

Das australische Arbeitsgericht hat etwas getan, worüber die meisten Institutionen nur gesprochen haben: Es hat schlechte KI-Beratung mit einem Preis belegt. Sadnan Khan, ein ehemaliger ALDI-Mitarbeiter, der seine Entlassung anfechtete, wurde zur Zahlung von 1.230 australischen Dollar für die Rechtskosten des Supermarkts verurteilt, nachdem die Fair Work Commission festgestellt hatte, dass er KI als „Quasi-Rechtsberater“ eingesetzt hatte, und trotz wiederholter Warnungen, dass sein Fall keine nennenswerten Erfolgsaussichten habe, weitermachte. Vizepräsident Michael Easton nannte den Schritt selten und fügte eine Zeile hinzu, die noch eine Weile zitiert werden wird: „Wenn Herr Khan seine eigenen KI-erzeugten Antworten richtig gelesen hätte, hätte er gewusst, dass sein Fall zum Scheitern verurteilt war.“

Der Fall landete zusammen mit einem vom Gericht in Auftrag gegebenen Bericht darüber, wie Prozessparteien diese Tools tatsächlich nutzen, und die Zahlen verdeutlichen die Dringlichkeit. Generative KI war einer der Gründe dafür, dass die Fallzahl zwischen 2023/24 und 2024/25 um 40 % anstieg. In etwa 40 % der befragten Fälle war ein Prozessbeteiligter beteiligt, der KI einsetzte. Mehr als drei Viertel dieser Gruppe nutzten ChatGPT und 60 % davon nutzten die kostenlose Version. Menschen, die nicht Englisch als Muttersprache sprechen, nutzten doppelt so häufig KI wie Muttersprachler. Khan, der ursprünglich aus Bangladesch stammt, sagte dem ABC, er habe ein kostenpflichtiges ChatGPT genutzt, um die gegen ihn zitierte Rechtsprechung zu verstehen, und gab zu, dass er vergessen habe, Chat-Anweisungen aus seinen Beiträgen zu entfernen. Ab dem 20. Oktober 2026 müssen Antragsteller jegliche KI-Nutzung offenlegen, Fakten, Behörden und Hyperlinks überprüfen und Zeugenaussagen bestätigen, wobei die Konsequenzen für diejenigen, die dies nicht tun, angezeigt werden.

Was hier eigentlich vor sich geht: Das Schiedsgericht achtet darauf, nicht zu sagen, dass KI das Problem ist, und dass diese Nuancen wichtig sind. In der eigenen Entscheidung wird darauf hingewiesen, dass KI Menschen mit echten Ansprüchen hilft, die andernfalls möglicherweise gänzlich abgeschreckt worden wären, und dass anspruchsvolle Benutzer sie als ein Werkzeug unter vielen betrachten. Der Kontrast in der Berichterstattung des ABC ist krass. Gregory Baker, Dozent an der Macquarie University, nutzte ein Team von KI-Agenten, um als Erster die australischen Gesetze zur Gelegenheitsarbeit erfolgreich anzufechten, und zwar dadurch, dass er seine Unterlagen wie ein Softwareprojekt mit einem Prüfschritt für jede Zitierung behandelte. Einen Chatbot als Orakel zu befragen, sei „ein schrecklicher Job“. Monash-Rechtsprofessorin Genevieve Grant weist auf den Mechanismus hinter den Misserfolgen hin: Chatbots haben eine kriecherische Tendenz, was bedeutet, dass sie dazu neigen, Ihnen zuzustimmen, was jemanden davon überzeugen kann, dass seine Behauptung begründet ist, obwohl dies nicht der Fall ist.

Was das für Sie bedeutet: Sie müssen nicht vor einem Gericht sitzen, damit dies zutrifft. Wann immer Sie einen Chatbot für etwas verwenden, das eine echte Konsequenz hat, einen Vertrag, eine Beschwerde, eine Steuerfrage, ein medizinisches Formular, gehen Sie davon aus, dass er Ihnen sagen wird, was Sie hören möchten, es sei denn, Sie lassen ihn die Gegenseite argumentieren. Fragen Sie ihn, was das stärkste Argument gegen Sie ist. Überprüfen Sie jedes Zitat, das Sie erhalten, denn ein sicherer Verweis auf einen Fall oder eine Regel ist genau die Art von Dingen, die diese Modelle erfinden. Und lesen Sie alles, bevor Sie es absenden. Beide warnenden Details in dieser Geschichte, die nicht entfernten Chatanweisungen und die ungelesenen Antworten, waren auf diesen einen Schritt zurückzuführen.

Quellen

• Fair Work Commission verurteilt „einfach falsche“ KI-Rechtsberatung, da Fälle mit KI-Prozessparteien zunehmen (ABC News)
• Fair Work Commission legt neue Regeln für den KI-Einsatz in Fällen fest (Human Resources Director)
• Fair Work Commission geht gegen zweifelhafte generative KI-Fälle vor (SmartCompany)