Un tribunal australiano pronto le hará declarar si utilizó IA

El tribunal laboral de Australia ha hecho algo de lo que la mayoría de las instituciones sólo han hablado: ha puesto precio a los malos consejos sobre IA. A Sadnan Khan, un ex empleado de ALDI que impugnó su despido, se le ordenó pagar 1.230 dólares australianos para cubrir los costos legales del supermercado después de que la Fair Work Commission descubrió que había utilizado a AI como un “cuasi asesor legal” y siguió adelante a pesar de las repetidas advertencias de que su caso no tenía perspectivas sustanciales de éxito. El vicepresidente Michael Easton calificó la medida como poco común y añadió una frase que se citará durante un tiempo: “Si el señor Khan hubiera leído correctamente sus propias respuestas generadas por IA, habría sabido que su caso estaba condenado”.

El caso llegó junto con un informe que el tribunal encargó sobre cómo los litigantes están utilizando realmente estas herramientas, y las cifras explican la urgencia. La IA generativa fue parte de la razón por la que su número de casos creció un 40% entre 2023-24 y 2024-25. Alrededor del 40% de los casos encuestados involucraron a un litigante que utilizó IA. Más de las tres cuartas partes de ese grupo utilizaron ChatGPT, y el 60% de ellos utilizó la versión gratuita. Las personas que no hablan inglés como primera lengua tenían el doble de probabilidades de utilizar IA que los hablantes nativos. Khan, originario de Bangladesh, le dijo a ABC que había usado un ChatGPT pago para darle sentido a la jurisprudencia que se le citaba y admitió que se olvidó de eliminar las instrucciones del chat de sus presentaciones. A partir del 20 de octubre de 2026, los solicitantes deberán revelar cualquier uso de IA, verificar hechos, autoridades e hipervínculos, y confirmar las pruebas de los testigos, y se señalarán consecuencias para quienes no lo hagan.

Qué está pasando realmente aquí: el tribunal está teniendo cuidado de no decir que la IA es el problema, y ​​ese matiz importa. Su propia decisión señala que la IA está ayudando a personas con reclamos genuinos que de otro modo habrían sido postergados por completo, y que los usuarios sofisticados la tratan como una herramienta entre muchas. El contraste en los reportajes de ABC es marcado. Gregory Baker, profesor de la Universidad Macquarie, utilizó un equipo de agentes de inteligencia artificial para convertirse en la primera persona en desafiar con éxito las leyes de empleo ocasional de Australia, y lo hizo tratando sus presentaciones como un proyecto de software con un paso de verificación para cada citación. Preguntarle a un chatbot como oráculo, dijo, es “un trabajo terrible”. Genevieve Grant, profesora de derecho de Monash, señala el mecanismo detrás de las fallas: los chatbots tienen una tendencia aduladora, lo que significa que se inclinan a estar de acuerdo contigo, lo que puede convencer a alguien de que su reclamo tiene fundamento cuando no es así.

Qué significa esto para usted: no necesita estar en un tribunal para que esto se aplique. Siempre que utilice un chatbot para algo con consecuencias reales, un contrato, una queja, una pregunta fiscal, un formulario médico, asuma que le dirá lo que quiere escuchar a menos que lo obligue a discutir con la otra parte. Pregúntele cuál es el caso más sólido en su contra. Verifique cada cita que le proporcione, porque una referencia segura a un caso o una regla es exactamente el tipo de cosa que inventan estos modelos. Y lea lo que escribió antes de enviarlo, todo. Ambos detalles de advertencia en esta historia, las instrucciones de chat no eliminadas y las respuestas no leídas, se redujeron a ese único paso.

Fuentes

• La Fair Work Commission condena el asesoramiento legal de IA “claramente incorrecto” a medida que aumentan los casos con litigantes de IA (ABC News)
• La Fair Work Commission establece nuevas reglas para el uso de IA en casos (Human Resources Director)
• La Fair Work Commission toma medidas enérgicas contra casos poco fiables de IA generativa (SmartCompany)