Los estafadores están inscribiendo a estudiantes que no existen y luego dejando que la IA haga la tarea
Los colegios comunitarios estadounidenses están lidiando con un nuevo tipo de estafa: inscripciones falsas para cobrar ayuda financiera, con chatbots completando silenciosamente los cursos que mantienen el flujo de dinero.
Hay una estafa en los colegios comunitarios de EE. UU. que solo funciona porque la IA mejoró. Los estafadores inscriben a estudiantes que no existen, cobran la ayuda financiera adjunta a esas inscripciones y luego usan chatbots para completar el trabajo de curso suficiente para que la inscripción siga pareciendo legítima. El informe de The New Yorker explica cómo funciona y cuánto tiempo tardó alguien en darse cuenta.
El profesor David Song del East Los Angeles College dice que lo detectó hace unos años y que la indicación fue más demográfica que técnica. Estudiantes con nombres genéricos anglosajones comenzaron a aparecer en su curso de historia en una universidad cuyo alumnado es mayoritariamente latino y asiático. Cuando lo comprobó, sus afirmaciones de haber tomado cursos sobre temas asiático-americanos no se sostenían. El abuso se concentra en cursos en línea asincrónicos, de esos en los que nunca aparece nadie ante la cámara y un nombre en una lista es la única evidencia de que una persona existe.
El mismo informe capta un segundo problema, más común, que se suma al fraude. Song permite la IA en sus cursos, pero requiere que los estudiantes la etiqueten y sean honestos acerca de lo que usaron. Nadie respeta esas reglas, dice, “ni siquiera con el contenido que se genera descaradamente”. El profesor de historia David Roach estima que más de la mitad de sus estudiantes utilizan IA para sus trabajos. Su pregunta es interesante y la formula sin mucha amargura: “¿Siempre fue así que la mitad de nuestros estudiantes harían trampa si fuera bastante fácil?”
Vale la pena plantearse esa pregunta, porque señala lo que realmente cambió. El fraude en la inscripción y las trampas en los cursos existían antes de 2022. Lo que la IA eliminó fue el costo. Fingir un semestre de tareas solía requerir un esfuerzo real o pagarle a alguien, lo que hacía que la estafa fuera lo suficientemente pequeña como para ignorarla. Ahora el coste marginal de un ensayo plausible es cercano a cero, y cualquier sistema cuya integridad dependa discretamente del esfuerzo es caro tiene un problema. Las universidades no están siendo engañadas sino que se les está quitando una suposición antigua y tácita.
Qué significa esto para ti: Para la mayoría de los lectores, no cambia nada de forma directa. Sin embargo, este caso muestra con claridad un patrón importante: la IA no suele inventar delitos nuevos, sino que abarata los existentes hasta hacerlos viables a gran escala. Si trabajas en una escuela, una oficina de ayudas, un proceso de contratación o una pequeña asociación que comprueba identidades y revisa solicitudes, los controles que funcionaban porque fingir resultaba tedioso quizá ya no basten. La solución rara vez es un detector de IA mejor, pues suelen ser poco fiables e injustos con personas honestas. Normalmente hace falta algún momento de contacto humano real: una conversación, una tarea en directo o un rostro.
Fuentes
Fuentes: https://www.newyorker.com/news/fault-lines/the-despair-of-the-professor-in-the-age-of-ai
Google DeepMind se está convirtiendo en un departamento más de Google y su fundador puede estar a punto de desaparecer
Demis Hassabis ha sido ascendido a presidente y podría marcharse definitivamente. El desarrollo de Gemini se está trasladando al Área de la Bahía. Dos lecturas muy diferentes de lo que eso significa para Google.
