Les fraudeurs inscrivent des étudiants qui n'existent pas, puis laissent l'IA faire leurs devoirs
Les collèges communautaires américains sont confrontés à un nouveau type d’escroquerie : de fausses inscriptions pour collecter une aide financière, des chatbots complétant discrètement les cours qui permettent à l’argent de circuler.
Il existe une arnaque dans les collèges communautaires américains qui ne fonctionne que parce que l’IA est devenue performante. Les fraudeurs inscrivent des étudiants qui n’existent pas, collectent l’aide financière liée à ces inscriptions, puis utilisent des chatbots pour suivre juste assez de cours pour que l’inscription reste légitime. Un article du New Yorker explique comment cela fonctionne et combien de temps il a fallu à quiconque pour le remarquer.
Le professeur David Song de l’East Los Angeles College affirme l’avoir repéré il y a quelques années et l’indice était plus démographique que technique. Des étudiants portant des noms génériques anglo-saxons ont commencé à apparaître dans son cours d’histoire dans un collège dont la population étudiante est en grande partie latino-asiatique. Lorsqu’il a vérifié, leurs affirmations selon lesquelles ils avaient suivi des cours sur des sujets asiatiques-américains n’ont pas tenu le coup. Les abus se concentrent dans les cours en ligne asynchrones, du genre où personne n’apparaît jamais devant la caméra et où un nom sur une liste est la seule preuve qu’une personne existe.
Le même rapport révèle un deuxième problème, plus ordinaire, qui s’ajoute à la fraude. Song autorise l’IA dans ses cours, mais demande aux étudiants de l’étiqueter et d’être honnêtes sur ce qu’ils ont utilisé. Personne ne respecte ces règles, dit-il, « même avec le contenu généré de manière flagrante ». Le professeur d’histoire David Roach estime que plus de la moitié de ses étudiants utilisent l’IA pour leurs travaux. Sa question est intéressante, et il la pose sans grande amertume : “A-t-il toujours été vrai que la moitié de nos étudiants tricheraient si c’était assez facile ?”
Cette question mérite d’être posée, car elle montre ce qui a réellement changé. La fraude à l’inscription et la tricherie dans les cours existaient toutes deux avant 2022. Ce que l’IA a supprimé, c’est le coût. Avant, simuler un semestre de missions nécessitait soit de réels efforts, soit de payer quelqu’un, ce qui rendait l’arnaque suffisamment petite pour être ignorée. Aujourd’hui, le coût marginal d’un essai plausible est proche de zéro, et tout système dont l’intégrité dépendait discrètement d’efforts coûteux a un problème. Les collèges ne sont pas tant déjoués que par le retrait d’une vieille hypothèse non déclarée.
Ce que cela signifie pour vous: Pour la plupart des lecteurs, directement, rien. Mais c’est là l’illustration quotidienne la plus claire d’un modèle qui mérite d’être suivi : l’IA n’invente généralement pas de nouveaux crimes, elle rend les crimes existants suffisamment bon marché pour être exécutés à grande échelle. Si vous travaillez dans un endroit qui vérifie les personnes ou évalue les travaux soumis, qu’il s’agisse d’une école, d’un bureau de subventions, d’un réseau de recrutement ou d’une petite association distribuant des adhésions, le contrôle qui fonctionnait auparavant parce que le simuler était fastidieux ne fonctionne probablement plus. La solution est rarement un meilleur détecteur d’IA, qui a tendance à être peu fiable et injuste envers les personnes honnêtes. Il s’agit généralement d’un moment de contact humain réel quelque part dans le processus : une conversation, une tâche en direct, un visage.
Sources
Sources: https://www.newyorker.com/news/fault-lines/the-despair-of-the-professor-in-the-age-of-ai
Google DeepMind n'est en train de devenir qu'un autre département de Google et son fondateur est peut-être sur le point de disparaître
Demis Hassabis a été nommé président et pourrait partir définitivement. Le développement de Gemini se déplace vers la Bay Area. Deux lectures très différentes de ce que cela signifie pour Google.
