I truffatori iscrivono studenti che non esistono, lasciando poi che sia l’intelligenza artificiale a fare i compiti

C’è una truffa che circola nei community college statunitensi e che funziona solo perché l’intelligenza artificiale è diventata brava. I truffatori iscrivono studenti che non esistono, raccolgono gli aiuti finanziari associati a tali iscrizioni e quindi utilizzano i chatbot per completare i corsi appena sufficienti per mantenere legittima l’iscrizione. Un articolo del New Yorker spiega come funziona e quanto tempo ci è voluto per accorgersene.

Il professor David Song dell’East Los Angeles College afferma di averlo notato alcuni anni fa e l’indicazione era demografica piuttosto che tecnica. Studenti con nomi generici anglosassoni iniziarono ad apparire nel suo corso di storia in un college il cui corpo studentesco è in gran parte latinoamericano e asiatico. Quando ha controllato, le loro affermazioni di aver seguito corsi su argomenti asiatico-americani non hanno resistito. Gli abusi si concentrano nei corsi online asincroni, di quelli in cui nessuno appare mai davanti alla telecamera e un nome su un elenco è l’unica prova dell’esistenza di una persona.

Lo stesso rapporto cattura un secondo problema, più comune, che si aggiunge alla frode. Song ammette l’intelligenza artificiale nei suoi corsi, ma richiede agli studenti di etichettarla e di essere onesti su ciò che hanno utilizzato. Nessuno rispetta quelle regole, dice, “anche con il contenuto che viene palesemente generato”. Il professore di storia David Roach stima che più della metà dei suoi studenti utilizzi l’intelligenza artificiale per i documenti. La sua domanda è quella interessante, e la pone senza troppa amarezza: “È sempre successo che metà dei nostri studenti imbrogliassero se fosse abbastanza facile?”

Vale la pena soffermarsi su questa domanda, perché indica cosa è effettivamente cambiato. Le frodi nelle iscrizioni e le frodi nei corsi esistevano entrambe prima del 2022. Ciò che l’intelligenza artificiale ha rimosso è stato il costo. Fingere un semestre di incarichi richiedeva un vero impegno o il pagamento di qualcuno, il che rendeva la truffa abbastanza piccola da poter essere ignorata. Ora il costo marginale di un saggio plausibile è vicino allo zero, e qualsiasi sistema la cui integrità dipende tranquillamente dal fatto che lo sforzo è costoso ha un problema. I college non vengono tanto superati in astuzia, quanto piuttosto un vecchio presupposto non dichiarato che viene loro tolto dai piedi.

Cosa significa per te: Per la maggior parte dei lettori, direttamente, niente. Ma questo è l’esempio quotidiano più chiaro di un modello che vale la pena portare avanti: l’intelligenza artificiale di solito non inventa nuovi crimini, rende quelli esistenti abbastanza economici da poter essere eseguiti su larga scala. Se lavori in un luogo in cui si verificano le persone o si recensiscono i lavori inviati, che si tratti di una scuola, di un ufficio di sovvenzioni, di un canale di assunzioni o di una piccola associazione che distribuisce abbonamenti, l’assegno che funzionava perché fingere era noioso probabilmente non funziona più. La soluzione raramente è un rilevatore di intelligenza artificiale migliore, che tende a essere inaffidabile e ingiusto nei confronti delle persone oneste. Di solito è un momento di vero contatto umano da qualche parte nel processo: una conversazione, un compito dal vivo, un volto.

Fonti

• The New Yorker: La disperazione del professore nell’era dell’intelligenza artificiale
• The Decoder: i truffatori stanno iscrivendo studenti falsi nei college della comunità statunitense