Substack introduce un rilevatore di IA e gli autori si ribellano

Il 21 luglio Substack ha introdotto una funzione per rilevare i testi generati dall’IA, realizzata insieme alla società Pangram. Può analizzare post, note e commenti superiori alle 100 parole, restituendo una percentuale sulla probabilità che siano stati prodotti automaticamente. Il risultato appare ai lettori soltanto se avviano il controllo, riguarda i contenuti pubblicati dopo il 21 luglio e può essere disattivato dagli autori per il proprio lavoro. Queste cautele non hanno calmato le proteste. Molti scrittori della piattaforma parlano di caccia alle streghe, e l’obiezione principale non è filosofica: riguarda l’accuratezza.

Le prove citate mettono in difficoltà chi vende questi strumenti. Un noto studio di Stanford del 2023 ha provato sette rilevatori su saggi scritti davvero da persone la cui prima lingua non era l’inglese. In media, il 61% è stato classificato erroneamente come testo di IA. Gli errori non sono casuali. I sistemi cercano caratteristiche come vocabolario prevedibile e poca variazione nelle frasi, presenti sia nelle risposte automatiche sia nella scrittura attenta di chi usa una seconda lingua o sceglie apposta uno stile semplice. Le conseguenze sono inoltre sbilanciate: non rilevare un testo artificiale non costa nulla, mentre un’accusa falsa può accompagnare a lungo un autore. Dimostrare di non aver fatto qualcosa è quasi impossibile.

Il problema di fondo è che rilevare l’IA non è un compito risolvibile come il filtraggio dello spam. Nei testi comuni non esiste una filigrana. Il rilevatore è quindi un classificatore di stile che formula una stima probabilistica su un bersaglio in movimento, sempre più simile alla scrittura umana a ogni nuovo modello. Non distingue neppure ciò che interessa davvero a molti lettori. Un testo scritto da una persona e ripulito con un modello e uno generato interamente da una sola riga di istruzioni appaiono al classificatore molto più simili di quanto siano per chi legge. Ridurre tutto a una percentuale crea un numero dall’aspetto autorevole che non merita quella fiducia.

Cosa significa per te: Se scrivi in pubblico, considera inevitabile che prima o poi qualcuno analizzi il tuo lavoro e che il risultato possa penalizzarti per errore. Le difese pratiche sono semplici: conserva bozze, cronologia delle versioni e appunti, così potrai mostrare il processo invece di discutere una percentuale. Non cambiare la tua voce naturale per soddisfare un classificatore, la trappola descritta da diversi autori di Substack. Se gestisci una pubblicazione, una scuola o una squadra, tratta il responso come un debole indizio da cui può iniziare una conversazione, mai come una prova definitiva. Se usi l’IA nella scrittura, la protezione più efficace resta dichiararlo.

Fonti

• Substackers Say New AI Detection Tool Is a ‘Witch Hunt’ (404 Media)
• Substack adds AI detection tools, but creators can disable them (Jane Friedman)
• GPT detectors are biased against non-native English writers (Stanford, arXiv)