L'intelligenza artificiale potrebbe scrivere come un essere umano. La formazione sulla sicurezza è ciò che lo rivela
Il CTO di Pangram sostiene che i modelli linguistici sono rilevabili non perché manchino di capacità, ma perché la post-formazione restringe il modo in cui si esprimono. L'effetto ha un nome: modalità collasso.
Ecco un’affermazione su cui vale la pena soffermarsi: i modelli linguistici potrebbero in linea di principio scrivere con tutta la varietà di esseri umani, e il motivo per cui non lo fanno è un effetto collaterale del modo in cui li alleniamo a comportarsi. Questa è l’argomentazione avanzata da Bradley Emi, CTO del rilevatore di testo AI Pangram, in un post il 20 agosto, e riformula ciò che il rilevamento AI sta effettivamente rilevando.
Il meccanismo ha un nome: modalità collasso. Durante il post-addestramento, la fase successiva alla lettura di Internet in cui il modello apprende le regole di comportamento, al modello viene insegnato a evitare risultati pericolosi, a rifiutare determinate richieste e a rimanere entro limiti particolari. Questa formazione non elimina solo le opzioni sbagliate. Restringe l’intera gamma, in modo che il modello si stabilizzi in un modo preferito di esprimere le cose invece di diffondere le sue scelte tra i molti modi in cui una persona potrebbe dire la stessa frase. Lo stato opposto, in cui la probabilità è distribuita in modo più uniforme tra le frasi, è chiamato copertura modale. Le prove a sostegno di Emi sono l’eccezione che conferma la regola: i modelli base, le versioni grezze prima del post-allenamento, scrivono con una varietà sufficiente affinché il rilevatore di Pangram non li segnali. Lo stesso vale per i dettagli ristretti addestrati solo su Hemingway o su un subreddit, e per i risultati interrotti e incoerenti.
Se ciò è vero, ciò spiegherebbe molte cose che altrimenti sembrerebbero una coincidenza, inclusa l’abitudine alla brusca abitudine che lo studio del Pew sul web ha riscontrato crescere di pari passo con l’uso dell’intelligenza artificiale. Crea anche una vera tensione. Ogni barriera di sicurezza aggiunta da un laboratorio rende la scrittura del modello un po’ più uniforme e quindi un po’ più facile da rilevare. Potresti leggerlo come un felice incidente, poiché la rilevabilità è utile. Potresti anche leggerlo come una prova del fatto che stiamo appiattindo questi sistemi in modi che nessuno ha scelto deliberatamente. Emi nota un limite importante: tutto ciò si applica solo al testo senza filigrana, la firma statistica invisibile che Anthropic ha iniziato a incorporare nell’output di Claude all’inizio di questo mese. Probabilmente le filigrane continueranno a funzionare indipendentemente dalla varietà della scrittura di un modello.
Cosa significa per te: se ti sei chiesto perché il testo scritto dall’intelligenza artificiale ha un “suono”, ora sai che non è una limitazione della tecnologia ma una conseguenza della formazione che ne rende sicuro l’uso. In pratica, questo è un motivo per non fidarsi ciecamente dei rilevatori in entrambe le direzioni. Una persona che scrive con un registro pulito, attento e leggermente formale la farà inciampare, mentre qualcuno che utilizza un modello non filtrato potrebbe non farlo. Se ti capita di ricevere il verdetto di un rilevatore, a scuola o al lavoro, quell’asimmetria è la cosa da sottolineare.
Fonti
Fonti: https://pangram.substack.com/p/no-llms-dont-just-mimic-human-text
Amazon ha appena reso gratuito il suo assistente AI su Fire TV e ha abbassato silenziosamente una tariffa di 19,99 dollari
Alexa+ è disponibile gratuitamente su tutti i dispositivi Fire TV statunitensi compatibili e non è richiesto l'abbonamento Prime. L'aggiornamento è automatico. Il problema è che il livello gratuito si ferma alla televisione.
