OpenAI vuole individuare gli abusi senza mai vedere i tuoi dati

OpenAI ha presentato in anteprima un sistema di sicurezza costruito attorno a una imbarazzante contraddizione: come si fa a cogliere qualcuno che usa in modo improprio un modello se si ha promesso di non memorizzare mai ciò che ha digitato? L’azienda lo chiama Private Safety Processing ed è rivolto ai clienti aziendali e API che utilizzano Zero Data Retention, l’impostazione in cui nulla viene conservato una volta che una richiesta ha ricevuto risposta.

Il trucco sta invece in ciò che OpenAI mantiene. Piuttosto che suggerimenti e risposte, il sistema trasmette uno stretto segnale di sicurezza: che tipo di attività ha rilevato e quanto grave sembrava. Lo staff di OpenAI non riceve mai il testo sottostante. I dati dei clienti rimangono nell’infrastruttura del cliente oppure sono crittografati e il cliente ne detiene le chiavi. Aleah Houze, responsabile della politica di prodotto di OpenAI, ha affermato che la ragione della progettazione è la tempistica, poiché alcuni rischi diventano visibili solo in diverse conversazioni correlate anziché all’interno di una singola conversazione. A settembre sono attesi il lancio e la stesura di un white paper tecnico.

C’è un vantaggio competitivo qui che OpenAI non nasconde. Anthropic richiede attualmente 30 giorni di conservazione dei dati per i clienti aziendali che utilizzano i suoi modelli più potenti, incluso Fable 5, e per banche, ospedali, studi legali e chiunque lavori secondo rigide norme europee sui dati che rappresentano un vero e proprio blocco. OpenAI punta dritto al divario. La ragione più profonda per cui il problema esiste è che l’intelligenza artificiale si sta spostando da singole domande ad agenti, modelli che percorrono da soli lunghe catene di passaggi. Qualcuno può porre venti domande individualmente innocue che si sommano a qualcosa di dannoso, e un controllo di sicurezza che vede sempre e solo un messaggio non se ne accorgerà. Vale la pena mantenere le aspettative con le basi: questa è un’anteprima, il libro bianco non è stato pubblicato e “vediamo solo un segnale di sicurezza” è un’affermazione che nessuno al di fuori di OpenAI può attualmente verificare.

Cosa significa per te: se utilizzi ChatGPT con un piano personale o Plus, per oggi non cambia nulla. Questa è una funzionalità aziendale e API, non consumer. Se lavori in un posto che ha escluso gli strumenti di intelligenza artificiale per motivi di protezione dei dati, vale la pena inoltrare questo messaggio a chiunque effettui la chiamata, con l’onesto avvertimento che non è ancora stato spedito. E se si sceglie un fornitore per un progetto di lavoro, le regole di conservazione sono diventate un vero punto di differenza piuttosto che una nota a piè di pagina. Leggi le clausole scritte in piccolo su entrambi i lati prima di impegnarti.

Fonti

• Offerta di conservazione dati zero per modelli di frontiera, OpenAI
• OpenAI crea un sistema di sicurezza che rileva gli usi impropri senza memorizzare i dati dei clienti, The Decoder
• OpenAI insegue i clienti commerciali di Anthropic con l’impegno di zero conservazione dei dati, The Register
• OpenAI prevede in anteprima il sistema di sicurezza a ritenzione zero poiché Anthropic richiede registri di dati, Axios