OpenAI addestrerà i suoi modelli sulle sessioni di sicurezza di Daybreak Blue dal 29 novembre

OpenAI prevede di iniziare l’addestramento dei propri modelli sui dati delle sessioni Daybreak Blue il 29 novembre. Daybreak Blue è un’offerta di sicurezza informatica per i membri del programma Trusted Access di OpenAI, un livello controllato per i professionisti della sicurezza. Fino ad ora, questi dati erano vietati per la formazione, anche quando un utente aveva disattivato l’impostazione “migliora il modello per tutti”.

I membri hanno appreso del cambiamento tramite un’e-mail, secondo The Decoder e un post condiviso su LinkedIn. Dopo il contraccolpo, una seconda e-mail prometteva una rinuncia separata per questo particolare utilizzo. Come funziona questa rinuncia e quando arriva non è stato spiegato. Le interazioni segnalate durante le revisioni della sicurezza possono comunque essere utilizzate per scopi di sicurezza, che è una pratica standard tra i fornitori di IA.

Perché questo sconvolgerebbe la gente? Le sessioni di sicurezza possono contenere materiale sensibile: dettagli dei sistemi di un’azienda, sospette vulnerabilità o codice in fase di revisione. I professionisti spesso lavorano con accordi di riservatezza, quindi “i tuoi dati ora potrebbero aiutare ad addestrare un modello” è diverso per loro rispetto a qualcuno che chiede una ricetta. The Decoder collega anche la storia a una recente disputa in cui due matematici, Tristan Buckmaster e Levent Alpöge, hanno caricato bozze di prova Navier-Stokes incomplete su Codex di OpenAI. OpenAI ha successivamente presentato le proprie prove e ha negato la formazione sui propri input. I ricercatori affermano che la nuova politica ravviva la stessa questione di fiducia.

Cosa c’è dietro: I dati di addestramento sono il carburante dei modelli di intelligenza artificiale e le conversazioni con gli esperti sono un carburante prezioso. Le aziende in genere offrono un passaggio e la domanda giusta è se il passaggio significa ciò che dice. Quando un’esclusione su cui gli utenti contavano viene rimossa per un prodotto, la fiducia subisce il colpo anche se segue una rinuncia. Vale anche la pena essere precisi su ciò che sappiamo: i dettagli provengono da un’e-mail inoltrata dai destinatari, non da una pagina pubblica della policy OpenAI, quindi la formulazione finale potrebbe differire.

Cosa significa per te: Se sei un membro Trusted Access, controlla le impostazioni del tuo account e l’e-mail di follow-up per la disattivazione prima del 29 novembre ed evita di incollare il materiale del cliente in qualsiasi sessione finché non sai dove va a finire. Se sei un normale utente ChatGPT, questa modifica non si applica direttamente a te, ma è un buon momento per guardare i tuoi controlli dati e porre una semplice domanda a ogni strumento AI in funzione: ciò che scrivo viene utilizzato per la formazione e posso disattivarlo per iscritto?

Fonti

• The Decoder: OpenAI prevede di addestrare i modelli sui dati della sessione di sicurezza informatica Daybreak Blue
• Post di contraccolpo su X