Preparedness Framework

Il Preparedness Framework è il modo in cui OpenAI decide se un modello è abbastanza sicuro da essere rilasciato. Prima dell’uscita il modello viene valutato in una manciata di categorie di rischio, fra cui cybersicurezza, capacità biologiche e chimiche e automiglioramento dell’IA. Ogni categoria riceve un giudizio e raggiungere la soglia alta fa scattare un pacchetto obbligatorio di salvaguardie invece di un semplice sì o no.

È la versione di OpenAI di una politica che ormai tutti i grandi laboratori hanno; l’equivalente di Anthropic è la sua Responsible Scaling Policy. Sono impegni autoimposti e non regolamentazione, ed è insieme il loro pregio e il loro limite evidente: l’azienda scrive le regole, esegue i test e si corregge da sola il compito. La parte utile per chi guarda da fuori è che i risultati vengono pubblicati, quindi si può vedere cosa un laboratorio pensa che il proprio modello sappia fare.