SaferAI
Un'organizzazione no-profit che valuta in modo indipendente i modelli di intelligenza artificiale per le capacità pericolose e valuta la serietà con cui i laboratori gestiscono il rischio.
SaferAI è un’organizzazione no-profit che testa i modelli di intelligenza artificiale dall’esterno. Invece di credere alla parola di un laboratorio sulla sicurezza del suo modello, SaferAI esegue le proprie valutazioni, spesso attraverso l’API pubblica, e pubblica ciò che trova. Inoltre, classifica le società di intelligenza artificiale in base alle loro pratiche di gestione del rischio, il che le ha rese una presenza regolare e talvolta sgradita nel ciclo di notizie del settore.
La sua valutazione del 2026 del modello a peso aperto GLM-5.2 è stata un buon esempio del perché i test indipendenti sono importanti: il modello non ha rifiutato nessuno dei compiti informatici o biologici offensivi che gli erano stati assegnati, mentre un modello chiuso comparabile ha rifiutato in modo così coerente che il test non poteva essere completato. Il direttore esecutivo Henry Papadatos ha riassunto il punto dicendo che “la frontiera della capacità non è la frontiera del rischio”.