Redwood Research
Un laboratorio no-profit sulla sicurezza dell’intelligenza artificiale incentrato sul controllo, ovvero sui modi per rimanere al sicuro anche se un modello è disallineato.
Redwood Research è una piccola organizzazione no-profit che lavora sull’allineamento dell’intelligenza artificiale e, in particolare, su ciò che nel campo chiama controllo: la questione di come impedire a un modello potente di causare danni anche se ci sta attivamente provando, piuttosto che dare per scontato che tu possa fargli desiderare le cose giuste in primo luogo.
Si presenta nella copertura giornalistica principalmente come revisore esterno. Insieme a METR, è stato coinvolto per indagare in modo indipendente sul disallineamento dietro l’incidente Hugging Face di OpenAI del luglio 2026. Questo ruolo, ovvero un gruppo esterno che controlla i compiti di un laboratorio, è una delle poche forme di responsabilità attualmente di cui dispone il settore.