Duplice uso
Conoscenze o capacità che servono ugualmente bene al lavoro utile e a quello dannoso, così che uno strumento non può semplicemente bloccare la metà cattiva.
Duplice uso descrive qualcosa le cui applicazioni buone e cattive sono la stessa cosa vista da angolazioni diverse. L’esempio classico è la biologia: sviluppare un vaccino vivo significa coltivare il patogeno che si vuole prevenire, e il captopril, farmaco per la pressione, è nato isolando la parte tossica del veleno di serpente. Chimica, cybersicurezza e genetica hanno la stessa proprietà.
Per le aziende di IA è il problema di sicurezza più difficile in assoluto, perché non si può filtrare per argomento ma solo per intenzione, e l’intenzione è invisibile. Un ricercatore e un malintenzionato possono porre domande identiche parola per parola. Ecco perché ai modelli vengono spesso precluse intere aree invece di singole richieste, ed ecco perché quel blocco all’inizio è quasi sempre troppo ampio e viene raffinato solo in seguito.