Avversa AI
Una società di ricerca sulla sicurezza specializzata nel violare i sistemi di intelligenza artificiale e nel pubblicare come ci è riuscita.
Adversa AI è un piccolo gruppo di ricerca che lavora su ciò che l’industria chiama red teaming for AI: attaccare deliberatamente i modelli e i prodotti costruiti attorno ad essi per scoprire dove cedono. I suoi lavori pubblicati tendono a concentrarsi sul punto in cui un chatbot smette di essere una casella di testo e inizia a fare cose, sfogliare pagine, eseguire codice, leggere i tuoi file.
L’azienda ha l’abitudine di dare un nome ai suoi risultati, ed è così che tecniche come Cryptographic Context Injection finiscono con un’etichetta adottata dal resto del settore. Riferisce prima attraverso i consueti canali di divulgazione e pubblica se il venditore ha risolto o meno qualcosa.