OWASP
Un'organizzazione no-profit che pubblica gli elenchi dei rischi software più citati nel settore della sicurezza, incluso uno per le applicazioni di intelligenza artificiale.
OWASP, Open Worldwide Application Security Project, è un’organizzazione no-profit che pubblica linee guida gratuite sulla sicurezza dal 2001. La sua lista dei 10 principali rischi delle applicazioni web è quanto di più vicino il settore abbia a una lista di controllo condivisa, citata negli audit, nei contratti e nella formazione quasi ovunque.
Dal 2023 mantiene una Top 10 separata per le applicazioni basate su modelli linguistici di grandi dimensioni. L’iniezione rapida ha occupato lo slot numero uno, catalogato come LLM01, fin dalla primissima edizione e da allora non si è più spostata, il che ti dice quanto rimanga irrisolto. Se crei qualcosa con l’intelligenza artificiale, quell’elenco è un utile controllo di integrità e se leggi la copertura sulla sicurezza, un riferimento “LLM01” è semplicemente una scorciatoia per un’iniezione tempestiva.