OWASP
Une organisation à but non lucratif qui publie les listes de risques logiciels les plus citées du secteur de la sécurité, dont une pour les applications d'IA.
OWASP, l’Open Worldwide Application Security Project, est une organisation à but non lucratif qui publie des conseils de sécurité gratuits depuis 2001. Sa liste des 10 principaux risques liés aux applications Web est ce qui se rapproche le plus de l’industrie d’une liste de contrôle partagée, référencée dans les audits, les contrats et les formations presque partout.
Depuis 2023, il maintient un Top 10 distinct pour les applications construites sur de grands modèles de langage. L’injection rapide a occupé la place numéro un, cataloguée sous le nom de LLM01, depuis la toute première édition et n’a pas bougé depuis, ce qui vous indique à quel point le problème reste non résolu. Si vous construisez quelque chose avec l’IA, cette liste constitue un contrôle de cohérence utile, et si vous lisez la couverture de sécurité, une référence “LLM01” est simplement un raccourci pour une injection rapide.