OWASP
Una organización sin fines de lucro que publica las listas de riesgos de software más citadas de la industria de la seguridad, incluida una para aplicaciones de inteligencia artificial.
OWASP, el Proyecto Abierto Mundial de Seguridad de Aplicaciones, es una organización sin fines de lucro que publica guías de seguridad gratuitas desde 2001. Su lista de los 10 principales riesgos de aplicaciones web es lo más parecido que tiene la industria a una lista de verificación compartida, a la que se hace referencia en auditorías, contratos y capacitación en casi todas partes.
Desde 2023 ha mantenido un Top 10 separado para aplicaciones creadas en modelos de lenguaje grandes. Prompt injection ha ocupado el puesto número uno, catalogado como LLM01, desde la primera edición y no se ha movido desde entonces, lo que indica lo sin resolver que sigue. Si construye algo con IA, esa lista es una verificación de cordura útil, y si lee la cobertura de seguridad, una referencia “LLM01” es simplemente una abreviatura de inyección rápida.