OWASP
Eine gemeinnützige Organisation, die die in der Sicherheitsbranche am häufigsten zitierten Listen mit Softwarerisiken veröffentlicht, darunter eine für KI-Anwendungen.
OWASP, das Open Worldwide Application Security Project, ist eine gemeinnützige Organisation, die seit 2001 kostenlose Sicherheitsleitfäden veröffentlicht. Die Top-10-Liste der Webanwendungsrisiken kommt einer gemeinsamen Checkliste in der Branche am nächsten, auf die fast überall in Audits, Verträgen und Schulungen verwiesen wird.
Seit 2023 gibt es eine eigene Top 10 für Anwendungen, die auf großen Sprachmodellen basieren. Prompt Injection belegte seit der ersten Ausgabe den ersten Platz, katalogisiert als LLM01, und hat sich seitdem nicht bewegt, was zeigt, wie ungelöst das Problem weiterhin ist. Wenn Sie etwas mit KI erstellen, ist diese Liste eine nützliche Plausibilitätsprüfung, und wenn Sie sich mit der Sicherheitsberichterstattung vertraut machen, ist die Referenz „LLM01“ lediglich eine Abkürzung für Prompt-Injection.