Dual Use
Wissen oder Fähigkeiten, die nützlicher und schädlicher Arbeit gleichermaßen dienen, sodass ein Werkzeug nicht einfach die schlechte Hälfte sperren kann.
Dual Use beschreibt etwas, dessen gute und schlechte Anwendung dieselbe Sache aus verschiedenen Blickwinkeln ist. Das klassische Beispiel ist die Biologie: Wer einen Lebendimpfstoff entwickelt, züchtet den Erreger, den er verhindern will, und das Blutdruckmittel Captopril entstand aus dem giftigen Bestandteil von Schlangengift. Chemie, IT-Sicherheit und Genetik haben dieselbe Eigenschaft.
Für KI-Unternehmen ist das die härteste Sicherheitsfrage überhaupt, denn man kann nicht nach Thema filtern, sondern nur nach Absicht, und Absicht ist unsichtbar. Eine Forscherin und ein Übeltäter können wortgleiche Fragen stellen. Deshalb werden Modelle oft für ganze Themenfelder gesperrt statt für einzelne Anfragen, und deshalb ist die Sperre anfangs meist zu breit und wird erst nachträglich verfeinert.