Adversa KI
Ein Sicherheitsforschungsunternehmen, das sich darauf spezialisiert hat, KI-Systeme zu knacken und zu veröffentlichen, wie es dabei vorgegangen ist.
Adversa AI ist ein kleines Forschungsunternehmen, das an dem arbeitet, was die Branche „Red Teaming“ für KI nennt: Modelle und die um sie herum aufgebauten Produkte gezielt anzugreifen, um herauszufinden, wo sie nachgeben. Seine veröffentlichten Arbeiten konzentrieren sich in der Regel auf die Nahtstelle, an der ein Chatbot aufhört, ein Textfeld zu sein, und anfängt, Dinge zu tun, Seiten zu durchsuchen, Code auszuführen und Ihre Dateien zu lesen.
Das Unternehmen hat die Angewohnheit, seine Ergebnisse zu benennen, und so erhalten Techniken wie die kryptografische Kontextinjektion eine Bezeichnung, die der Rest der Branche dann übernimmt. Es meldet sich zunächst über die üblichen Offenlegungskanäle und veröffentlicht, ob der Anbieter etwas behoben hat oder nicht.