OpenAI möchte Missbrauch erkennen, ohne jemals Ihre Daten zu sehen

OpenAI hat eine Vorschau auf ein Sicherheitssystem gegeben, das auf einem unangenehmen Widerspruch basiert: Wie erwischt man jemanden, der ein Modell missbraucht, wenn man versprochen hat, niemals zu speichern, was er eingegeben hat? Das Unternehmen nennt es „Private Safety Processing“ und richtet sich an Geschäfts- und API-Kunden, die Zero Data Retention nutzen, also die Einstellung, bei der nichts gespeichert wird, sobald eine Anfrage beantwortet wurde.

Der Trick besteht darin, was OpenAI stattdessen behält. Anstelle von Aufforderungen und Antworten gibt das System ein eng gefasstes Sicherheitssignal weiter: welche Art von Aktivität es gesehen hat und wie schwerwiegend diese aussah. OpenAI-Mitarbeiter erhalten niemals den zugrunde liegenden Text. Kundendaten verbleiben entweder in der eigenen Infrastruktur des Kunden oder werden verschlüsselt gespeichert, wobei der Kunde die Schlüssel besitzt. Aleah Houze, Leiterin der Produktpolitik bei OpenAI, sagte, der Grund für das Design sei das Timing, da einige Risiken erst in mehreren zusammenhängenden Gesprächen und nicht in einem einzelnen Gespräch sichtbar würden. Ein Rollout und ein technisches Whitepaper werden jeweils im September erwartet.

Hier gibt es einen Wettbewerbsvorteil, den OpenAI nicht verheimlicht. Anthropic verlangt derzeit eine 30-tägige Datenaufbewahrung für Geschäftskunden, die seine leistungsfähigsten Modelle verwenden, darunter Fable 5, sowie für Banken, Krankenhäuser, Anwaltskanzleien und alle, die unter strengen europäischen Datenregeln arbeiten und ein echter Blocker sind. OpenAI zielt direkt auf die Lücke. Der tiefere Grund, warum das Problem überhaupt besteht, ist, dass die KI von Einzelfragen zu Agenten übergeht, Modellen, die lange Schrittketten selbstständig ausführen. Jemand kann zwanzig individuell harmlose Fragen stellen, die in der Summe etwas Schädliches ergeben, und ein Sicherheitscheck, der immer nur eine Nachricht sieht, wird es nicht bemerken. Es lohnt sich, die Erwartungen auf dem Boden zu halten: Dies ist eine Vorschau, das Whitepaper ist noch nicht erschienen und „Wir sehen nur ein Sicherheitssignal“ ist eine Behauptung, die derzeit niemand außerhalb von OpenAI überprüfen kann.

Was das für Sie bedeutet: Wenn Sie ChatGPT mit einem persönlichen oder Plus-Plan nutzen, ändert sich heute nichts. Dies ist eine Unternehmens- und API-Funktion, keine Verbraucherfunktion. Wenn Sie an einem Ort arbeiten, an dem KI-Tools aus Datenschutzgründen ausgeschlossen sind, lohnt es sich, dies an denjenigen weiterzuleiten, der diese Entscheidung trifft, mit dem ehrlichen Vorbehalt, dass es noch nicht versendet wurde. Und wenn Sie einen Anbieter für ein Arbeitsprojekt auswählen, sind Aufbewahrungsregeln im Stillen zu einem echten Differenzierungsmerkmal geworden und nicht nur eine Fußnote. Lesen Sie das Kleingedruckte auf beiden Seiten, bevor Sie sich verpflichten.

Quellen

• Bietet Zero Data Retention für Frontier-Modelle, OpenAI
• OpenAI baut ein Sicherheitssystem auf, das Missbrauch erkennt, ohne Kundendaten zu speichern, The Decoder
• OpenAI jagt Geschäftskunden von Anthropic ohne Verpflichtung zur Datenaufbewahrung, The Register
• OpenAI gibt eine Vorschau auf ein Zero-Retention-Sicherheitssystem, da Anthropic Datenprotokolle benötigt, Axios