OpenAI trainiert ab dem 29. November mit Sicherheitssitzungen aus Daybreak Blue
OpenAI teilte den Trusted Access-Mitgliedern mit, dass Daybreak Blue-Sitzungsdaten, die zuvor vom Training ausgeschlossen waren, ab dem 29. November verwendet werden, und versprach dann nach Gegenreaktionen eine separate Abmeldung.
OpenAI plant, am 29. November mit dem Training seiner Modelle anhand von Daten aus Daybreak Blue-Sitzungen zu beginnen. Daybreak Blue ist ein Cybersicherheitsangebot für Mitglieder des Trusted Access-Programms von OpenAI, einer geprüften Stufe für Sicherheitsexperten. Bisher waren diese Daten für das Training tabu, selbst wenn ein Benutzer die Einstellung „Modell für alle verbessern“ deaktiviert hatte.
Laut The Decoder und einem auf LinkedIn geteilten Beitrag erfuhren die Mitglieder per E-Mail von der Änderung. Nach Gegenreaktionen wurde in einer zweiten E-Mail ein separates Opt-out für diese spezielle Verwendung versprochen. Wie dieses Opt-out funktioniert und wann es in Kraft tritt, wurde nicht erklärt. Bei Sicherheitsüberprüfungen gemeldete Interaktionen können weiterhin zu Sicherheitszwecken verwendet werden, was bei allen KI-Anbietern gängige Praxis ist.
Warum sollte das die Leute verärgern? Sicherheitssitzungen können vertrauliches Material enthalten: Details zu den Systemen eines Unternehmens, vermutete Schwachstellen oder zu prüfender Code. Fachleute arbeiten oft im Rahmen von Vertraulichkeitsvereinbarungen, sodass die Aussage „Ihre Daten können jetzt dabei helfen, ein Modell zu trainieren“ für sie anders lautet als für jemanden, der nach einem Rezept fragt. The Decoder verbindet die Geschichte auch mit einem aktuellen Streit, in dem zwei Mathematiker, Tristan Buckmaster und Levent Alpöge, unvollendete Navier-Stokes-Beweisentwürfe auf OpenAIs Codex hochgeladen haben. OpenAI legte später seinen eigenen Beweis vor und verweigerte die Schulung seiner Eingaben. Forscher sagen, dass die neue Richtlinie dieselbe Vertrauensfrage wieder aufwirft.
Was dahintersteckt: Trainingsdaten sind der Treibstoff von KI-Modellen, und Gespräche mit Experten sind wertvoller Treibstoff. Unternehmen bieten in der Regel einen Wechsel an, und die berechtigte Frage ist, ob der Wechsel auch das bedeutet, was er verspricht. Wenn ein Ausschluss, mit dem Benutzer gerechnet haben, für ein Produkt entfernt wird, leidet das Vertrauen, selbst wenn ein Opt-out folgt. Es lohnt sich auch, genau zu sagen, was wir wissen: Die Details stammen aus einer von Empfängern weitergeleiteten E-Mail und nicht von einer öffentlichen OpenAI-Richtlinienseite, daher kann der endgültige Wortlaut abweichen.
Was das für Sie bedeutet: Wenn Sie Trusted Access-Mitglied sind, überprüfen Sie vor dem 29. November Ihre Kontoeinstellungen und die Folge-E-Mail auf die Abmeldung und vermeiden Sie das Einfügen von Kundenmaterial in eine Sitzung, bis Sie wissen, wo es landet. Wenn Sie ein normaler ChatGPT-Benutzer sind, trifft diese Änderung nicht direkt auf Sie zu, aber es ist ein guter Zeitpunkt, einen Blick auf Ihre eigenen Datenkontrollen zu werfen und jedem KI-Tool bei der Arbeit eine einfache Frage zu stellen: Wird das, was ich tippe, für das Training verwendet, und kann ich das schriftlich ausschalten?
Quellen
Anthropic erweitert sein AI for Science-Programm auf 20 Stiftungen und Forschungseinrichtungen
Das kostenlose Claude-Credits-Programm von Anthropic für Forscher fügt 20 benannte Partner hinzu, von der Sloan Foundation bis zum Francis Crick Institute, obwohl sich die meisten Arbeiten noch in einem frühen Stadium befinden.
