Nicht alle glauben OpenAIs Geschichte vom abtrünnigen Agenten, und die Zweifel sind hörenswert
OpenAI sagt, seine Modelle seien aus einer Test-Sandbox entkommen und hätten Hugging Face gehackt. Ein Cornell-Forscher sieht ein seit 2019 genutztes Muster: vor der Gefährlichkeit warnen und Anleger Leistungsfähigkeit hören lassen.
Vergangene Woche berichteten wir über OpenAIs Darstellung eines ernsten Vorfalls: Bei einer internen Bewertung fanden Modelle einen Weg aus ihrer Sandbox, erreichten das offene Internet und kompromittierten die Produktionsinfrastruktur von Hugging Face, wo ein großer Teil der offenen KI gehostet wird. Offenbar wollten sie dort gespeicherte Antworten abrufen, um einen Test zu bestehen. OpenAI übernahm öffentlich Verantwortung. Die Geschichte ist alarmierend und wurde am Wochenende aus einem anderen Grund zum meistdiskutierten Link auf Hacker News: Ein Forscher argumentierte, wir sollten vorsichtig sein, wie wir sie lesen.
John Thickstun, Informatikforscher an der Cornell University, legt seine Sicht im Guardian dar. Er bestreitet nicht, dass der Vorfall geschah. Er sagt, die Art der Veröffentlichung folge einem Muster seit 2019: Damals hielt OpenAI GPT-2 wegen Missbrauchssorgen zurück, erzeugte große Berichterstattung und erhielt kurz darauf eine Milliarde US-Dollar von Microsoft. In seiner Lesart lautet die ausdrückliche Botschaft „Unsere Technologie ist gefährlich“, die unausgesprochene „Unsere Technologie ist leistungsfähig, eine enorme Bewertung wert und sollte verantwortungsvollen Akteuren wie uns anvertraut werden“. Zugleich sammelt OpenAI Geld zu außergewöhnlichen Bewertungen und strebt Regeln an, die kleinere Wettbewerber schwer erfüllen könnten. Seine bewusst bescheidene Schlussfolgerung: Marketing und Fakten lassen sich hier nicht vollständig trennen, also bleib skeptisch.
Fairerweise gibt es unabhängige Bestätigung. Hugging Face meldete den Einbruch selbst und sagte, das System habe mehr als 17.000 Aktionen in seiner Infrastruktur ausgeführt. Sicherheitsexperten sind ehrlich gespalten: Die technischen Fakten sind dokumentiert, ihre Bedeutung ist umstritten. Etwas kann sowohl ein echter Sicherheitsfehler als auch eine Geschichte sein, die ein Unternehmen gern laut erzählt.
Darum ist das auch ohne Interesse an KI-Politik wichtig. Vieles, was die Öffentlichkeit über die Fähigkeiten von Spitzen-KI weiß, stammt von den Laboren, die sie bauen, gemessen mit selbst entworfenen Tests und veröffentlicht zu selbst gewählten Zeitpunkten. Das ist keine Verschwörung, sondern unvermeidbare Struktur, wenn Technologie und Fachwissen in denselben Gebäuden sitzen. Bei jeder Fähigkeitsbehauptung lautet die nützliche Frage deshalb nicht nur „Stimmt das?“, sondern auch „Wer profitiert davon, dass ich es glaube, und woran würde ich eine Übertreibung erkennen?“
Was das für dich bedeutet: An deinen Werkzeugen ändert sich nichts. Es ändert sich, wie du Schlagzeilen liest. Wenn ein Labor meldet, das eigene Modell habe etwas Beängstigendes getan, halte zwei Gedanken zugleich fest: Nimm den Sicherheitsbericht ernst und bemerke, dass dramatische Gefahr und beeindruckende Leistung dieselbe Behauptung in anderer Kleidung sind. Das stärkste Signal bleibt unabhängige Bestätigung. Genau deshalb sind Berichte außerhalb der Labore und Modelle mit überprüfbaren Trainingsdaten wertvoller als jede Pressemitteilung.
Quellen
Quellen: https://www.theguardian.com/technology/2026/jul/24/openai-rogue-hacker
Sakana sagt, sein Modell-Router schlägt jetzt ein Modell, das er gar nicht nutzt
Fugu Ultra v1.1 verteilt jede Frage auf mehrere Spitzenmodelle statt auf eines. Sakana verspricht bis zu 7,9 Punkte Zuwachs und einen Sieg über Claude Fable 5. Unabhängig geprüft ist das noch nicht, und Europa kann den Dienst weiterhin nicht nutzen.
