Ein OpenAI-Forscher geht nach acht Monaten – weil bessere Daten für ihn wichtiger sind als größere Modelle

Andrew Ho hat OpenAI nach acht Monaten verlassen. Interessanter als der Abgang ist seine Begründung: Große Sprachmodelle können Fähigkeiten seiner Ansicht nach nur schlecht auf neue Situationen übertragen und generalisieren damit weit schwächer, als ihre Schlagzeilenwerte vermuten lassen. Selbst beim Programmieren, dem am stärksten finanzierten Anwendungsgebiet, sei die Leistung unbeständig. Ho sieht die Ursache in einem Mangel an geeigneten Trainingsdaten und gründet nun ein Unternehmen, das genau solche Daten verkaufen soll.

Ein Großteil der wirtschaftlich wertvollen Arbeit taucht Ho zufolge kaum in den Daten auf, mit denen Modelle lernen. „Die meiste Arbeit hängt stark vom Kontext ab und lässt sich nicht leicht in eine bewertbare Umgebung übersetzen“, schrieb er. Selbst wenn man einem Menschen bei guter Arbeit zuschauen könne, sei schwer festzustellen, ob auch die nicht gewählten Wege funktioniert hätten. In den kommenden Jahren erwartet Ho Ausgaben von mehr als 100 Milliarden US-Dollar für gezielte Datensammlung durch KI-Labore. Seine ersten Produkte richten sich an die Wissenschaft: Datensätze für Bioinformatik-Analysen, bei denen selbst GPT-5.6 Sol seiner Aussage nach nur in rund 30 Prozent der Fälle erfolgreich ist, sowie Daten für alltägliche Laboraufgaben wie die Beurteilung von Experimentfotos. Chemie, Materialwissenschaften und Gesundheitswesen sollen folgen. Ho äußert sich zudem offen skeptisch über die Bewertungen der Frontier-Labore. Sie blieben unprofitabel, weil sie ständig weiter investieren müssten, um vor günstigeren Konkurrenten wie Qwen und Kimi zu bleiben.

Was dahintersteckt

Der Cambridge-Forscher Adam Hunt beschreibt von außerhalb der Labore dasselbe Muster. Neue Modelle würden nicht breiter, sondern spitzer: Programmierung und anspruchsvolle Mathematik verbessern sich weiter, während Sprachqualität und einfache Logik stagnieren oder sogar nachlassen. Seine Erklärung ist technisch. Reinforcement Learning, die Trainingsmethode hinter den heutigen Reasoning-Modellen, braucht ein klares Signal für richtig oder falsch. Code lässt sich kompilieren oder nicht; ein mathematischer Beweis geht auf oder eben nicht. Für den Großteil menschlicher Arbeit fehlt ein solches Signal, weshalb sich diese Trainingsmethode dort nicht anwenden lässt. Hunt beziffert seine eigene Sicherheit auf rund 40 Prozent – eine angenehm ehrliche Angabe für eine öffentliche Prognose. DeepMind-Forscher Tom Zahavy liefert in der Arbeit „LLMs can’t jump“ ein verwandtes strukturelles Argument: Modelle beherrschen Deduktion und Induktion, scheitern jedoch daran, Erklärungen zu erfinden, auf die nichts in ihren Trainingsdaten hindeutet.

Was das für dich bedeutet: Für die meisten Menschen ändert sich heute nichts. Die Aussagen korrigieren aber eine verbreitete Annahme: Modelle werden nicht in allen Bereichen gleichmäßig besser. Dass KI bei der Programmierarbeit eines Kollegen plötzlich große Fortschritte macht, sagt deshalb fast nichts darüber aus, ob sie auch deine Arbeit besser beherrscht. Wenn ein Werkzeug bei einer scheinbar leichten Aufgabe enttäuscht und zugleich etwas offenkundig Schwieriges meistert, liegt das nicht an dir. Diese Uneinheitlichkeit gehört zum gegenwärtigen Stand der Technik – und deshalb sagt praktisches Ausprobieren mehr aus als jede Versionsankündigung.

Quellen

• Andrew Ho auf X
• Adam Hunt auf X
• The Decoder: Ex-OpenAI-Forscher erwartet 100 Milliarden US-Dollar für Trainingsdaten