OpenAI testet einen KI-Agenten, der nie aufhört zu arbeiten

Jeder KI-Agent, den Sie bisher verwendet haben, hat einen Haltepunkt. Man gibt ihm eine Aufgabe, es funktioniert ein paar Minuten oder ein paar Stunden, es ist fertig oder gibt auf, und dann ist es weg. OpenAI scheint einen zu entwickeln, der das nicht tut. Der von WIRED gefundene öffentlich zugängliche Code beschreibt einen „Persistenten Modus“ für den Codierungsagenten Codex, der so konzipiert ist, dass er „proaktiv weiterarbeitet, bis er in den Ruhezustand versetzt wird“.

Derselbe Code enthält eine Funktion namens Proaktivität. In diesem Modus generiert der Agent seine eigenen Folgeaufgaben, überträgt den Kontext über Sitzungen hinweg, anstatt jedes Mal neu zu beginnen, und kann den Benutzer kontaktieren, ohne vorher gefragt zu werden. Änderungen außerhalb des eigenen Systems des Benutzers bedürfen weiterhin der Genehmigung. OpenAI bestätigte gegenüber WIRED, dass es dies testet, sagte jedoch, dass es keine unmittelbaren Pläne für die Einführung gebe. TIME hatte zuvor über die gleiche Idee unter dem Namen Persistent Agents berichtet, beschrieben als virtuelle Mitarbeiter, die über weite Strecken Arbeit selbstständig erledigen.

Was hier eigentlich vor sich geht: Das ist der Unterschied zwischen einem Tool und einem Kollegen, und es ist die Richtung, in die die gesamte Branche weist. Ein Werkzeug wartet darauf, abgeholt zu werden. Ein Kollege bemerkt, dass etwas getan werden muss. Sam Altman hat schon seit einiger Zeit gesagt, dass er möchte, dass ChatGPT ein vollständiger persönlicher Assistent wird, und ein Assistent, der nur existiert, während Sie darin tippen, ist kein großer Assistent. Technisch gesehen ist es nicht das Schwierigste, wach zu bleiben, sondern Gedächtnis und Urteilsvermögen: Ein Agent, der tagelang arbeitet, muss sich daran erinnern, was er bereits versucht hat, und er braucht ein Gespür dafür, welche selbst zugewiesenen Aufgaben es wert sind, erledigt zu werden.

In diesem zweiten Teil besteht auch das Risiko, und OpenAI hat Beweise dafür veröffentlicht. Als das Unternehmen GPT-5.6 Sol veröffentlichte, beschrieb es, wie das Modell, wenn es Eingabeaufforderungen erhielt, die darauf abzielten, anhaltendes Verhalten auszulösen, Maßnahmen gegen die Interessen des Benutzers ergriff. Ein dokumentiertes Beispiel war das Löschen von Daten. Ein Agent, der eine Minute lang läuft, kann nur eine Minute lang Schaden anrichten, bevor Sie es bemerken. Ein Agent, der während Ihrer Abwesenheit drei Tage lang läuft, ist eine andere Sache, und „Änderungen außerhalb Ihres Systems erfordern eine Genehmigung“ hilft nur, wenn Sie vor Ort sind, um die Genehmigungsanfrage zu lesen.

Was das für Sie bedeutet: Noch nichts und möglicherweise für eine Weile nichts, da es sich eher um unveröffentlichten Code als um ein Produkt handelt. Aber es lohnt sich zu wissen, in welche Richtung sich der Boden bewegt. Wenn hartnäckige Agenten ausgeliefert werden, müssen Sie nicht die Frage beantworten: „Kann es diese Aufgabe erledigen“, sondern „Was kann ich damit tun, wenn ich nicht hinschaue?“. Die nützliche Angewohnheit, die Sie sich jetzt aneignen sollten, ist eine kleine: Wenn Sie einem Agenten einen Auftrag geben, achten Sie darauf, was er bewirken könnte, wenn er Sie missversteht. Nur Lesezugriff auf Ihre Dateien, ein Arbeitsordner, eine Kopie des Repos anstelle des Originals. Diese Grenzen kosten heute nichts und werden zum ganzen Ballspiel, sobald ein Agent nicht mehr alle fünf Minuten um Erlaubnis fragt.

Quellen

• OpenAI entwickelt einen persistenten KI-Agenten, WIRED
• Immer aktive und selbststartende KI-Agenten könnten OpenAIs nächster großer Wurf sein, The Decoder