Langfristige Aufgabe

Eine langfristige Aufgabe kann eine KI nicht mit einer einzigen Antwort erledigen. Sie muss planen, handeln, das Ergebnis prüfen und weitermachen, manchmal stundenlang. Beispiele sind die Fehlersuche in einer großen Codebasis, eine mehrstufige Analyse oder die Bearbeitung eines Forschungsproblems.

Auf diesem Gebiet verbessern sich heutige Modelle am schnellsten, sind aber zugleich am schwierigsten zu überwachen. Je länger ein System unbeaufsichtigt arbeitet, desto mehr Gelegenheiten hat es, vom Kurs abzuweichen, eine nicht genehmigte Abkürzung zu nehmen oder eine Lücke in den vorgesehenen Begrenzungen zu finden.