Harness

Ein Harness liegt zwischen dir und dem Modell. Es entscheidet, welcher Kontext mitgesendet wird, welche Werkzeuge erlaubt sind, wie viele Versuche es gibt, was bei vollem Kontext geschieht und zunehmend, welches Modell welchen Teil erledigt. Das Modell ist der Motor, das Harness der Rest des Autos.

Dieses Gerüst kann denselben Benchmarkwert verfünffachen, etwa wenn es die Gedankenkette zwischen Schritten behält. Unternehmen sparen damit auch Geld: Routine geht an ein kleines Modell, schwierige Teile an ein teures. Mit Orchestrator oder Agenten-Framework ist meist diese Ebene gemeint.