Orchestratore

Tra te e il modello c’è un’imbracatura. Decide quale contesto viene inviato, quali strumenti sono consentiti, quanti tentativi ci sono, cosa succede quando il contesto è pieno e sempre più quale modello fa quale parte. Il modello è il motore, il cablaggio è il resto dell’auto.

Questo quadro può quintuplicare lo stesso valore di riferimento, ad esempio, se mantiene la catena di pensiero tra i passaggi. Ciò consente anche alle aziende di risparmiare denaro: le parti di routine vanno a un modello piccolo, le parti difficili a uno costoso. L’orchestrator o il framework dell’agente in genere si riferisce a questo livello.