ipotesi del grande mondo
L'argomentazione di Richard Sutton secondo cui qualsiasi sistema di apprendimento è sempre molto più piccolo del mondo in cui opera e dovrebbe essere progettato di conseguenza.
L’idea è semplice e leggermente umiliante. Qualunque cosa costruisci, il mondo con cui deve confrontarsi è molto più grande e complicato del sistema stesso. Un modello quindi non può mai contenere un quadro completo del suo ambiente, ma solo compresso e parziale, e la risposta progettuale onesta è quella di costruire sistemi che continuino ad apprendere dal mondo piuttosto che sistemi che cerchino di finire l’apprendimento in anticipo.
Richard Sutton lo usa come base per una critica mirata ai dati sintetici, materiale didattico che un modello genera da solo. Se il mondo è infinitamente complesso e il modello ne ha catturato solo una parte, allora i dati prodotti dal modello provengono da quella stessa parte. Ottieni più di ciò che già sa piuttosto che più di ciò che non sa. Altri sostengono che i dati sintetici funzionino in modo dimostrabile per insegnare abilità specifiche verificabili come codice e passaggi di ragionamento, il che è un’affermazione diversa rispetto alla possibilità di produrre qualcosa di veramente nuovo.