Parametri

I parametri sono le viti di regolazione di un modello. Durante l’addestramento, miliardi di essi vengono modificati in modo che l’output corrisponda ai modelli dei dati di addestramento. Il numero di queste viti di regolazione è di 276 miliardi di parametri.

Un numero maggiore di parametri di solito significa maggiore capacità e costi operativi più elevati, ma da soli non sono una misura adeguata della qualità. Contano almeno altrettanto l’architettura, i dati di training ed i parametri effettivamente attivi per richiesta; Un modello piccolo ben costruito batte regolarmente uno grande e sciatto.