Nel campo del machine learning, la formazione e l’addestramento di reti neurali rappresentano il fulcro del processo di apprendimento AI. Queste reti, durante la fase di training, imparano a predire gli output basandosi su insiemi di dati di input. Si tratta di un percorso fatto di prove ed errori, durante il quale la rete viene “addestrata” attraverso varie epoche, o cicli completi attraverso l’insieme di dati di addestramento.
L’importanza della Loss Function
Durante questo processo, un elemento chiave è la “loss function“, una metrica che quantifica quanto bene il modello sta performando; in altre parole, indica l’errore (ovvero, la differenza) tra i valori predetti e quelli reali. Minimizzando questa funzione di perdita, il modello impara gradualmente, diventando sempre più accurato nelle sue predizioni.
Un fenomeno inaspettato: rapidi cambiamenti nelle curve di perdita
Recentemente, durante un concorso Kaggle che mirava a rispondere a domande scientifiche complesse, gli esperti hanno notato un fenomeno inaspettato: una drastica diminuzione della perdita all’inizio di ogni epoca, seguita da una fase di stabilizzazione.
Questo fenomeno ha suscitato perplessità e domande, portando gli esperti a ipotizzare che il modello potesse, incredibilmente, imparare a riconoscere gli esempi vedendoli anche solo una volta, un concetto in netta contrapposizione con la tradizionale necessità di numerose epoche per un apprendimento significativo.
La teoria della memorizzazione
La teoria predominante per spiegare questa anomalia è che il modello, invece di generalizzare dal set di addestramento, stia semplicemente “memorizzando” gli esempi (rote learning). Questo avrebbe come conseguenza predizioni molto confidenti, ma non necessariamente corrette, portando a un aumento della perdita di validazione, nonostante una diminuzione della perdita di training.
Questa ipotesi è stata supportata da ulteriori test, utilizzando diversi metodi di impostazione del tasso di apprendimento, mostrando modelli in cui la perdita di validazione aumentava nonostante un miglioramento continuo dell’accuratezza.
Riconsiderare il nostro approccio all’apprendimento profondo
Se confermata, questa teoria potrebbe rivoluzionare il nostro approccio all’addestramento delle reti neurali, suggerendo che i modelli pre-addestrati di grandi dimensioni possono effettivamente “imparare” da un numero molto più limitato di esempi di quanto precedentemente pensato.
Questo fenomeno mette in luce la possibilità che i modelli pre-addestrati, con le loro ricche gerarchie di astrazioni, possano essere fine-tuned molto più rapidamente ed efficacemente, sfruttando una sorta di “apprendimento rapido” per adattarsi a nuovi task.
Mentre la community di ricerca sta ancora esplorando e cercando di comprendere a fondo questa anomalia, è chiaro che siamo di fronte a una svolta potenzialmente rivoluzionaria nell’ambito del machine learning. Questo rappresenta non solo un passo avanti significativo nella comprensione delle dinamiche sottostanti dell’apprendimento delle macchine, ma potrebbe anche aprire la porta a metodi di addestramento molto più efficienti e rapidi, ribaltando le attuali norme e aspettative. Nel contesto dei grandi modelli linguistici, questo potrebbe tradursi in progressi significativi in termini di efficienza e prestazioni, aprendo nuove strade per l’innovazione e lo sviluppo in questo campo in rapida evoluzione.
Fonte: https://www.fast.ai/posts/2023-09-04-learning-jumps/
