Apprendimento per trasferimento

L'apprendimento per trasferimento (o transfer learning) è una tecnica di apprendimento automatico in cui la conoscenza appresa per lo svolgimento di un compito attività viene riutilizzata per migliorare le prestazioni in uno correlato. Ad esempio, nella classificazione delle immagini, la conoscenza acquisita nell'imparare a riconoscere le auto potrebbe essere applicata quando si cerca di riconoscere i camion. Questo argomento è correlato alla letteratura sul trasferimento dell'apprendimento psicologia, sebbene i legami pratici tra i due campi siano limitati. Il riutilizzo o il trasferimento di informazioni da attività imparate in precedenza a nuove attività ha il potenziale per migliorare significativamente l'efficienza dell'apprendimento.

Poiché l'apprendimento per trasferimento si avvale di un addestramento con più funzioni obiettivo, è correlato all'apprendimento sensibile ai costi e all'ottimizzazione multi-obiettivo.

Storia

Nel 1976, Bozinovski e Fulgosi pubblicarono un articolo sull'apprendimento per trasferimento nell'addestramento delle reti neurali. L'articolo fornisce un modello matematico e geometrico sul tema. Nel 1981, un rapporto prese in esame l'applicazione dell'apprendimento per trasferimento a un dataset di immagini che rappresentavano lettere di terminali di computer, dimostrando sperimentalmente l'apprendimento per trasferimento positivo e negativo.

Nel 1992, Lorien Pratt ha formulato l'algoritmo di trasferimento basato sulla discriminabilità (DBT).

Intorno al 1998, la tecnica è maturata giungendo alla formalizzazione dei suoi fondamenti teorici , arrivando a ricomprendere anche l'apprendimento multi-task. Sono stati pubblicati lavori significativi sull'apprendimento per trasferimento fra i quali figurano il libro Learning to Learn del 1998,Thrun Pratt, 2012 e due rassegne della letteratura scientifica dedicate al tema datate 2009 e 2019.

Nel suo tutorial tenuto in occasione della NIPS 2016 Andrew Ng ha sostenuto che l'apprendimento per trasferimento sarebbe diventato il prossimo motore del successo commerciale dell'apprendimento automatico, dopo l'apprendimento supervisionato.

Nell'articolo del 2020, "Rethinking Pre-Training and self-training", Zoph et al. sostengono che il pre-addestramento può compromettere la precisione e promuovono invece l'auto-addestramento (self-training).

Definizione

La definizione di apprendimento per trasferimento è data in termini di domini e compiti. Un dominio ${\displaystyle {\mathcal {D}}}$ consiste in: uno spazio di caratteristiche ${\displaystyle {\mathcal {X}}}$ e una distribuzione di probabilità marginale ${\displaystyle P(X)}$, dove ${\displaystyle X=\{x_{1},...,x_{n}\}\in {\mathcal {X}}}$. Dato un dominio specifico, ${\displaystyle {\mathcal {D}}=\{{\mathcal {X}},P(X)\}}$, un compito è composto da uno spazio di etichette ${\displaystyle {\mathcal {Y}}}$ e una funzione-obiettivo ${\displaystyle f:{\mathcal {X}}\rightarrow {\mathcal {Y}}}$. La funzione ${\displaystyle f}$ viene utilizzata per predire l'etichetta ${\displaystyle f(x)}$ data una nuova istanza ${\displaystyle x}$. Questo compito, indicato da ${\displaystyle {\mathcal {T}}=\{{\mathcal {Y}},f(x)\}}$, viene appreso dai dati di addestramento costituiti da coppie ${\displaystyle \{x_{i},y_{i}\}}$, dove ${\displaystyle x_{i}\in {\mathcal {X}}}$ e ${\displaystyle y_{i}\in {\mathcal {Y}}}$

Dato un dominio sorgente ${\displaystyle {\mathcal {D}}_{S}}$ e compito di apprendimento ${\displaystyle {\mathcal {T}}_{S}}$, un dominio di destinazione ${\displaystyle {\mathcal {D}}_{T}}$ e compito di apprendimento ${\displaystyle {\mathcal {T}}_{T}}$, dove ${\displaystyle {\mathcal {D}}_{S}\neq {\mathcal {D}}_{T}}$, O ${\displaystyle {\mathcal {T}}_{S}\neq {\mathcal {T}}_{T}}$, l'apprendimento per trasferimento mira a migliorare l'apprendimento della funzione-obiettivo ${\displaystyle f_{T}(\cdot )}$ in ${\displaystyle {\mathcal {D}}_{T}}$ utilizzando la conoscenza in ${\displaystyle {\mathcal {D}}_{S}}$ e ${\displaystyle {\mathcal {T}}_{S}}$

Applicazioni

Sono disponibili algoritmi di apprendimento per trasferimento su reti logiche di Markov e reti bayesiane. L'apprendimento per trasferimento è stato applicato alla scoperta di sottotipi di cancro, all'utilizzo degli edifici, ai giochi, alla classificazione del testo, al riconoscimento delle cifre, all'imaging medico e al contrasto allo spam.

Nel 2020, si è scoperto che, grazie alla loro natura fisica simile, è possibile l'apprendimento per trasferimento tra segnali elettromiografici (EMG) provenienti dai muscoli e la classificazione dei comportamenti delle onde cerebrali elettroencefalografiche (EEG), dal dominio del riconoscimento dei gesti al dominio del riconoscimento degli stati mentali. È stato osservato che questa relazione funzionava in entrambe le direzioni, dimostrando che l'elettroencefalografia può essere utilizzata anche per classificare l'EMG. Gli esperimenti hanno rilevato che l'accuratezza delle reti neurali e, in particolare, delle reti convoluzionali era stata migliorata attraverso l'apprendimento per trasferimento sia prima di qualsiasi attività di apprendimento (rispetto alla distribuzione casuale standard dei pesi) sia alla fine del processo di apprendimento (asintoto). In altre parole, i risultati sono migliorati dopo l'esposizione a un altro dominio. Inoltre, l'utente finale di un modello per-addestrato può modificare la struttura di strati completamente connessi al fine di migliorare le prestazioni.

Note

Bibliografia

• Sebastian Thrun e Lorien Pratt, Learning to Learn, Springer Science & Business Media, 6 dicembre 2012, ISBN 978-1-4615-5529-2.

V · D · M Apprendimento automatico
Problemi	Teoria dell'apprendimento statistico · Classificazione · Regressione · Classificazione a singola classe · Ranking · Regole di associazione · Apprendimento non supervisionato · Apprendimento semi-supervisionato · Apprendimento supervisionato · Apprendimento debolmente supervisionato · Apprendimento auto-supervisionato · Apprendimento da pochi esempi · Apprendimento gerarchico · Apprendimento per rinforzo · Apprendimento profondo · Apprendimento online · Apprendimento incrementale · Apprendimento trasduttivo · Apprendimento di rappresentazioni · Apprendimento per similarità · Apprendimento per contrasto · Concept drift · Meta-apprendimento · Dati mancanti
Apprendimento non supervisionato	Clustering · Clustering gerarchico · K-means · Algoritmo EM · Clustering spettrale · DBSCAN · Mean shift · Rete generativa avversaria (cGAN · VAE-GAN · cycleGAN)
Apprendimento supervisionato	Albero di decisione · Foresta casuale · Conditional random field CRF · Modello di Markov nascosto · Algoritmo k-nearest neighbors (k-NN) · Ragionamento basato su casi (CBR) · Classificatore bayesiano · Rete neurale artificiale · Regressione lineare · Regressione logistica · Modello grafico · Rete bayesiana · Macchine a vettori di supporto (SVM) · Processo gaussiano · Modello ensemble · Boosting · Bagging · Classifier chain · Cascading · Classificatore ECOC · Stacking · Voting
Apprendimento per rinforzo	Q-learning · SARSA · TD
Riduzione della dimensionalità	Analisi fattoriale · Analisi della correlazione canonica (CCA) · Analisi delle componenti indipendenti (ICA) · Analisi discriminante lineare (LDA) · Analisi delle componenti principali (PCA) · Apprendimento di varietà (manifold learning) · Estrazione di caratteristiche · Immersione localmente lineare (LLE) · Isomap · Scaling multidimensionale (MDS) · Selezione delle caratteristiche · t-distributed stochastic neighbor embedding (t-SNE)
Reti neurali artificiali	Percettrone · Percettrone basato su kernel · Rete neurale a funzioni base radiali (RBF net) · Rete neurale feed-forward · Rete di Hopfield · Percettrone multistrato · Rete neurale ricorrente (LSTM) · Macchina di Boltzmann ristretta · Mappa auto-organizzata · Rete neurale convoluzionale · Rete neurale a ritardo · Rete neurale spiking · Rete neurale grafica · Trasformatore
Software	Keras · Microsoft Cognitive Toolkit · Scikit-learn · TensorFlow · Theano · PyTorch · Weka
Altro	Algoritmo genetico · Particle Swarm Optimization · Caratteristica · Compromesso bias-varianza · Minimizzazione del rischio empirico

Portale Informatica

Portale Matematica

Portale Statistica