Il primo inverno dell’intelligenza artificiale

Il percettrone di Rosenblatt, sviluppato alla fine degli anni '50, è considerato un antenato delle attuali reti neurali. 

A spegnere l'entusiasmo iniziale per l'intelligenza artificiale ci pensarono però, nel 1969, i matematici Marvin Minsky e Seymour Papert con il loro testo “Perceptrone: An Introduction to Computational Geometry”. 

In quest'opera, dal rigore logico ineccepibile e con spunti anche filosofici, dimostrarono senza ombra di dubbio i limiti intrinseci di questo modello.
Nella comunità scientifica internazionale, la loro pubblicazione ebbe l'effetto devastante di un asteroide, causando quello che viene definito “il primo inverno” dell'intelligenza artificiale, ovvero un periodo di drastica riduzione dei finanziamenti e di stagnazione nella ricerca sulle reti neurali.

In questo esperimento, ho utilizzato il Python (che novità!) per dimostrare questi limiti e come sono stati superati nei modelli più recenti.

Il percettrone di Rosenblatt è in grado di classificare correttamente solo gli insiemi di dati che possono essere separati da una linea in uno spazio a due dimensioni.

Questo significa che può classificare correttamente gli input solo se esiste un’unica linea retta che separa le diverse classi. 

Il percettrone funziona bene con problemi linearmente separabili come quelli riconducibili alle funzioni booleane fondamentali AND e OR.

Come dimostrato da Minsky e Papert, il percettrone semplice non riesce a risolvere problemi del tipo XOR, ottenendo un'accuratezza di circa 0,5 (equivalente a indovinare nel lancio della monetina).

Questo limite è stato superato con l'introduzione delle reti neurali multistrato e dell'algoritmo di backpropagation, che hanno permesso l’apprendimento di funzioni complesse e non lineari.

La lezione del percettrone ci insegna l'importanza di comprendere i limiti dei nostri modelli e di continuare a innovare per superarli.

Nel grafico di sinistra, osserviamo il completo fallimento del percettrone: ha classificato tutto lo spazio (colorato uniformemente in rosa/arancione) come un'unica classe. 

Questo dimostra visivamente il limite identificato da Minsky e Papert nel 1969. 

La rete neurale ha essenzialmente "rinunciato" a classificare correttamente i punti, assegnando la stessa classe a tutto lo spazio.
Nel grafico di destra, la rete multistrato segna in maniera netta il confine decisionale non lineare che separa correttamente i punti XOR. 

I confini dividono lo spazio in quattro regioni, con:

• gli angoli in alto a sinistra (0,1) e in basso a destra (1,0) classificati come blu;
• gli angoli in alto a destra (1,1) e in basso a sinistra (0,0) classificati come rossi. 

Questi grafici spiegano perfettamente perché il lavoro di Minsky e Papert provocò il primo inverno dell'IA e come le reti multistrato abbiano poi superato questi limiti