ebook a puntate - puntata 01

"La storia delle reti neurali" è un saggio divulgativo che ripercorre l'evoluzione dell'Intelligenza Artificiale, dai pionieristici modelli degli anni '40 fino all'era del Deep Learning. Un racconto fatto di entusiasmi, fallimenti e geniali intuizioni che spiegano come le macchine abbiano imparato a pensare.

Indice dei capitoli

1. Capitolo 1 — Le origini e il sogno del "cervello elettronico"
2. Capitolo 2 — L'inverno dell'Intelligenza Artificiale
3. Capitolo 3 — Il rinascimento e la magia della retropropagazione
4. Capitolo 4 — L'ascesa delle macchine visive: le reti convoluzionali
5. Capitolo 5 — L'esplosione del Deep Learning: Big Data e GPU
6. Capitolo 6 — L'era dell'attenzione: la rivoluzione dei Transformer
7. Capitolo 7 — L'alba dell'IA generativa e i grandi modelli linguistici
8. Capitolo 8 — La scatola nera: etica, pregiudizi e il problema dell'allineamento
9. Capitolo 9 — Oltre il Deep Learning: la strada verso l'Intelligenza Artificiale Generale

Capitolo 1 — Le origini e il sogno del "cervello elettronico"

Nel 1943, mentre la guerra accelerava la costruzione di calcolatori, radar e sistemi di comunicazione, due ricercatori dell’Università di Chicago affrontarono un problema che sembrava appartenere più alla filosofia che all’ingegneria: era possibile descrivere il funzionamento del cervello mediante regole logiche? Il neurofisiologo Warren McCulloch e il giovane matematico Walter Pitts non cercavano di riprodurre una cellula nervosa in ogni dettaglio. Volevano capire se una rete di unità estremamente semplificate potesse eseguire operazioni riconducibili al ragionamento.

Figura 1. L'ambiente scientifico degli anni Quaranta: la fusione tra neuroscienze e ingegneria elettronica.

Il desiderio di comprendere che cosa significhi pensare è molto più antico delle macchine elettroniche. Per secoli fu affidato soprattutto alla filosofia, alla psicologia e allo studio anatomico e clinico del cervello. Nel Novecento, tuttavia, logica matematica, neurofisiologia, teoria dell’informazione, ingegneria delle comunicazioni e calcolo automatico cominciarono a convergere. Da quell’incontro nacque una domanda nuova: non soltanto come funziona il pensiero, ma quali suoi aspetti possono essere formalizzati e riprodotti da una macchina?

La Seconda guerra mondiale contribuì ad accelerare alcune delle tecnologie necessarie, senza essere l’unica origine di questa trasformazione. La crittografia, il controllo automatico, il radar, le comunicazioni a distanza e i primi calcolatori elettronici mostrarono che problemi complessi potevano essere scomposti in operazioni formali ed eseguiti da dispositivi costruiti dall’uomo. Si diffuse così una crescente fiducia nella possibilità di studiare in termini matematici fenomeni che fino ad allora erano sembrati esclusivamente biologici o mentali.

Un punto d’incontro decisivo fu la cibernetica. Norbert Wiener, che nel 1948 diede al campo il suo nome con il libro Cybernetics, studiò i principi di controllo e comunicazione negli animali e nelle macchine. Al centro vi era la retroazione (feedback): l’uscita di un sistema può essere utilizzata per correggerne il comportamento successivo. Un termostato, per esempio, confronta la temperatura rilevata con quella desiderata e modifica di conseguenza il riscaldamento. La stessa struttura generale poteva essere impiegata per descrivere, a diversi livelli di astrazione, anche alcuni processi biologici.

Queste ricerche costituirono una parte importante del terreno da cui sarebbe emersa l’intelligenza artificiale, ma il campo non esisteva ancora con un’identità condivisa. Lo snodo convenzionalmente associato alla sua nascita arrivò nel 1956, quando John McCarthy, Marvin Minsky, Nathaniel Rochester e Claude Shannon organizzarono il seminario estivo di Dartmouth. Nella proposta dell’incontro compariva l’espressione artificial intelligence: l’ipotesi era che aspetti dell’apprendimento e dell’intelligenza potessero essere descritti con sufficiente precisione da consentirne la simulazione mediante una macchina. Le reti neurali rappresentavano una delle strade possibili all’interno di questo programma più ampio, accanto alla ricerca simbolica, alla dimostrazione automatica di teoremi e alla risoluzione di problemi.

Il lavoro di McCulloch e Pitts aveva già fornito, nel 1943, un primo modello matematico di neurone artificiale. L’ispirazione era biologica, ma l’unità proposta era un’astrazione logica molto lontana dalla complessità di una vera cellula nervosa. Riceveva segnali binari e produceva a sua volta un’uscita binaria, in base al superamento di una soglia. Nel modello originale le connessioni erano eccitatorie o inibitorie e la struttura veniva stabilita in anticipo: non si trattava ancora di una rete addestrata mediante pesi appresi dai dati, come accade nei sistemi moderni.

Collegando più unità di questo tipo, McCulloch e Pitts mostrarono che era possibile rappresentare operazioni logiche. Il risultato era importante non perché dimostrasse che il cervello fosse davvero un calcolatore binario, ma perché costruiva un ponte teorico fra attività neurale, logica e calcolo. Alcune funzioni del ragionamento potevano almeno essere descritte come il comportamento collettivo di unità semplici.

Per esprimere questa intuizione con una notazione moderna, possiamo considerare un neurone che riceve \(N\) ingressi \(x_1, x_2, \ldots, x_N\). A ciascun ingresso è associato un peso \(w_i\), che ne rappresenta l’influenza sul risultato. La somma pesata \(S\) è

\[S = \sum_{i=1}^{N} x_i w_i.\]

Questa formula è una modernizzazione didattica, utile per collegare il modello storico ai neuroni artificiali successivi; non riproduce in ogni dettaglio la formulazione del 1943. Per ottenere l’uscita binaria si confronta \(S\) con una soglia \(\theta\) mediante una funzione a gradino:

\[y = \begin{cases} 1, & \text{se } S \geq \theta,\\ 0, & \text{se } S < \theta. \end{cases}\]

In una notazione equivalente, la soglia può essere incorporata in un bias matematico \(b=-\theta\), così che l’uscita dipenda dal segno di \(S+b\). In entrambi i casi il principio è lo stesso: l’unità non restituisce semplicemente la somma degli ingressi, ma applica una regola di soglia e produce una risposta discreta.

Espressioni come ingresso, connessione, soglia e uscita entrarono così nel lessico dei modelli neurali. Il termine peso, nel significato moderno di parametro regolabile, sarebbe diventato centrale nei sistemi capaci di apprendere. Rimane essenziale, però, non confondere l’astrazione con la biologia: un neurone reale integra segnali attraverso processi elettrochimici, cambia nel tempo e interagisce con un ambiente cellulare che una funzione matematica elementare non pretende di riprodurre.

Il passaggio successivo riguardò proprio l’apprendimento. Nel 1949 lo psicologo canadese Donald Hebb pubblicò The Organization of Behavior, proponendo un’ipotesi su come l’esperienza potesse modificare le connessioni tra neuroni. In forma semplificata, quando due cellule partecipano ripetutamente alla stessa attività, l’efficacia della loro connessione tende a rafforzarsi. La celebre formula «i neuroni che si attivano insieme si collegano insieme» riassume bene l’intuizione, ma è una parafrasi divulgativa posteriore, non una citazione letterale di Hebb.

La regola di Hebb suggeriva che la conoscenza non dovesse essere necessariamente inserita nel sistema sotto forma di istruzioni complete. Poteva emergere, almeno in parte, dalla modifica delle connessioni prodotta dall’esperienza. La ricerca cominciava così a spostarsi dalla descrizione di circuiti logici statici alla costruzione di sistemi adattivi: non più soltanto macchine capaci di eseguire una struttura predisposta, ma modelli in grado di cambiare in risposta agli esempi ricevuti.

Questa aspirazione acquistò una forma concreta con il perceptron di Frank Rosenblatt. A partire dal 1957, Rosenblatt sviluppò il modello nell’ambito del Cornell Aeronautical Laboratory; nel 1958 una sua implementazione, il Mark I Perceptron, fu presentata pubblicamente. Il sistema impiegava una matrice di sensori collegata a unità di elaborazione e poteva imparare a distinguere configurazioni visive semplici.

Il perceptron riceveva un insieme di caratteristiche numeriche e produceva una decisione binaria. Poteva, per esempio, classificare semplici schemi geometrici o configurazioni di punti in due categorie. Il compito non consisteva nel riconoscere oggetti complessi come farebbe una rete visiva contemporanea, ma nell’apprendere un confine decisionale lineare tra esempi rappresentati mediante caratteristiche adeguate.

La novità essenziale era che i pesi non dovevano essere corretti a mano dagli ingegneri dopo ogni errore. Una regola automatica di apprendimento li aggiornava confrontando l’uscita prevista con l’etichetta corretta. In forma semplificata, per ciascun peso si poteva scrivere:

\[w_i \leftarrow w_i + \eta (y-\hat{y})x_i,\]