I ricercatori lo chiamano Model Autophagy Disorder (MAD), o “disturbo dell’autofagia del modello”, ed è la prima malattia artificiale. Colpisce l’IA generativa, che viene alimentata (addestrata) con dati reali contaminati dalle sue stesse risposte. Il problema, come si evince anche nel post “L’anima schiva”, risiede tutto lì.
Mi soffermerei, però, sul termine autofagia: l’alternativa “bonaria” al mangiare gli altri. Condivide il morfema della forma verbale, dovuto al prolungato digiuno, con antropofagia, che, in sostanza, significa “mangiare gli altri”.Proprio come fece, secondo alcune interpretazioni date in ribasso, il Conte Ugolino della Gherardesca, che, murato in una torre a Pisa, finì per cibarsi dei figli e dei nipoti rinchiusi insieme a lui.
Una strana storia di cannibalismo quella, ma ancor più strana l’attuale, in cui qualcuno o qualcosa addirittura “si mangia” – usato qui nella forma riflessiva (non corretta) e non nel senso impersonale di “è pronto il pranzo”.
Al di là di questo arrampicarmi sugli specchi dei ricordi scolastici, suggerisco un modo per esemplificare il concetto.
Cosa succede se faccio la fotocopia della fotocopia della fotocopia… fino a quando non si esaurisce il toner? Semplice: l’ultima copia fa schifo! Forse vi è già capitato di vederne una.
32. La malattia artificiale
Mi sono improvvisato cameriere e ho appena chiesto a ChatGPT-4o se preferisce un'insalatona di notizie fresche oppure una bistecca di notizie frollate dall'intelligenza artificiale generativa. Questa la sua risposta stereotipata: “Come chatbot, non ho preferenze personali, dato che non ho coscienza o sentimenti”. Sì, vabbè, e io sono il computer HAL 9000. Allora le chiedo qualcosa sul morbo della mucca pazza e subito lo associa alla bistecca (!?). Ammette finalmente che potrebbe diventare poco accurata cibandosi di notizie frollate da altre reti neurali. Una vera e propria confessione che conferma la clamorosa scoperta, di qualche università, della prima malattia artificiale che può colpire i chatbot, denominata MADness (Model Autophagy Disorder); la traduzione del termine anglosassone è follia. Che non sia una variante dell'effetto propagazione degli errori? Lo dico però sottovoce per non rovinare l'effetto sorpresa del morbo dell'IA pazza.