DK9x03 - Altman non capisce

Ascolta l'episodio su Spreaker.com

L'algopirla per antonomasia, l'uomo che ha risposto all'eterna domanda "e sti cazzi?" dando al mondo chatGPT, il bimbominkia dell'Intelligenza Artificiale, è tornato, e come sempre sta facendo notizia con le sue ultime pippe mentali, perché nel digitale non c'è niente di più serio di cui occuparsi.

Perciò, visto che sono l'unico a non gridare al genio ogni volta che ne spara una, oggi ci tocca parlare del fatto che Sam Altman non capisce quello di cui parla con tanta sicumera, guarda caso proprio come chatGPT.

Sigla.

Ammetto di stupirmi del fatto che i giornali italiani non hanno ancora dato risalto alla notizia che Sam Altman ha fatto un nuovo post sul suo blog per ripetere la solita manfrina della IA come la intende lui che cambierà, rivoluzionerà, aiuterà, migliorerà, e via futurando. Il post ha un titolo che è un gioiello odiumilta e understatement: L'era dell'intelligenza.

Il post è la solita solfa di promesse convenientemente vaghe e senza scadenza precisa, come si confa a qualsiasi fuffaguru.
L'incipit sembra uscito da un pieghevole su Bitcoin:

nel prossimo paio di decenni, saremo in grado di fare cose che ai nostri nonni sarebbero sembrate magia.

Ora, basta essere nati prima dei cellulari per vedere attorno a sé un mondo che se non è magico di sicuro eguaglia e spesso supera quello che sognava la fantascienza.

Vi ricordate Wargames, il film di John Badham? A parte che è ancora un gran film, ma vi ricordate quei computer? E quei monitor? E gli schermi del NORAD che sembravano Asteroid? L'accoppiatore acustico? E l'immancabile voce del computer?

Parliamo di un film uscito nel 1983, e la tecnologia di oggi sembra fantascienza.

Quindi grazie Sam, ma sappiamo già come funziona il progresso tecnologico, alcuni di noi lo hanno addirittura studiato, pensa un po'. Però grazie, eh.

Andiamo avanti. Dopo qualche altro paragrafo di banalità sconcertanti in cui ci ricorda che come specie siamo passati dalla pastorizia nomade all'agricoltura all'industrializzazione, Altman torna in modalità Bitcoin e ci sciorina la solita litania: ognuno di noi avrà delle IA esperte che lo aiuteranno, i ragazzi avranno maestri IA e poi di sicuro ci saranno vantaggi anche nella sanità, però qui Altman non si sbilancia. E ovviamente, con tutte queste nuove capacità, ci sarà prosperità a un livello che oggi sembra inimmaginabile.

Non so voi, ma io questa cosa della prosperità e dell'abbondanza l'ho già sentita. Tipo ogni anno dal 2000 in poi, più o meno.

Qui facciamo una digressione. Negli ultimi trent'anni il progresso nel digitale è stato stratosferico.

Ma voi vi sentite più prosperi di trent'anni fa?

No, ci scommetto. Perché il progresso sociale non è semplicemente esistito, con buona pace degli spacciatori di prosperità.

Nel 1990, il mio primo lavoro, settimo livello metalmeccanici, pagava 1.800mila lire al mese, nette, con la tredicesima.

Quella cifra, oggi, equivale secondo ISTAT esattamente a 2026.58€. Ed era un primo lavoro.

Se oggi lavorassi in Italia potrei ambire a un "buono stipendio", attorno ai 1800 euro, a patto di trovarlo, cioè meno, in termini reali, di quello che prendevo da neolaureato trent'anni fa.

Le retribuzioni sono ferme da trent'anni, ma secondo Sam Altman basta lasciar fare a lui e quelli come lui e vivremo tutti nell'abbondanza.

Mi spiace ma non ci credo. Non è cattiveria, è che sta storia l'ho già sentita e ho già visto come finisce, non mi interessa il bis.

Siccome Sam Altman è molto intelligente, si affretta a spiegarci che la prosperità da sola non garantisce la felicità e che anzi ci sono, parole sue, "plenty of miserable rich people" ovverossia un sacco di persone ricche che se la passano molto male. A me, da lontano, sembrava più che ci fosse un sacco di ricchi imbecilli, ma appunto li vedo soltanto da lontano.

Ma è palesemente solo un pour parler, il nostro cambia di nuovo discorso per dire che è tutto merito della scoperta dei microprocessori, e infila questa perla, cito:

è possibile che potremmo disporre della super intelligenza in poche migliaia di giorni; potrebbe volerci di più ma sono fiducioso che ci arriveremo.

Qui sorge il dubbio se Altman stia tentando la battuta o se parli, diciamo così, sul serio. L'ego del personaggio è tale da suggerirmi che stia tentando il battutone. Lascio a voi giudicarne l'efficacia.

Mi limito ad osservare due cose: la prima è l'assurdità dell'unità di misura, che un po' di psicologia spicciola mi suggerisce derivare dallo sforzo di nascondere verità fastidiose.

La seconda cosa è che "poche" vuol dire come minimo più di due. E tre migliaia di giorni sono dieci anni e passa.

Quindi Altman ci sta dicendo che lui fa previsioni a dieci anni. Ma mecojoni, proprio.

Vi faccio notare che nemmeno i futurologi di professione hanno mai davvero azzeccato una previsione a dieci anni. Bill Gates che, quando non si fa inseguire dagli africani inferociti per i disastri che la sua fondazione fa per "aiutarli" a migliorare le tecniche agricole, va in giro a fare il grande saggio e a spiegare agli altri come sarà il futuro, è giustamente famoso per avere sentenziato che Internet sarebbe stata una moda passeggera.

Il più furbo dei futurologi, Raymond Kurzweil, passa per futurologo perché l'ha sparata grossa nel 2005 prevedendo l'AGI per il 2029, e ora che ci siamo vicini e non c'è niente all'orizzonte, da gran furbacchione quale è fa finta di ribadire la sua previsione di vent'anni fa ma intanto ne spara una ancora più grossa, e convenientemente più in là nel tempo, secondo cui nel 2045 raggiungeremmo la Artificial SuperIntelligence e ci fonderemo con le macchine nella Singolarità.

Ma torniamo ad Altman. Se il suo post fosse tutto qui non varrebbe nemmeno la pena parlarne, è il solito sproloquio di meraviglie a venire, naturalmente pro domo sua, perché quelle meraviglie sono tutte condizionate al fatto che Altman e compagnia continuino a ricevere fiumi di finanziamenti a fronte di esattamente zero risultati nei bilanci.

Non lo dico io, lo dice l'Economist, che non può essere certo tacciato di animosità nei confronti dei riccastri.

Il motivo per cui dedico a una puntata al post di Altman è che Altman mette nero su bianco di avere un'idea del Machine Learning come potrebbe averla un ragazzino delle medie.

Sentite, e cito:

Come siamo arrivati sulla soglia del prossimo balzo verso la prosperità?
In tre parole: il Deep Learning funziona.
[...] l'umanità ha scoperto un algoritmo che può veramente, realmente apprendere ogni distribuzione di dati o, in realtà, le regole sottostanti che producono qualsiasi distribuzione di dati.

Ho un problema con questa frase: questo è il livello di analisi di un articolo del Corriere. O di un ragazzino delle medie.

Se un mio studente mi parlasse di machine learning così, senza immediatamente contestualizzare queste affermazioni, gli direi di rivederci fra due appelli, minimo.

Ok, spieghiamo. Gli algoritmi di ML possono imitare e replicare, Altman dice "apprendere" perché è in preda alle sue visioni mistiche, qualsiasi distribuzione di dati.

Qui Altman cerca di usare parole tecniche per darsi importanza. Il problema è che Altman non è un ingegnere, e nemmeno uno scienziato; è uno della generazione che ha lasciato l'università quando ha capito che un minimo di manualità, la lingua sciolta e le relazioni gli avrebbero fatto guadagnare di più delle competenze tecniche.

È quello che si chiama un CEO "non tecnico", cioè un piazzista con il look, le relazioni e il vocabolario giusto, che potrebbe vendere Intelligenza Artificiale come pneumatici, esattamente allo stesso livello di competenza.

Ma il finto gergo tecnico non basta ad Altman per nascondere il fatto che sta parlando per sentito dire, di cose che non capisce.

Mettiamo la cosa in termini semplici: il machine learning è una serie di tecniche che permettono a un algoritmo di replicare qualsiasi cosa su cui sia stato addestrato: le sequenze delle parole in una data lingua, lo stile poetico o retorico di un dato autore, un insieme di movimenti da compiere, eccetera.

Ovviamente, il machine learning non "impara" in qualsiasi senso realistico, ma si "adatta" a replicare quello che ha imparato.

Questo è il bello, e contemporaneamente questo è il problema.
Quando Altman dice che l'algoritmo individua le "regole sottostanti" a un certo comportamento, sta dicendo un'idiozia sesquipedale, poiché per ogni comportamento esistono infiniti insiemi di regole in grado di generarlo.

Vediamo di capirci, sempre in termini semplici.

Facciamo un gioco, vi va? Conoscete tutti "Unisci i punti" della Settimana enigmistica, no?

Prendiamo due fogli bianchi. Su uno, di nascosto, io devo tracciare una linea. Poi metto il secondo sopra il primo e segno e in trasparenza segno due punti per i quali la mia linea passa. Vi dò il secondo fogilo e se voi riuscite a disegnare esattamente la stessa linea che ho fatto io, vincete, se no io devo segnare sul vostro foglio un altro punto per cui passa la linea. Andiamo avanti così fino a quando non indovinate. Quando indovinate, ci scambiamo i ruoli, e vediamo chi indovina con meno suggerimenti.

Ovviamente se per "linea" intendiamo una linea retta, tutti ci ricordiamo dalle medie che per due punti passa una e una sola retta, e il gioco è banalissimo. Ma diciamo che la linea può essere curva, annodata, può perfino interrompersi e riprendere dopo un po'.

A questo punto è chiaro che per indovinare due soli punti segnati sul foglio non vi bastano più. Allora diciamo che ne segno dieci, o cento. O mille. A un certo punto i punti saranno abbastanza fitti che semplicemente unendoli vi sentirete sicuri di indovinare.

Oppure io sono stato così fetente che fra un punto e l'altro di quelli che vi ho segnato, la mia linea fa le peggio cose.

Il punto è che voi non potete essere certi di indovinare.

A questo punto miglioriamo il gioco.

Io traccio la mia linea su un foglio a quadretti A3. Poi prendo un foglio A4, lo metto esattamente al centro dell'A3 e voi potete scegliere quanti punti devo segnare sul vostro foglio.

Voi dite "centomila punti" e io segno. I punti sono così fitti che praticamente si toccano, e voi siete tutti contenti. Certo, se io per disegnare avessi usato una lente...

A questo punto mettiamo il vostro foglio al centro di un altro foglio A3, bianco, e basandovi su quello che avete disegnato nel foglio A4, dovete disegnare il resto.

Vi è assolutamente chiaro che non avete alcuna idea di come sia la curva nel resto del mio foglio A3?

Vi è assolutamente chiaro che se invece di "centomila" diceste "un milione", la vostra capacità di indovinare la curva che io ho disegnato fuori dal foglio A4 non cambia di una virgola?

Vi è assolutamente chiaro che chiunque dica che basta aumentare il numero di punti per arrivare alla certezza, non dico probabilità, dico certezza, di come è disegnata la curva dentro e fuori dal foglio A4 sta cercando di prendervi in giro?

Bene. Complimenti, avete capito il Machine Learning meglio di Sam Altman. L'addestramento dell'algoritmo sono semplicemente i puntini che dovete unire.

E in effetti il Machine Learning fa esattamente quello: riproduce quello su cui è stato addestrato, come voi con il limite che quando congiunge due punti sta dando per scontato che si congiungano direttamente senza arzigogoli.

E come voi fuori dal foglio A4, brancola nel buio di fronte a qualcosa che sia nuovo o diverso.

Se non ci credete, potete provare a mettervi fra un braccio robot che fa le saldature e la portiera dell'auto che deve saldare e vedere l'effetto che fa.

pausa

Altman è convinto che con abbastanza dati si possa riprodurre qualsiasi comportamento, e quindi avere la risposta a qualsiasi domanda, fino a ritrovarsi in pratica dio dentro al computer.

Ma questo è il dogma fondamentale degli Algopirla. Questo, in termini popolari, è come dire che siccome negli ultimi tre giorni c'è stato il sole allora ci sarà il sole anche domani. O che se oggi hai ordinato una Margherita, lo farai anche domani

Questa è la comprensione del mondo di un bambino di sei anni. O degli algoritmi di recommendation. O di un adulto che ha seri problemi con la realtà.

Da quando sono arrivati i Big Data, il problema che ho sempre visto è che i dati non sono quella cosa un tanto al chilo su cui hanno costruito intere industrie.

Se vuoi usare i dati come strumento decisionale devi avere i dati pertinenti, aggiornati, corretti, e ovviamente il tuo strumento sarà limitato al foglio A4, al contesto specifico cui quei dati fanno riferimento.

Vuol dire che se vendi zoccoli, e hai i dati di vendita in Italia, puoi ragionevolmente pianificare la produzione per l'Italia per il prossimo anno. Ma le tue previsioni non valgono la carta su cui le stampi se entri nel mercato belga, o libanese, o se metti sul mercato un mocassino.

Ripeto queste cose da almeno quindici anni, e nel frattempo ci sono intere industrie che usano i dati di vendita di zoccoli in Italia per avere decisioni data-based riguardo alle forniture di gelati in Ungheria.

Il fatto che Altman possa scrivere idiozie sesquipedali e continuare ad essere riverito non solo come se sapesse di cosa parla, ma come se fosse un genio visionario anziché il cialtrone allucinato che è, mi dice che siamo ancora lontani dal vedere la fine del tunnel.

Ma il fatto che Altman debba rilanciare con nuove e mirabolanti promesse, quando da sempre più parti ci si accorge che le cosiddette IA servono a qualcosina ma di sicuro non cambiano il mondo, e soprattutto non generano fatturato, mi dice che alla fine del tunnel ci stiamo avvicinando velocemente.