DK9x14 - Idol_AI_tria

Ascolta l'episodio su Spreaker.com

Se pensavate che il caso del Gesù digitale nella chiesa svizzera fosse dovuto a un eccesso di Emmental nella dieta, fatevene una ragione perché non si tratta affatto di un caso isolato: siamo ormai all'idolatria.

Sigla. AUDIO: tema DK

Body

DeepMind e le persone simulate

Sono anni ormai che c'è un sottobosco di servizi per creare repliche digitali di defunti. Vi ricordate quando arrivarono le prime cornici digitali?

Qualche mese dopo le pompe funebri à la page avevano già le lapidi con inclusa la cornice digitale, il sensore di prossimità per accenderla in automatico e gli altoparlanti per il commento sonoro.

Che, per i più previdenti, poteva anche essere registrato a voce prima della dipartita.

Adesso ovviamente ci sono i modelli linguistici che possono venire istruiti con materiali scritti e sonori del caro estinto e non si limitano a fare il replay, ma offrono l'illusione di rispondere a tono, proprio come avrebbe fatto la buonanima.

E fin qui saremmo ancora nell'ambito della normalità di una cultura tanto terrorizzata dalla morte quando ipnotizzata dalla tecnologia; ma naturalmente c'è di più e di peggio.

Seguendo la parola d'ordine degli agenti intelligenti, l'ultimo tentativo in ordine di tempo per trovare una qualche applicazione pratica a una tecnologia sostanzialmente inutile, oscenamente dispendiosa, e soprattutto basata sul furto generalizzato di proprietà intellettuale, i pezzi grossi dei modelli linguistici si stanno inventando la riproduzione digitale di esseri umani.

In un paper a cui ha partecipato anche Google DeepMind, si parla esplicitamente della simulazione tramite agenti intelligenti di addirittura 1000 persone.

La cosa funziona così: prendono mille tizi a caso, gli fanno due ore di interviste qualitative, cioè test di personalità come Big 5 e General Social Survey, giochi a sfondo economico, più domande aperte sulle esperienze salienti della loro vita.

Poi prendono tutto questo ambaradan, e lo usano come training per un'architettura di AI generativa "ad agenti". Il risultato, dicono, è che se poi fai una serie di domande prima al modello così costruito e poi alle persone, le risposte coincidono all'85%.

E tutto questo sbttimento perché?

Meredith Ringle Morris, di DeepMind, ha detto:

“Prevediamo che nell'arco della nostra vita potrebbe diventare una pratica comune per le persone creare un agente AI personalizzato per interagire con i propri cari e/o con il mondo in generale dopo la morte; in effetti, nell'ultimo anno si è assistito a un boom di startup che pretendono di offrire tali servizi”.

Ora, è chiaro che un ricercatore che vuole rimanere tale razionalizzerà qualsiasi cosa, ma se qualcuno è disposto a credere che DeepMind faccia tutto questo per farci parlare con la nonna trapassata, ho un'interessantissima fontana in zona Roma centro da vendergli.

pausa

Panasonic e il costrutto del fondatore

Siccome magari qualcuno non ha ancora chiaro ove voglio andare a parare, ecco un'altra notizia degna di nota sull'argomento, da The Register:

Panasonic riporta in vita il proprio fondatore come una IA

Quando ho letto la notizia pensavo di essere finito per sbaglio su The Onion. Invece no, è un fatto reale.

A quanto pare il fondatore di Panasonic, Kōnosuke Matsushita, come ogni fondatore che si rispetti, aveva la sua personale filosofia di management, chiamata Basic Management Policy.

Il problema sarebbe che, siccome Matsushita è morto nel 1989, ossia trentacinque anni fa, il numero dei suoi discepoli diretti sta cominciando rapidamente a declinare.

E siccome come ogni fondatore che si rispetti anche Matsushita ha i suoi devoti seguaci, proprio come Jobs e Gates, come garantire che anche le nuove generazioni possano avere una esperienza di prima mano del fondatore e come sfatare il terribile pericolo di essere costretti magari ad adeguare i suoi insegnamenti ai tempi correnti? In fin dei conti il buon Kōnosuke, classe 1894, produceva perle come:

La visione dell'azienda deve essere guidata dalle aspirazioni dei propri clienti

e

Tratta le persone con cui fai affari come se fossero parte della sua famiglia.

e perfino

Il possesso di comodità materiali non garantisce in alcun modo la felicità. Solo la ricchezza spirituale può dare la vera felicità.

Come vedete, roba forte. Soprattutto utile da avere a portata di mano se volete anche voi farvi scrivere un'agiografia da Walter Isaacson, o da qualche altro cantore a tassametro.

Ad ogni modo, per garantire ai posteri la saggezza del fondatore, il Peace and Happiness through Prosperity Institute (creato dal fondatore stesso) ha digitalizzato 3000 registrazioni di Matsushita, più tutti i suoi scritti, conferenze e interviste.

Con tutto questo materiale hanno sviluppato un avatar basato su modelli linguistici che, a detta loro, "imita il modo di pensare e di parlare di Matsushita".

Non contenta, Panasonic vuole aggiungere anche materiali di dirigenti e ricercatori che hanno avuto contatti diretti con il fondatore, in modo da, cito,

aiutare gli utenti a prendere decisioni gestionali in base a ciò che il fondatore avrebbe potuto pensare riguardo a una certa situazione.

Chiunque abbia letto la trilogia dello Sprawl di Gibson ricorda sicuramente il costrutto di Dixie Flatline. L'avatar di Matsushita non ci arriva nemmeno vicino, ma l'ispirazione è quella. Solo che a differenza del Flatiline, un modello linguistico non è solo un motore per generare previsioni sotto forma di frasi. A volte le previsioni sono corrette, a volte no, il motore funziona allo stesso modo in entrambi i casi.

Io dico che rispetto a questi giapponesi in estasi mistica, gli evangelisti americani per i quali la risposta a ogni problema è "cosa farebbe Gesù?" sembrano perfino persone equilibrate.

pausa

Quindi ora occorre rispondere alla domanda: "perché?", cosa c'è dietro questa corsa alla replica digitale delle persone, che si tratti del Reverendo Fondatore, di nonna buonanima, o semplicemente di chicchessia?

Io la vedo così:

1. dal punto di vista individuale, creare un simulacro di un caro defunto non è altro che l'espressione della propria incapacità di accettarne la morte; ma ognuno è libero di fare come crede, e l'industria degli Avatar dei defunti non la considero un problema sociale; al contrario, sta nascendo un'industria con mire molto più ampie;
2. la simulazione di esseri senzienti tramite LLM è a tutti gli effetti la costruzione di un oracolo e la creazione di un culto; e questo, fuori dall'ambito dell'uso individuale è pericoloso perché;
3. un culto serve a stabilire e consolidare il potere del clero.

Mi spiego: chi controlla l'avatar di Panasonic controlla Panasonic. Chi controlla le mille persone simulate può controllare le mille persone.

Qui "controlla" significa:

1. essere in grado di influire sul modo in cui viene generata la risposta, ad esempio in fase di training, o in fase di prompting;
2. definire una ortodossia che fissi limiti e criteri precisi per interpretare le risposte dell'oracolo, primo fra tutti che l'interpretazione è esclusiva del clero.

I pochi dirigenti rimasti in Panasonic a poter vantare contatti diretti con il fondatore, con l'arrivo della sua versione digitalizzata assurgono al rango di Alti Sacerdoti.
Pensateci.

Siamo disposti a credere che un LLM nutrito a cartigli dei baci perugina risponderà ai dubbi gestionali in modo fattuale? Io non credo.

Occorrerà interpretare il responso dell'oracolo? Certo. Già questo significa la creazione di un clero.

Ma il vero potere non andrà tanto a chi saprà interpretare il responso dell'oracolo per conto terzi.

Il vero potere sarà di chi saprà presentare la propria agenda e le proprie decisioni in un modo che sia coerente con i dettami dell'oracolo. La Chiesa Cattolica ci insegna che questo genere di cose funziona.

E al di fuori di Panasonic? Stessa storia.

Le aziende si sono bevute per anni l'idea che i social garantissero le famose "pubblicità mirate". Quelle per cui tu compri un frullatore su Amazon e per i dieci anni successivi ricevi offerte personalizzatissime di frullatori, per intenderci.

ora, chiunque abbia occhi per vedere sa da anni che le cosiddette pubblicità mirate sono una bufala, non fosse altro che lo ripeto dal 2016. Il guaio, però, è che le pubblicità mirate sono una bufala soltanto per il consumatore, perché tutta la targhettizzazione del mondo non basta a far avere a ciascuna persona esattamente le pubblicità che sono interessanti per lei.

Le pubblicità mirate funzionano soltanto in senso statistico, il che significa che hanno senso per le aziende che le pagano: giustificano i budget promozionali, e comunque hanno dei risultati tangibili sulle vendite, per il semplice fatto che qualunque tipo di promozione ha dei risultati tangibili sulle vendite, e se un certo tipo di promozione funziona, nessuno cerca una promozione di tipo diverso.

Questo è il motivo per il quale, nonostante ci siano da anni studi che dicono che le pubblicità mirate hanno la stessa efficacia delle semplicissime pubblicità contestuali, ovverossia vedere delle pubblicità di canne da pesca in una rivista delicata alla pesca, nessuno discute il dogma delle pubblicità mirate, ci sono semplicemente troppi soldi in ballo.

E siccome comunque, alla fine, paga tutto il consumatore, nessuno ha interesse in un'industria della pubblicità che che richieda minore dispendio economico.

Non è ancora tutto: la disponibilità tecnologica e soprattutto l'accettabilità culturale e sociale di simulazioni di essere senzienti è molto appetibile anche per i nostri governanti e i nostri politici.

Con un pizzico di fortuna, per modo di dire, la dittatura dei sondaggi verrà via via rimpiazzata dalla dittatura dei sondaggi simulati. Dal punto di vista della tenuta sociale della democrazia, questo è estremamente pericoloso, perché i sondaggi condotti su simulazioni saranno ancora più manipolabili che non le tradizionali ricerche demoscopiche.

Purtroppo ci troviamo in un momento storico nel quale il culto della tecnologia è dominante. Se c'è una discrepanza fra la realtà dei fatti e la rappresentazione che la tecnologia dà di quei fatti, è la realtà a doversi adattare.

Con la scusa dell'intelligenza artificiale, ci ritroviamo con algoritmi opachi che decidono l'allocazione di risorse pubbliche, decidono se abbiamo diritto di asilo, o a un prestito o un mutuo sulla base del nostro quartiere di residenza, decidono se dobbiamo avere dei sussidi, decidono la pena a cui dobbiamo sottostare sulla base della loro valutazione della nostra possibilità di recidiva.

Decidono se siamo idonei per una certa posizione lavorativa, o per un aumento.

E quasi sempre noi non abbiamo voce in capitolo. La macchina ha deciso in un certo modo, e le nostre obiezioni si scontrano con una stupida, banale ma impenetrabile impossibilità burocratica.

Ci sono interi scaffali di studi che dimostrano inequivocabilmente che questo genere di applicazioni non fa altro che riprodurre i bias esistenti, facendosi beffe del concetto di equità.

Ma siccome i risultati supportano specifiche agende economiche e politiche, la discussione sulla appropriatezza di queste tecnologie non va aldilà di un ridotto ambito accademico

Ridotto perché anche nell'Accademia le risorse vanno a chi è disposto a farsi cantore, non a quelli che insistono a voler stonare nel coro.

Questa è la naturale conclusione di un processo iniziato anni fa, quando i social hanno dato il via alla allucinazione condivisa riguardo alle capacità predittive dei dati che raccoglievano.

Ricordate anni fa quel profluvio di articoli del tipo "Facebook con sole otto domande ti conosce meglio di tua madre", oppure "con soli 10 clic Facebook ti conosce meglio del tuo migliore amico"?

Con le cosiddette intelligenze artificiali ci troviamo di fronte allo stesso tipo di inganno, e0 come sempre con gli stessi risultati scadenti, ma con più tecnologia e con un'impronta ambientale ancora più spaventosa.

E non è tutto, perché le intelligenze artificiali si portano dietro fin dal nome un altro rischio sociale enorme: l'antropomorfizzazione. Ormai non passa giorno che non si legga di questo o quel modello linguistico che "pensa", "vuole", "crede ".

Il fatto che la sola cosa che un modello linguistico può fare sia calcolare è ormai un concetto completamente dimenticato dal grande pubblico.

Se fino a ieri si poteva denunciare il culto, la religione della tecnologia come qualcosa di disumanizzante, questo non è più possibile ora che questo culto ha prodotto dei propri idoli, che non sono in carne e ossa, e che non sono nemmeno lontanamente umani, ma che vengono spacciati addirittura per sovrumani.

Allo stesso modo in cui gli ingegneri di Tesla volevano eliminare i pedoni per facilitare il traffico delle loro macchine robot, i sacerdoti di OpenAI, di Anthropic, di Google spingono per marginalizzare gli esseri umani, con la loro testarda individualità, con le loro fisime, a favore di loro "repliche digitali", che garantiscano uniformità di giudizio e maggiore efficacia di controllo.

Se continuiamo a lasciare che questi algopirla, questi idioti della tecnologia dettino l'agenda delle nostre democrazie, ci ritroveremo presto con il problema di avere torto a pensarla diversamente da quello che i loro modelli predittivi, e tutte le manine che li regolano, hanno deciso che dovremmo pensare.

E con questo vi lascio finalmente alle vacanze di Natale, al capodanno, ai vostri cari, alle vostre famiglie, e alla vita reale.

Ai deliri e alle allucinazioni degli algopirla ci ripensiamo con l'anno nuovo.

State bene.