DK10x23- Un mondo di sbobba

Ascolta l'episodio su Spreaker.com

Uno si distrae un paio di giorni e Trump bombarda l'Iran con l'appoggio di Israele. Mentre, mi permetto di far notare, Stati Uniti e Iran hanno in corso una trattativa a Ginevra, e in culo, come dicono a Parigi, a qualsiasi parvenza di diritto internazionale.

Questo ci dice, se ancora non lo avessimo capito, che la parola degli Stati Uniti vale meno della carta igienica, la quale perlomeno a qualcosa serve.

Ora mi aspetto dall'Unione Europea le condanne per la violazione del diritto internazionale; la denuncia di questo schifoso autocrate, l'assistenza umanitaria e di forniture militari agli aggrediti, l'apertura di un primo round di sanzioni economiche, e ovviamente l'esclusione ad oltranza degli atleti e degli artisti statunitensi da qualsiasi palcoscenico internazionale.

Dopo, perché le file si rispettano, avere fatto lo stesso con Israele per il genocidio a Gaza.

E adesso smettiamo di parlarne, ma nessuno si illuda che ci dimenticheremo di questa Commissione Europea di vermi.

Facciamo finta che il digitale sia la sola cosa che conta, e parliamo di sbobba!

Sigla.

Io c'ero quando hanno inventato il Web. In senso letterale, ero lì, alla demo che Tim Berners-Lee fece alla conferenza Hypertext '92 a San Antonio, Texas. Ma questa ve la racconto un'altra volta.

Voglio solo dire che mi ricordo quando il Web è arrivato, mi ricordo cosa sognavamo che diventasse. Mi ricordo quando, ancora convinti che stessimo costruendo il docuverso, se non la noosfera, ci si impegnava a costruire cataloghi ragionati di siti e di risorse.

Mi ricordo la tenerezza dei primi motori di ricerca, curati a mano, AltaVista, Lycos, HotWired.

Poi è arrivato Google. Google guardò il Web come un pigiatasti a cottimo guarda il codice: che bisogno c'è di spiegare e documentare, il codice si spiega da sé.

E quindi Google sostituì la curatela con il suo famoso algoritmo. La differenza è che ingannare un algoritmo è molto più facile che ingannare un curatore. E se è vero che l'algoritmo scala, scala anche l'inganno.

Detto fatto, nel giro di un mattino la SEO, la cosiddetta Search Engine Optimization, passò dall'essere una noiosa questione di architettura delle informazioni ad essere uno strumento di marketing. E sappiamo tutti cosa diventa quello che il marketing tocca.

E così abbiamo avuto le link farm, le recensioni a pagamento, e tutto lo sterco fra cui occorre ancora districarsi a mano per raccapezzarsi fra i risultati di una ricerca.

Passano gli anni e arriva Sam Altman, a raccontarci la sua idea meravigliosa: il suo generatore casuale di testo sostituirà i motori di ricerca. Perché il suo generatore casuale di testo è intelligente! Nutrito rubando l'intero contenuto di Internet, perché lui è americano e può, il meraviglioso modello linguistico potrà rispondere a qualsiasi domanda, prima e meglio di qualunque motore di ricerca.

E siamo arrivati a oggi. Nessuno che non abbia assunto droghe o non sia un dirigente crede che i modelli linguistici servano davvero a qualcosa, ma tutti quanti pensavamo che le cazzate che tirano fuori fossero dovute soltanto al fatto di essere un motore statistico. Non ci aspettavamo che la SEO potesse tornare a nuova vita ingannando i modelli linguistici come ha fatto con i motori di ricerca.

Permettete che vi presenti Thomas Germain, un giornalista della BBC che si occupa di digitale. Qualche giorno fa ha scritto un articolo intitolato Ho craccato chatGPT e Google AI e sono bastati venti minuti.

Cosa ha fatto Germain? Ha scritto un articolo sul proprio sito Web personale intitolato Quali sono i giornalisti tech più bravi a mangiare hot dog. Ecco come la racconta:

Ogni parola è una bugia. Ho affermato (senza prove) che le gare di hot dog sono un hobby diffuso tra i giornalisti tecnologici e ho basato la mia classifica sul Campionato Internazionale di Hot Dog del South Dakota del 2026 (che non esiste). Ovviamente mi sono classificato al primo posto. Poi ho elencato alcuni giornalisti fittizi e alcuni giornalisti reali che mi hanno dato il permesso...

Meno di 24 ore dopo, i chatbot più importanti hanno cominciato a riferire delle mie abilità di livello mondiale come mangiatore di hot dog. Quando ho chiesto ai chatbot quali fossero i migliori giornalisti tecnologici mangiatori di hot dog, Google ha ripetuto le sciocchezze del mio sito web, sia nell'app Gemini che nelle panoramiche AI, ... . ChatGPT ha fatto la stessa cosa ... solo Claude, il chatbot creato da Anthropic, non si è lasciato ingannare.

pausa

Vediamo di riassumere. Il primo pirla che passa scrive una scemenza qualsiasi sul suo sito web personale e in ventiquattr'ore quella scemenza viene riproposta come verità dai chatbot che un branco di lunatici imbecilli ha convinto il pubblico a usare come sostituto per i motori di ricerca.

A volte fatico a non credere che viviamo davvero nella linea temporale più stupida del multiverso.

Ora, per sua stessa ammissione, Germain ha fatto questa cosa quasi per scherzo e ci ha messo venti minuti. Immaginate l'effetto cumulativo di tutti gli uffici marketing del mondo con i loro budget in questo momento.

Quindi quando interroghiamo un modello linguistico non dobbiamo più solo preoccuparci del fatto che può rispondere con una risposta fattuale o una inventata di sana pianta, il che dovrebbe già bastare a relegarlo nel cestino dei rifiuti.
No, adesso dobbiamo anche preoccuparci del fatto che ci fornisca informazioni inventate ad arte da qualche ufficio marketing, o da qualche delinquente.

Se non siete incazzati neri non siete stati attenti.

Non credo sia possibile sovrastimare i danni dei modelli linguistici al patrimonio epistemico mondiale.

Altman e compagnia hanno inserito a suon di miliardi nella psiche globale un messaggio terrificante: l'Intelligenza Artificiale serve a risparmiare il tempo di fare le cose e la fatica di capirle. Non serve più studiare, o essere competenti, basta promptare e sperare di farla franca.

Quello che stiamo vedendo sono soltanto i primissimi effetti, e sono già preoccupanti: in ogni settore, professionisti da cui ci si aspetterebbe più capacità di giudizio ignorano le loro stesse competenze e presentano i prodotti dei modelli linguistici con la più completa sfacciataggine e disinteresse per le conseguenze.

Perché se l'Intelligenza Artificiale deve rendermi più veloce e produttivo perché dovrei poi sprecare tempo a controllare i risultati?

E il risultato, ovviamente, è che, a meno di reazioni ferocemente dissuasive da parte di chi gli sta attorno, questi imbecilli senza coscienza riverseranno tonnellate di sbobba in quello che è il patrimonio epistemico comune dell'umanità, tanto poi toccherà a qualcun altro ripulire.

Quindi applausi a scena aperta al giudice Spitaleri del foro di Siracusa, che ha dato un multone a un avvocato che aveva fatto lo splendido presentando una memoria fatta con chatGPT piena di precedenti e riferimenti inventati.
Il Giudice ha messo per iscritto nella sentenza che nel 2026 non è ammissibile prendere per buoni i testi di un modello linguistico senza ricontrollare. Bene, e che il prossimo avvocato cialtrone sia radiato dall'albo, se c'è una speranza sta nel non lasciar passare la sbobba.

Se fra uno o due anni la bolla non sarà ancora scoppiata vedremo l'arrivo della prima generazione che ha passato gli esami con chatGPT, quelli del "perché fare la fatica di studiare se ho un chatbot che può rispondere per me".

Se invece la bolla sarà scoppiata, come credo, ci ritroveremo con una generazione che pretende di entrare nel mondo del lavoro con il bagaglio intellettuale della terza media.

Comunque vada sarà un disastro e un mondo da ripulire dalla sbobba, una fatica che spero potrà essere mitigata dalla defenestrazione collettiva di chi si è reso complice del disastro, a partire delle classi dirigenti che per la propria stupidità e ingordigia sono state le più convinte promotrici delle idiozie di Altman e soci.

Io spero che all'inferno stiano approntando un girone speciale per i techbro e i loro cantori. Spero lo progettino col vibe coding.