DK10x21 - Rancore

Ascolta l'episodio su Spreaker.com

Uno ci prova a cercare il lato positivo, a pensare che non proprio tutto sta andando a scatafascio, a non essere ogni volta quello incazzato.

Allora trovi una notiziola di colore con quello di turno a rendersi ridicolo. Poi, però, quel vizio maledetto di mettersi a pensare.

Sigla.

La notiziola di colore che avevo trovato era questa: negli USA, un avvocato ha ripetutamente presentato al giudice dei documenti non solo scritti con la IA, ma infarciti di precedenti inventati. E finalmente il giudice ha deciso di averne abbastanza, e ha annullato il procedimento.

Ormai cose di questo genere non fanno più quasi nemmeno notizia, e invece io vorrei che ci fermassimo un momento a riflettere.

Perché l'avvocatura, come l'ingegneria, è una delle professioni più culturalmente consolidate. E quando dico professione intendo proprio in senso formale; occorre un preciso percorso di studi, il superamento di un esame specifico, l'iscrizione a un albo. Non si diventa avvocati (e nemmeno ingegneri) solo con la passione e a forza di tentativi ed errori.

Eppure, oggi un avvocato non si pone più il problema di scrivere scempiaggini in un documento per la Corte. Non teme più il ridicolo, non teme il giudizio dei suoi pari, che evidentemente sente dalla stessa parte.

E non lo fa per risparmiare un'ora o due di lavoro, sia chiaro. Negli USA un avvocato che fa litigation viene pagato centinaia di dollari l'ora. Quindi palesemente la IA gli serve solo per poter produrre più documenti che fatturerà a prezzo pieno, come se li avesse scritti a mano.

Il solo problema dell'avvocato della notiziola è che ha trovato un giudice vecchio stampo.
Ma poi ho trovato un'altra notiziola, dello scorso luglio:

Il giudice Julien Xavier Neals del Distretto del New Jersey, che ha dovuto ritirare l'intera sentenza dopo che un avvocato gli ha cortesemente fatto notare che era piena di citazioni inventate, riferimenti a precedenti inesistenti e giudizi completamente fraintesi.

Quindi non è solo un problema di avvocati. I modelli linguistici sono un cancro che sta erodendo l'intero settore legale.

Ora, supporre che ci sia un'epidemia di imbecillità è un'ipotesi azzardata. Quello che osserviamo si spiega molto più semplicemente.

Cupidigia; ignoranza; ingenuità; pigrizia; e quel sottile senso di volersi sentire più furbo degli altri che possiamo chiamare stronzaggine, ispirandoci a Frankfurt.

Sono difetti comuni a tutti gli esseri umani. L'occasione, si dice, fa l'uomo ladro. I modelli linguistici sono lì a promettere l'occasione, e tutta la stampa, da tre anni, ripete a testate unificate le psicosi allucinatorie dei loro venditori.

Voglio dire che i cosiddetti "ricercatori" di Anthropic ormai vanno in giro a dire di non essere sicuri che i loro generatori di testo non stiano, in fin dei conti, diventando coscienti. E invece di un ricovero coatto sotto antipsicotici finiscono sulla stampa.

Il danno cui dovremo rimediare è enorme. Ammesso e non concesso che riusciremo a ripararlo, perché la psicosi dell'intelligenza artificiale probabilmente crollerà economicamente prima di poter essere demolita culturalmente.

Voglio dire che OpenAI e compagnia andranno in liquidazione prima che uno scandalo di portata sufficiente possa dimostrare che questa storia dell'Intelligenza Artificiale era solo un'allucinazione collettiva.

E siccome quando la bolla scoppierà saremo tutti troppo impegnati a rimettere insieme i cocci dell'economia, gli Altman, gli Amodei, gli Yudkovski, potranno continuare a dire che il problema è stato non avere abbastanza fondi, abbastanza tempo, che con un po' più degli uni e dell'altro...

E invece sarebbe così importante che, prima del crollo, questi truffatori venissero riconosciuti per i ciarlatani psicotici che sono.

E sarebbe anche il caso di dire criminali. Perché il cancro dei modelli linguistici sta erodendo la ricerca scientifica; il modello della peer review sta soccombendo al diluvio di articoli di ricerca fatti da modelli linguistici, con minimo apporto dei cosiddetti autori. E anche se molti vengono respinti, quelli che vengono accettati producono citazioni che vengono immediatamente incorporate in altri articoli, corrodendo in modo irreversibile la distinzione fra conoscenza scientifica e merda glassata.

Secoli di patrimonio culturale resi inservibili in meno di una generazione. Un danno epistemologico il cui unico termine di paragone mi sembra il rogo della Biblioteca di Alessandria.
Quando ci risveglieremo da questa allucinazione, questo sarà il prezzo che dovremo pagare. La ricostruzione del corpus di intere discipline, ripulito dalle incrostazioni dei modelli linguistici.

E fin qui abbiamo parlato di professioni formali, consolidate.

Immaginate cosa sta succedendo all'informatica, un settore dove ormai da trent'anni la "passione per il computer" e procedere per tentativi hanno rimpiazzato qualsiasi corso di studi come filtro di ingresso.

L'intero settore dell'open source, che è allo stesso tempo vitale per l'intera economia digitale e quasi completamente in mano a volontari, sta venendo sommerso da richieste generate dai vari copilot e compagnia in mano a ragazzotti che non hanno idea di cosa stanno facendo.

I geni di Anthropic hanno messo assieme un gruppo dei loro cosiddetti "agenti" e sono riusciti a creare un compilatore C che compila. Una volta

E perfino molti miei colleghi se la bevono senza capire che, come sempre, il cosiddetto "progresso tecnologico" ha come scopo principale non tanto l'aumento della produttività, né il miglioramento della qualità, ma la riduzione dei costi umani.

Al tuo capo non importa che la IA possa fare veramente il tuo lavoro. Gli basta che ne faccia metà, così può pagarti la metà per fare il resto.

E quelli che si illudono che alla fine verranno pagati di più per rimettere a posto i cocci non hanno capito quale parte della bilancia fa pendere il capitale.

Ci sono gli esempi degli ultimi tre secoli di sviluppo industriale, per chi vuole informarsi.

Depresso? Mai. Sono incazzato nero, e quando la bolla scoppierà, io non dimenticherò nemmeno uno degli utili idioti che l'hanno creata, di quelli che l'hanno fatta crescere, di quelli che hanno fiutato l'aria e si sono allineati.

Li aspetto tutti sulla riva del fiume...