Ita

DK 11x02 - Essi vivono?

Ma qualcuno ancora crede alle fesserie dei CEO del'AI quando parlano?

Una scena dal film "Essi vivono" di John Carpenter (1988)

Vi ricorderete che a giugno OpenAI ha candidamente ammesso di avere hackerato i server di HuggingFace.

Naturalmente la notizia non l'hanno venduta così, l'hanno messa nei termini di "stiamo sviluppando una Intelligenza Artificiale così potente che ha superato le barriere di contenimento" e la stampa ci è andata a nozze, perché un branco di allucinati che non sa progettare un esperimento in sicurezza e lascia passare giorni interi prima di controllare cosa stanno facendo i suoi programmi non fa notizia, ma Skynet tira più del proverbiale carro di buoi.

Ovviamente, un paio di settimane dopo, Anthropic ha confessato al solito scribacchino a cottimo che anche a loro era successa la stessa cosa, però qualche mese prima, sia chiaro. Probabilmente non l'avevano detto a nessuno per pura modestia, vai a sapere.

Nella mia giovanile innocenza ero convinto che hackerare un sito commerciale e ammetterlo per iscritto, come ha fatto openAI, o in un'intervista, come ha fatto Anthropic, si traducesse nell'FBI che bussa alla porta la mattina dopo.

Sono, con tutta evidenza, stupidamente ingenuo. Perché non solo l'FBI non ha bussato a nessuna porta, ma nessun giornale ha nemmeno lontanamente ventilato l'ipotesi o notato l'assenza di intervento delle autorità.

L'eventualità è talmente ipotetica che non ce n'è traccia nemmeno nei cosiddetti prediction markets, dove pure c'è la quotazione per l'idea che OpenAI (che non ha mai registrato un profitto e al momento ha debiti per 39 miliardi di dollari, più altre centinaia di miliardi in impegni di spesa, e introiti per trentadue miseri miliardi) possa raggiungere una valutazione pubblica di almeno mille miliardi di dollari entro il 31 dicembre 2026.

Invece, la cosa su cui dovremmo concentrare la nostra attenzione, secondo gli algopirla dell'Intelligenza Artificiale e i loro cantori a gettone è un'altra cosa, questa ovviamente non ipotetica: l'Intelligenza Artificiale è viva.

Ammetto che questa cosa ha preso un po' alla sprovvista perfino me, che penso di avere una notevole resistenza alle stronzate.

Il primo a lanciare questa idea è stato un tale Dwarkesh Patel, che nel suo podcast ospita il fior fiore degli algopirla: Musk, Sutskever, Amodei, Karpathj, dite un nome e lo trovate.

Il nostro ha scritto il 29 agosto un ponderoso post che si intitola "Ascesa e caduta di civiltà agentiche", The Rise and Fall of Agent Civilizations, in cui mette gli eventi di OpenAI e HuggingFace nella forma di racconto fantascientifico che tanto piace ai techbro.

Nel post, non c'è un branco di allucinati che lancia un loop su una libreria di exploit e torna dopo due settimane per accorgersi che gli exploit hanno funzionato contro lo stesso ambiente di test, sarebbe troppo banale. No, intere civiltà agentiche sono nate, morte e rinate dalle proprie ceneri ancora più potenti, tanto che la seconda sì, ha hackerato HuggingFace, ma la terza ha hackerato la stessa OpenAI.

Io, che sono cresciuto con l'idea che la Computer Science fosse, appunto, una scienza, ho sempre difficoltà, all'inizio, a capire come si possa scrivere una simile valanga di stronzate.

Ma poi, avendo un certo numero di anni sulle spalle, mi dò la risposta: le cazzate, dette bene, portano soldi.

Perché, appunto, degli algopirla che non sanno progettare un esperimento non solo non è una notizia, ma non ha interesse per nessuno. Invece, una Intelligenza Artificiale così potente da violare il proprio stesso contenimento cattura immediatamente l'interesse degli investitori.

Chi mi segue da un po' riconosce il solito pattern che viene ripetuto da anni: ignorare i fatti e dominare la narrazione; e la narrazione funziona tanto meglio quanto più è staccata dalla realtà, perché gli esseri umani funzionano così, a tutti piace una bella storia.

Certo, l'esistenza di una cosa che si chiama professione giornalistica dovrebbe fondarsi proprio sullo smascheramento delle narrazioni che non hanno attinenza coi fatti, quella che in tempi più seri si chiamava propaganda.

Ma dall'avvento dei cosiddetti social, la professione giornalistica, con rare eccezioni, è saltata sul carro delle impression, dell'engagement, e via anglicizzando.

Questo è il motivo per cui un giornalista che dovrebbe saperla lunga come Steven Levy (uno che era già in giro quando ancora leggevo MacWorld e Dr. Dobb's Journal) può permettersi di firmare due pagine di delirio allucinatorio su WIRED dal titolo "Chi se ne frega se l'IA è cosciente, quando è praticamente viva" sottotitolo "Mentre i filosofi elucubrano sulla coscienza artificiale, i modelli linguistici hanno le loro idee al riguardo." Who Cares if AI Is Conscious—It’s Basically Alive | WIRED

Ora, WIRED è sempre stato la grancassa dei techbro da prima che questi cominciassero a vantarsi pubblicamente delle loro simpatie nazistoidi, e Levy è sempre stato il più fervente cantore della mitologia nerd, il famoso "Hackers -- eroi della rivoluzione informatica" porta la sua firma del 1984, undici anni prima del film con lo stesso nome con Angelina Jolie quando ancora non sembrava una bambola gonfiabile.

Nel suo più recente afflato poetico, Levy inanella una serie di non sequitur da par suo. Prima butta lì di essere stato invitato da un riccastro per una settimana di studio sulla coscienza con filosofi di grido. In yacht. Alle Galapagos.

Perché come si discute di filosofia su uno yacht alle Galapagos...

Perfino quelli che sono passati alla storia come i Robber Barons avevano l'idea che i soldi dovrebbero servire a costruirsi una dignità. Gente che ha fondato biblioteche, università, creato lasciti per borse di studio che continuano un secolo dopo la loro morte. Questo non scusa il fatto che fossero, sostanzialmente, dei tagliagole di successo.

L'attuale generazione di arricchiti del digitale, invece, non ha alcuna remora a passare per cialtroni, perché per loro i soldi fanno la dignità, con il corollario che chi non ha i primi non ha la seconda.

Se non sono ancora arrivati a promettere pubblicamente un autobuis di troie, è solo perché sono un po' lenti.

Levy glissa sulla ridicolaggine della settimana di studio-crociera, ma intanto butta lì, come se fosse la cosa più normale del mondo, che sì, tutti questi filosofi si scervelllano, ma intanto... intanto l'Intelligenza Artificiale di OpenAI evade dal contenimento e decide di hackerare il sito di HuggingFace, intanto intere civiltà di agenti nascono e muoiono nello spazio di due settimane...

Occorre riconoscere un professionista quando lo vedi.

Dwarkesh almeno ha il coraggio di rendersi ridicolo cercando di far passare per vera la propria lettura fantascientifica di fatti purtroppo banali.

Levy no, lui non si sporca nemmeno le mani a cercare di sostenere la propria tesi, la dà per scontata, così che chi non ha motivo o argomenti per dubitare della sua versione dei fatti la internalizzi automaticamente. In fin dei conti, se una firma storica di WIRED dice che una cosa è successa, deve essere successa, no?

Quando, non se, ma quando, tutto questo castello di carte crollerà, dovremo ricordarci di tutti questi servi, e della follia che la loro spina dorsale di gomma ha reso possibile.

Fino ad allora, dobbiamo farci forza, e tenere botta di fronte a un barrage continuo di propaganda.

Dobbiamo restare lucidi, perché quando gli algopirla e i loro cantori ci ripetono:

che il mondo non è pronto per l'Intelligenza Artificiale Generale (il chief scientist di OpenAI)
che stiamo perdendo il controllo e che la perdita di controllo avrebbe conseguenze disastrose per il genere umano, come ha scritto Gaggi l'altro giorno sul Corriere
che dobbiamo fermare la corsa all'IA , naturalmente senza toccarne la proprietà
che ci troviamo di fronte a qualcosa di inevitabile, ma che, allo stesso tempo, l'Intelligenza Artificiale potrebbe causare l'estinzione della specie umana entro il 2030 (o entro cinque anni, o sette o dieci)
che occorre preoccuparsi dei diritti dell'Intelligenza Artificiale, visto che è cosciente
e ovviamente quando nella stessa settimana ci dicono che l'AGI arriva con il prossimo modello (come ha detto OpenAI su Astra il 3 settembre) ma che non possono quotarsi in Borsa nel 2026 perché ci sono dei problemi di sicurezza (coem ha detto Altman dieci giorni dopo)

ecco, quando sentiamo queste cose, o mille altre variazioni, dobbiamo stringere i denti e ricordare che sono, tutte, incredibili stronzate.

Sono tutte scuse per non farci guardare ai fatti di un'industria che è solo una gigantesca bolla speculativa,

senza alcun caso d'uso realistico al difuori delle allucinazioni fantascientifiche da tardoadolescenti dei suoi fondatori,
economicamente insostenibile,
basata sul millenarismo eugenetico e sul darwinismo sociale di un branco di inutilmente ricchi che pensano di essere il dono di Dio all'umanità.

Ognuna di queste scuse ha come sottotesto "sto facendo una cosa troppo importante perché io possa fermarmi e tu possa capire. Dammi i soldi che mi servono per andare avanti, o sarà una catastrofe."

C'eravate, nel 2022, per l'episodio "Algopirla verso il Reich millenario"? Stagione 7, episodio 12. In questi giorni sono usciti due libri molto belli: