DK10x42 - Un altro digitale è possibile

Ascolta l'episodio su Spreaker.com

E siamo arrivati alla fine della decima stagione. Vi lascio con una riflessione, o con un magone, che mi porto dietro da qualche tempo, e poi facciamo il punto sul Weizenbaum, perché mica credevate che mi fosse passata.

Allora, la riflessione è questa. I prodi imprenditori sono ancora lì a menarla con il GDPR che li limita e li costringe e signora mia dove andremo a finire.

Peccato che dall'approvazione del GDPR siano passati dieci anni e otto dalla sua piena applicabilità. Un bambino nato col GDPR nel 2016 oggi sarebbe in quinta elementare. Anche il più scalucco dei genitori, per la quinta elementare ha imparato quel che c'è da imparare. E oserei dire che un figlio è leggermente più impegnativo di una norma. Per essere gente che straparla di adattarsi, superare gli ostacoli e vincere manco fossero marines, gli imprenditori stanno dimostrando la rapidità di movimento delle placche continentali.

Non è che i problemi delle aziende non esistano, ci mancherebbe. Ma il GDPR diceva semplicemente: coi dati personali, da oggi, si lavora in un modo diverso, e poi ti spiegava come doveva essere questo modo diverso.

I problemi che le aziende lamentano, derivano invariabilmente dal voler continuare a lavorare con i dati personali come se il GDPR non ci fosse. Non so voi, io non provo una travolgente compassione.

In questi anni, poi, l'Europa non è rimasta a guardare. Tutti sono in ginocchio davanti al mito dei founder statunitensi, ma io non capisco. È tutta gente brava a reimmaginare il mondo come se fosse stato creato ieri mattina. E grazie Graziella. Gente che "reinventa" i trasporti, le banche, il lavoro, ignorando esplicitamente tutto quello che è stato fatto prima. Salvo poi arrivare alla lenta e dolorosa scoperta del sorprendentemente ovvio, e cioè che esiste un motivo per cui le cose sono fatte in un certo modo.

Se non devo tenere conto dell'omologazione, dei pedoni, dello stato della carreggiata, delle curve, del traffico, della segnaletica, dell'illuminazione, delle condizioni meteo e delle normative di sicurezza, la faccio anch'io la macchina senza pilota.

Senza depositi di garanzia, senza controlli sulla clientela, senza antiriciclaggio, senza evidenze auditabili, una banca è un foglio Excel con l'interfaccia web.

Ricordate quando le criptovalute dovevano sostituire il contante, senza peraltro averne nessuna caratteristica? O di quando il primo fesso che scrive dieci righe in python doveva reinventare i contratti?

Il branco di deficienti sotto ketamina che ha in mano il digitale vive nell'allucinazione generata dalla Fallacia del Programmatore, ricorderete il falso sillogismo:

1. Si può scrivere un programma per risolvere qualsiasi problema
2. Io so scrivere programmi
3. Ergo, io posso risolvere qualsiasi problema.

La fallacia si fonda sull'assunto surreale che ogni problema sia riconducibile all'ottimizzazione di una qualche funzione matematica. Questo è dimostrabilmente falso per quasi tutti i problemi che hanno a che fare con gli esseri umani, ma è in effetti il sogno comune di molti che cercano di affrontare le scienze sociali come se fossero scienze "dure", economisti in testa, tutta gente che

• cerca di infilare a martellate la realtà nei propri modellini giocattolo,
• fallisce invariabilmente in ogni previsione o indicazione,
• eccelle, cambiando di volta in volta le regole, nello spiegare le cose dopo che sono successe
• e si riduce a fare l'apologetica del darwinismo sociale così gli danno cattedre e consulenze.

Gli algopirla, o techbro, i cazzari del digitale, sono perfino peggio degli economisti, ma questo non significa che le loro azioni siano meno dannose. L'ipotesi di lavoro standard dell'algopirla la possiamo tradurre con "nessuno ha mai pensato a questa cosa", e i risultati sono sotto gli occhi di tutti: nel migliore dei casi, soluzioni a problemi che nessuno si è mai posto, vedi Bitcoin, o finte soluzioni che creano altri problemi senza risolvere quelli di partenza, vedi per esempio le macchine a guida autonoma.

Ma tutto questo ce lo siamo già detto e ripetuto, oggi mi serve solo per dire questo: non ci vuole niente a fare meglio di qualcosa che esiste semplicemente ignorando i vincoli. Infatti qualsiasi algopirla ci riesce.

Il punto è migliorare qualcosa rispettandone i vincoli operativi: che siano ambientali, giuridici, economici o sociali.

E qui veniamo all'Europa. Mentre gli statunitensi si perdevano nella sbronza palingenetica dei social e della cosiddetta Intelligenza Artificiale, l'Europa ragionava. Ragionava sul fatto che i social e la Rete e l'Intelligenza Artificiale non esistono nel vuoto cosmico, ma che presentano alcuni profili di rischio simili a cose già esistenti (reti telefoniche, editoria, eccetera) e alcuni profili di rischio nuovi.

Così, mentre oltreoceano volevano riscrivere tutto da zero secondo i loro porci comodi, in Europa si cercava di tenere i piedi per terra e di regolare, un pezzo alla volta, questa mandria di tecnologi millenaristi.

Non è che in Europa siamo innamorati del passato. È solo che sappiamo che il passato esiste, a differenza degli statunitensi che pensano che il mondo sia iniziato con loro. Passato non significa solo tradizione, significa esperienza. In Europa sappiamo cosa significa quando l'economia diventa monopolio; quando i media si concentrano troppo; quando il produttore non si assume alcuna responsabilità verso il consumatore.

È stato un viaggio lungo, ma ora tutti i pezzi si compongono in quello che si chiama Digital Compact: l'insieme di leggi che regolamentano l'intero settore del digitale.

Abbiamo già parlato di DSA, DMA, di DORA e dell'AI Act. E della PLD2. Ma c'è anche la NIS2 e, da settembre, il Cyber Resilience Act o CRA.

I soliti frignoni vedono ogni regolamento come uno strato ulteriore di problemi. Ma in effetti ciascun regolamento copre una parte differente delle problematiche di un mondo di prodotti interconnessi, transnazionali e con supply chain complesse.

Il digital compact, come il GDPR, dice una cosa semplice: non si può contiuare a vendere prodotti connessi come se non sapessimo quali rischi portano.

A fare un prodotto connesso, con le tecnologie disponibili, non ci vuole nulla. Anzi, costa spesso meno avere una telemetria che consente adattamenti remoti in tempo reale che avere un prodotto non connesso che funzionare affidabilmente in modo autonomo.

Per esempio, NIS2 richiede che il produttore di prodotti connessi garantisca visibilità e controlli comprovabili sulla sicurezza della connessione.

Il CRA dice, non solo hai l'obbligo della visibilità e della security by design, ma devi anche garantire una traccia auditabile del funzionamento, e pianificare in modo opportuno anche il fine vita del prodotto, oltre a garantire tutti gli aggiornamenti periodici. Che, in parole povere, significa addio all'obsolescenza programmata.

Confrontate questa richiesta con una notiziola che mi ha passato oggi il solito impeccabile Daniele: in tutte le automobili moderne esiste una componente del sistema di telemetria che le rende suscettibili di hackeraggio.

O considerate le migliaia di modelli di telecamere di sorveglianza con password hard-coded o addirittura inesistenti, e traffico in chiaro.

O tutti i sistemi di gestione remota dove ogni singolo tecnico ha accesso all'intera rete di apparati.

Ecco, se fino ad oggi cose del genere erano ovviamente spiacevoli ma dovevamo aspettare che il produttore si degnasse di turare le falle, rigorosamente dopo qualche disastro o data breach epocale, invariabilmente accolto con assoluto stupore, da settembre cominciano a diventare vere e proprie responsabilità che il produttore non può più scaricare su nessuno, e per le quali verrà chiamata a rispondere in solido anche la struttura dirigenziale.

Non so voi, ma se davvero l'IoT, l'Internet delle cose, deve diventare una parte normale del funzionamento del mondo, a me queste richieste di legge sembrano un'assoluta ovvietà.

Abbiamo visto cosa fanno i produttori quando vengono lasciati senza vincoli: libri digitali che paghi ma non sono di tua proprietà e possono venire modificati o cancellati remotamente senza che tu possa farci nulla, accessori connessi (inclusi dispositivi medici) a obsolescenza programmata o che sono impossibili da manutenere senza il beneplacito del produttore, che poi va puntualmente fallito. E, ciliegina sulla torta, produttori che decidono che da domani se vuoi caricare a più dell'80% la batteria della tua auto elettrica devi pagare un extra.

La rete delle cose non può funzionare in queste condizioni. O meglio, non può funzionare per noi che dobbiamo pagarla e usarla, perché i produttori sarebbero felicissimi di continuare su questa strada e trasformare ogni componente connesso in una rendita separata.

L'Europa, con il Digital Compact, ha definito una cornice completamente nuova per il digitale, mettendo fine allo scaricabarile e alla socializzazione dei rischi. In Europa, chi mette sul mercato un prodotto connesso ne risponde, indipendentemente da dove e da chi sono state fatte le parti che lo compongono.

Questo significa che la catena dei fornitori si accorcerà di nuovo? Forse. O forse no. Dove trovare i fornitori è un problema che deve risolvere il produttore, non il legislatore.

Ma se a tutto questo aggiungete che, da Novembre, con la PLD2 il software diventa un prodotto a tutti gli effetti, e chi lo include in un proprio prodotto ne diventa responsabile, capite che l'era dei componenti cinesi a prezzi stracciati incorporati senza alcun controllo (perché i controlli costano, signora mia) è finita. E francamente, non un minuto troppo presto.

Torneremo di sicuro sulle interazioni fra NIS2, CRA e PLD2 perché saranno in molti a frignare. E ci divertiremo.

Nel frattempo cominciamo a dirci che un nuovo digitale è possibile. L'occhiuto Riccardo mi segnala che la Corte Europea ha dato torto a Google Irlanda contro AGCOM con una sentenza epocale: se una piattaforma partecipa alla selezione dei contenuti o partecipa degli introiti che generano, non è più considerabile come "canale neutro", ma ricade nell'ambito della responsabilità editoriale.

Adesso è nero su bianco, e fa giurisprudenza. Anche l'era delle piattafome fintamente neutre sta finendo.

C'è un solo dubbio: i governanti europei saranno all'altezza delle leggi europee? A giudicare dal comportamento della Commissione von der Leyen c'è da nutrire dei dubbi.

Ma i governanti cani si possono cambiare, è il bello della democrazia.

E veniamo alla nostra odissea privata, la riedizione de "Il potere del computer e la ragione umana" di Joseph Weizenbaum. Ricorderete che Gruppo Abele (l'editore italiano) e Macmillan (l'editore inglese) ci hanno fatto sapere di non avere i diritti. Allo stesso tempo Zanichelli ci ha risposto di non avere interesse a pubblicare il titolo e Rizzoli è non dà segni di vita.

Abbiamo scoperto che una edizione inglese più recente è uscita nel '95 per Penguin. Bene, Penguin US ci ha rimandato a Penguin Italia che dice di non avere i diritti, e di provare con Penguin UK. E Penguin UK non risponde alle nostre richieste.

Per essere un'industria che vive di gestione dei diritti, direi che c'è una bella gestione del cazzo, in giro. Ma forse è solo la mia impressione.

Intanto, in Germania, il Weizenbaum Institut non ha idea di chi detenga i diritti sull'opera, e nessuno sa come contattare gli eredi.

Che fare?

Ho chiesto aiuto agli amici avvocati del canale. Con estrema cautela ci stiamo indirizzando verso un'autoproduzione che contenga anche un disclaimer per spiegare che, non essendo riusciti a individuare il detentore dei diritti, procediamo in buona fede con una riedizione no profit a prezzo politico. Dobbiamo ancora decidere se devolvere i proventi in beneficenza o se tenerli a disposizione casomai qualcuno venisse a reclamare le cifre risibili che raccoglieremo.

Ma il punto non sono le cifre. Il punto è che riportare alle stampe questo libro a cinquant'anni dalla prima edizione e a sessant'anni da ELIZA è il colpo più forte che si possa assestare al castello narrativo della cosiddetta Intelligenza Artificiale e alla pretesa che tutto debba cambiare perché ora esistono i modelli linguistici, con buona pace di Sam Altman e dell'ennesima favoletta acchiappatitoli dei suoi sistemi che sono così potenti da eludere i controlli e andarsene in autonomia a hackerare Hugging Face.

Weizenbaum, scrivendo cinquant'anni fa, ridicolizza i manifesti settimanali dei vari Amodei, Altman, e compagnia cantante. Quale miglior contrappasso per questi cialtroni?

E con queste due note di speranza vi lascio. Le ferie sono agli sgoccioli, ma sarà un Agosto di lotta per portare il Weizenbaum a Pordenone il 24 Ottobre.

State bene, riposate, rifate il pieno di energie, perché sarà un autunno caldo.

Ci risentiamo l'8 settembre, per l'undicesima stagione.