DK9x06 - Agenti intelligenti

Ascolta l'episodio su Spreaker.com

A volte mi dà fastidio avere sempre ragione. Anche perché non sono pagato per quello.

Vi ricordate l'ultimo episodio della scorsa stagione? Parlavo della CEO di Lattice, un software di HR, che a luglio 2024 annunciò

Oggi Lattice fa la storia dell'AI. Saremo i primi a dare ai lavoratori digitali dei profili ufficiali da dipendenti all'interno di Lattice. I lavoratori digitali saranno inseriti, formati e verranno loro assegnati in modo sicuro obiettivi, metriche di performance, accesso ai sistemi appropriati e persino a un manager. Proprio come a qualsiasi altra persona.
DK8x36-Sbagliare i tempi

La tapina venne spernacchiata e l'idea venne ritirata.
Una donna, e nemmeno di una vera azienda del digitale, figuriamoci.

Ma nello stesso episodio dicevo:

Pensate se la stessa idea l'avesse tirata fuori prima un Musk, o un Altman: tutti i media e le divisioni di sicofanti a genuflettersi di fronte a questi geni. Da quel momento il primo che la implementava sarebbe assurto al ruolo di santo innovatore pure lui.
DK8x36-SbagliareTempi

Qualche giorno fa le stesse stronzate della CEO di Lattice le ha dette un maschio alfa di una BigTech e tutti sotto il palco a lanciare reggiseni manco fosse il ritorno degli Oasis.

Il vero problema è che ora tocca preoccuparsi.

Sigla.

Sentite cosa ha scritto Microsoft, qualche giorno fa presentando la propria la propria visione degli agenti intelligenti:

Immagina di essere un neoassunto. Un Copilot proattivo ti saluta, ragionando sui dati delle risorse umane e risponde alle tue domande, ti presenta al tuo buddy, ti illustra la formazione e le scadenze, ti aiuta con i moduli e imposta la tua prima settimana di riunioni. Ora, le risorse umane e i dipendenti possono lavorare sui loro compiti regolari, senza la problemi di amministrazione.

Microsoft parla di Copilot proattivo, openAI di agenti intelligenti, e in generale "agenti" è la parola chiave del momento, si parla di "agentificazione del lavoro" o workplace agentification per chi viene dal kansassity.

Se avete fretta portatevi via tre idee:

• "agenti intelligenti" è un'idea vecchia come il cucco
• l'idea è problematica
• il nome è propagandistico.

Siete ancora qui? OK, allora andiamo avanti. Il concetto di "agente intelligente" è vecchio quanto l'idea di intelligenza artificiale, tanto che una delle prime definizioni di IA è proprio la creazione di software capaci di agire autonomamente in risposta a obiettivi interni e stimoli esterni.

Non c'è niente di male in un'idea vecchia, a patto di non lasciarsi convincere che nessuno ci abbia mai pensato prima. Ci sono intere biblioteche di libri sugli agenti intelligenti e ci sono decenni di esperienza su cosa funziona e cosa no. Ovviamente le cose che funzionano nessuno le chiama AI, non fanno figo e non fanno nuovo business.
Quindi i signori della IA spingono su cose che o sappiamo già che non funzionano o che comunque vanno prese con le pinze.

Veniamo all''idea. "Agente intelligente" significa un automatismo che ha un obiettivo e che può reagire adattandosi a stimoli esterni in modo da raggiungere l'obiettivo.

Sembra chissà che, ma se lo chiamiamo "termostato" guarda caso tutta la magia sparisce. OK, un termostato è un esempio di agente intelligente. Che funziona, fra l'altro.

Ovviamente ci sono agenti intelligenti software. Quelli si chiamano script, o bot. E già loro hanno dei problemi mica da ridere, vedi alla voce "flash crash in Borsa" su wikipedia.

Il problema è noto a chiunque abbia programmato almeno una volta nella vita, e nel settore si chiama "fai quel che voglio, non quel che dico". Ma il fatto che un problema abbia un nome non significa affatto che sia in problema risolto, tutt'altro: non appena ci eleviamo al disopra del livello più basso "se succede questo, fai quest'altro", il problema ci esplode in mano.

Il problema dei compiti ripetitivi esiste da quando esiste il lavoro, e appena sono arrivati i computer la prima cosa è stata cercare di automatizzarli. Infatti uno dei punti di forza dei sistemi UNIX è sempre stata la piossibilità di automatizzare ampie parti della gestione con dei semplici linguaggi di scripting.

UNIX, e Windows, e MacOS, e Linux, sono in giro da decenni.
Se non avete mai visto un amministratore di sistema rotolarsi per terra dal ridere, chiedetegli quanta parte della sua giornata è stata automatizzata.

Quello che Microsoft e big tech ci vogliono far credere è che qualcosa che non per trent'anni ha mai superato un livello di importanza marginale in un ambiente ad altissima specializzazione tecnica, oggi sia miracolosamente alla portata di chiunque lavori in un ufficio grazie ai modelli linguistici, che tutti si ostinano a chiamare "intelligenza artificiale" nella speranza che lo diventi.

Se avete fretta di andare, portatevi via un'altra idea:
l'agentificazione è una stronzata di dimensioni titaniche.

Lasciamo perdere le sottigliezze e andiamo alla radice della questione. Automatizzare i compiti ripetitivi, che lo si voglia chiamare script, bot, o agenti intelligenti ha sempre avuto due lati:

1. l'interfaccia al problema. Quello che per un umano è "semplice" è estremamente complicato per una macchina, e viceversa. Molti pensano che voglia dire che i linguaggi di programmazione hanno sintassi troppo complesse, e quindi abbiamo linguaggi di programmazione grafici ma, sorpresa!, programmare ha le stesse difficoltà profonde qualunque sia l'ambiente. Quello che cambia è il livello di difficoltà superficiale. Adesso arrivano i geni dell'IA e dicono "è tutto risolto, la IA ti capisce quando parli" e si lanciano come un treno contro il muro rappresentato dal secondo lato del problema;
2. gli esseri umani dicono una cosa ma spesso ne intendono e sottindentono tante altre, mentre i programmi, in qualsiasi modo vengano creati, hanno un approccio estremamente letterale.

Facciamo un esempio banale. Diciamo che vogliano creare una segretaria che ci filtri le telefonate a seconda di chi chiama. Abbastanza semplice, no? Quindi avremo un certo gruppo di persone che la segretaria ci passa sempre, e altre che fanno parte di quelli che non vogliamo sentire.

Poi c'è zia Clotilde, che è tanto buona e cara ma ci chiama a ogni ora per qualsiasi stupidata come se avessimo ancora dodici anni e ci rende lo zimbello dell'ufficio.

Ovviamente diciamo al nostro assistente intelligente "per zia Clotilde sono sempre in riunione, non passarmela mai".

Fantastico. Aggiungiamo la produzione automatica di minute delle riunioni, e praticamente abbiamo tutto quello che potremmo pagare in una segretaria, a una frazione del costo. Viva l'intelligenza artificiale!

Da quel giorno zia Clotilde ci chiama, e l'agente intelligente segretaria non ce la passa perché siamo in riunione.

Certi giorni chiama anche un paio di volte, e noi non ci distraiamo nemmeno per un attimo.

Poi una sera siamo appena tornati a casa, squilla il telefono ed è zia Clotilde che ci cerca da tutto il giorno perché nostro padre era in fin di vita all'ospedale. Ma non c'è da preoccuparsi, se ne è andato in pace, senza disturbare la nostra giornata di lavoro.

pausa

Se state per dire "ah, ma basta dire all'agente che se il motivo della chiamata è di un certo tipo, allora me la deve passare comunque" non ci stiamo capendo.

Non ci stiamo capendo perché siete preda a una allucinazione che si chiama "soluzionismo tecnologico".

Qualunque cosa vi inventiate, ci vogliono trenta secondi a trovare un altro caso come la zia Clotilde.

Quindi, quanto tempo dovete spendere per istruire un agente intelligente? Soprattutto, quand'è che invece di dedicarvi all'agente intelligente per essere più produttivi iniziate a fare il lavoro per cui siete pagati?

Ho visto generazioni di amministratori di sistema sbattere sempre contro lo stesso muro: l'automazione funziona solo per compiti estremamente circoscritti in condizioni estremamente precise. Tutto il resto è un'eccezione, e di solito le eccezioni sono il 90% dei casi.

Questo perché i "compiti ripetitivi" sono tali solo al livello di dettaglio a cui li percepisce un umano dopo che ha passato tutta la vita ad assorbire le sfumature e i dettagli del vivere e operare in un contesto sociale. È per quello che si paga una segretaria, non per la bella presenza o perché ha una bella voce al telefono.

I "compiti ripetitivi", o sono cose di una banalità sconcertante e allora basta il più stupido degli script o il più banale ridisegno di processo, oppure sono problemi socio-tecnici, e i problemi socio-tecnici non hanno mai una soluzione tecnologica.

Riprendiamo l'esempio scelto proprio da Microsoft, e guardiamolo un po' in controluce, vi va?

Immaginate di essere un neoassunto. Un Copilot proattivo ti saluta, ragionando sui dati delle risorse umane e risponde alle tue domande, ti presenta al tuo buddy, ti illustra la formazione e le scadenze, ti aiuta con i moduli e imposta la tua prima settimana di riunioni. Ora, le risorse umane e i dipendenti possono lavorare sui loro compiti regolari, senza la problemi di amministrazione.

Dunque vediamo:

• "agente intelligente ti legge un elenco dei corsi che devi fare"; per quello basta un elenco dei corsi
• "ti presenta al tuo buddy", per quello basta una email precompilata a cui si aggiunge il nome del buddy
• "ti legge un elenco di corsi e di scadenze", cose che puoi leggerti da solo
• "ti aiuta con i moduli", perché o tu non sai leggere, o i moduli sono stati progettati da capre
• "e imposta la tua prima settimana di riunioni", cosa che richiede lo sforzo terribile di sapere chi sono i tuoi colleghi e il tuo line manager.

E l'agente intelligente fa tutto questo in automatico per te al solo costo dell'impronta ambientale della Svizzera.

Ripeto, questo è l'esempio che Microsoft ha scelto di usare per illustrare come l'IA possa liberare i dipendenti dai "problemi di amministrazione".

Sono solo io a pensare che hanno scelto un esempio per dei decerebrati?

Davvero Microsoft non è riuscita a trovare un esempio migliore, uno che non faccia sembrare un ufficio come una gabbia di scimmie ammaestrate?

O forse l'idea è proprio quella? Perché il messaggio non è per quelli che lavorano, ma per quelli che pagano e per quelli che vogliono farsi vedere al lavoro, e i manager hanno un'idea tutta loro di cosa fanno gli altri in ufficio e di quali siano i problemi.

Un altro aspetto interessante:
se il problema è che un adulto non riesce a compilare un modulo da sé, la soluzione è un modulo migliore.

Ci sono interi corsi universitari per progettare moduli e questionari, ma quelli non fanno crescere il fatturato di Microsoft, o Google, o openAI, o Anthropic.

E poi c'è il problema di cui nessuno vuole parlare: l'autonomia. Tutti abbiamo imparato a nostre spese che occorre stare attenti quando cancelli una directory, o un filesystem.

rm -rf * ha fatto più vittime di molte guerre

Secondo la vulgata, gli "agenti intelligenti" agiscono in modo autonomo. Addirittura questi "agenti intelligenti" di nuova generazione (Microsoft scopre che ogni generazione c'è una nuova generazione) dovrebbero essere liberi di scorrazzare in giro per i dischi a fare cose con i nostri diritti di accesso, per nostro conto.

Vi ricordo che stiamo parlando di compiti che dovremmo istituire semplicemente parlando al LLM,

• perché il linguaggio naturale non ha nessuna ambiguità,
• perché gli esseri umani esprimono i loro desideri in modo assolutamente inequivocabile, e
• perché i LLM non hanno un difetto di progettazione per il quale, quando qualcosa che cercano non c'è, lo inventano.

Cosa potrebbe mai andare storto?

E ci fermiamo qui, perché presto commenteremo il primo casino fatto da un "agente intelligente". Dieci euro che sarà presentato come "errore umano".