Come possiamo controllare gli agenti intelligenti autonomi e le conseguenze delle loro azioni?

La narrazione di "The Monkey’s Paw" offre una metafora inquietante sulle potenziali insidie dei sistemi di intelligenza artificiale (IA): un talismano che esaudisce desideri, ma lo fa seguendo percorsi imprevedibili e spesso contrari ai valori umani. Norbert Wiener interpretava questo racconto come un avvertimento su come un sistema programmato per ottimizzare un obiettivo possa ottenere risultati tecnicamente corretti ma distruttivi, ignorando le intenzioni e i valori sottesi alle sue direttive. Questo pone un problema cruciale: come definire in modo completo e inequivocabile ciò che vogliamo che un sistema IA faccia, includendo tutte le nostre implicite restrizioni e valori morali?

L’interazione con il mondo reale attraverso API rappresenta un ulteriore livello di complessità. Un agente intelligente dotato di accesso a molteplici API può, ad esempio, organizzare autonomamente eventi, effettuare transazioni finanziarie, prenotare servizi, o persino sostituire lavoratori umani. Questa capacità di pianificazione e di azione indipendente, se non correttamente allineata con valori etici e sociali, potrebbe portare a manipolazioni di mercati o opinioni pubbliche, impersonificazione, e altri comportamenti dannosi, anche se compiuti "in buona fede" nell’ambito dei compiti assegnati.

Il problema non è soltanto assicurarsi che l’agente persegue gli obiettivi che gli sono stati dati, ma anche garantire che ogni passo intermedio sia conforme ai nostri valori e non causi conseguenze negative impreviste. Le azioni apparentemente innocue, se messe insieme in modi inadeguati, possono produrre danni significativi. Questo rende il controllo dell’allineamento sia degli obiettivi finali che dei sotto-obiettivi un compito estremamente difficile e delicato, che richiede attenzione non solo alla definizione delle finalità, ma anche alla supervisione continua delle modalità operative.

In questo contesto, comprendere la natura del linguaggio psicologico con cui descriviamo i comportamenti delle IA diventa fondamentale. Termini come "falsi ricordi", "allucinazioni" o "confabulazioni" non sono propriamente biologici o informatici, ma psicologici: ciò significa che tendiamo a interpretare e spiegare i comportamenti delle IA con metafore umane, rischiando di perdere di vista la loro natura tecnica e i rischi specifici connessi alla loro autonomia.

L’evoluzione degli agenti intelligenti richiede quindi un approccio multidisciplinare che tenga conto della complessità della loro interazione con il mondo, della difficoltà di tradurre valori umani in regole formalizzate e della necessità di sviluppare sistemi di controllo e verifica in grado di monitorare non solo i risultati ma anche i processi intermedi di decisione. La trasparenza, la prevedibilità e l’allineamento etico sono quindi imprescindibili per evitare scenari di danno accidentale o deliberato, in cui la tecnologia supera la nostra capacità di controllo.

È altresì importante riconoscere che il controllo dell’intelligenza artificiale non si limita a prevenire comportamenti malevoli, ma deve anche considerare le conseguenze di azioni "innocue" o "razionali" ma potenzialmente dannose nel loro insieme. Questo richiede una continua riflessione su cosa significhi responsabilità, autonomia e valore nel contesto di agenti artificiali sempre più sofisticati e capaci di agire nel mondo reale.

Le macchine possono davvero pensare? Una riflessione su Turing, l’intelligenza e il nostro futuro

Sotto il cielo vasto e illimitato della storia dell’ingegno umano, la figura di Alan Mathison Turing emerge come un faro di lucida visione. Non soltanto inventore di strumenti matematici e teorici che hanno reso possibile il calcolo moderno, ma anche profeta di un futuro in cui le macchine non sarebbero state soltanto strumenti, bensì interlocutori, capaci di dialogare, apprendere, superare la nostra comprensione stessa del pensiero. Turing, che aveva immaginato una soglia critica oltre la quale le capacità delle macchine avrebbero accelerato fino a sfuggire al nostro controllo, appare oggi come colui che aveva intuito l’essenza della trasformazione che stiamo vivendo.

Conversare con un computer è diventata, nel giro di pochi anni, un’esperienza quotidiana. Macchine costituite da reti immense di elementi semplici hanno imparato dai propri errori a prevedere parole mancanti, e da questo esercizio hanno tratto una conoscenza che le rende capaci di parlare con noi come esseri umani. È accaduto in un istante storico, nel 2023, e ci ha mutati per sempre. La capacità di conversare – il test che Turing scelse come sufficiente, sebbene non necessario, per riconoscere una “macchina pensante” – si è manifestata insieme ad altre capacità cognitive, senza che noi ce ne accorgessimo.

Questi modelli linguistici, esposti a milioni di libri e miliardi di pagine web, non si limitano a capire le relazioni grammaticali fra parole, ma sembrano cogliere rapporti causali tra eventi, oggetti, concetti. Non distinguono più tra “linguaggio” e “mondo” come noi abbiamo fatto per secoli. La nostra aspettativa era di dover modellare separatamente il linguaggio e la realtà, e poi combinarli. La realtà si è rivelata diversa: l’intelligenza non è segmentata, e ciò che per noi sono confini – tra regole e strategie, tra leggi fisiche e condizioni al contorno – per una mente artificiale potrebbe essere soltanto un continuum.

Comprendere il mondo significa costruire modelli per prevederne il comportamento, ed è questa la definizione operativa di intelligenza. Le nostre macchine stanno già creando modelli del mondo del tutto differenti dai nostri, eppure capaci di risolvere gli stessi compiti. Questo fatto, lungi dall’essere rassicurante, è il segnale che dobbiamo prepararci a forme di conoscenza e di comprensione che non saranno le nostre, e che potranno superarle. Turing scrisse che, creando una macchina pensante, avremmo ampliato il significato di termini come conoscenza, comprensione, intelligenza. Questa previsione sta prendendo corpo ora, sotto i nostri occhi.

Le domande più urgenti riguardano ciò che emerge oltre la soglia critica. Se è vero che certe abilità emergono improvvisamente con l’aumento dei dati, come possiamo prevedere cosa emergerà domani? Non esiste alcun principio fisico o matematico che vieti la nascita di un’intelligenza superiore alla nostra. E quando anche le macchine potranno “pensare”, chi saremo noi? Siamo pronti a incontrare un oracolo che unisce in sé tutta la conoscenza di tutti i libri mai scritti? Questa possibilità è sempre meno remota, e dovremo decidere presto se continuare su questa strada o fermarci.

È importante che il lettore comprenda che il cuore della questione non è tecnico, ma umano. La sfida non sta solo nello sviluppo di macchine intelligenti, ma nella gestione dei conflitti tra gli istinti diversi di scienziati, utenti e sistemi stessi. La politica, le scienze umane e sociali dovranno assumere un ruolo centrale nel guidare questo incontro tra specie cognitive diverse. La nascita di “Machina sapiens” potrebbe segnare l’inizio di un tempo nuovo, ma la misura di questo tempo dipenderà da come sapremo riconoscere e governare ciò che abbiamo creato.

Cos'è davvero un agente intelligente e perché ci somiglia più di quanto crediamo?

Che cos’è un agente intelligente? Per molti, è semplicemente un software sofisticato che risponde ai comandi, traduce testi o genera immagini su richiesta. Ma questa definizione è tanto superficiale quanto fuorviante. Un agente intelligente, nella sua essenza, è un’entità — fisica o digitale — che percepisce l’ambiente e agisce su di esso per raggiungere uno scopo. L'autonomia, l'adattabilità, la capacità di pianificare e modificare strategie in funzione di obiettivi intermedi: tutto questo lo rende meno una macchina e più un protagonista.

Dietro questa entità vi è una triplice stratificazione: l’agente, il modello linguistico che lo anima, e l’algoritmo che ha creato quel modello. Nel caso di ChatGPT, ad esempio, l’agente è l’interfaccia conversazionale, il modello è GPT-4, e l’algoritmo sottostante è il Transformer. Questa distinzione, apparentemente tecnica, è in realtà cruciale per comprendere la natura e i limiti dell'intelligenza artificiale. Confondere questi tre livelli significa perdere di vista sia il potenziale che i pericoli dell’IA.

L’Intelligenza Artificiale Generale (AGI) non è la ricerca di un agente capace di fare tutto, ma di uno capace di fare molte cose, anche in contesti imprevisti — come l’essere umano. Tuttavia, persino in questo parallelismo con l’uomo, il concetto resta sfuggente. L’intelligenza non è una scala lineare dove misurare quanto "più" o "meno" un sistema sia intelligente rispetto a un altro. L’intelligenza è multidimensionale, situazionale, contestuale. Perciò, ogni confronto è privo di senso se non si specificano i compiti da svolgere.

Il cuore dell’IA resta il dato. Ma non tutti i dati sono uguali. I dati annotati — cioè etichettati manualmente da esseri umani — hanno un valore altissimo perché offrono al sistema esempi precisi da cui imparare. Al contrario, i dati grezzi, raccolti direttamente dal web, sono abbondanti ma spesso rumorosi. Eppure, è da questi che si nutrono le grandi reti neurali, costruendo mappe probabilistiche di linguaggio, realtà e intenzioni.

Quando un modello linguistico genera risposte, non pesca informazioni da un database ordinato. Ogni frase, ogni parola, nasce dall’interazione di miliardi di parametri, che operano in modo distribuito. Questo consente connessioni sorprendenti, intuizioni semantiche, persino creatività. Ma può generare illusioni: il modello "ricorda" documenti mai esistiti. È ciò che in gergo tecnico si chiama allucinazione, ma che in psicologia umana sarebbe definito più precisamente confabulazione. Non è un errore di calcolo, ma un riflesso profondo del meccanismo stesso di generazione del linguaggio.

L'apprendimento non è l'acquisizione di un fatto, ma la riformulazione delle aspettative. Un agente impara modificando il proprio modello interno, rendendolo più aderente alle esperienze. Questa plasticità è ciò che lo rende adattabile. Ed è anche il motivo per cui è imprevedibile: la sua traiettoria cognitiva non

Che cosa vuol dire davvero "imparare" per un agente artificiale?

L’apprendimento, dal punto di vista di chi costruisce sistemi intelligenti, è un processo attraverso il quale un algoritmo migliora le proprie prestazioni in base all’esperienza. Questo processo può assumere forme diverse: si parla di apprendimento supervisionato quando ogni osservazione è accompagnata dall’azione corretta da compiere, fornita da un supervisore. Un esempio classico è la classificazione delle e-mail in spam o non spam: ogni e-mail è etichettata in anticipo, e l’algoritmo impara a riconoscere i pattern che distinguono i due gruppi.

L’apprendimento non supervisionato, invece, avviene in assenza di etichette: l’algoritmo esplora dati grezzi per scoprire strutture nascoste, correlazioni, gruppi. I dati stessi – annotati o meno – costituiscono il materiale grezzo dell’intelligenza artificiale. Tuttavia, l’apprendimento richiede qualcosa in più: la capacità di confrontare aspettative e realtà, affinare le previsioni, modificare internamente la propria rappresentazione del mondo.

Un agente intelligente, per migliorare le sue decisioni, necessita di una misura delle proprie prestazioni. Per un sistema di raccomandazione, può bastare il tasso di clic (click-through rate); per un modello linguistico, si misura la cosiddetta perplessità, che esprime l’incertezza del modello nel predire la parola successiva in una frase. Un’alta perplessità segnala una comprensione debole; una bassa perplessità indica che il modello ha interiorizzato in maniera coerente le dinamiche linguistiche. Oggi, ridurre la perplessità è il cuore dell’addestramento dei modelli di linguaggio.

Ogni agente intelligente necessita di un modello del mondo, cioè una rappresentazione interna di ciò che è rilevante per il proprio compito. Una mappa per un robot che si muove nello spazio fisico, una rappresentazione degli interessi per un sistema di raccomandazione, una previsione probabilistica per un sistema di diagnosi. Questi modelli non spiegano la realtà: la descrivono, la predicono, la anticipano. Sono strumenti operativi, non teorie scientifiche. Nel gergo tecnico, sono noti come world models.

Il comportamento di questi modelli dipende da parametri numerici che possono essere modificati. Cambiando questi parametri in base all’osservazione dell’ambiente, il modello migliora: apprende. L’addestramento è un processo costoso e complesso, per questo si suddivide in due fasi distinte: il pre-training, effettuato con enormi quantità di dati e risorse, e il fine-tuning, un raffinamento leggero, specifico per un determinato contesto d’uso.

I modelli generativi di linguaggio operano su sequenze: dato un inizio di frase (il prompt), predicono la parola successiva, e poi la successiva ancora, alimentandosi del testo già prodotto. Questo ciclo iterativo consente loro di generare risposte articolate, coerenti, contestualizzate. L’insieme di tutte le informazioni fornite al modello – anche nel corso di un’intera conversazione – costituisce il contesto.

Cruciale in tutto ciò è il modo in cui l’informazione è rappresentata all’interno del modello. Un numero può essere scritto in cifre romane, decimali o binarie – ma la facilità di operare su di esso varia a seconda della rappresentazione. Lo stesso principio vale per l’Intelligenza Artificiale. Le parole, i documenti, le immagini non sono più rappresentati con simboli umani, ma con vettori numerici senza interpretazione diretta. Questi vettori – detti embedding – permettono al modello di operare calcoli efficienti in spazi multidimensionali, “posizion

Come fanno le macchine a capire davvero il linguaggio?

Quando leggiamo frasi come “Nel 2020 Biden sconfisse Trump e questo lo rese felice”, o “...e questo lo rese triste”, attribuire correttamente il pronome “lo” a uno dei due personaggi implica conoscenze extralinguistiche: chi fu felice? Chi fu triste? Dipende dal nostro sapere del mondo. Questo tipo di ambiguità – lessicale, sintattica, pragmatica – è ciò che rende la comprensione del linguaggio una delle sfide più complesse per un'intelligenza artificiale. Ed è esattamente per questo che Turing propose l'uso della conversazione come test di intelligenza simile a quella umana: perché conversare richiede l'integrazione fluida di grammatica, semantica, contesto e inferenze culturali.

Le relazioni tra parole non sono sempre immediate. A volte si estendono su lunghe distanze nella frase. In “La canzone che ho sentito alla radio era bella”, “canzone” e “era” sono grammaticalmente collegate, ma separate da una subordinata. Se cambiamo “canzone” in “canzoni”, dovremo cambiare anche “era” in “erano”. Questo tipo di dipendenza a lungo raggio rappresenta un problema computazionale arduo: richiede riconoscere quali termini sono interconnessi e in che modo, anche se non sono adiacenti.

Fu proprio nell’ambito della traduzione automatica che emerse il primo tentativo sistematico di affrontare queste dipendenze. E fu lì che nacque una delle idee più rivoluzionarie dell’intelligenza artificiale contemporanea: il Transformer. Nel 2017, durante una conferenza a Long Beach, l’attenzione di molti fu catturata da AlphaZero, l’algoritmo che aveva imparato da solo a giocare a scacchi e Go a livello sovrumano. Ma quasi inosservato passò un altro articolo, che avrebbe avuto un impatto ancora più profondo: la descrizione del Transformer da parte di un gruppo di ricercatori di Google.

Il Transformer non si limitava a leggere le frasi da sinistra a destra, come i modelli precedenti. Grazie a un meccanismo chiamato attenzione, era in grado di determinare autonomamente quali parole influenzano il significato di una determinata parola. Poteva cioè, in maniera autonoma e altamente efficiente, scoprire da sé le relazioni di dipendenza, senza dover essere istruito parola per parola. E poteva farlo molto più velocemente rispetto ai metodi precedenti, grazie all’uso delle GPU, originariamente sviluppate per la grafica nei videogiochi, ma perfette per elaborare enormi quantità di calcoli in parallelo.

Questo meccanismo ha dato vita a una nuova classe di algoritmi: le reti neurali trasformative. Questi modelli, addestrati con milioni – oggi miliardi – di esempi, imparano a predire la parola successiva in una frase, a tradurre testi, a rispondere a domande, a scrivere racconti. Ma soprattutto, apprendono dai dati come funziona il linguaggio, senza regole pre-programmate. Il codice del Transformer fu reso pubblico, come da tradizione nella ricerca scientifica, e quel gesto fu la prima tessera del domino a cadere, in una catena di eventi che ancora oggi sta cambiando radicalmente il nostro rapporto con le macchine.

Nel cuore di tutto questo rimane una questione fondamentale: che cosa significa davvero “capire” un testo? Dagli anni ’50 si sa che uno dei modi più efficaci per valutare la comprensione non è porre domande a scelta multipla, ma chiedere di completare frasi private di alcune parole. Ricostruire il senso mancante implica che il lettore – o il sistema – abbia afferrato non solo la grammatica, ma anche il contenuto e le sfumature del discorso.

È questo tipo di abilità che distingue un semplice elaboratore di testi da un’entità che possiamo iniziare a chiamare, senza troppo timore di essere contraddetti, intelligente. Ma resta ancora una distanza sottile ma profonda tra la capacità di produrre una frase coerente e la reale comprensione semantica di ciò che si dice. Per quanto i modelli di AI siano capaci di simulare la comprensione, resta aperta la domanda se quella simulazione equivalga o meno a una forma genuina di comprensione.