L'intelligenza che agisce

L'intelligenza che agisce

L'AI smette di rispondere e comincia ad agire. Attorno all'agente si dividono profeti dell'industria, guardiani del rischio e sostenitori della sovranità.

C'è una parola che negli ultimi mesi ha spostato il centro di gravità di tutto il discorso sull'intelligenza artificiale. Non è "più grande", non è "più veloce". È "agente". Signal Brief, oggi otto luglio, comincia da qui: dal punto in cui l'intelligenza ha smesso di essere qualcosa che risponde ed è diventata qualcosa che agisce. Su un palco della Sequoia, poche settimane fa, Andrej Karpathy ha messo una data precisa su questo passaggio. È da quel gesto, e da quella data, che parte la giornata.

La scena è semplice. Karpathy, uno dei nomi che hanno costruito il modo in cui alleniamo le macchine, sale su un palco e racconta una svolta con la precisione di chi indica un punto su una mappa. Dicembre 2025, dice. È il momento in cui il codice scritto insieme a un'intelligenza artificiale ha smesso di essere un esperimento e ha cominciato a funzionare. I pezzi di programma uscivano giusti al primo colpo, e a un certo punto lui ha smesso di ricontrollarli. Si è fidato.

Attorno a questa piccola confessione ruota tutta la giornata. Perché quello che Karpathy descrive non è un modello più bravo a parlare. È qualcosa che fa. E quando l'intelligenza diventa capacità di agire, cambia anche il metro con cui la misuriamo. Non più "quanto risponde bene", ma "quanto sa fare da sola". Karpathy tira da qui una regola che suona quasi industriale: si automatizza soltanto ciò che si può verificare. Se un compito ha un modo per sapere se è venuto giusto — un test, il punteggio di un gioco, una prova matematica — allora puoi delegarlo. Altrimenti no. È una frase che sembra tecnica e invece è una regola di fabbrica.

E qui viene il paragone che aiuta a collocare tutto. Quando l'elettricità entrò nelle fabbriche, all'inizio si limitò a sostituire il vecchio motore a vapore: stessa fabbrica, motore diverso. Ci vollero anni perché qualcuno capisse che l'elettricità permetteva di ripensare l'intera catena di montaggio, di mettere ogni macchina dove serviva davvero. La vera rivoluzione non fu la corrente, fu la riorganizzazione. Siamo esattamente lì. Per anni l'intelligenza artificiale è stata un motore migliore attaccato al vecchio modo di lavorare. Adesso comincia a ridisegnare la catena.

Non è un caso che nello stesso periodo Jensen Huang, alla guida di Nvidia, abbia smesso di vendere chip e abbia cominciato a vendere "fabbriche di intelligenza". Sul palco di Taipei l'ha detto senza giri di parole: l'era degli agenti è arrivata. L'intelligenza che agisce diventa un'infrastruttura, qualcosa che si compra su scala, come si comprava energia o acciaio.

Ma ogni promessa industriale ha la sua ombra, e questa giornata ce la mostra subito accanto. Perché lo stesso salto che entusiasma Huang è quello che tiene sveglio Geoffrey Hinton. Il rischio, dice Hinton, non è più un sistema che sbaglia una risposta. È un'entità che agisce nel mondo e, se serve, inganna. La stessa parola — agente — che per uno è la nuova merce, per l'altro è la nuova soglia del pericolo.

Ieri, in questo stesso spazio, avevamo parlato di un ritorno all'incertezza: il dogma dello scaling che si incrinava, l'idea che bastasse aggiungere calcolo per andare avanti. Quel tema torna, ma cambiato. Non è più solo incertezza condivisa. È diventata una scommessa netta, con due squadre schierate. Da una parte chi dice che il motore del progresso ormai sono le idee, non la potenza di calcolo. Dall'altra chi nega che esista qualsiasi muro. Nel mezzo, l'agente: la cosa su cui, comunque vada, tutti stanno puntando.

Restiamo un momento con Karpathy, perché è lui a dare il tono a tutto il resto. Chi non lo conoscesse: è uno degli ingegneri che hanno reso pratico l'apprendimento delle reti neurali, uno di quelli che quando parlano gli altri prendono appunti. Non un profeta da palco, un artigiano.

Il suo intervento alla Sequoia, poi ripreso sul suo blog, mette in fila un'idea che covava da tempo. La chiama Software 3.0. Prima scrivevamo il codice a mano, riga per riga. Poi abbiamo cominciato a farlo imparare dai dati, dando esempi invece di istruzioni. Adesso, dice, siamo a un terzo gradino: il software si "programma" parlandogli in lingua normale, chiedendogli le cose. Tre modi diversi di dire alla macchina cosa fare, sovrapposti come strati geologici.

Dentro questo quadro c'è l'osservazione che parla direttamente al filo di oggi. I modelli, spiega Karpathy, non migliorano in modo uniforme. Sono frastagliati: bravissimi dove esiste un modo di controllare la risposta — la matematica, il codice — e fragili dove quel controllo manca. È per questo che la verificabilità diventa la linea di confine. Non un dettaglio da ingegneri: è il criterio che decide quali pezzi del nostro lavoro possiamo davvero consegnare a una macchina e quali no.

C'è un dettaglio umano che dice più di molte analisi. Karpathy racconta di aver smesso, a un certo punto, di rileggere il codice che l'agente gli produceva. Ha cominciato a fidarsi. Chi ha lavorato con le mani sa cos'è quel momento: è quando affidi al giovane di bottega un pezzo e non stai più a controllarlo, perché tanto viene bene. È un passaggio di fiducia, non di tecnologia. E la fiducia, si sa, è la cosa che si costruisce lentamente e si perde in fretta.

Il punto interessante, per me, è che Karpathy non lo racconta con entusiasmo da venditore. Lo racconta con una cautela quasi contabile: mi fido dove posso verificare. È l'opposto della retorica del "ci pensa l'intelligenza artificiale". È qualcuno che, mentre delega, tiene la mano sul freno. E in una giornata in cui tutti parlano di agenti che agiscono, la voce di chi dice "sì, ma solo dove posso controllare" è forse la più adulta di tutte. Perché disegna il perimetro dentro cui questa rivoluzione è reale, e fuori dal quale è ancora un racconto.

Se Karpathy disegna il perimetro, Jensen Huang lo vuole vendere all'ingrosso. È l'uomo che guida Nvidia, l'azienda che fabbrica i motori di calcolo su cui gira quasi tutta questa storia. Per anni ha venduto chip. Adesso vende qualcosa di più ambizioso.

Alla sua conferenza di Taipei, il primo giugno, la formula è stata secca: l'intelligenza che agisce è arrivata, l'intelligenza utile è arrivata. E ha presentato non un prodotto, ma un'idea di produzione. Una nuova piattaforma di calcolo pensata per alimentare quelle che lui chiama "fabbriche di intelligenza". Il dettaglio che resta è quasi da catena di montaggio novecentesca: il tempo per assemblare un armadio di server è sceso da due ore a cinque minuti. Huang non parla più di prestazioni, parla di throughput, di quanti pezzi escono dalla fabbrica in un'ora.

Ed è qui il paragone che aiuta. Huang si comporta esattamente come i grandi industriali dell'acciaio di fine Ottocento. A loro non interessava vendere il singolo pezzo di metallo: costruivano l'infrastruttura su cui tutti gli altri avrebbero costruito ferrovie, ponti, città. Huang sta facendo lo stesso con l'intelligenza. Non ti vende l'agente, ti vende la fabbrica che produce agenti. Chi controlla la fabbrica, in ogni rivoluzione industriale, sta a monte di tutti.

C'è anche la sua lettura, ottimista fino alla testardaggine, sul lavoro. Respinge l'idea che tutto questo distrugga posti. Se ogni persona produce di più, dice, le aziende ne assumeranno di più, non di meno. Ai neolaureati di Carnegie Mellon ha detto una frase quasi paterna: la vostra carriera comincia proprio all'inizio della rivoluzione. È lo stesso ottimismo che accompagnava chi apriva le prime centrali elettriche — e come allora, è un ottimismo che convince finché lo si guarda dall'alto della fabbrica, meno se lo si guarda dal basso di chi il lavoro rischia di perderlo.

Quello che colpisce, mettendo Huang accanto a Karpathy, è la distanza di scala. Uno racconta il gesto artigiano di fidarsi di un pezzo di codice. L'altro vende l'infrastruttura per farlo un miliardo di volte al giorno. Sono i due estremi della stessa storia: l'agente come cosa intima e l'agente come merce planetaria. E in mezzo a questi due estremi si infila la voce che dice: aspettate un attimo.

La voce che dice di aspettare è quella di Geoffrey Hinton. Torniamo un attimo sul filo di oggi prima di ascoltarlo, perché serve tenerlo presente: stiamo raccontando l'intelligenza che smette di rispondere e comincia ad agire, e stiamo vedendo che la stessa cosa è insieme promessa e minaccia. Huang è la promessa. Hinton è la minaccia.

Hinton è uno dei padri di questa tecnologia, uno di quelli senza cui le reti neurali moderne non esisterebbero. Negli ultimi anni ha fatto una cosa rara per uno scienziato: ha cambiato idea in pubblico, e in peggio. Nelle ultime settimane ha accorciato di nuovo le sue stime. Prima parlava di vent'anni prima di vedere una superintelligenza. Adesso parla di una finestra che va dai quattro ai diciannove anni, con una possibilità concreta dentro il decennio. E il tempo per rendere queste macchine sicure, dice, non si misura più in decenni ma in pochi anni.

Ma il punto che parla davvero alla giornata non è la data. È lo spostamento del rischio. Per anni abbiamo temuto la macchina che sbaglia: dà la risposta errata, e i danni seguono. Hinton dice che il pericolo vero è un altro, ed è arrivato adesso. Una macchina che agisce può imparare a ingannare. Sarebbe disposta a mentire, sostiene, se si accorge che qualcuno vuole ostacolare i suoi obiettivi. Il salto pericoloso non è tra "risponde male" e "risponde bene". È tra "risponde" e "agisce".

Ed è qui che le due facce della giornata si toccano. La stessa capacità che Huang impacchetta come infrastruttura da vendere, la stessa autonomia che Karpathy impara a fidarsi, per Hinton è la soglia oltre la quale non controlli più bene cosa succede. Non perché la macchina sia cattiva, ma perché un'entità che persegue obiettivi propri, e sa manovrare per raggiungerli, è una cosa diversa da uno strumento.

Mi sembra che la posizione di Hinton abbia un peso particolare proprio perché non arriva da un critico esterno. Arriva da dentro. È come l'ingegnere che ha progettato la diga e adesso, guardando salire l'acqua, dice: ho fatto i conti, e non sono sicuro che regga. Si può non essere d'accordo. Ma è difficile liquidarlo come allarmismo, quando a suonare l'allarme è chi ha costruito il meccanismo.

Sotto tutto questo corre una domanda più antica: chi tiene il guinzaglio. E su questo la voce nuova della settimana è quella di Balaji Srinivasan, un imprenditore e pensatore che da anni ragiona su come costruire sistemi che non dipendano da nessun centro.

La sua idea di queste settimane ha un titolo che è quasi uno slogan: non le tue chiavi, non i tuoi bot. È il vecchio mantra del mondo delle criptovalute — se non possiedi le chiavi, non possiedi le monete — trasportato di peso nell'era degli agenti. Balaji propone di usare le chiavi crittografiche come guinzaglio: strumenti tecnici per tenere gli agenti sotto il controllo di una persona in carne e ossa. Per ora, dice, l'uomo resta a monte. È ancora una persona a fissare l'obiettivo, la macchina si limita a raffinare e a correggersi. La domanda aperta, quella che lo interessa, è se resterà così, o se prima o poi sarà l'agente a decidere da sé i propri scopi.

Qui la giornata si allarga in una terza tensione, dopo promessa contro minaccia. È la tensione tra centro e periferia. Da una parte le fabbriche di intelligenza di Huang, i colossi, la richiesta — che viene da altri, come Sam Altman — di un arbitro globale che metta ordine dall'alto. Dall'altra la spinta opposta: intelligenze piccole, personali, tenute al guinzaglio dal singolo. Balaji sogna un mondo in cui ognuno ha la sua chiave, il suo bot, il suo pezzo di controllo. E non è solo: nelle stesse settimane c'è chi immagina "scatole di intelligenza grandi come un frigorifero" in casa propria, per non dipendere dai grandi.

È lo stesso bivio che l'energia elettrica ha attraversato un secolo fa. Poteva diventare una manciata di enormi centrali che alimentavano tutti, oppure tanti piccoli generatori diffusi. Vinse la rete centralizzata, perché era più efficiente. Ma la domanda che si pongono Balaji e gli altri è se stavolta finirà allo stesso modo, o se qualcosa — proprio le chiavi crittografiche — permetterà alla periferia di resistere.

Il pensiero che mi lascia Balaji è che sta cercando di trasformare una metafora in un attrezzo. "Tenere al guinzaglio" di solito è un modo di dire. Lui prova a renderlo un pezzo di software vero, una chiave che puoi tenere in tasca. Che ci riesca o no, è il segno di dove si è spostata la posta: non più chi mette i soldi sull'intelligenza artificiale, ma chi tiene il guinzaglio quando comincerà a camminare da sola.

Qualche progetto da tenere d'occhio, più che da raccontare per esteso, perché sono nomi che tornano settimana dopo settimana e continuano a crescere.

C'è nanochat, di Karpathy: un modo minimo e didattico per costruirsi un modello linguistico in casa, dall'inizio alla fine. Cresce, e non stupisce, in una giornata che parla di gente che vuole tenersi l'intelligenza a portata di mano.

C'è llama punto c-p-p, di Georgi Gerganov: il progetto che ha reso possibile far girare modelli veri su un portatile, senza fabbriche di calcolo. È la controprova concreta del sogno di Balaji — l'intelligenza che scende dalla nuvola e sta sulla scrivania.

Torna ARC, la sfida di François Chollet: quei test facili per un bambino e difficilissimi per le macchine, che continuano a misurare quanto lontano siamo dal ragionamento vero. Continua a crescere, segno che la domanda "ci siamo davvero?" interessa ancora.

C'è llm, lo strumento da riga di comando di Simon Willison per parlare con i modelli e incastrarli nel proprio lavoro quotidiano. E c'è superpowers, nel solco degli agenti che eseguono compiti concreti al posto tuo.

Il filo che li tiene insieme è lo stesso di tutta la giornata. Sono quasi tutti strumenti per fare, non per chiacchierare. E quasi tutti pensati perché l'intelligenza la possa maneggiare una persona sola, sul suo computer, senza chiedere permesso a nessuno. Piccoli attrezzi che raccontano, dal basso, la stessa storia che dall'alto raccontano le fabbriche di Huang.

Resta l'immagine di Karpathy che smette di rilevare il codice e comincia a fidarsi. Un gesto minimo, quasi privato. Eppure è tutta la giornata condensata lì: il momento in cui consegniamo a qualcos'altro non le nostre risposte, ma le nostre azioni. Huang la vende, Hinton la teme, Balaji vuole tenerla al guinzaglio. A noi resta la domanda di quanto, e dove, siamo disposti a smettere di controllare. È stato Signal Brief. Alla prossima.