Il confine del verificabile

Il confine del verificabile

Mentre Musk promette abbondanza e i modelli diventano una commodity, una domanda silenziosa attraversa la Silicon Valley: cosa, di tutto questo, sappiamo davvero verificare.

A Davos, quest'inverno, Elon Musk è salito sul palco da primo trilionario della storia e ha promesso un mondo di abbondanza, energia quasi gratis, lavoro umano ormai facoltativo. Nello stesso periodo, da un'altra parte del mondo, Geoffrey Hinton ripeteva a chi volesse ascoltarlo che è più spaventato oggi di un anno fa. Due uomini, la stessa tecnologia, due futuri opposti. È da questa frattura che parte il racconto di oggi, in questa puntata di Signal Brief del ventidue giugno.

Cominciamo proprio da quella scena di Davos. Musk che parla di abbondanza non è una novità, ma il tono sì: l'uomo che anni fa firmava lettere per fermare l'intelligenza artificiale ora la racconta come una cornucopia. Accanto a lui, idealmente, ci sono Naval Ravikant, che descrive l'AI come una bacchetta magica consegnata a ogni persona sul pianeta, e Jensen Huang, che liquida la paura della disoccupazione come, parole sue, una completa sciocchezza. È una corrente intera, e ha un nome semplice: l'accelerazionismo dell'abbondanza. Il collo di bottiglia, dicono, non è più tecnico. È solo sociale. Siamo noi a non tenere il passo.

Dall'altro lato della stanza siede Hinton, e con lui Dario Amodei. Per loro la domanda non è quanto andremo veloci, ma se sapremo controllare quello che stiamo costruendo. E qui si nasconde il filo più sottile e più importante di questa settimana, quello che cuce insieme tutto il resto: non si discute più se l'intelligenza artificiale sia reale. Si discute di cosa la renda governabile. È uno spostamento enorme, ed è successo in fretta.

Sotto questa domanda ne batte un'altra, ancora più concreta. Andrej Karpathy l'ha messa al centro di tutto: le macchine brillano dove possiamo verificare il risultato, e crollano dove non possiamo. La matematica, il codice con i suoi test, i giochi con un punteggio. Lì il segnale è denso, e il modello vola. Fuori da quei recinti, inciampa. La verificabilità è diventata il confine vero dell'intelligenza artificiale, la linea che separa quello che sa fare da quello che finge di saper fare.

E mentre si discute di confini, l'economia sotto si sta riassestando. Per anni il valore stava nel modello, nel possedere il cervello più grande. Adesso, dice Benedict Evans, il modello sta diventando una commodity, una cosa banale come la corrente elettrica. È la stessa storia di sempre: all'inizio dell'Ottocento avere una macchina a vapore era un vantaggio decisivo, poi è diventata infrastruttura, qualcosa che hanno tutti, e il vantaggio è migrato altrove. Stessa cosa col cloud quindici anni fa. Il cervello si standardizza, e il valore scivola verso il prodotto, la distribuzione, e soprattutto verso una cosa molto poco romantica: il costo per watt. Quanta energia consumi per ogni risposta.

Tre fili, allora. L'abbondanza promessa contro l'ansia del controllo. La verificabilità come nuovo confine. Il modello che diventa commodity. Sono tre modi diversi di guardare la stessa giornata, e nei prossimi minuti li seguiremo attraverso le persone che, questa settimana, hanno fatto qualcosa di concreto per spostarli.

Il primo è Andrej Karpathy, che molti conoscono come una delle menti dietro la guida autonoma di Tesla e i primi anni di OpenAI. Oggi insegna, scrive, costruisce piccole cose, e ha un dono raro: spiegare l'enorme con parole minuscole.

Questa settimana è tornato sul suo blog a riprendere il discorso tenuto al Sequoia Ascent, attorno a una formula che sta facendo il giro: software 3.0. L'idea è disarmante nella sua semplicità. Il vecchio software lo scrivevamo riga per riga. Quello successivo lo facevamo imparare dai dati. Quello di oggi, dice Karpathy, automatizza ciò che puoi verificare. Non ciò che puoi spiegare, non ciò che puoi descrivere. Ciò che puoi controllare alla fine, per vedere se è giusto.

Da qui nasce l'immagine più efficace della settimana, quella che lui chiama intelligenza frastagliata. Lo stesso modello che ti risolve un problema di matematica difficile poi sbaglia una somma banale, corregge un errore nel codice e ne introduce un altro, e a volte rimbalza avanti e indietro tra i due senza uscirne. Non è stupido e non è geniale: è frastagliato, alto e basso a pochi centimetri di distanza. E l'altezza, nota Karpathy, dipende da quanto quel territorio è verificabile.

C'è una frase sua che vale tutto il discorso: puoi esternalizzare il pensiero, ma non la comprensione. Puoi far scrivere alla macchina, far calcolare alla macchina, ma la direzione, il gusto, il giudizio su cosa conta davvero, quelli restano un collo di bottiglia umano. E lo dice senza nostalgia, anzi entusiasta degli strumenti.

Il collegamento con la giornata è diretto. Mentre Musk promette che presto le macchine penseranno al posto nostro, Karpathy traccia con calma la mappa di dove quel pensiero funziona e dove no. Non è pessimista, è cartografo. Sta disegnando i confini di un territorio nuovo, e ci dice che quei confini coincidono con una domanda antica come la scuola: questa cosa, possiamo controllarla? Possiamo sapere se è vera?

È una posizione che, a pensarci, ridimensiona tutto il chiasso. Non importa quanto sia grande il modello. Importa se il mondo in cui lo usi ti lascia verificare le sue risposte. E gran parte del mondo, quello vero, fatto di persone e decisioni sfumate, non te lo lascia fare.

Restiamo sull'economia con Benedict Evans, l'analista britannico che da anni fotografa l'industria tech con presentazioni che diventano subito un punto di riferimento. La sua, di questa primavera, si intitola, con la consueta ambizione, l'intelligenza artificiale si mangia il mondo.

Il cuore è la tesi che abbiamo già anticipato: il modello di base diventa una commodity. Ma Evans aggiunge i numeri, e i numeri sono vertiginosi. Le quattro grandi aziende americane hanno speso qualcosa come quattrocento miliardi di dollari nel 2025, e ne hanno messi a bilancio seicentocinquanta per quest'anno. Cifre da programma spaziale, spese per costruire data center.

E qui Evans dice la cosa più interessante. Il vero collo di bottiglia, ormai, non è più il software. È fisico. Sono le schede grafiche che non bastano, è l'elettricità, sono i trasformatori elettrici, quelle scatole grigie sui pali della luce, che adesso scarseggiano. Per la prima volta da decenni, il limite dell'informatica non è un'idea astratta ma una cosa che puoi toccare e che pesa. Ricorda molto da vicino le ferrovie dell'Ottocento: a un certo punto il problema non era più immaginare dove far passare i treni, ma trovare l'acciaio, il carbone e gli uomini per posare i binari.

Evans ci mette anche una doccia fredda contro la narrazione corrente. Contrariamente a quello che si sente dire, gli organici delle aziende di intelligenza artificiale stanno crescendo, non diminuendo. E poi una stoccata: secondo lui siamo all'equivalente di internet nel 1997. Il grosso deve ancora arrivare, ed è troppo presto per dire chi vincerà.

Il collegamento col filo di oggi è quasi visivo. Da una parte Karpathy ci dice che il confine è la verificabilità, una questione quasi filosofica. Dall'altra Evans ci riporta coi piedi per terra, anzi sotto terra, ai cavi e ai generatori. La cosa più interessante è come le due letture non si contraddicano. Il pensiero diventa una commodity proprio mentre l'energia per produrlo diventa la merce più preziosa. Il cervello si svaluta, la corrente si rivaluta. È un capovolgimento che, vent'anni fa, sarebbe sembrato assurdo.

Torniamo un attimo sul filo di oggi, perché è facile perdersi. La domanda della settimana è una sola: cosa rende governabile questa tecnologia. Karpathy risponde guardando ai confini di ciò che sa fare. Evans guardando alle centrali elettriche. Demis Hassabis, invece, guarda dentro.

Hassabis guida DeepMind, il laboratorio londinese che ha vinto un Nobel costruendo un'intelligenza che ripiega le proteine. È uno scienziato prestato all'industria, e si vede dal modo in cui parla. Al Google I/O di quest'anno ha rilanciato la sua immagine preferita: tra dieci anni, dice, capiremo che oggi eravamo soltanto ai piedi della montagna, alle prime pendici di qualcosa di enorme.

Ma la novità vera, questa settimana, è un'altra. Hassabis ha smesso di dire che serve solo più potenza. Ha elencato con precisione i pezzi che mancano per arrivare a un'intelligenza davvero generale: la comprensione di come funziona il mondo fisico, la memoria, la coerenza nel tempo, la capacità di continuare a imparare. Quattro buchi ben identificati. Non più una richiesta di carburante, ma una diagnosi di cosa è rotto nel motore.

È esattamente il punto su cui si gioca la frattura più profonda del momento, quella tra chi pensa che basti continuare a ingrandire i modelli e chi pensa che servano idee nuove. Hassabis sta, con eleganza, dalla parte delle idee. E non è solo: Yann LeCun ha lasciato Meta per fondare un laboratorio a Parigi su questa scommessa, raccogliendo oltre un miliardo di dollari prima ancora di avere un prodotto. François Chollet ha aperto il suo, convinto che l'intelligenza vera nascerà dal far ragionare le macchine su problemi mai visti, non dal farle memorizzare di più.

C'è un dettaglio umano che dice molto. Hassabis ammette di usare parole forti di proposito, scelte, dice, per provocare. Vuole spaventare quel tanto che basta governi ed economisti, perché si preparino. È la stessa pulsione di Karpathy e di Evans, sotto travestimenti diversi: la voglia di mettere dei paletti, di rendere leggibile una cosa che corre. Lo scienziato che ha decifrato le proteine adesso prova a decifrare la nostra impreparazione. E confessa che la concorrenza, in questo momento, è la più feroce che la tecnologia abbia mai visto.

Se Hassabis vuole spaventare per preparare, Dario Amodei è andato oltre: ha scritto le regole. Amodei guida Anthropic, ed è forse la figura che più di tutte tiene insieme il successo commerciale e l'allarme costante. Il nove giugno ha pubblicato il suo testo più strutturato dell'anno, intitolato, più o meno, una politica per l'esponenziale.

L'immagine con cui apre è bellissima e un po' inquietante. Cita Barbalbero, l'albero parlante del Signore degli Anelli, lentissimo a decidere. L'intelligenza artificiale, dice Amodei, cresce in modo esponenziale; le nostre istituzioni si muovono alla velocità di Barbalbero. È questo lo scarto da cui nasce il pericolo.

La sua proposta più concreta è quella che fa più discutere: trattare i modelli più potenti come trattiamo gli aerei. Non un divieto, ma una certificazione obbligatoria prima del decollo. Test fatti da terzi indipendenti su quattro rischi precisi, dalla sicurezza informatica alle armi biologiche. E l'obbligo di segnalare gli incidenti, esattamente come fa una compagnia aerea.

Qui si chiude un cerchio che è bene notare. Solo un paio d'anni fa Amodei sosteneva che bastasse la trasparenza, raccontare cosa si stava facendo. Adesso dice che i rischi sono chiaramente qui, e che serve una vera autorità, come quella che certifica gli aerei prima di farli volare. È la stessa parabola che la storia ci ha già mostrato: l'automobile girò per decenni senza cinture, senza limiti, senza patente, finché il numero dei morti non costrinse a scrivere le regole. Amodei sta dicendo che con l'intelligenza artificiale non possiamo permetterci di aspettare i morti.

Ed è qui che il filo della giornata si tende del tutto. Da una parte Musk e Huang, che parlano di abbondanza e chiamano sciocchezza la paura. Dall'altra Amodei e Hinton, che chiedono un libretto di circolazione per le macchine pensanti. In mezzo, la domanda di Karpathy: ma queste cose, le sappiamo verificare? Perché non puoi certificare ciò che non sai misurare. La proposta di Amodei, in fondo, è il tentativo politico di costruire un confine là dove Karpathy ha trovato un confine tecnico.

L'ultimo ritratto ci porta sul terreno più imprevisto: lo Stato. Balaji Srinivasan è un personaggio difficile da incasellare, ex dirigente di Coinbase, investitore, autore di un libro che proponeva di costruire nuove nazioni su internet. Per anni il suo messaggio è stato provocatorio: abbandonate gli Stati nazionali.

Questa settimana, il diciotto giugno, è salito su un palco a Singapore con un titolo che segna un'evoluzione netta: automatizzare lo Stato. L'idea è questa. Se le aziende stanno riscrivendo le loro funzioni con l'intelligenza artificiale, allora anche le funzioni pubbliche, i registri, il fisco, l'identità, la giustizia amministrativa, possono essere ricostruite come software che chiunque può controllare. È il ponte tra la sua vecchia tesi, uscire dallo Stato, e una nuova, ricostruirlo da capo come fosse un programma.

C'è uno spostamento personale interessante. Il Balaji di qualche anno fa era un massimalista del bitcoin, tutto incentrato sulla moneta. Quello di oggi mette l'intelligenza artificiale al centro, come motore del cambiamento delle istituzioni. E soprattutto è passato dalla provocazione alla costruzione: invece di gridare di abbandonare gli Stati, ha aperto una scuola in Malesia, una specie di incubatore fisico dove far nascere comunità nuove, con i loro studenti in carne e ossa.

Il collegamento con la giornata è elegante, perché chiude una tensione precisa. Da una parte c'è Balaji, che dice: lo Stato è vecchio software, riscriviamolo da zero. Dall'altra c'è Patrick Collison, il fondatore di Stripe, che la pensa all'opposto: le istituzioni non vanno buttate, vanno rese più solide per progetto, ripensando incentivi e strutture. Per Collison il vero freno al progresso, oggi, non è la tecnologia ma la burocrazia, l'organizzazione, il modo in cui finanziamo la ricerca.

Due uomini intelligenti, lo stesso problema, due risposte agli antipodi. Riscrivere o irrobustire. È la versione politica della stessa domanda che abbiamo sentito tutto il giorno: come si rende governabile una cosa che corre. E mi pare che la storia, di solito, non scelga mai del tutto una delle due strade. Le ferrovie americane nacquero nel caos di mille compagnie private, e finirono regolamentate dallo Stato. Forse anche stavolta finiremo da qualche parte nel mezzo, tra Balaji e Collison.

Qualche progetto da osservare, e con una nota: questa settimana sono quasi tutti vecchie conoscenze, cose che continuano a crescere senza fare rumore. Ed è già un segnale.

Tornano, in cima alle tendenze, i piccoli strumenti di Andrej Karpathy: nanochat, il suo gist sui modelli linguistici, il progetto autoresearch. È curioso come l'uomo che teorizza i confini dell'intelligenza artificiale sia anche quello che costruisce gli attrezzi più minuti per smontarla e capirla. Resta forte llama.cpp, il progetto che permette di far girare un modello sul proprio computer senza chiedere niente a nessuno: e questo parla esattamente del filo di oggi, perché se l'energia è il vero costo, far calcolare le cose in locale diventa una scelta strategica, non un capriccio da appassionati.

Continua a salire ARC-AGI, il banco di prova di François Chollet, quello pensato per misurare se una macchina sa ragionare davvero su problemi nuovi e non solo ripetere ciò che ha già visto. È, in fondo, la verificabilità di Karpathy trasformata in un esame. C'è poi claude-context, attorno al tema di dare memoria agli assistenti, e tornano gli strumenti del mondo Obsidian e dei sistemi su cui chi lavora con le idee costruisce il proprio archivio personale.

Il filo che li tiene insieme non è tecnico, è culturale. Sono quasi tutti progetti che servono a capire, misurare, controllare le macchine, oppure a tenerle vicine, sul proprio computer, sotto il proprio occhio. Nessuno di questi grida abbondanza. Tutti, a modo loro, rispondono alla domanda della settimana: come faccio a sapere cosa sto usando, e a tenerlo sotto controllo.

Resta l'immagine di Davos da cui siamo partiti: Musk che promette un mondo senza fatica, mentre dall'altra parte qualcuno chiede di certificare le macchine come si fa con gli aerei. In mezzo, la domanda sommessa di Karpathy, che è poi la più antica di tutte: questa cosa, la possiamo verificare? Forse il futuro non lo deciderà chi corre più forte, ma chi saprà ancora distinguere ciò che capisce da ciò che si limita a credere. È stato Signal Brief. Alla prossima.