Chi darà forma al giudizio

Chi darà forma al giudizio

Il dibattito sull'AI cambia livello: non più solo chi la controlla, ma chi modellerà il giudizio che la governa. Decentralizzazione tecnica, disaccordo profondo, fondatori dentro la materia.

Cinque settimane fa Andrej Karpathy ha chiuso il suo laboratorio personale ed è entrato in Anthropic. Pochi giorni dopo, dall'altra parte della baia, Ilya Sutskever ha detto agli azionisti della sua nuova società che la corsa ai parametri è finita e che bisogna trovare un'altra montagna. Sono due gesti piccoli, presi dentro una settimana ordinaria. Ma raccontati insieme dicono qualcosa di più grande, ed è il filo di questa puntata di Signal Brief, oggi 5 giugno 2026. La domanda non è più chi vincerà la corsa all'AI. È chi deciderà che forma avrà.

C'è un post di Paul Graham pubblicato a fine maggio che merita di essere letto due volte. Una frase sola: l'unica cosa peggiore di avere il fondatore di un'azienda con le mani dentro l'AI è non averlo. Non è uno slogan, è una prescrizione. Graham, che ha visto passare migliaia di startup dal vivo, sta dicendo a chi costruisce qualcosa di nuovo che delegare l'AI è già un errore. Bisogna entrarci, sporcarsi le mani, sapere cosa fa e cosa non fa di prima persona.

A pochi chilometri di distanza, nello stesso periodo, Geoffrey Hinton tiene una lezione che si intitola "Vivere con esseri alieni". Hinton, che ha settantasette anni e ha inventato pezzi grossi delle reti neurali moderne, dice una cosa apparentemente semplice e in realtà spiazzante: smettiamo di chiederci quanto saranno intelligenti queste macchine. La domanda giusta è un'altra. Che tipo di essere stiamo costruendo? Non è un dettaglio. È un cambio di registro. Per anni il dibattito è stato quantitativo — quanti parametri, quante schede video, quanti benchmark superati. Hinton sposta la conversazione su un piano diverso, più vecchio, più filosofico: la forma del giudizio, non la sua potenza.

Mi sembra che queste due voci, prese insieme, fissino il tema della settimana. Per anni la domanda centrale era chi avrebbe avuto le macchine più grandi. Già nel briefing di ieri abbiamo visto come questa fase si stesse chiudendo, sostituita da una discussione su chi controlla l'AI. Adesso il fuoco si è spostato ancora di un passo. Non basta più sapere chi ha le macchine, e non basta più nemmeno sapere chi le regola. La domanda è diventata: chi modellerà il giudizio con cui queste macchine decideranno?

Faccio un paragone che forse aiuta. Quando le ferrovie hanno cominciato a unire l'Europa, all'inizio dell'Ottocento, la prima generazione di domande era tecnica — di che ampiezza facciamo i binari, dove passano i tunnel. La seconda generazione era industriale — chi possiede le compagnie, chi finanzia le linee. La terza, quella che davvero ha disegnato il continente, era un'altra ancora: chi decide gli orari, chi sceglie le destinazioni, chi stabilisce cosa è una città di prima categoria e cosa è un paese di passaggio. La forma del giudizio, appunto. Stiamo vivendo lo stesso passaggio con l'AI, ma accelerato in modo brutale.

E questa volta il dibattito non è scolastico. È strutturato come una faglia profonda. Da una parte, due gesti che vanno nella direzione del controllo distribuito. Balaji Srinivasan, che da mesi parla di prove a conoscenza zero come tecnologia fondante, ha appena partecipato al finanziamento da venticinque milioni di dollari di un laboratorio di sviluppo su Zcash. Vitalik Buterin, dall'altra parte dell'oceano, ha pubblicato a inizio giugno una proposta tecnica per togliere dalle finanze decentralizzate il meccanismo delle liquidazioni — quello che ogni tanto fa saltare in aria mezzo mercato in un'ora. La logica comune è la stessa: non ottimizzare i punti di fragilità centralizzata, eliminarli alla radice. Costruire scudi prima che qualcun altro decida al posto tuo.

Dall'altra parte della faglia, scelte opposte. Elon Musk a fine maggio ha annunciato che xAI smetterà di esistere come azienda separata: tutto confluisce dentro SpaceX, e il pacchetto va in borsa al Nasdaq con una valutazione vicina ai due trilioni di dollari. Sarebbe la quotazione più grande della storia. Marc Andreessen, intanto, scrive sul podcast di Joe Rogan che l'AGI è già arrivata — i modelli di oggi rispondono meglio della maggior parte degli esperti umani — e siede contemporaneamente nel consiglio scientifico del presidente americano.

Decentralizzazione come principio, concentrazione come fatto. Convivono senza risolversi. È questo lo strano paesaggio dentro cui ci muoviamo oggi.

Andrej Karpathy non ha bisogno di troppe presentazioni: ex direttore AI di Tesla, una delle voci che ha messo in mano a tutti, gratuitamente, la grammatica delle reti neurali con i suoi corsi su YouTube. Da un anno e mezzo lavorava per conto suo. Il 19 maggio ha annunciato di essere entrato in Anthropic, l'azienda di Claude, con un compito specifico: lavorare sull'accelerazione del pre-training, cioè sulla fase iniziale dell'addestramento dei modelli. Ha detto che i prossimi anni sono i più formativi per i modelli linguistici, e che tornare dentro un laboratorio di punta era la cosa giusta da fare adesso.

Pochi giorni prima della firma, però, era salito sul palco della conferenza Sequoia Ascent. E lì ha detto una cosa che vale la pena raccontare. Ha proposto un'idea di software molto diversa da quella a cui siamo abituati. La chiama software 3.0: non più codice scritto a mano, e nemmeno reti neurali addestrate sui dati, ma sistemi pilotati attraverso il linguaggio, dentro cicli di prompt, memoria, verifica. La sua visione più radicale è quella dei computer neurali — dispositivi che ricevono direttamente video e audio crudi, e generano sul momento l'interfaccia giusta per quel contesto. Ha portato l'esempio di un'applicazione che fotografa il menu di un ristorante e ti costruisce sopra una scheda con le foto di ogni piatto, fatte sul momento. Piccola cosa, ma è il germoglio di un modo nuovo di intendere il software.

Karpathy ha anche aperto una vena diversa, più personale. Ha smesso di usare l'AI per scrivere codice. La usa per costruirsi una memoria — una specie di enciclopedia personale, dove getta documenti grezzi in una cartella e il modello ci mette dentro voci, collegamenti, categorie. Una wiki che si aggiorna da sola. Pensata per uso individuale, ma indicativa di un cambio di gusto.

C'è poi un altro tema che continua a battere, ed è quello che lo lega direttamente al filo di oggi. Karpathy denuncia un divario di percezione enorme: da una parte chi usa l'AI ogni giorno, conosce decine di modelli, costruisce strumenti su misura. Dall'altra l'utente medio, fermo a ChatGPT versione gratuita del 2024. Due mondi che, dice lui, si parlano sopra. Nessuno dei due capisce davvero cosa pensa l'altro. Non è una questione di accessibilità, è una questione di feedback. Chi è dentro non vede più chi è fuori, e viceversa.

Questa frase merita di essere tenuta da parte. Perché collega Karpathy a un'altra voce nota, quella di Simon Willison, che vede lo stesso problema da un'altra angolazione e lo chiama design organizzativo. Detto in modo semplice: il punto non è quanto è buona la tecnologia, è che chi la usa e chi la teme non si parlano, e quindi non si correggono a vicenda. Ed è esattamente la stessa intuizione che Hinton porta sul piano filosofico: non basta avere strumenti potenti, serve avere comunità che ne giudicano l'uso.

Ilya Sutskever è una delle persone che ha messo le reti neurali sulla strada che stiamo percorrendo oggi. Era uno dei tre autori di AlexNet, nel 2012, l'esperimento che ha riacceso il deep learning. È stato a lungo il capo scienziato di OpenAI. L'anno scorso ha fondato una sua società, Safe Superintelligence, una ventina di persone, nessun prodotto, nessun fatturato, e una valutazione che ora si avvicina ai trentadue miliardi di dollari.

In queste settimane Sutskever ha detto una cosa che a chi segue il settore suona come una bestemmia. Ha dichiarato che l'era dello scaling, cioè quella fase in cui per migliorare i modelli bastava aumentare dati e parametri, è finita. Il periodo che va dal 2020 al 2025, dice, ha esaurito la sua spinta. Oggi entriamo in un'era della ricerca: ci sono più aziende che idee. Quello che conta non è più la dimensione del cluster, sono le intuizioni. E le sue intuizioni, dice, lo stanno portando verso un'altra montagna — un approccio diverso da quello che tutti stanno percorrendo. Non ha rivelato di cosa si tratti, ma dice che i primi segnali sono promettenti.

Sutskever ha aggiunto un'osservazione che vale la pena raccontare per intero, perché è l'argomento più solido che gli scettici del paradigma attuale abbiano portato finora. I modelli di oggi superano esami di dottorato. Ma se gli chiedi di correggere un bug, ne introducono altri due. Passano test difficili e falliscono compiti semplici. È un fenomeno che ha un nome inglese, jaggedness — letteralmente, profilo seghettato. E secondo lui non è un dettaglio, è la prova che il paradigma attuale ha colpito una parete. Il punto è chiaro: se vuoi un sistema che capisca davvero, devi farlo imparare in modo diverso, non solo farlo mangiare più dati.

Questo è il cuore di quello che oggi chiamiamo disaccordo profondo. Per anni le posizioni divergenti — Altman ottimista, LeCun scettico, Chollet empiricamente prudente — sembravano una disputa di strategia. Adesso si vede che è qualcosa di più radicale: non sono d'accordo su cosa sia l'intelligenza, e su cosa stia davvero succedendo dentro questi sistemi. Jensen Huang e Marc Andreessen, dall'altra parte, dichiarano l'AGI già arrivata. Sutskever, LeCun e Chollet rispondono che la strada attuale non porta lì.

C'è un'altra cosa interessante: Altman e Hassabis, fino a pochi mesi fa più cauti, sono spariti dal fronte ottimista. Hassabis a maggio ha detto che siamo ai piedi della singolarità e che servono pochi anni. Insomma anche chi credeva nello scaling sta ricalibrando il proprio orologio.

Mi sembra che il punto sia questo. Quando i fondatori del paradigma cominciano a dire che il paradigma è esaurito, e quando i loro investitori più ricchi rispondono che invece è tutto risolto, non siamo dentro una discussione tecnica. Siamo dentro una discussione su cosa stiamo guardando. E questo cambia chi ascoltiamo.

Ricapitoliamo un attimo dove siamo. Da una parte chi dice che l'AI è arrivata e bisogna costruirci sopra alla massima velocità. Dall'altra chi dice che il paradigma è esaurito e serve un'altra strada. Ma sotto questa discussione c'è una faglia ancora più antica: chi avrà il controllo? Ed è qui che entra Balaji Srinivasan.

Balaji è un personaggio difficile da etichettare. Ingegnere, investitore, ex direttore tecnico di Coinbase, autore di un libro sui network state — l'idea di costruire comunità sovrane attraverso il digitale, e poi materializzarle in luoghi fisici. Da mesi tiene un filo coerente, che in queste settimane si è cristallizzato in un'immagine specifica.

Per Balaji, le criptovalute stanno entrando nella loro terza era. La prima, dal 2009 al 2017, era stata Bitcoin — la valuta digitale. La seconda, dal 2017 al 2025, è stata Ethereum — il computer programmabile distribuito. La terza, che secondo lui durerà fino al 2033, è l'era della privacy. La tecnologia chiave non sono più i blocchi né i contratti intelligenti, ma le prove a conoscenza zero. Detto in modo semplice: tecniche matematiche che permettono di dimostrare di sapere una cosa senza rivelarla. Posso dimostrare di avere abbastanza soldi sul conto per un mutuo, senza far vedere il saldo. Posso dimostrare di essere maggiorenne, senza dare il documento. Posso dimostrare di essere io, senza farmi schedare.

Balaji vede questa roba come uno scudo sovrano contro la sorveglianza che la diffusione dell'AI rende inevitabile. A marzo ha partecipato a un finanziamento da venticinque milioni di dollari per il laboratorio di sviluppo di Zcash, una delle criptovalute storicamente più orientate alla privacy. Ha detto, letteralmente: Zcash può scalare, deve scalare, scalerà. Ha proposto poi un'idea che chiama Zethereum — un Ethereum con la privacy come strato nativo, non come pezzo aggiunto.

C'è un altro post recente che vale la pena citare, perché segna un'evoluzione politica. Balaji ha scritto che il libertarismo in teoria, in pratica richiede Lee Kuan Yew — il fondatore della Singapore moderna. Significa: i mercati liberi e la sovranità individuale non funzionano nel vuoto, hanno bisogno di uno Stato funzionante e disciplinato come sostrato. Non uno Stato assente. Si allontana dall'ideologia libertaria pura e si avvicina a una posizione più pratica: prima costruisci l'ordine, poi puoi avere la libertà.

Questa traiettoria si lega direttamente a Vitalik Buterin, anche lui mosso nelle ultime settimane. Vitalik a inizio giugno ha proposto un modo di costruire finanze decentralizzate senza il meccanismo delle liquidazioni. La sua mossa successiva: dimezzare la fondazione Ethereum, vendere meno ETH, ridurre il proprio potere interno. Lo descrive come obiettivo voluto, non come crisi.

Vale la pena collegare i due gesti. Balaji costruisce scudi tecnici per proteggere l'individuo dall'occhio centralizzato. Vitalik smonta il centro stesso dell'oggetto che ha contribuito a creare. È la stessa logica, applicata in due direzioni opposte: rendere impossibile il punto di accumulo. È una risposta strutturale, non politica, alla concentrazione del potere.

Paul Graham, per chi non lo conosce, è uno dei padri della Silicon Valley contemporanea. Ha fondato l'acceleratore Y Combinator, da cui sono uscite alcune delle aziende più importanti degli ultimi vent'anni — da Stripe ad Airbnb. Ha smesso da tempo di gestirlo, ma continua a scrivere, e quando scrive viene letto da chi conta. Da una decina d'anni le sue righe sono spesso lo schema che migliaia di fondatori adottano senza nemmeno accorgersene.

Questa settimana ha pubblicato una frase che gira molto. È una di quelle frasi che sembrano semplici e invece sono prescrittive. Dice, in sostanza, che l'unica cosa peggiore di avere un amministratore delegato che si sporca le mani con l'AI è non averlo. È un mandato. Costruisci direttamente, non delegare. Non comprare consulenti, non aspettare il piano industriale, non rimandare. Mettiti dentro, capisci cosa fa lo strumento, prendi le decisioni dal contatto diretto con la materia.

A questa frase Graham ne ha aggiunte altre due, sempre in questi giorni, che vale la pena tenere insieme. La prima: le due startup che ha trovato più impressionanti nell'ultimo gruppo di Y Combinator non lavorano sull'AI. La seconda: ha smesso di leggere le email scritte dall'AI, dice che si riconoscono dal tono, e che usare l'AI per sembrare più autorevoli è già una piccola truffa.

Mi sembra che queste tre frasi, lette insieme, dicano una cosa precisa. Graham non è contro l'AI. È contro l'AI usata male. Per lui il valore non è nell'aver fatto suonare la parola AI nel pitch agli investitori. È nel sapere costruire qualcosa di buono. E il modo migliore per saperlo è farlo direttamente, non dirigerlo da lontano.

Questo è il quarto nodo della giornata. Karpathy ci dice che chi usa l'AI seriamente e chi la usa superficialmente non si parlano. Hinton ci dice che la domanda non è quanto è intelligente, è che tipo di essere stiamo costruendo. Sutskever ci dice che il paradigma è esaurito e serve un'altra strada. Graham aggiunge l'angolo operativo: per partecipare a questa discussione devi avere le mani dentro la materia, non sopra.

C'è una continuità sottile con quello che Naval Ravikant continua a ripetere da settimane: ormai la distinzione tra ingegneri non è più tra junior e senior, è tra chi è bravo con l'AI e chi non lo è. Non è una promessa, è già il presente. La differenza tra una squadra che produce e una che resta indietro non passa più dall'esperienza, passa dal saper guidare strumenti che cambiano ogni mese.

Tutto questo ricorda — e chiudo con un paragone — il momento, all'inizio del Novecento, in cui i grandi industriali capirono che dovevano andare dentro le fabbriche per capire l'elettricità. Quelli che mandarono i tecnici e basta, persero il decennio. Quelli che ci entrarono di persona, costruirono la generazione dopo. Stiamo vivendo lo stesso passaggio.

Cinque progetti da osservare brevemente.

Il primo è nanochat, di Andrej Karpathy. Un modello linguistico minuscolo, scritto in poche centinaia di righe, pensato per essere letto, capito e modificato. Non serve a niente di pratico. Serve a vedere come funziona dentro. Continua a crescere — segno che c'è una sete diffusa di poter guardare nella macchina invece di solo usarla.

Il secondo è Omarchy. Una distribuzione di Linux costruita dal team di Basecamp, l'azienda di David Heinemeier Hansson, che sta diventando il loro standard interno. Centocinquantamila installazioni in un mese. È una scelta esplicita di indipendenza dai grandi sistemi commerciali. Sintonia chiara col filo di oggi: strumenti che si possono modificare, non solo usare.

Il terzo è ARC-AGI, di François Chollet. Un test che gli umani passano al cento per cento e che i modelli più potenti di oggi superano sotto l'uno per cento. Chollet ha appena lanciato la terza versione, dove l'agente deve esplorare ambienti senza istruzioni e capire da solo le regole. È il termometro più severo per misurare quanto manca davvero alla cosiddetta intelligenza generale.

Il quarto è llm, lo strumento da riga di comando di Simon Willison. Permette di parlare con decine di modelli diversi da terminale, salvando tutto in modo strutturato. Piccolo, ma rappresenta quella categoria di utenti che tratta l'AI come strumento componibile, non come applicazione confezionata.

Il quinto è autoresearch, ancora di Karpathy. Un esperimento sull'idea di cicli di ricerca automatizzati, dove un modello esplora da solo domande aperte. Non è maturo, è l'incarnazione di quella tesi che Karpathy ripete da mesi: i prossimi salti non verranno dal far girare lo stesso schema più velocemente, ma da architetture che imparano nuove idee mentre lavorano.

Cinque oggetti diversi che parlano la stessa lingua: trasparenza, indipendenza, misurazione onesta. Sono il contrario delle scatole nere.

Torno per un secondo alla scena con cui abbiamo aperto. Hinton sul palco che dice: smettete di chiedervi quanto saranno intelligenti queste macchine, chiedetevi che tipo di essere state costruendo. Sotto questa domanda c'è tutto il resto. È stato Signal Brief. Alla prossima.