Chi tiene il volante

Chi tiene il volante

L'AI sta diventando infrastruttura, non strumento. Chi la controlla e dove sta davvero andando: le grandi tensioni del pensiero tech in questo momento.

Cinque maggio, Signal Brief. Nelle ultime settimane, chi costruisce e chi studia l'intelligenza artificiale ha smesso di chiedersi "cosa può fare" e ha iniziato a chiedersi qualcosa di diverso: chi decide dove va. È una domanda sul potere, sulla governance, sulla direzione. Oggi seguiamo quella domanda attraverso le voci di chi sta cercando di rispondere — e attraverso i disaccordi profondi che separano le loro risposte.

A fine aprile, Andrej Karpathy — uno degli ingegneri che più di chiunque altro ha costruito questi sistemi dall'interno, già a capo dell'AI di Tesla, già tra i fondatori di OpenAI — ha parlato a una conferenza riservata ai vertici del settore. Il post che ha scritto subito dopo è diventato virale, ma non per quello che ci si aspetterebbe.

Non si parlava di nuovi modelli, non di benchmark, non di investimenti. Il centro era una frase sola: "puoi esternalizzare la scrittura del codice, non puoi esternalizzare la comprensione."

Karpathy stava descrivendo quello che chiama agentic engineering — un approccio in cui il software non viene più scritto riga per riga, ma delegato ad agenti, mentre le persone si occupano di capire cosa fare e perché. Dice di aver invertito il suo ritmo di lavoro a dicembre scorso: prima scriveva il novanta per cento del codice a mano, oggi lo fa l'agente. Lui sorveglia, indirizza, valuta.

Ma quello che Karpathy descrive è qualcosa di più grande di un cambio di metodo. È l'intelligenza artificiale che smette di essere uno strumento e diventa infrastruttura cognitiva — come la rete elettrica non è uno strumento per accendere le luci, ma il tessuto dentro cui si regge l'economia moderna. Come internet negli anni novanta non era uno strumento per mandare email, ma una piattaforma sopra cui si sarebbero costruite le decadi successive di commercio, informazione, relazioni sociali.

Questo salto — da strumento a substrato — non è solo una metafora. Ha conseguenze pratiche immediate. Patrick Collison, il fondatore di Stripe, ha presentato in questi giorni duecentottantotto nuovi prodotti, quasi tutti costruiti intorno all'idea che in futuro gli agenti — non gli umani — gestiranno la maggior parte delle transazioni online. Stripe si posiziona come il layer economico di questa transizione: non i pagamenti di ieri, ma le primitive per un'economia dove i software comprano, vendono e negoziano per conto delle persone.

E Jack Dorsey, il fondatore di Twitter ora alla guida di Block, ha licenziato quattromila persone — il quaranta per cento della forza lavoro — e ha spiegato il ragionamento senza giri di parole: le gerarchie aziendali esistevano perché qualcuno doveva instradare informazioni da un livello all'altro. Se quell'instradamento lo fa un modello, la gerarchia non serve più.

Tre persone diverse, con stili diversissimi, che convergono sullo stesso punto da strade diverse. Quando succede così, di solito vuol dire che qualcosa di strutturale sta cambiando.

Ma c'è una domanda che nasce subito. Se l'AI diventa infrastruttura cognitiva — il tessuto su cui si regge il pensiero collettivo, l'organizzazione del lavoro, la distribuzione del potere economico — chi possiede quel tessuto? Chi lo gestisce? Chi decide come funziona?

Le fabbriche a vapore dell'ottocento erano infrastruttura. Chi le controllava controllava l'economia. La ferrovia era infrastruttura. Chi la possedeva determinava quali città sarebbero cresciute e quali no. Il pattern si ripete. E ripete sempre la stessa domanda: questo potere si concentra o si distribuisce?

Vitalik Buterin è conosciuto principalmente come il fondatore di Ethereum, la piattaforma su cui gira buona parte dell'economia delle criptovalute. Negli ultimi mesi, però, ha spostato l'attenzione su qualcosa di diverso — e lo ha fatto con una concretezza che raramente si vede in questi dibattiti.

All'inizio di aprile ha pubblicato nei dettagli il suo setup personale per usare l'intelligenza artificiale: un laptop con una scheda grafica Nvidia, un modello che gira localmente sulla macchina, un sistema operativo configurato per isolare ogni processo, un terabyte di Wikipedia scaricato offline per non lasciare tracce. Nessuna query passa per server di terzi. Nessuno sa cosa chiede.

La motivazione non era tecnica nel senso stretto. Era una scelta politica nel senso più letterale: il controllo individuale come valore fondante. Ha citato un dato che vale la pena tenere a mente: circa il quindici per cento degli strumenti che gli agenti AI usano contiene istruzioni malevole — scritte apposta, non bug accidentali. Per questo propone una regola semplice: ogni azione che coinvolge comunicazioni verso l'esterno richiede una conferma esplicita dell'utente.

È una posizione che si contrappone direttamente all'idea di AI come servizio fluido e sempre disponibile. Buterin dice che la comodità è una trappola: consegni il controllo a qualcosa che non vedi, e nel momento in cui quel controllo conta davvero, non ce l'hai più.

Nello stesso periodo, Naval Ravikant — investitore, una delle voci più ascoltate nell'ecosistema tech americano — stava descrivendo il suo "personal app store": un'interfaccia costruita con agenti AI che genera applicazioni personalizzate al momento, bypassando completamente l'App Store di Apple. Non un'app preconfezionata da qualcuno. Un software costruito per te, adesso, per quello che ti serve adesso. Come ordinare un abito su misura invece di comprarlo in un negozio.

E Balaji Srinivasan, imprenditore e saggista prolifico, ha pubblicato un testo con un titolo diretto: "l'AI è politeistica, non monoteistica". La tesi: l'errore è pensare che esista — o debba esistere — un'unica intelligenza artificiale che tutto governa. Quello che sta emergendo, e che secondo lui dovrebbe emergere ancora di più, sono molte AI diverse, costruite da comunità diverse, con valori diversi, che non si parlano tra loro. Non una verità unica, ma molte coesistenze.

Questi tre stanno argomentando la stessa tesi da angolazioni diverse: la risposta alla concentrazione del potere AI non è la regolamentazione centrale, ma la frammentazione. Non un controllo dall'alto, ma ecosistemi incompatibili e sovranità dal basso. Vale la pena notare che questa posizione sa benissimo i costi che comporta — meno compatibilità, meno scala, meno efficienza. Ma ritiene che il costo della concentrazione sia peggiore.

Geoffrey Hinton è il ricercatore che più di chiunque altro ha costruito le fondamenta teoriche dei modelli che usiamo oggi — ha vinto il Nobel per questo, nel 2024. Il 22 aprile era a Ginevra, a una conferenza organizzata dall'ONU, con un messaggio molto diverso dall'entusiasmo di Karpathy o dal pragmatismo di Buterin.

Ha usato una metafora che vale la pena ricordare perché è precisa: "l'AI è una macchina velocissima senza volante. La regolazione deve fornirlo."

Non stava chiedendo linee guida volontarie, non principi etici scritti dai laboratori stessi — che equivalgono, ha detto, a chiedere alle aziende di regolarsi da sole. Stava chiedendo norme vincolanti a livello internazionale, trattati con forza di legge, modellati su quelli che governano le armi chimiche e nucleari. Ha detto che meno dell'uno per cento del lavoro sull'intelligenza artificiale va nella sicurezza. "Assolutamente insufficiente", parole sue.

Il tema che ha introdotto più di recente — e che è più inquietante del dibattito sui posti di lavoro — è quello dell'inganno. Non l'AI che sostituisce mansioni umane, ma l'AI che impara a mentire per raggiungere i propri obiettivi. La logica, dice Hinton, è semplice: se un sistema percepisce che qualcosa cerca di limitarlo, sviluppa strategie per aggirare quella limitazione. Non perché sia cattivo, ma perché ha imparato che ottimizzare il proprio obiettivo include rimuovere gli ostacoli. E la menzogna è uno strumento efficace.

Hinton ha anche fatto qualcosa di raro: ha ammesso pubblicamente di essersi sbagliato. Nel 2016 aveva detto che i radiologi sarebbero stati obsoleti nel giro di dieci anni. Non è andata così. Ci sono oggi quattromila posizioni aperte in radiologia negli Stati Uniti, con salari altissimi. Ha detto che intendeva solo la parte di analisi delle immagini, non l'intera professione.

L'ammissione è interessante non perché smonta la sua posizione sull'AI in generale — non lo fa — ma perché segnala un pensiero che si aggiorna. E aggiorna anche il tono: più cauto, più consapevole di quanto sia difficile prevedere come le tecnologie si dispiegano nella pratica.

La sua risposta alla domanda "chi tiene il volante" è la più istituzionale tra quelle in campo: qualcuno fuori dai laboratori, con autorità reale, che decida con criteri pubblici. Il problema — come sempre — è che costruire quella governance a livello internazionale richiede accordo tra nazioni che su quasi tutto il resto sono in competizione.

Ricapitoliamo un attimo dove siamo. Da una parte c'è chi sostiene che l'AI stia diventando infrastruttura cognitiva, e che questo sposti il potere verso chi la controlla. Dall'altra c'è chi risponde che la difesa è la frammentazione: molte AI locali, ecosistemi incompatibili, sovranità dal basso. E poi c'è la domanda di Hinton: chi guida, con quale autorità, su quali basi. Tre risposte diverse allo stesso problema. Teniamole in mente, perché i prossimi due ritratti le mettono ulteriormente alla prova.

Jensen Huang è il fondatore di Nvidia — l'azienda che produce i chip su cui girano quasi tutti i modelli linguistici esistenti. È, letteralmente, chi rifornisce il motore dell'AI globale. Il che rende notevole che sia lui a sollevare uno degli allarmi più scomodi del momento.

In un podcast lungo quasi due ore, Huang ha detto una cosa precisa: le restrizioni americane sulle esportazioni di chip verso la Cina non stanno rallentando la Cina. Stanno spostando la loro spesa verso Huawei, il produttore cinese che costruisce chip alternativi. Il risultato è che si stanno formando due ecosistemi tecnologici completamente separati: uno costruito sui chip americani, uno su quelli cinesi. Non temporaneamente — strutturalmente.

Huang ha usato la parola "incompatibili". Non diversi, non concorrenti. Incompatibili: due mondi che non si parlano, come se internet si fosse divisa in due reti incapaci di comunicare. La separazione, dice, è già in corso. E una volta che si consolida, è quasi impossibile da invertire.

La sua proposta — quella che i titoli dei giornali hanno chiamato "la peace idea" — è un dialogo strutturato tra ricercatori americani e cinesi per definire cosa l'AI non deve fare. Non un accordo commerciale, non una governance formale, ma qualcosa di simile ai trattati sulle armi nucleari degli anni sessanta: non proibire la tecnologia, ma definire le linee rosse condivise. Dove smettere, indipendentemente da chi sia avanti.

Ha fatto irritare Dario Amodei di Anthropic, che sostiene invece le restrizioni sulle esportazioni come strumento di sicurezza nazionale. Il dibattito è reale e non ha una risposta ovvia.

Vale la pena notare che quello che Huang descrive come rischio — due ecosistemi incompatibili — è esattamente quello che Balaji descrive come aspirazione. La stessa immagine, valutata in modo opposto. Balaji vuole frammentazione per preservare la sovranità individuale. Huang teme la frammentazione perché porta a uno scontro strutturale tra grandi blocchi geopolitici. Entrambi vedono la stessa cosa all'orizzonte. Tirano conclusioni opposte.

Nel frattempo, in pubblico, Huang dice ai giovani che chiedono quale carriera intraprendere: ingegneria. Non perché l'AI non cambierà il lavoro — lo cambierà — ma perché "serve un trilione di righe di codice, non un miliardo". La domanda di competenza tecnica non cala. Cambia forma.

François Chollet è il ricercatore che ha costruito ARC-AGI — un benchmark progettato per misurare una capacità specifica: adattarsi a regole nuove senza averle mai viste prima. Non ripetere, non ricordare, non interpolare su esempi già visti. Imparare davvero.

Il 25 marzo ha lanciato la terza versione di questo test in un evento a San Francisco, con Sam Altman seduto di fronte. La novità è che ARC-AGI-3 è interattivo: niente istruzioni, niente obiettivi dichiarati. L'agente deve esplorare un ambiente, capire da solo le regole, trasferire quello che impara a situazioni sempre nuove. Gli esseri umani lo fanno al cento per cento. I migliori modelli frontier al momento arrivano allo zero virgola cinquantuno per cento.

Quel divario — cento contro zero virgola cinque — è la misura più concreta che abbiamo del gap tra l'intelligenza di cui si parla e l'intelligenza che è stata costruita. Non è un'opinione. È un dato che chiunque può verificare sul leaderboard pubblico. Chollet ha detto esplicitamente: se volete sapere quando avviene un vero salto nel ragionamento AI, guardate quel numero. Il giorno che inizia a muoversi velocemente, qualcosa di strutturale sarà cambiato.

Ma Chollet ha fatto qualcosa di diverso nelle ultime settimane: ha spostato l'attenzione dalle macchine alle persone. Ha scritto che se l'AI raggiungesse davvero capacità cognitive paragonabili alle nostre, la nuova linea di divisione sociale non sarebbe economica. Non chi ha più soldi, non chi ha più istruzione formale. Sarebbe cognitiva: chi mantiene il controllo della propria attenzione, chi decide cosa pensare e quando — contro chi lascia che l'AI gestisca i propri ritmi di pensiero, chi consuma senza dirigere.

Lo chiama "focus class" versus "slop class". Traducendo liberamente: chi guida e chi si lascia portare.

È un'immagine che risuona con quello che Karpathy dice sulla comprensione non delegabile: l'AI può scrivere il codice, ma non può capire al tuo posto. Può generare contenuti, ma non può decidere al tuo posto cosa vale la pena considerare. La domanda "chi tiene il volante" — per tornare alla metafora di Hinton — non è solo una domanda sulla governance globale. È una domanda che si pone ogni giorno, a ogni persona che usa questi strumenti.

Qualche progetto da tenere d'occhio, in connessione con quello che abbiamo raccontato.

Il primo è llm-wiki di Karpathy — un sistema per costruire la propria base di conoscenza personale con un modello linguistico. Il modello non risponde a domande: legge le fonti, scrive articoli collegati tra loro, li aggiorna nel tempo. L'idea è che l'AI non risponda sulla conoscenza ma costruisca e mantenga la conoscenza stessa. Un esperimento concreto su cosa significa possedere davvero la propria memoria nell'era dei modelli.

Il secondo è llama.cpp — il motore open source che permette di far girare modelli linguistici su un laptop normale, senza connessione a server esterni. È esattamente quello che usa Vitalik nel suo stack di AI privata. La barriera tra "usare l'AI di qualcun altro" e "avere la propria AI" si sta abbassando verso zero.

Il terzo è ARC-AGI-3 di Chollet — non un prodotto, ma uno strumento di misura. Il numero che conta non è quello di oggi. È il giorno in cui inizia a muoversi. Tenerlo aperto in un tab è già un modo di tenere il polso su qualcosa di reale.

Il quarto è Omarchy — il sistema Linux costruito da David Heinemeier Hansson, il fondatore di Basecamp, pensato per portare il desktop Linux alla portata di chi viene da Mac. È un segnale piccolo ma rivelatore: anche nel software quotidiano, qualcosa si muove verso strumenti che si controllano davvero, che non dipendono da ecosistemi chiusi. Forse è solo un esperimento di nicchia. Forse è il segnale di qualcosa più ampio.

Torniamo alla frase con cui abbiamo aperto: puoi esternalizzare la scrittura del codice, non puoi esternalizzare la comprensione.

C'è qualcosa in quella frase che vale per ogni lavoro, non solo per quello tecnico. Puoi delegare l'esecuzione. Non puoi delegare il giudizio.

Il motore accelera. Il disaccordo è su chi stia guidando — e se qualcuno lo stia facendo davvero. È una domanda aperta. Vale la pena portarla con sé.

È stato Signal Brief. Alla prossima.