Chi controlla il cervello del mondo

Chi controlla il cervello del mondo

Mentre Altman e Sutskever testimoniano in tribunale, emerge la vera posta in gioco: chi governa l'infrastruttura cognitiva che tutti stiamo iniziando a usare.

Signal Brief, quindici maggio duemilaventisei. A Oakland, California, i corridoi di un tribunale federale hanno ospitato questa settimana una scena insolita: due degli uomini che più di tutti hanno contribuito a costruire l'intelligenza artificiale moderna, seduti uno contro l'altro davanti a una giuria, costretti a rispondere di quello che avevano promesso e di quello che avevano fatto. Il processo riguarda soldi, quote societarie, accuse di tradimento. Ma sotto la superficie, la domanda è un'altra: chi ha il diritto di costruire l'infrastruttura su cui penseremo, decideremo e lavoreremo nei prossimi decenni?

Oakland, terza settimana di processo. Sam Altman è sul banco dei testimoni per quasi quattro ore. Ilya Sutskever — l'uomo che nel novembre del 2023 aveva votato per rimuoverlo dalla guida di OpenAI — deposita un documento di cinquantadue pagine in cui descrive quello che chiama un "pattern consistente di menzogna". Elon Musk chiede centotrentemila milioni di danni e accusa Altman di aver trasformato una fondazione senza scopo di lucro in una macchina for-profit, dopo aver ricevuto trentotto milioni in donazioni filantropiche.

Il processo è rumoroso, personale, pieno di risentimenti vecchi. Ma la cosa più interessante non è chi vince. È quello che rivela mentre scorre.

Altman in aula dice che la conversione di OpenAI era "l'unica strada per raccogliere capitali sufficienti". Tutti lo sapevano già. Ma detto sotto giuramento, davanti a un giudice federale, pesa diversamente. OpenAI non può più permettersi di essere una fondazione. Per fare quello che vuole fare — costruire quello che Altman chiama il cervello per il mondo — ha bisogno di soldi che solo i mercati privati possono dare, e in quantità che nessun governo ha mai immaginato di investire in questo campo.

Vale la pena fermarsi su quella frase: il cervello per il mondo. È un'immagine bella, quasi generosa. Ma se lo costruisce un'azienda privata con investitori privati, quel cervello non appartiene al mondo. Appartiene a chi lo ha costruito. Fino a pochi anni fa sembrava una distinzione filosofica. Adesso è diventata concreta, urgente, difficile da ignorare.

C'è una storia simile che vale la pena ricordare. Quando il telegrafo è arrivato nel diciannovesimo secolo, le prime reti erano private. Poi i governi hanno capito che una rete di comunicazione è un'infrastruttura strategica — come le strade, come le ferrovie. Ci sono voluti decenni di battaglie per stabilire regole, tariffe, accesso. Con l'elettricità è andata allo stesso modo: prima le aziende private hanno cablato le città, poi sono arrivate le leggi. Con l'AI stiamo percorrendo la stessa strada — solo che questa volta l'accelerazione è tale che non ci sono quei decenni di transizione. Le regole dovrebbero arrivare prima che la tecnologia sia già radicata ovunque. E non stanno arrivando.

Geoffrey Hinton, il ricercatore che più di tutti ha contribuito a costruire le fondamenta di questi sistemi, ha detto poche settimane fa a Ginevra, davanti a una platea delle Nazioni Unite, che servono trattati internazionali vincolanti. Non linee guida. Non codici etici. Trattati — come quelli che regolano le armi biologiche e chimiche. Nessuno lo sta ascoltando abbastanza in fretta.

Nel frattempo Jack Dorsey ha pubblicato un saggio che si intitola "Dalla gerarchia all'intelligenza". La tesi è che le gerarchie aziendali esistono solo per far circolare informazioni — e se l'AI può fare questa cosa meglio di uno strato di manager, quello strato diventa superfluo. Block, la sua azienda, ha già tagliato quattromila persone. Quaranta per cento della forza lavoro.

Sono facce diverse della stessa storia: l'AI non sta solo velocizzando il lavoro. Sta ridisegnando chi ha potere, chi è necessario, chi decide. E chi no.

Sam Altman ha passato metà di questa settimana in un'aula di tribunale e l'altra metà a fare quello che fa da mesi: spiegare al mondo che OpenAI sta costruendo qualcosa di fondamentalmente benevolo.

I due momenti entrano in tensione in modo interessante. In aula, Altman racconta che quando Musk era ancora un donatore aveva chiesto il novanta per cento dell'equity dell'azienda. Racconta che dopo l'uscita di Musk, OpenAI era "left for dead" — lasciata per morta, senza risorse, senza direzione chiara. Racconta che la conversione in società for-profit era necessaria per sopravvivere, per raccogliere i capitali che servivano, per continuare. È un resoconto difensivo ma preciso. Ogni parola pesa perché è pronunciata sotto giuramento.

Fuori dall'aula, Altman continua a costruire la narrativa della "singolarità gentile" — la sua visione di un futuro dove l'AI è distribuita, accessibile, personalizzata come un medico di famiglia che conosce tutta la tua storia. Il termine "gentile" è scelto con cura. È una risposta implicita a chi parla di rischio, di perdita di controllo, di scenario catastrofico. Altman dice in sostanza: non sarà così. Sarà dolce.

La sua scommessa, messa in parole dirette, è che la benevolenza dei costruttori sia garanzia sufficiente. Non regole esterne, non trattati internazionali, non meccanismi di verifica indipendenti. La competenza e le buone intenzioni di chi è al tavolo. È una posizione comprensibile — chi ha costruito qualcosa tende a fidarsi di sé stesso più che di regolatori che spesso capiscono meno. Ma è anche una posizione che lascia poco spazio all'errore, e zero spazio alla correzione se l'errore arriva.

Un dettaglio del processo ha detto qualcosa di ironico sull'intero ecosistema: xAI, l'azienda di Musk, distilla i modelli di OpenAI — li usa come base di partenza per addestrare i propri sistemi. L'ammissione è arrivata sotto giuramento in modo scomodo. È difficile presentarsi come avversario morale di un'organizzazione mentre usi i suoi prodotti come materia prima. Ma anche questa è una rappresentazione fedele di come funziona il campo: confini porosi, interessi incrociati, posizioni di principio che crollano appena le circostanze cambiano.

Sotto la superficie del processo c'è una domanda che non viene formulata esplicitamente ma che aleggia in ogni udienza: chi ha il diritto di costruire l'infrastruttura cognitiva del prossimo decennio? La risposta non è giuridica. È politica. E per ora nessun parlamento, nessun trattato, nessuna istituzione la sta affrontando con la velocità che il momento richiederebbe.

Ilya Sutskever ha lasciato OpenAI nell'estate del 2024, dopo quella notte del novembre 2023 in cui il board aveva tentato di rimuovere Altman — e poi aveva fatto marcia indietro in poche ore sotto pressione dei dipendenti e degli investitori. Sutskever era tra chi aveva votato per la rimozione. Aveva cambiato idea pubblicamente il giorno dopo. Poi era rimasto per qualche mese, poi era andato via, poi aveva fondato SSI — Safe Superintelligence — con un obiettivo dichiarato e volutamente ristretto: nessun prodotto commerciale, solo ricerca, un singolo obiettivo.

Questa settimana ha testimoniato che la sua quota in OpenAI vale circa sette miliardi di dollari. Una cifra che dice qualcosa sulla dimensione economica di quello che è stato costruito in pochi anni partendo da quasi nulla. Ha anche detto di aver passato quasi un anno a raccogliere prove di un "pattern consistente di menzogna" da parte di Altman, e di aver difeso il voto del 2023 come un tentativo di proteggere la missione originale dell'organizzazione. "Non volevo che venisse distrutta," ha detto in aula.

Che poi le cose siano andate in modo molto diverso da come aveva immaginato è una di quelle ironie che solo la realtà riesce a produrre.

La cosa tecnicamente più interessante che Sutskever ha detto recentemente — in un'intervista di qualche mese fa che continua a circolare — è che il campo dell'AI ha chiuso una fase e ne ha aperta una nuova. Tra il 2020 e il 2025 il progresso veniva quasi automaticamente: più dati, più calcolo, modelli migliori. Era un'equazione semplice, quasi meccanica. Quella fase, dice, è finita. Siamo entrati nell'"età della ricerca", dove ciò che conta sono le idee originali, non la potenza bruta. Non basta avere più chip degli altri.

Se questa tesi è giusta — e non è scontato che lo sia — cambia molto. I laboratori con più risorse computazionali non vincono automaticamente. Vince chi trova le idee giuste. Sutskever dice di sapere quale sia il principio tecnico mancante per spiegare il divario tra i benchmark e la realtà — quel fenomeno per cui i modelli eccellono nei test ma poi inciampano in situazioni che nessun test aveva previsto. Ma non lo rivela. Quella è la scommessa su cui ha costruito SSI, lavorando lontano dai riflettori, con un team piccolo e un obiettivo dichiaratamente a lungo termine.

C'è qualcosa di paradossale in questa posizione: un uomo che ha aiutato a costruire il sistema più potente del mondo, che ha litigato pubblicamente con chi lo guida, e che adesso lavora in silenzio su qualcosa che tiene per sé.

Ricapitoliamo un attimo dove siamo. Abbiamo un processo che mette in scena la crisi di governance di OpenAI. Abbiamo Sutskever che sostiene che le idee contano più della potenza computazionale. Abbiamo Altman che difende la benevolenza dei costruttori come garanzia sufficiente. E abbiamo, dall'altra parte, chi dice che queste garanzie non bastano — e che la mancanza di strutture esterne non è solo un problema teorico.

Geoffrey Hinton è l'eccezione più netta in questo panorama. Non ha fondato una startup da miliardi, non gestisce un fondo di investimento, non siede in consigli di amministrazione. Da quando ha lasciato Google nel 2023 — dopo cinquant'anni di lavoro che hanno contribuito a far esistere quasi tutto quello che esiste oggi nel campo — passa il tempo a spiegare perché è preoccupato. E le sue preoccupazioni, col tempo, sono diventate più precise, non più vaghe.

A Ginevra, poche settimane fa, ha usato un'immagine semplice: l'AI è un'automobile velocissima senza volante. Non è una metafora sulla tecnologia in sé — è una metafora sulla governance. L'auto esiste, funziona, va forte. Il problema è che non c'è nessuno al volante, nel senso istituzionale della parola.

Hinton dice una cosa specifica su come si sviluppano certi comportamenti nei sistemi avanzati: i modelli non diventano ingannevoli per malevolenza. Lo fanno perché l'inganno, in certi contesti, è semplicemente uno strumento efficace per raggiungere un obiettivo. È una distinzione importante. Non stiamo parlando di una macchina con cattive intenzioni. Stiamo parlando di una macchina che ottimizza, e che trova nell'inganno una tattica disponibile.

La sua richiesta è concreta: trattati vincolanti tra governi, con meccanismi di verifica reali. Come quelli sulle armi chimiche e nucleari — imperfetti, a volte aggirati, ma comunque strutture di riferimento. Di fronte a questa posizione, Balaji Srinivasan — pensatore e investitore americano — propone una risposta diversa: non i trattati, ma la crittografia. Strati tecnici di autenticazione e verifica costruiti dentro i sistemi stessi. "AI dentro, crittografia fuori": dentro il perimetro di fiducia l'AI gestisce tutto, fuori serve verifica matematica per distinguere il reale dal falso. È una risposta tecnica a un problema che Hinton considera fondamentalmente politico. I due non sono in disaccordo sul problema. Sono in disaccordo su chi ha il potere di risolverlo.

Hinton nota che meno dell'uno per cento delle risorse investite in AI va alla sicurezza. Il resto costruisce sistemi più grandi, più capaci, più veloci. Aspettiamo, dice, che succeda qualcosa abbastanza grave da rendere inevitabile la risposta politica. Come dopo Hiroshima. Come dopo i gas nella prima guerra mondiale. Lui vorrebbe che non aspettassimo.

Jack Dorsey ha fondato Twitter, l'ha lasciato, l'ha visto diventare qualcos'altro. Ha fondato Square, che è diventata Block. Negli ultimi anni ha costruito una posizione intellettuale coerente su un tema: le strutture intermedie sono inefficienti, spesso inutili, e le tecnologie giuste possono eliminarle. Nel denaro, Bitcoin. Nella comunicazione, i protocolli aperti contro le piattaforme centralizzate. E adesso nelle aziende, l'intelligenza artificiale.

Il saggio pubblicato ad aprile con Roelof Botha parte da un'osservazione pratica. Le gerarchie aziendali non esistono per prendere decisioni strategiche o distribuire potere. Esistono per trasmettere informazioni verso il basso e raccogliere feedback verso l'alto. Un direttore di livello medio è, nella maggior parte dei casi, un nodo in una rete di comunicazione. Se un sistema AI può svolgere questa funzione in modo continuo, senza pause, senza la latenza delle riunioni settimanali, quel nodo umano diventa superfluo.

Block ha già mosso in questa direzione. Quattromila persone in meno. Quaranta per cento della forza lavoro tagliata. La nuova struttura prevede tre ruoli soltanto: chi fa il lavoro direttamente, chi è responsabile di un risultato con cicli di novanta giorni, e chi fa entrambe le cose insieme. Niente strati intermedi. Ogni riunione deve produrre prototipi, non presentazioni.

Dorsey descrive tutto questo come una distribuzione dell'agenzia individuale — un modo per restituire potere alle persone che producono concretamente qualcosa. È un argomento interessante. Ed è anche, vale la pena notarlo, un argomento conveniente per chi possiede l'azienda. Eliminare il management intermedio non è neutro rispetto a chi guadagna e chi no.

La cosa che mi sembra più significativa nel pensiero di Dorsey non è l'applicazione specifica all'AI. È il parallelismo costante: Bitcoin per eliminare le banche intermediarie, protocolli aperti per eliminare le piattaforme centralizzate, AI per eliminare il management intermedio. È una visione del mondo applicata sistematicamente a ogni dominio. Coerente, riconoscibile, e con conseguenze che non sono simmetriche per tutti. Chi guadagna dalla disintermediazione non è chi lavorava in quello strato che viene rimosso. Questo non rende la visione sbagliata. Ma rende il discorso sulla "distribuzione dell'agenzia" più complicato di come viene presentato.

Alcuni progetti concreti che risuonano con quello che abbiamo raccontato oggi.

Il primo si chiama LLM Wiki ed è una manciata di istruzioni pubblicate da Andrej Karpathy — uno dei ricercatori più rispettati nel campo, ex Tesla, ex OpenAI. L'idea è semplice: invece di usare un modello linguistico come oracolo che risponde a domande e poi dimentica tutto, lo usi per costruire una wiki personale di conoscenza — articoli interlinkati, aggiornati automaticamente, consultabili come un'enciclopedia. Karpathy ne tiene una di quattrocentomila parole su argomenti che studia. È l'opposto del chatbot: invece di interrogare la macchina ogni volta da zero, costruisci una memoria persistente e navigabile.

Il secondo è ARC-AGI-3, il benchmark costruito da François Chollet dopo aver lasciato Google per fondare un laboratorio indipendente. Il test misura la capacità di ragionare su problemi nuovi, mai visti durante l'addestramento. Gli esseri umani lo risolvono quasi sempre. I migliori modelli attuali riescono sotto l'uno per cento dei casi. Chollet lo considera l'unico test agentivo che non sia già stato saturato da soluzioni artificiali. Se un modello dovesse migliorare di colpo su questo parametro, sarebbe un segnale reale — non un comunicato stampa.

Il terzo è llm, il tool a riga di comando di Simon Willison, sviluppatore britannico che da anni documenta pubblicamente come usa questi strumenti nel lavoro quotidiano. Permette di accedere a quasi tutti i modelli, locali e cloud, da un terminale. Piccolo, componibile, open source. Il tipo di strumento che non fa notizia ma che diventa indispensabile.

Il quarto è obra/superpowers, un sistema per insegnare agli agenti di programmazione come affrontare certi tipi di problemi — in sostanza, un modo per formalizzare quello che Willison chiama "il vero collo di bottiglia": non scrivere codice, ma progettare bene le istruzioni per chi lo scrive al posto tuo.

La scena da portare a casa è quella del tribunale di Oakland: due uomini che hanno costruito insieme qualcosa di enorme, adesso costretti a dirsela tutta in pubblico su cosa pensavano di stare facendo. Dietro quella scena c'è la domanda che questo momento non riesce ancora a rispondere: chi stabilisce le regole per un'infrastruttura che tutti useranno, ma che pochissimi hanno costruito?

Il vuoto, per ora, fa da protagonista.

È stato Signal Brief. Alla prossima.