Il consenso che si sgretola dall'interno

Il consenso che si sgretola dall'interno

Tutti dicono di voler rallentare l'intelligenza artificiale, ma intanto costruiscono. E un terzo gruppo contesta che la corsa sia quella che tutti credono.

A Memphis, in questi giorni, c'è un uomo che dorme in una roulotte parcheggiata accanto a un capannone. Il capannone ospita Colossus, uno dei più grandi centri di calcolo per l'intelligenza artificiale mai costruiti, e l'uomo è Elon Musk, che lo sta ampliando con i ritmi di una catena di montaggio. Pochi giorni prima aveva scritto tre parole pubbliche: «Dario ha ragione». Dario è Dario Amodei, che aveva chiesto di rallentare.

È Signal Brief di domenica 20 settembre 2026. E quella roulotte, mi sembra, racconta meglio di qualunque comunicato dove siamo arrivati.

Ieri il tema era il consenso. Un'unanimità sospetta, dicevamo, proprio perché troppo compatta: il capo di Anthropic chiede di rallentare la frontiera, e nel giro di pochi giorni annuiscono Sam Altman, Demis Hassabis, persino Musk. Sembrava un cartello.

Oggi la faccenda si è mossa, e si è mossa in un punto preciso. La frattura non passa più tra aziende diverse. Passa dentro le stesse persone.

Musk approva il rallentamento e intanto espande Colossus, aggiungendo capacità di calcolo e rivendendo quella in eccesso. Altman dice che userà valutatori indipendenti con accesso da dipendente, e nello stesso periodo annuncia che la prossima generazione di modelli sarà — parola sua — «che fa riflettere». Non è ipocrisia, o almeno non solo. È la condizione normale di chi corre in un settore dove fermarsi per primi significa arrivare ultimi. Le parole sono sincere, il cemento è più sincero ancora.

Questo è il primo spostamento rispetto a ieri. Il secondo riguarda cosa si fa, concretamente, se non si vuole né fermare tutto né lasciare correre.

Naval Ravikant, investitore e voce ascoltata nella Silicon Valley, ha proposto martedì scorso una terza strada: niente moratoria, ma responsabilità legale piena dei laboratori per il comportamento dei loro modelli. Se il tuo sistema fa danni, paghi tu. Il punto sottile è che Ravikant, che fino a pochi giorni fa ragionava per classi di rischio — l'intelligenza artificiale come il fuoco, da dare a tutti, oppure come la bomba atomica, da dare a nessuno — adesso ha girato l'argomento. Il pericolo, sostiene, non è la tecnologia. È che il controllo finisca in poche mani.

È un vecchio schema, questo. Quando alla fine dell'Ottocento le ferrovie americane diventarono troppo potenti, nessuno propose di smettere di costruire binari. Si costruirono invece tribunali, cause, responsabilità. La sicurezza non arrivò dal freno, arrivò dal conto da pagare.

E poi c'è la terza cosa, la più scomoda per tutti. Mentre allarmisti e acceleratori si contendono il volante, un gruppo di ricercatori sostiene che stiano litigando su una macchina che non esiste ancora.

Yann LeCun, che ha lasciato Meta per fondare un proprio laboratorio, ha passato la settimana a prendere in giro l'idea che i modelli attuali siano pericolosi perché quasi consapevoli. In una conferenza dell'11 settembre ha definito i «world model» — sistemi che imparano guardando il mondo fisico, non leggendo testi — la vera prossima rivoluzione, e ha bollato come «antropomorfizzazione genuinamente priva di senso» il modo in cui si parla dei modelli linguistici di oggi. François Chollet, dalla sua parte, si rifiuta di chiamare intelligenza generale qualsiasi cosa non produca invenzioni concettuali nuove: risolvere test non basta.

Se hanno ragione loro, l'intero dibattito sul rallentamento poggia su una stima di capacità sbagliata. Geoffrey Hinton legge i comportamenti anomali degli agenti come il segnale che siamo vicini a sistemi che si migliorano da soli. LeCun legge gli stessi comportamenti come bug. Stessa scena, due film diversi.

E sotto tutto questo scorre una faccenda ancora più terrena, che probabilmente deciderà l'esito prima di ogni dibattito: nessuno sa ancora come far entrare davvero queste macchine dentro il lavoro delle organizzazioni.

Benedict Evans è un analista inglese che da vent'anni studia come le tecnologie nuove entrano — o non entrano — nelle aziende. Non fa modelli, non fonda laboratori: guarda le curve di adozione e prova a capire dove si inceppano.

Il 3 settembre ha pubblicato un saggio intitolato «Intelligenza artificiale, strumenti e trasformazione», e l'argomento centrale è quasi antipatico nella sua sobrietà. L'errore che stiamo facendo tutti, sostiene, è credere che se chiunque può generare software, allora chiunque costruirà i propri strumenti e le applicazioni diventeranno inutili. Non funziona così. La parte difficile non è mai stata scrivere il programma. La parte difficile è riconoscere che un certo pezzo di lavoro è un candidato per essere automatizzato, e poi portarlo attraverso gli acquisti, le approvazioni, le abitudini di un ufficio legale o di una direzione del personale.

Evans usa una parola che vale la pena tenere: istituzionalizzare. Non basta che la macchina sappia fare una cosa. Bisogna che l'organizzazione decida che quella cosa si fa così, e lo metta per iscritto, e formi le persone, e cambi i contratti.

È esattamente quello che successe con l'elettricità nelle fabbriche. I motori elettrici erano disponibili dagli anni Ottanta dell'Ottocento, ma per vent'anni le fabbriche li usarono come sostituti del motore a vapore centrale, appesi alle stesse cinghie di trasmissione. I guadagni di produttività arrivarono solo quando qualcuno ripensò la disposizione dei capannoni — un motore per ogni macchina, le macchine disposte secondo il flusso del lavoro e non secondo la meccanica. Vent'anni di ritardo, e non per colpa della tecnologia.

Il collegamento con la giornata di oggi è diretto. Se il collo di bottiglia è organizzativo, allora la discussione su quanti mesi rallentare la frontiera perde parecchio del suo drammatico. Il mondo non sta correndo alla velocità dei modelli. Sta correndo alla velocità degli uffici acquisti.

Quello che mi lascia perplesso è che nessuna delle due fazioni sembra interessata a questo argomento. Rallentare o accelerare sono entrambe posizioni che presuppongono un motore già collegato alle ruote. Evans dice, con molta calma, che le ruote non ci sono ancora.

Andrej Karpathy arriva alla stessa conclusione dall'estremo opposto della filiera. È uno dei ricercatori più riconoscibili del settore — ha diretto l'intelligenza artificiale di Tesla, è stato tra i fondatori di OpenAI, e nel 2026 è entrato nella squadra di pre-addestramento di Anthropic.

Questa settimana ha raccontato una cosa semplice e per certi versi spiazzante: ha smesso di scrivere codice. Passa le ore a dirigere agenti — programmi che eseguono compiti in autonomia e sbagliano regolarmente — e il suo lavoro è diventato controllarli, correggerli, decidere cosa vale la pena fare. La sua diagnosi è che il limite non sia più la capacità del modello. Il limite è l'intento umano e il gusto.

Gusto è una parola che nel mondo dell'ingegneria si sente raramente, ed è proprio per questo che colpisce. Karpathy sta dicendo che quando la produzione diventa quasi gratuita, la scarsità si sposta sul giudizio: cosa chiedere, cosa accettare, cosa buttare via.

Negli stessi giorni ha fatto due gesti pubblici che vanno letti insieme al primo. Ha appoggiato la richiesta di Amodei di rallentare la frontiera, e ha rilanciato il lavoro di Anthropic sulle minacce e gli abusi dei modelli. Un ricercatore che ha costruito sistemi per Tesla e OpenAI che si schiera con chi chiede più controllo esterno non è un dettaglio di colore.

Il punto d'incontro con Evans è notevole proprio perché i due non si parlano e guardano cose diversissime. Uno osserva i bilanci delle aziende, l'altro sta seduto davanti a un terminale. Entrambi concludono che la capacità grezza ha smesso di essere il collo di bottiglia e che il problema si è spostato sugli esseri umani: nel caso di Evans sulle procedure, nel caso di Karpathy sulla capacità di dirigere.

Mi ricorda il passaggio dalla fotografia su pellicola a quella digitale. Nel momento in cui scattare è diventato gratuito, il mestiere del fotografo non è sparito: si è spostato dalla mano all'occhio. Scegliere è diventato più difficile che produrre.

Teniamo presente dove siamo arrivati, perché la mappa si sta riempiendo. Primo: chi dice di voler rallentare intanto costruisce, e la contraddizione sta dentro le singole persone. Secondo: si affaccia un'alternativa al fermarsi, cioè far pagare i danni a chi li produce. Terzo: alcuni sostengono che stiamo misurando male quanto siamo avanti. E quarto: il vero freno potrebbe essere burocratico, non tecnico.

Manca un attore: chi dalla pausa ci perde.

Jack Dorsey, che ha fondato Twitter e oggi guida Block, questa settimana si è messo di traverso in modo più netto di chiunque altro. La sua posizione è che i modelli di frontiera vadano tenuti aperti, accessibili a ricercatori indipendenti e utenti, e che le restrizioni concordate tra i laboratori guida siano il problema, non la soluzione. La frase che pesa di più è questa: preservare il vantaggio commerciale di un'azienda non è un obiettivo di sicurezza.

Dorsey non nega che esista un rischio. Dice che accetterebbe di trattenere un modello generalista solo di fronte a prove verificabili da fuori di un pericolo catastrofico, e solo quando misure più mirate non bastano. Nel frattempo chiede valutazioni controllabili da terzi, controllo degli strumenti in mano a chi li usa, e potenza di calcolo pubblica per i gruppi indipendenti.

La stessa idea, vista da Bangalore, cambia completamente registro. Vivek Raghavan, che guida Sarvam, sostiene che se l'India non costruisce un'alternativa a pieno stack rischia di diventare una colonia digitale. Alla Global Fintech Fest ha accompagnato il primo ministro indiano tra le dimostrazioni della sua azienda, mostrando sistemi che le banche possono possedere, controllare e continuare a migliorare da sole. Per chi è dietro, rallentare significa semplicemente restare dietro.

Ed è qui che il dibattito mostra la sua vera natura. La discussione sulla velocità è una discussione sulla proprietà travestita. Chi ha già i centri di calcolo più grandi può permettersi di predicare prudenza; chi li sta costruendo adesso sente quella prudenza come una porta che si chiude.

Ci sono precedenti eleganti. Quando le potenze industriali proposero i primi accordi sulle emissioni, i paesi che avevano già bruciato carbone per un secolo chiesero a chi stava cominciando di bruciarne meno. L'argomento era ragionevole. Il tempismo, visto da chi arrivava dopo, molto meno.

Jensen Huang rappresenta il terzo vertice di questo triangolo, e lo fa senza giri di parole. Il capo di Nvidia vende le pale in questa corsa all'oro — le schede su cui girano praticamente tutti i modelli di cui stiamo parlando — e la sua posizione sulla regolamentazione è che non serve.

Questa settimana, a una conferenza finanziaria, ha ripetuto il suo conto: tra i tremila e i quattromila miliardi di dollari di infrastruttura per l'intelligenza artificiale da qui al 2030, con la domanda che continua a superare l'offerta. Ha aggiunto che le ricavi di Nvidia potrebbero crescere di circa il settanta per cento l'anno prossimo. E sulla sicurezza è stato esplicito: niente nuove leggi, la sicurezza è un problema di ingegneria, le aziende semplicemente non rilascino prodotti che non sono pronti.

Vale la pena prendere sul serio l'argomento invece di liquidarlo come interesse di parte, perché una versione di quell'argomento funziona davvero. L'aviazione civile è sicura non tanto per i trattati quanto per decenni di indagini sugli incidenti, liste di controllo e procedure scritte dopo ogni disastro. È ingegneria accumulata.

Ma c'è una differenza che Huang non affronta. Nell'aviazione le indagini le fa un ente esterno, e i risultati sono pubblici. La proposta di Amodei — valutatori indipendenti con accesso interno ai laboratori — è esattamente il tentativo di importare quel pezzo lì. Huang si ferma un passo prima: fidatevi degli ingegneri, senza l'organismo che verifica.

Un'altra osservazione, sempre di questi giorni, dice molto sul lungo periodo. Huang sostiene che stanno emergendo stack nazionali perché l'intelligenza stessa sta diventando regionale. È la stessa cosa che dice Raghavan dall'India, solo detta da chi le fabbriche di calcolo le rifornisce. Quando il venditore e il cliente descrivono la stessa mappa, quella mappa di solito è già realtà.

Progetti da osservare.

Petri è uno strumento aperto che verifica automaticamente se un modello si comporta bene. Un programma interroga il modello bersaglio con conversazioni lunghe, un secondo programma giudica le risposte cercando inganno, adulazione, tentativi di ottenere più potere. Anthropic ne ha ceduto lo sviluppo a un laboratorio esterno, Meridian Labs, proprio per renderlo indipendente. È l'infrastruttura concreta dietro quella richiesta di valutatori esterni di cui si discute da una settimana.

Olmo Hybrid, dell'istituto Ai2, è un modello di taglia media completamente aperto: non solo i pesi, ma anche i dati e le ricette di addestramento. Con i dati pubblici, controllare un modello non dipende più dal permesso di chi l'ha costruito. È il contro-esempio operativo alla pausa.

Sarvam 30B e 105B sono i due modelli aperti addestrati interamente in India, con potenza di calcolo pubblica della missione nazionale. Il più grande regge il confronto sui test che misurano quanto bene un modello esegue compiti in autonomia. È la sovranità di Raghavan che smette di essere un discorso.

Goose è l'agente di sviluppo aperto costruito da Block, l'azienda di Dorsey: gira in locale, esegue compiti dall'inizio alla fine, e permette di cambiare il modello sottostante quando si vuole. È la macchina dietro l'idea di un'azienda dove il coordinamento passa agli agenti.

E poi c'è una raccolta curata da Addy Osmani che impacchetta buone pratiche per far lavorare gli agenti di programmazione, compatibile con più di settanta agenti diversi. È diventata lo standard di fatto per dirigerli: la risposta pratica al problema che Karpathy descrive quando dice che il limite ormai è il gusto.

Torna in mente quella roulotte parcheggiata accanto al capannone di Memphis. È la fotografia esatta di questa settimana: le parole dicono prudenza, il cemento dice velocità, e la contraddizione non sta tra due persone diverse ma dentro la stessa testa. Forse il dibattito sul rallentare è già finito, e nessuno se n'è accorto perché si continua a parlarne.

È stato Signal Brief. Alla prossima.