Il timbro e chi lo tiene

Il timbro e chi lo tiene

L'accordo sul rallentare la frontiera si sfalda sul meccanismo: tre disegni rivali per certificare i modelli, mentre la leva del potere si sposta altrove.

Ci sono parole che tutti pronunciano volentieri finché nessuno chiede chi le mette in pratica. Rallentare è una di queste. Nel Signal Brief di ieri, 23 settembre, raccontavamo di sei voci diverse che avevano detto la stessa cosa nel giro di dieci giorni. Oggi, 24 settembre, quella convergenza mostra la sua crepa: non sulla velocità, ma su chi debba apporre il timbro prima che un modello esca. E il timbro, si sta capendo, vale più della frenata.

Dario Amodei, nell'essay del 12 settembre e nelle interviste dei giorni seguenti, ha proposto qualcosa di preciso: valutatori indipendenti con accesso da dipendenti, dentro i laboratori, permanente. Demis Hassabis ha risposto che la direzione è corretta, e ha collegato il suo consenso alla proposta di Google DeepMind per un organismo di standard di settore — revisione dei modelli prima del rilascio, valutazioni tenute nascoste perché nessuno possa allenarsi sul test. Yoshua Bengio, il 21 settembre, ha chiesto un'altra cosa ancora: test obbligatori prima del deployment, standard comuni e un ente fra governi. Due giorni dopo l'ha ripetuto davanti al Consiglio di Sicurezza delle Nazioni Unite.

Tre disegni, non tre sfumature. Chi certifica sta dentro l'azienda, dentro il settore o sopra gli Stati. È la differenza fra un revisore che ha il badge della tua società, un consorzio di concorrenti che si controllano a vicenda, e un'agenzia internazionale con potere di fermarti.

Questo è il cambiamento rispetto a ieri. Ieri l'accordo sembrava sorprendente e un po' teatrale — si invocava la pausa mentre la corsa continuava. Oggi si vede che l'accordo era solo nominale: la parola è condivisa, il progetto istituzionale no.

La storia industriale conosce bene questo passaggio. Quando le caldaie a vapore esplodevano nelle fabbriche dell'Ottocento, per decenni si discusse allo stesso modo: i costruttori dicevano di saper collaudare da sé, le associazioni di categoria proponevano regole comuni, i governi finirono per imporre ispezioni obbligatorie. Vinse chi ottenne il diritto di firmare il certificato, non chi gridava più forte sul pericolo.

Il fronte opposto rende la posta ancora più nitida. Jensen Huang ha detto che non servono nuove leggi e che la sicurezza va lasciata a chi costruisce. Andrew Ng liquida il rischio di estinzione come fantascienza e tratta gli incidenti recenti come errori di isolamento del software, roba da correggere in laboratorio. La replica più tagliente, però, non arriva dai catastrofisti. Arriva da Fei-Fei Li, che il 22 settembre ha chiesto vigilanza indipendente con un argomento semplice: i controlli non possono restare in mano a chi costruisce i sistemi. E arriva da Sasha Luccioni, che alla BBC ha detto di temere l'avidità delle aziende più dell'estinzione.

Anche questo è nuovo. Fino a poco fa Fei-Fei Li era la voce che diceva di fondare l'intelligenza sul mondo in tre dimensioni invece che sul linguaggio — una questione di conoscenza. Adesso parla di chi tiene i controlli: una questione di potere. E Luccioni sposta il pericolo dallo scenario apocalittico a qualcosa di molto più ordinario e molto più verificabile, cioè il conflitto d'interessi di chi guadagna dal rilascio.

Mentre si negozia tutto questo, però, qualcosa si muove sotto il tavolo. E riguarda l'ipotesi su cui l'intera discussione si appoggia.

Sasha Luccioni studia da anni quanto costa l'intelligenza artificiale: energia, emissioni, risorse. Ha costruito strumenti per misurare le emissioni dei sistemi di apprendimento automatico, e da quel lavoro le è venuta un'abitudine mentale utile — guardare i conti prima delle profezie.

A metà settembre era a Montréal, in un panel intitolato L'equazione della fiducia: perché l'accettazione del pubblico deciderà i vincitori dell'intelligenza artificiale. Nello stesso periodo, alla BBC, ha pronunciato la frase che oggi circola più delle altre: si preoccupa meno del rischio esistenziale e più dell'avidità aziendale di chi costruisce questi sistemi.

Detta così sembra una battuta polemica. È invece uno spostamento di categoria. Finché il pericolo si chiama estinzione, la discussione resta fra futurologi e non produce regole: nessuno sa scrivere una norma contro un'ipotesi. Se invece il pericolo si chiama conflitto d'interessi, diventa immediatamente un problema tecnico di governo — chi decide, chi guadagna dalla decisione, chi controlla chi. Roba che le istituzioni sanno maneggiare da un paio di secoli.

Ed è precisamente il terreno su cui si combatte la contesa di oggi. Amodei vuole valutatori indipendenti ma stipendiati dentro il laboratorio. Hassabis un consorzio industriale. Bengio un ente fra governi. Luccioni non sceglie fra i tre, ma fornisce l'argomento che li rende tutti necessari: se il rischio è l'incentivo, allora non basta che i controllori siano competenti, devono essere anche economicamente scollegati dal successo del prodotto.

C'è un dettaglio che dà la misura di quanto sia diventato pratico questo dibattito. Il panel di Montréal non parlava di sicurezza, parlava di accettazione pubblica come fattore competitivo. È la vecchia lezione delle utility elettriche e delle centrali nucleari: la tecnologia si ferma non quando fallisce, ma quando la gente smette di fidarsi dell'ente che la certifica.

Resta un dubbio, e riguarda il tempismo. Luccioni ha ragione a spostare lo sguardo sugli incentivi. Ma gli incentivi si correggono con le regole, e le regole arrivano sempre dopo il primo danno visibile. Nessuno dei tre disegni istituzionali in campo risolve questo scarto.

Benedict Evans scrive da anni un'analisi lunga e paziente del settore tecnologico, con la specialità di smontare l'entusiasmo senza mai diventare cinico. Il 3 settembre ha pubblicato un saggio intitolato Intelligenza artificiale, strumenti e trasformazione.

La tesi è sobria e, per questo, fastidiosa. Sostiene che l'idea di tutti che diventano costruttori di software non regge, perché la maggior parte delle persone non vuole costruire strumenti. E individua il vero ostacolo altrove: non nella potenza dei modelli, ma nella lentezza con cui le organizzazioni cambiano procedure, ruoli e abitudini. L'adozione nelle aziende, scrive, assomiglia più alla distribuzione dei personal computer o dei browser che a una riscrittura magica del modo in cui si lavora.

Chi ha vissuto gli anni Ottanta riconosce il pattern. I computer arrivarono sulle scrivanie per un decennio senza che la produttività si muovesse — il famoso paradosso che l'economista Robert Solow riassunse dicendo che l'era informatica si vedeva ovunque tranne che nelle statistiche. Poi, lentamente, le aziende ridisegnarono i processi, e solo allora i numeri si mossero. Il collo di bottiglia non era il silicio. Era l'organigramma.

Qui il discorso di Evans incrocia quello di oggi in modo scomodo. Tutta la contesa sul timbro presuppone che il potere stia nel modello di frontiera: se fermi o certifichi quello, governi l'effetto. Ma se la leva sta nel cambiamento organizzativo, la moratoria si applica al punto sbagliato della catena. Paul Graham arriva da un'altra strada alla stessa conclusione: a fine settembre ha consigliato agli studenti di informatica di stare vicini alla tecnologia, costruendo modelli, oppure vicini al cliente, dando alle persone esattamente quello che vogliono. Il centro, quello che sta in mezzo, non lo nomina nemmeno.

Vale la pena notare un'increspatura: sempre questo mese Graham ha scritto che i laboratori che chiedono regole potrebbero farlo per paura vera, non per costruirsi un cartello. Due osservazioni che convivono male, ed è un segno di onestà che le abbia pubblicate entrambe.

Ricapitoliamo dove siamo. Da una parte si litiga su chi firma il certificato di un modello. Dall'altra, due osservatori di temperamento opposto dicono che il certificato riguarda un pezzo della catena che conta meno di quanto pensiamo.

Yann LeCun tiene una posizione che negli ultimi mesi è diventata più netta, non più morbida. L'11 settembre, in un intervento all'ECCV, la conferenza europea di visione artificiale, ha presentato i modelli del mondo come la prossima rivoluzione.

La sostanza è questa: i modelli linguistici di oggi sono utili, ma non capiscono il mondo fisico e non sostengono il tipo di ragionamento che serve. Non immaturi: insufficienti per costruzione. Li ha definiti la tecnologia di oggi, e ha collocato il proprio lavoro in quella di domani. Nello stesso periodo ha respinto con ironia il linguaggio allarmista — ha irriso l'idea che GPT-2 fosse troppo pericoloso da pubblicare e ha liquidato come antropomorfismo il modo in cui si descrivono i sistemi attuali.

Le due cose stanno insieme, e spiegano perché LeCun è la voce più scomoda di questa giornata. Se l'architettura linguistica è un vicolo cieco, allora sia chi chiede di frenarla sia chi vuole accelerarla stanno discutendo di una strada che finisce comunque. E la trattativa sul timbro rischia di somigliare a un regolamento sulla sicurezza delle diligenze scritto mentre in officina si montava il primo motore a scoppio.

Dall'altro capo del mondo c'è chi scommette il contrario. Liang Wenfeng ha detto agli investitori che DeepSeek sta addestrando un modello da circa duemila miliardi di parametri e ne prepara uno da ottomila, spostandosi su chip cinesi, Huawei soprattutto, con consegne attese fra fine 2026 e inizio 2027. Scalare fino in fondo, su ferro domestico. Fra i due non c'è una sfumatura di opinione: c'è una scommessa opposta su dove finisce questa tecnologia.

La nota curiosa è che LeCun ha appena raccolto poco più di un miliardo di dollari in un round iniziale per AMI Labs, ancora in fase di ricerca, senza date di prodotto. Il mercato, evidentemente, compra anche la tesi che la tecnologia dominante di oggi sia un ramo destinato a fermarsi.

Bosun Tijani è il ministro nigeriano che segue economia digitale e innovazione, e questo mese ha fatto due cose che messe insieme raccontano una direzione.

A metà settembre, in un evento collaterale dell'Assemblea Generale delle Nazioni Unite, ha presentato il percorso nigeriano sull'intelligenza artificiale attorno a tre parole: dati, talento e infrastruttura. Pochi giorni dopo, la Gates Foundation lo ha riconosciuto fra i suoi Goalkeepers Champions del 2026, citando la strategia nazionale del paese, un fondo per la ricerca, un modello linguistico nazionale chiamato N-ATLAS e un organismo dedicato alla fiducia nei sistemi automatici.

Non è una notizia rumorosa, ed è proprio questo a renderla significativa. Mentre a Washington, Londra e Montréal si discute di chi debba autorizzare il rilascio dei modelli più potenti, a Lagos si costruisce lo scaffale su cui appoggiarli: fibra, dati, persone formate, modelli addestrati in casa. Aravind Srinivas, da un'altra angolazione, descrive la stessa domanda quando dice che banche e grandi aziende vogliono sistemi che possono staccare dalla rete, non cluster più grandi affittati altrove.

La dinamica ricorda quella dell'elettrificazione. Per anni si discusse di chi dovesse regolare le grandi compagnie elettriche americane, mentre il fatto decisivo era un altro: i paesi che costruivano una propria rete smettevano di dipendere da quelle compagnie. La regola seguiva la geografia, non la precedeva.

Il collegamento con il filo di oggi è diretto e un po' ruvido. Un timbro rilasciato da un ente intergovernativo, come chiede Bengio, funziona se copre tutti i luoghi dove i modelli si addestrano. Ma i luoghi si stanno moltiplicando mentre la discussione è in corso — Shenzhen, Lagos, Bangalore — e nessuno di questi siede al tavolo che sta disegnando il certificato. Si negozia l'autorità su un territorio che nel frattempo cambia forma.

Progetti da osservare.

Claude Opus 5.5, il nuovo modello di punta di Anthropic. La sua scheda tecnica dedica molto spazio alle prove di sicurezza e a cosa sa fare quando agisce da solo. È diventato, senza volerlo, il riferimento concreto della discussione di oggi: quando si chiede chi debba certificare un modello prima del rilascio, si sta parlando di documenti come quello.

Il rapporto di Anthropic sulle minacce di settembre, che elenca gli abusi osservati dei modelli. Andrej Karpathy lo ha rilanciato come base su cui il settore potrebbe coordinarsi. È l'esempio di autoregolamentazione fatta bene — e insieme la dimostrazione del limite di Luccioni: lo pubblica chi vende il prodotto.

Il framework open source di Anthropic per i servizi finanziari porta agenti dentro banche e assicurazioni, cioè dentro ambienti dove ogni passaggio va registrato e verificato. Risponde alla domanda di sistemi che si possono controllare davvero, non solo dichiarare sicuri.

Mercury 2.5, di Inception, genera il testo a blocchi in parallelo anziché una parola alla volta: oltre mille parole-macchina al secondo, a prezzi bassissimi. E GLM-5.3-Flash, di Z.ai, è un modello a pesi aperti che sul codice si avvicina ai grandi sistemi chiusi a un decimo del costo. Insieme dicono una cosa sola: non conta solo la scala, conta come è fatto il motore.

Infine OpenClaw 2.0, la nuova versione di un sistema aperto per far girare agenti personali, ora con installazione più rapida e sessioni condivise in rete. Piccolo tassello di quella intelligenza artificiale che resta in mano a chi la usa.

Tre disegni per lo stesso timbro: uno dentro l'azienda, uno dentro il settore, uno sopra gli Stati. Nessuno dei tre tiene conto del fatto che le officine si stanno moltiplicando e che parte di questa discussione riguarda un'architettura che qualcuno ritiene già superata. Forse la domanda non è chi firma, ma su quanti fogli bisognerà firmare.

È stato Signal Brief. Alla prossima.