Il patto e la strada sbagliata

Il patto e la strada sbagliata

Mentre i laboratori negoziano chi certificherà la frontiera, LeCun e Fei-Fei Li avanzano l'obiezione più scomoda: che si stia regolando la traiettoria tecnica sbagliata.

Ci sono accordi che si firmano in fretta perché tutti hanno capito la stessa cosa. E accordi che si firmano in fretta perché nessuno vuole restare fuori dalla stanza. Le due settimane appena passate somigliano al secondo caso. Signal Brief, 28 settembre 2026: la richiesta di rallentare lo sviluppo dell'intelligenza artificiale ha raccolto adesioni quasi unanimi tra i grandi laboratori, e proprio quella rapidità è diventata il problema da interpretare. Poi, verso fine settembre, sono arrivate due obiezioni che nessuno nella stanza stava considerando.

Il 25 settembre Yann LeCun ha pubblicato l'ennesimo post sulla stessa idea che ripete da anni: i modelli linguistici di oggi, quelli che generano una parola dopo l'altra prevedendo la successiva, non porteranno mai a un'intelligenza paragonabile a quella umana. Mancano la comprensione del mondo fisico, la capacità di imparare in fretta una cosa nuova, la memoria, la pianificazione. Dieci giorni prima aveva presentato a una conferenza di visione artificiale una serie di lucidi con lo stesso messaggio: strumenti utilissimi, ma la strada è un'altra. Il 21 settembre è entrato nel comitato scientifico di una società che costruisce modelli per il comportamento delle cellule. Fei-Fei Li, intervistata da Bloomberg il 22, ha indicato la stessa direzione con parole diverse: i modelli di mondo, sistemi che imparano come funzionano le cose invece che come si susseguono le parole.

Preso da solo, è il solito dissenso tecnico fra ricercatori. Messo accanto a quello che sta succedendo nelle stesse settimane, diventa qualcosa di più fastidioso. Perché mentre LeCun spiega che la traiettoria attuale non arriva da nessuna parte, l'intera industria sta negoziando le regole di quella traiettoria. Dario Amodei chiede valutatori indipendenti dentro i laboratori. Sam Altman si dice pronto a fermare un addestramento. Elon Musk propone che i rivali si controllino a vicenda. Demis Hassabis rilancia un ente di standard di settore. Tutti stanno discutendo il limite di velocità di una strada che, se i due hanno ragione, non porta alla destinazione.

È già successo, questo. Negli anni Settanta l'industria automobilistica americana passò un decennio a litigare sui consumi dei motori a otto cilindri mentre i giapponesi cambiavano il concetto stesso di automobile. Le regole arrivarono, puntuali e dettagliate, su una tecnologia che stava per diventare marginale.

Rispetto a ieri, poi, la lettura della convergenza è cambiata. Non è più soltanto "un'adesione rapida e sorprendente". Guardata con qualche giorno di distanza, assomiglia a un accordo tra i pochi che già possiedono la frontiera su chi avrà il diritto di certificarla. Non un consenso scientifico sul rischio: una spartizione del timbro.

E qui entra la terza voce, quella che cambia la domanda invece di rispondere. Naval Ravikant, a metà settembre, ha riformulato tutto in due immagini: se questa tecnologia è come il fuoco, allora devono averla tutti; se è come l'atomica, non deve averla nessuno. Non esiste una terza opzione onesta. E il pericolo vero, secondo lui, non è la velocità ma la concentrazione del controllo.

Intanto — ed è la parte che nessuna moratoria toccherà — il lavoro quotidiano ha già assorbito tutto. Patrick Collison costruisce l'infrastruttura perché gli agenti possano pagare. David Heinemeier Hansson ha dichiarato che nella sua azienda il codice non si scrive più a mano. Si negozia una pausa in verticale, sui giornali e nelle conferenze, mentre l'adozione si radica in orizzontale, nei flussi di lavoro, dove nessuno ha mai chiesto il permesso a nessuno.

Vitalik Buterin è il cofondatore di Ethereum, e da qualche anno si occupa più di come si progettano sistemi affidabili che di criptovalute in senso stretto. In queste due settimane è stato insolitamente attivo proprio sul tema dell'intelligenza artificiale, e con un filo coerente.

Il 13 settembre ha collegato la sicurezza dell'intelligenza artificiale al disegno dei meccanismi di governo: i sistemi costruiti per tenere sotto controllo agenti umani più furbi di chi li controlla, sostiene, potrebbero valere anche per le macchine. Tre o quattro giorni dopo ha risposto a chi dice che l'arrivo di macchine capaci di attaccare i sistemi informatici renda la sicurezza una causa persa. La sua risposta è tecnica e ottimista insieme: la stessa potenza può servire ai difensori, attraverso la verifica formale — quella pratica, oggi costosissima, con cui si dimostra matematicamente che un programma fa esattamente quello che deve fare e nient'altro. Nella stessa occasione ha detto che circa il novanta per cento del suo patrimonio sta in criptovalute, che è un modo brusco di dichiarare quanto crede alla propria tesi.

Il 17 settembre il passaggio più concreto: ha raccontato che sul suo portatile gira un modello aperto abbastanza buono da coprire una quota consistente delle cose che gli servono, tenendo i sistemi remoti per i casi selezionati. Il 23 ha aggiunto che nell'era degli agenti la riservatezza in rete non si ottiene più nascondendo i nomi.

Il collegamento con il filo della giornata è diretto, e per questo interessante. Mentre gli altri discutono di chi avrà il diritto di certificare i modelli, Buterin propone di spostare la domanda su un piano dove i certificatori non servono: se una proprietà del software è dimostrabile, non serve nessuno che ci metta il timbro. E se il modello gira sul tuo computer, non c'è un laboratorio da ispezionare.

È una posizione seducente e, va detto, molto di parte: viene da una cultura che ha passato quindici anni a cercare di sostituire le istituzioni con il codice, con risultati alterni. Ma ha il pregio di rispondere alla domanda di Ravikant sulla concentrazione del controllo con qualcosa di più di un'opinione. Un modello sul portatile è una risposta materiale.

Jensen Huang guida Nvidia, l'azienda che produce i processori su cui gira quasi tutta questa storia. La sua posizione, nelle ultime due settimane, si è indurita in modo netto, ed è il vero cambiamento rispetto al quadro di ieri.

Fino a pochi giorni fa la sua era una linea prudente: accettava i test, rifiutava i privilegi giuridici per i laboratori. Adesso è un rifiuto frontale. Il 15 settembre, parlando alla CNBC, ha definito nuove leggi e regolamenti "completamente inutili", e ha aggiunto un sospetto preciso: che le richieste di coordinamento tra laboratori — che in altri settori si chiamerebbero cartello — servano a qualcosa di diverso dalla sicurezza. Nei giorni successivi ha alzato ancora il tono: le previsioni catastrofiche sono "irresponsabili", e la probabilità che l'intelligenza artificiale ponga fine al mondo entro il 2030 è, testualmente, zero per cento. Il 23 settembre è andato al podcast di Ezra Klein al New York Times a ripetere la stessa cosa.

La tesi dietro le sue parole è più solida dei toni. La sicurezza, per Huang, è un problema di ingegneria: test, ambienti isolati in cui provare i modelli, monitoraggio continuo. Cose che si fanno in laboratorio, non in parlamento. Andrew Ng, che ha insegnato a mezza industria come si addestra una rete neurale, ha detto a Bloomberg il 17 settembre la stessa cosa da un'altra angolazione: le paure di estinzione sono "più fantascienza che scienza", e non si legifera sulla fantascienza.

Vale notare chi sta da che parte. Chi chiede regole vende modelli di frontiera. Chi le rifiuta vende l'infrastruttura, oppure insegna a usarla. Non è necessariamente malafede — è che ciascuno vede il problema dalla propria posizione nella catena. Quando le ferrovie americane chiesero regolamentazione federale a fine Ottocento, lo fecero anche perché le regole stabilizzavano le tariffe e tenevano fuori i nuovi entranti. La storia non dice che avessero torto sulla sicurezza. Dice che le due cose convivevano benissimo.

Ricapitolando dove siamo: da una parte chi possiede la frontiera si accorda su chi la certificherà, dall'altra chi vende le macchine dice che non serve nessuna legge, e in mezzo c'è chi sostiene che il problema vero sia chi resta fuori. Il terzo attore di questa scena è il più coerente di tutti, e ha appena messo del software dove stanno le sue parole.

Jack Dorsey ha fondato Twitter e oggi guida Block, l'azienda dei pagamenti. Ha pubblicato un testo intitolato "open the frontier", che è una risposta diretta e quasi parola per parola al "pace the frontier" di Amodei. La sua proposta non è l'assenza di controlli: sono pesi dei modelli rilasciati pubblicamente, valutazioni che chiunque possa rifare ottenendo lo stesso risultato, verifiche indipendenti, strumenti che girano sul computer di chi li usa. La sicurezza, sostiene, è compatibile con l'apertura. Non è compatibile con operatori dominanti che usano la parola sicurezza per proteggere un vantaggio commerciale.

La parte interessante è che non si è fermato al testo. Block ha appena rilasciato Buzz, uno spazio di lavoro aperto dove persone e agenti artificiali stanno sullo stesso piano, ciascuno con la propria identità crittografica, e che funziona con qualsiasi modello. Il 23 settembre l'azienda ha aggiunto il supporto ai micropagamenti in bitcoin per gli scambi tra agenti. A febbraio, quando aveva annunciato tagli consistenti al personale, li aveva legati all'adozione interna di questi strumenti: meno persone per ogni unità di prodotto.

Ed è qui che la sua posizione si fa scomoda in modo produttivo. Dorsey difende l'accesso di tutti alla tecnologia e contemporaneamente mostra, sui suoi stessi dipendenti, cosa comporta quell'accesso quando arriva davvero. Le due cose non si contraddicono — sono la stessa scommessa vista da due lati. Chi chiede di aprire la frontiera non sta promettendo un mondo più gentile. Sta dicendo che il mondo cambierà comunque, e che è meglio che cambi per tutti invece che per cinque aziende.

Andrej Karpathy ha lavorato a Tesla e a OpenAI, e oggi è soprattutto uno dei divulgatori più ascoltati di questo mondo. La sua settimana racconta una cosa che gli schieramenti non catturano.

Ha appoggiato pubblicamente la proposta di Amodei di regolare il passo della frontiera — dice di amarla, e spera che l'industria riesca a mettersi d'accordo. Ha rilanciato il rapporto di Anthropic sugli abusi e sulle minacce pubblicato a settembre, segnalando interesse per il lavoro concreto di valutazione e prevenzione. Il 25 settembre, con il suo tipico gusto per la semplificazione, ha suggerito di smettere di discutere le sigle sull'intelligenza generale e di "togliere l'artificiale" dal nome.

Ma il dettaglio che pesa di più viene da un'intervista recente, dove racconta che passa ormai lunghi tratti della giornata a esprimere intenzioni agli agenti invece che a scrivere codice. E aggiunge la frase che vale il capitolo: il collo di bottiglia non è più la potenza di calcolo, è la direzione umana.

Tenetela accanto a quello che ha dichiarato Heinemeier Hansson a Rails World il 23 settembre: nella sua azienda hanno posato le matite, il codice scritto a mano è l'eccezione. E accanto a quello che racconta Collison di Stripe, dove circa il cinquantacinque per cento delle richieste di modifica al codice nasce ormai da un'istruzione data a un modello, senza rinunciare agli standard di affidabilità di un sistema che muove pagamenti.

Tre persone diversissime che descrivono lo stesso spostamento. Non è una previsione, è un resoconto. Ed è per questo che la trattativa sulla pausa, per quanto seria, rischia di somigliare a una conferenza diplomatica sulle rotte commerciali convocata mentre le merci viaggiano già per un'altra strada. Karpathy è l'unico dei tre che sta con un piede in entrambe le stanze: sostiene il freno e intanto descrive un mestiere che è già cambiato. Forse è la posizione più onesta disponibile.

Progetti da osservare.

x402 riusa un codice di errore dimenticato del web — il 402, "pagamento richiesto", presente nelle specifiche da trent'anni e mai davvero usato — per permettere a un programma di pagare un servizio senza avere un account né una carta. Adesso è gestito dalla Linux Foundation, e il 23 settembre Block ci ha aggiunto i micropagamenti in bitcoin. È l'infrastruttura di cui parlavamo: gli agenti che comprano da soli.

Buzz, sempre di Block, è uno spazio di lavoro aperto costruito su Nostr, dove le persone e gli agenti sono membri con gli stessi diritti, ciascuno con la propria chiave. Non è legato a nessun modello: funziona con quelli di case diverse. È la tesi di Dorsey resa software.

Qwen3.8 è la prima volta che Alibaba rilascia con pesi aperti un modello della sua classe più potente. La versione piccola occupa circa diciassette gigabyte, gira su un portatile, e secondo Simon Willison si avvicina davvero alla frontiera. È esattamente il modello locale di cui parla Buterin.

METR valuta i modelli di frontiera e non accetta soldi dai laboratori. Sta al centro della discussione sui valutatori indipendenti nata dal saggio di Amodei: l'idea funziona o no a seconda di quanto è credibile un ente come questo.

E poi una curiosità che dice molto sul momento: llm-wiki, di Karpathy. Invece di frammentare i documenti perché un modello li ripeschi a pezzi, propone che l'agente scriva e tenga aggiornata una piccola enciclopedia in testo semplice. Cinquemila stelle in pochi giorni e decine di copie. A volte la soluzione elegante è quella che il bibliotecario avrebbe suggerito subito.

Resta quella conferenza convocata per stabilire il limite di velocità di una strada che forse non porta dove pensiamo. LeCun e Fei-Fei Li dicono che la destinazione è altrove; Buterin e Dorsey dicono che il problema è chi tiene le chiavi. Nessuna delle due obiezioni è stata davvero raccolta da chi sta trattando. Ed è strano, perché sono le uniche due che, se avessero ragione, renderebbero l'accordo inutile.

È stato Signal Brief. Alla prossima.