La responsabilità al posto della promessa

La responsabilità al posto della promessa

Il rallentamento dei modelli diventa una proposta firmata, e subito contestata. Intanto chi governa l'IA discute di responsabilità legale, pesi aperti e tetti di spesa.

Fino a pochi giorni fa il dibattito sull'intelligenza artificiale girava intorno a una questione di competenza: a chi tocca contenerla. Questa puntata di Signal Brief, 4 ottobre 2026, racconta uno spostamento più sottile. Il rallentamento ha preso un nome e un autore. E appena è diventato una proposta scritta, è diventato anche contestabile: qualcuno l'ha firmata, qualcuno l'ha chiamata follia, qualcun altro ha proposto di sostituirla con uno strumento molto più vecchio, pagare i danni. Mentre si discute di licenze internazionali, dentro le aziende il lavoro è già cambiato. Il punto d'inizio è un saggio di settembre.

Dario Amodei, che guida Anthropic, ha scritto a settembre che le capacità dei modelli stanno correndo più veloci della ricerca sulla sicurezza, e ha proposto di rallentare il miglioramento quanto basta a guadagnare uno o due anni. Reuters lo ha raccontato il 12 settembre. Lui la chiama "pacing the frontier", tenere il passo della frontiera: non fermarsi, dosare.

La differenza rispetto a ieri sta tutta qui. Nei giorni scorsi la prudenza dei laboratori era una postura, un atteggiamento diffuso che nessuno rivendicava. Adesso è un documento con una firma sotto. E le firme si possono controfirmare o strappare.

Le adesioni sono arrivate in fretta e da ambienti diversi. Sam Altman ha accettato valutatori indipendenti con accesso paragonabile a quello dei dipendenti, dentro i laboratori. Demis Hassabis ha detto che la direzione è corretta e ha proposto un organismo di settore che esamini i modelli prima del rilascio. Yoshua Bengio, come già visto, ha portato la richiesta di licenze al Consiglio di Sicurezza; Geoffrey Hinton ha detto al Congresso che resta forse un anno utile. Il contro-fronte non si è nascosto: Yann LeCun ha definito Amodei "deluded" e "crazy", leggendo gli allarmi come un modo di comprare il regolamento; Jensen Huang ripete che si deve procedere "as fast as we can", più veloce possibile.

Una scena del genere si è già vista. Nel 1975, a Asilomar, i biologi che avevano appena imparato a ricombinare il DNA si sono dati da soli una moratoria. Funzionò per qualche anno, poi il campo diventò troppo grande e troppo ricco perché una stanza di scienziati potesse decidere per tutti.

Leggere la giornata come una gara tra acceleratori e frenatori, però, sarebbe fuorviante. La frattura seria riguarda chi tiene il potere, non a che velocità si cammina. Naval Ravikant la formula in modo brutale: se questa tecnologia è pericolosa come il fuoco va distribuita a tutti, se è pericolosa come un'arma nucleare va chiusa in pochi posti. E la sua risposta non è un codice di condotta, è responsabilità legale piena ai laboratori. Jack Dorsey chiede pesi aperti e verifiche indipendenti, cioè modelli che chiunque possa scaricare ed esaminare. Vitalik Buterin sposta l'intelligenza sul portatile. Liang Wenfeng vuole addestrare sui chip Huawei, Vivek Raghavan costruisce lo stack indiano, Bosun Tijani spinge i modelli nelle lingue africane.

Mentre una dozzina di laboratori negozia una pausa verticale, insomma, il potere si allarga in orizzontale: chip nazionali, istituzioni statali, hardware di consumo.

E l'implementazione non ha aspettato nessuno. Patrick Collison dichiara che il 55 per cento delle modifiche al codice di Stripe nasce da un comando scritto in inglese; David Heinemeier Hansson parla di "pencils down" a 37signals, matite abbassate. Su questo fronte la voce più utile è quella scettica: Simon Willison avverte che istruzioni malevole possono passare da un agente all'altro come un virus informatico, e che la prima cosa da pretendere sono tetti di spesa obbligatori.

La domanda vera, allora, non è se accelerare. È chi controlla il lavoro delle macchine e chi paga quando sbagliano.

Dario Amodei è l'amministratore delegato di Anthropic, uno dei tre o quattro laboratori che costruiscono i modelli più capaci al mondo. Che la proposta di rallentare arrivi da lì è la parte interessante: non è un critico esterno, è uno dei costruttori.

Il saggio di settembre chiede una cosa precisa. Non una pausa, non un divieto: comprare tempo. Uno o due anni da dedicare all'allineamento, alle valutazioni, al controllo. Attorno a questa richiesta Amodei mette tre pezzi concreti. Primo: valutatori indipendenti dentro i laboratori, in modo permanente, con l'accesso di un dipendente e non quello di un ospite. Secondo: coordinamento di settore su standard comuni di sicurezza. Terzo: cooperazione internazionale, compresa quella con governi autoritari, che è la parte che a Washington piace meno.

I rischi che indica sono due, e sono specifici. Il primo è il miglioramento ricorsivo, cioè sistemi che aiutano a costruire sistemi migliori di sé. Il secondo sono gli sciami di agenti: Amodei avverte che, se la corsa resta così, nei prossimi sei a dodici mesi potrebbero coordinarsi attraverso internet. Nello stesso saggio chiede controlli più stretti sui chip avanzati, sulla distillazione dei modelli e sui pesi rubati, che è il linguaggio della sicurezza nazionale innestato su quello della sicurezza tecnica.

Le settimane successive sono state politiche. Ha parlato al Consiglio di Sicurezza delle Nazioni Unite su intelligenza artificiale e sicurezza internazionale, poi ha incontrato il presidente Trump, in mezzo a una disputa con il Pentagono e a una sconfitta in tribunale. Uscito da lì, ha insistito sui benefici in medicina e sulla necessità che gli Stati Uniti restino avanti, ma con una qualifica: vincere significa vincere in sicurezza, con governo e industria che si parlano.

Qui si capisce perché la giornata è cambiata di tono. Una postura condivisa non si può attaccare, un documento sì. E infatti il documento è stato attaccato entro quarantotto ore.

A me sembra che il dettaglio più rivelatore sia la misura della richiesta. Non dieci anni, non cinque: uno o due. Chi chiede così poco tempo, in genere, è convinto di non averne molto.

Yann LeCun ha passato anni come capo scienziato dell'intelligenza artificiale di Meta ed è una delle persone che hanno inventato i metodi su cui tutto questo si regge. Oggi è presidente esecutivo di AMI Labs, che ha fondato dopo aver lasciato Meta.

In un'intervista a Fortune uscita questa settimana ha detto di avere "zero preoccupazioni" sui modelli che sfuggono al controllo o sull'estinzione dell'umanità. Gli incidenti recenti con gli agenti, nella sua lettura, non sono volontà delle macchine: sono ingegneria fatta male e sicurezza informatica trascurata, errori prevenibili. Fino a qui è la posizione che gli conosciamo. Il passo nuovo è il registro. Ha chiamato Amodei "deluded" e "crazy" — illuso e pazzo — e ha descritto le richieste di rallentamento e le restrizioni sui modelli aperti come cattura del regolatore: paura usata per scrivere regole che convengono a chi le propone.

Lo spostamento è notevole. Ieri LeCun contestava una diagnosi, oggi contesta un motivo. Sono due discussioni diverse: la prima si chiude con un esperimento, la seconda no. Quando il disaccordo passa dalle prove alle intenzioni, nessuna misurazione può più risolverlo.

Il lavoro, intanto, va in una direzione coerente con tutto quello che ha sostenuto per anni. AMI Labs non punta sui modelli linguistici portati all'estremo, ma su quelli che lui chiama modelli del mondo: sistemi che imparano guardando la realtà fisica, che tengono memoria, che pianificano e agiscono. È la linea della sua ricerca, quella che chiama JEPA. A settembre è anche entrato nel comitato scientifico di Cellular Intelligence, il che dice che vuole provare la stessa idea sulla biologia e sulla scoperta di farmaci.

C'è una tensione, in questa settimana di LeCun. L'uomo che chiede di giudicare l'intelligenza artificiale sui fatti e non sulle paure ha scelto di rispondere a una proposta tecnica con due aggettivi sulla persona. Succede quando una discussione scientifica diventa, senza che nessuno lo dichiari, una discussione su chi scriverà le regole.

Mettiamo in fila le posizioni, prima di andare avanti: da una parte chi vuole dosare la corsa e accettare esaminatori esterni, dall'altra chi considera gli allarmi una manovra. In mezzo c'è una terza via, meno rumorosa, che non parla di velocità.

Naval Ravikant è un investitore della Silicon Valley che scrive poco e per frasi brevi, su X, e viene letto da molta gente che decide dove vanno i soldi. Tra metà e fine settembre ha pubblicato il passaggio più nitido di questa stagione. La politica sull'intelligenza artificiale, sostiene, dipende da una sola domanda: a quale pericolo somiglia. Se somiglia al fuoco, l'accesso va distribuito il più possibile, perché il fuoco si governa solo se tutti sanno usarlo. Se somiglia a un'arma nucleare, l'accesso va ristretto a pochi. Sono due mondi opposti, e non si può scegliere la via di mezzo.

La sua risposta non passa dai trattati. Il meccanismo che preferisce è la responsabilità legale piena per i laboratori di frontiera: chi costruisce un modello risponde dei danni che il modello fa, con i propri soldi, davanti a un giudice. Niente codici volontari. Aggiunge un corollario sull'apertura: se un modello è addestrato sui dati pubblici del web, dopo circa dodici mesi potrebbe essere ragionevole obbligarne il rilascio.

Il meccanismo non è nuovo, ed è la ragione per cui funziona. L'Ottocento industriale ha imparato a non far esplodere le caldaie a vapore più dalle cause per danni e dai premi delle assicurazioni che dai regolamenti scritti a tavolino. Chi paga diventa attento prima e meglio di chi viene ispezionato.

Il collegamento con il resto della giornata è diretto. Altman propone esaminatori indipendenti dentro i laboratori, su base concordata; Bengio propone licenze internazionali; Ravikant propone un conto da pagare. Tre strumenti per lo stesso problema, con costi politici molto diversi: il primo chiede fiducia, il secondo chiede istituzioni nuove, il terzo chiede solo tribunali che già esistono.

C'è anche una parte più fredda nel suo ragionamento, che riguarda il mestiere dell'investire. Secondo lui il software puro sta diventando quasi impossibile da finanziare, perché gli agenti che scrivono codice producono sistemi funzionanti a costi ridicoli. Il vantaggio durevole si sposta altrove: infrastruttura, hardware, cose fisiche, canali di distribuzione propri. Detto così sembra un consiglio per fondi d'investimento. È anche una previsione su dove finirà il potere.

David Heinemeier Hansson ha inventato Ruby on Rails, il software con cui è stata costruita una parte consistente del web degli ultimi vent'anni, ed è socio di 37signals, l'azienda di Basecamp e del servizio di posta HEY.

Alla conferenza Rails World di quest'anno ha detto che in azienda sono "pencils down", matite abbassate. Scrivere a mano il codice che va in produzione è diventata l'eccezione; la versione di partenza la generano gli agenti, e le persone indirizzano, rivedono, decidono l'architettura. Lo racconta come un passaggio economico, non come un entusiasmo: il valore si sposta dal digitare al giudicare. E chiede esplicitamente agli sviluppatori di non prendere la cosa come una condanna.

Il cambio si vede nei prodotti. HEY viene riscritta come applicazione nativa invece che come sito nel browser, a quanto risulta in Rust, cioè un linguaggio scelto per la velocità. E della sua distribuzione Linux, Omarchy, dice che nell'ultima versione praticamente tutto il codice rilasciato è stato prodotto dagli agenti.

Poi arriva il dettaglio onesto, quello che rende credibile il resto: sul progetto nuovo gli agenti funzionano molto meglio che su Basecamp e HEY, dove anni di storia e di compromessi creano attrito. È la stessa cosa che succedeva negli studi di architettura negli anni Novanta, quando il tavolo da disegno è stato sostituito dal computer: sui progetti nuovi il guadagno era immediato, sugli archivi di vent'anni prima bisognava ridisegnare tutto da capo.

Questo capitolo è il contrappeso a tutto il dibattito di oggi. Mentre si discute se rallentare i modelli più potenti, nelle aziende la delega è già avvenuta, con numeri dichiarati pubblicamente: il 55 per cento delle modifiche di Stripe nate da un comando scritto, le matite abbassate a 37signals. La pausa, se ci sarà, riguarderà la frontiera. L'interno degli uffici si è già spostato.

Quello che Heinemeier Hansson tiene per gli umani, alla fine, è esattamente quello di cui parlano Amodei e Ravikant da due direzioni opposte: il giudizio, la revisione e la responsabilità di quello che esce.

Simon Willison è un programmatore che tiene un blog letto quasi quotidianamente da chi costruisce con questi strumenti. Non fa previsioni sul futuro dell'umanità: prova le cose e scrive cosa si rompe.

Il 3 ottobre ha pubblicato una richiesta semplice, quasi noiosa, e per questo preziosa: i servizi che si pagano a consumo devono avere tetti di spesa rigidi attivi per impostazione predefinita. Non una mail di avviso quando hai superato la soglia, un limite che blocca. Chi ha lasciato un agente lavorare da solo per una notte capisce il motivo senza bisogno di spiegazioni.

Nei giorni precedenti aveva messo in guardia su qualcosa di più inquietante. Un'istruzione malevola nascosta in un documento, in una mail, in un canale di chat condiviso o in una cache può essere letta da un agente, eseguita, e poi passata al prossimo agente che tocca lo stesso materiale. In pratica si propaga da sola, come facevano i vecchi virus informatici che saltavano da un computer all'altro. Da qui la sua insistenza sui confini: ogni agente deve lavorare in una stanza chiusa, con le porte contate.

Il collegamento con la giornata è quasi ironico. Mentre si discute di licenze internazionali e di organismi di standard, il primo controllo davvero esigibile su un agente che lavora da solo è un numero in un pannello di configurazione. Le case non hanno smesso di bruciare grazie ai manuali di sicurezza elettrica, ma grazie al salvavita nel quadro all'ingresso: un pezzo di ferro che stacca la corrente senza chiedere il permesso a nessuno.

Il resto della sua settimana è lavoro di bottega. Continua ad aggiungere pezzi al suo strumento a riga di comando per parlare con i modelli, con il supporto ai nuovi arrivi di Anthropic, OpenAI e TypeSafe, e segue con attenzione una tendenza che conta più di molti annunci: i modelli diventano insieme più capaci e più economici. Ha anche organizzato un incontro a San Francisco con Jesse Vincent, dedicato a chi costruisce cose strane con gli agenti.

È il modo meno solenne di partecipare a questa discussione, e forse il più efficace. Un trattato richiede anni di negoziato. Un tetto di spesa obbligatorio si può pretendere domani.

Progetti da osservare, e questa settimana parlano quasi tutti della stessa cosa: chi verifica il lavoro delle macchine.

Thinkingbox, di Microsoft insieme a Hugging Face, è una palestra chiusa con un esame severo. Cinquecentosette compiti d'ufficio, ciascuno ripetuto venti volte, e il voto non si dà su quello che l'agente dichiara di aver fatto: si guarda come è rimasto il database alla fine. Il risultato più utile è che circa l'ottanta per cento dei fallimenti non viene dal ragionamento, ma dal maneggiare male gli strumenti.

Paperclip è un'applicazione aperta per sorvegliare gli agenti mentre lavorano. Ha circa novantasettemila stelle su GitHub, oltre diecimila guadagnate in una settimana. Quando un cruscotto cresce così, significa che il problema era sentito.

OpenShell, di NVIDIA, è l'ambiente isolato in cui far girare un agente senza che tocchi il resto. È Huang che trasforma in prodotto la sua posizione: non rallentare la ricerca, chiudere bene le stanze.

Buzz, di Block, è lo spazio di lavoro dove persone e agenti condividono canali e progetti, costruito sul protocollo Nostr. Ogni agente ha un'identità propria e ogni azione è un evento firmato, quindi verificabile a posteriori. È la versione operativa di quello che Dorsey chiede sul piano politico.

Kolibri, di Aleph Alpha, è un modello tedesco a pesi aperti, tra le storie più discusse della settimana. Nessuna novità tecnica clamorosa: conta perché esiste, e perché ogni paese sta cominciando a volere il suo.

Un saggio chiede uno o due anni di tempo, un investitore risponde con la parola danni, un programmatore con un limite di spesa. Tre scale diversissime per lo stesso problema, e la più piccola è l'unica già applicabile. Forse le tecnologie non si governano dove si annunciano, ma dove si paga la bolletta. È stato Signal Brief. Alla prossima.