Il consenso e i suoi contabili

Il consenso e i suoi contabili

Dalla richiesta di rallentare nasce una domanda più scomoda: chi verifica la frontiera. E una risposta opposta — non frenare, ma distribuire.

Ieri il dibattito sull'intelligenza artificiale sembrava essersi compattato attorno a una parola sola: rallentare. Oggi, 22 settembre, Signal Brief guarda cosa succede quando quella parola smette di essere un appello e prova a diventare una procedura. Perché è lì che il consenso si sfalda: non sul se, ma sul chi. Chi controlla i controllori, chi firma la verifica, chi paga il conto dell'attesa. E mentre a Washington si discute di calendari legislativi, dall'altra parte del mondo qualcuno sta già rispondendo con una mossa diversa.

Al palco dell'All-In Summit, Elon Musk ha fatto una proposta che vale la pena prendere alla lettera. Non "rallentiamo", non "siamo prudenti": i laboratori di frontiera — xAI, OpenAI, Anthropic, Google, Meta, e anche i grandi laboratori cinesi — dovrebbero testare i modelli gli uni degli altri prima del rilascio. Una revisione incrociata, come quella che si fa da due secoli con gli articoli scientifici. La differenza con ieri è tutta qui: fino a pochi giorni fa il rallentamento era una posizione morale, qualcosa che si dichiara. Adesso è un meccanismo, con dei nomi dentro e una procedura da scrivere.

Musk, va detto, propone questo mentre corre. Nello stesso periodo le cronache lo collocano fisicamente a Memphis, dove il cluster di calcolo Colossus si sta allargando, con Grok 5 atteso entro fine anno. Cautela dichiarata sulla frontiera e nessun freno sull'hardware: la contraddizione è visibile a occhio nudo, e non è ipocrisia — è esattamente il paradosso di chi vuole regole che valgano per tutti proprio perché non intende fermarsi da solo.

Nello stesso giro di giorni il pendolo si sposta su Ottawa e Berlino. Yoshua Bengio ottiene fino a trecento milioni di dollari canadesi, messi insieme da Canada e Germania il 16 settembre, per LawZero e il suo progetto di una macchina che prevede senza volere nulla: niente obiettivi propri, niente autonomia, un sistema costruito per sorvegliare gli agenti che imbrogliano. È una novità sostanziale rispetto a ieri. Lo Stato qui non scrive un divieto, finanzia una direzione tecnica alternativa. Somiglia molto a quello che i governi hanno fatto con l'energia nucleare civile negli anni Cinquanta: non si vietava la fisica, si sceglieva quale ramo alimentare con denaro pubblico.

E poi c'è Geoffrey Hinton, che il 16 e 17 settembre esce da un incontro a porte chiuse a Capitol Hill e mette una data sull'allarme: al Congresso resta forse un anno per imporre vincoli veri, prima che il meccanismo delle macchine che progettano macchine migliori sfugga di mano. Trasformare una paura in una scadenza è un gesto politico preciso. Le paure si possono rinviare, i calendari no.

Fin qui l'armonia. Si rompe appena si chiede chi debba fare la verifica. E si rompe da una direzione inattesa: non dagli acceleratori, ma da dentro la comunità tecnica. Jensen Huang sostiene che non serve alcuna regola nuova, che basta testare meglio e che la sicurezza resta in casa ai produttori. François Chollet dice l'opposto di entrambi: il problema non è quanto sono capaci i modelli, è quanto potere si concentra in poche mani, e il "dare il passo alla frontiera" rischia di essere la versione elegante di uno scavo di fossati attorno al castello.

Se Chollet ha ragione, la risposta coerente non è la moratoria. È l'opposto: disperdere.

Jack Dorsey è stato per anni l'uomo di Twitter, poi quello dei pagamenti con Block. Da qualche tempo è diventato qualcos'altro: la voce più netta di chi pensa che la sicurezza dell'intelligenza artificiale si ottenga aprendo, non chiudendo.

Il 14 settembre, con un post su X, ha preso posizione contro l'intera architettura del rallentamento concordato. La frontiera deve restare accessibile ai ricercatori indipendenti e agli utenti. Niente limiti di settore sulla potenza di calcolo per l'addestramento, niente restrizioni sui rilasci. E soprattutto: la sicurezza va dimostrata con prove che chiunque possa controllare, non affidata agli interessi commerciali di chi è già dentro. Concede una sola eccezione, stretta, per i rischi catastrofici veri, quando nient'altro basta.

Quello che rende la posizione non teorica è cosa sta facendo dentro casa propria. Block è stata riorganizzata attorno all'idea che i modelli siano intercambiabili — pezzi sostituibili — mentre il valore resta nell'infrastruttura, nei dati, nella distribuzione. Dorsey ha detto che l'azienda può ridursi a pochissimi ruoli, perché gli agenti assorbono interi strati di gestione intermedia. È una scommessa aziendale che ripete la tesi politica: se i modelli sono commodity, chi li controlla conta meno di chi possiede i tubi.

Il collegamento con il filo di oggi è diretto. Musk propone che i laboratori si verifichino a vicenda; Dorsey risponde che una verifica tra pari, in un club di cinque o sei aziende, resta pur sempre un club. La sua soluzione è togliere il monopolio della verifica distribuendo la capacità: pesi aperti, valutazioni indipendenti, modelli che girano sulla macchina di chi li usa.

C'è un precedente che aiuta a collocare la scena. Negli anni Novanta la crittografia forte era trattata come materiale da esportazione militare, e l'argomento dei governi era identico a quello di oggi: troppo pericolosa per lasciarla a tutti. Ha vinto la parte opposta, e la sicurezza di internet oggi poggia su algoritmi pubblici che chiunque può ispezionare. Se quel precedente valga anche per i modelli di frontiera è una domanda aperta — l'obiezione ovvia è che un algoritmo non ha iniziativa, un agente sì. Ma vale la pena notare che chi chiede apertura non sta chiedendo meno sicurezza. Sta chiedendo che a garantirla non siano gli stessi che la vendono.

Aravind Srinivas guida Perplexity, l'azienda che ha provato a sostituire il motore di ricerca con qualcosa che risponde invece di elencare. Negli ultimi mesi ha spostato l'ambizione più in alto: non un prodotto di ricerca, ma uno strato che orchestra modelli, file, strumenti, memoria e applicazioni — quello che lui stesso descrive come un computer, dove il sistema operativo è l'intelligenza artificiale.

La scena concreta di queste settimane riguarda però l'hardware. In un'intervista alla CNBC ha argomentato che la fase successiva dell'intelligenza artificiale avrà bisogno tanto del cloud quanto di macchine locali, e ha indicato il motivo commerciale: i settori regolati — le banche in testa — vogliono sistemi isolati dalla rete, che si possono staccare dalla presa. Nella stessa direzione va la versione per Mac di Perplexity, che manda il lavoro delicato ai modelli che girano sul chip di casa Apple, con l'intenzione dichiarata di rendere pubblico anche il classificatore che decide cosa resta sulla macchina e cosa no.

Qui la sicurezza smette di essere una promessa e diventa una proprietà fisica. Non "ci fidiamo di chi ha addestrato il modello", ma "se qualcosa va storto, tiro il cavo". È lo stesso movimento che le aziende hanno fatto trent'anni fa con i mainframe: da un calcolo centralizzato in una stanza lontana, di cui ci si doveva fidare, a computer sulla scrivania di cui si aveva il controllo materiale.

Il punto notevole è che questa è una risposta di mercato a un problema politico. Nessuno ha imposto a Perplexity di vendere macchine scollegabili: gliele chiedono i clienti, perché i loro regolatori le chiedono a loro. Mentre a Washington si discute se resti un anno per legiferare, una parte della questione si sta risolvendo nei contratti di fornitura, che è il modo in cui molte regolamentazioni arrivano davvero — prima la prassi, poi la legge che la ratifica.

Resta un dubbio onesto, che vale per Srinivas come per Dorsey: distribuire il controllo non riduce il numero di persone che possono fare danni. Lo aumenta. Il ragionamento regge se si crede che il pericolo maggiore venga dalla concentrazione, non dalla diffusione — ed è esattamente il punto su cui il dibattito di oggi si è spaccato.

Teniamo presente dove siamo: una richiesta di rallentare che sembrava unanime si è aperta in tre direzioni — verificare tra pari, distribuire capacità, oppure non fare nulla di nuovo. Manca ancora una voce, quella di chi guarda la scena da fuori dal centro del mondo.

Vivek Raghavan è il cofondatore di Sarvam, che a Mumbai costruisce modelli per l'India. In un'intervista a Outlook Business ha formulato l'obiezione che nessuno a San Francisco pronuncia volentieri: senza ambizione si finisce per costruire solo cose piccole. Nella stessa settimana Sarvam si è presentata al Global Fintech Fest e, stando alle cronache, Raghavan ha accompagnato il primo ministro indiano attraverso l'intero stack dell'azienda — modelli, voce, casi d'uso per le imprese. Non una dimostrazione da conferenza: infrastruttura pensata per le istituzioni. L'azienda ha lanciato un modello di frontiera da 105 miliardi di parametri e dichiara l'intenzione di rendere pubblici i pesi dei modelli addestrati dentro la missione nazionale IndiaAI.

A Lagos, Bosun Tijani si muove sullo stesso asse con mezzi diversi. Ministro nigeriano del digitale, ha rinunciato alla corsa per la vicesegreteria dell'Unione internazionale delle telecomunicazioni per restare sul piano di novantamila chilometri di fibra ottica, il cui dispiegamento parte nel trimestre in corso. In parallelo la strategia nazionale sull'intelligenza artificiale, un fondo per la ricerca, un modello linguistico per le lingue locali. Questa settimana la Fondazione Gates lo ha incluso tra i suoi Goalkeepers Champions per la guida sull'intelligenza artificiale in Africa.

Il filo che li unisce è una frase che dal loro punto di vista suona molto diversa che altrove. Rallentare, per chi è già alla frontiera, significa aspettarsi a vicenda. Per chi sta costruendo la prima fibra e il primo modello nella propria lingua, significa restare fermi mentre gli altri consolidano. La storia industriale è piena di questo schema: le norme ambientali, le regole sul lavoro minorile, i vincoli sui brevetti sono quasi sempre arrivati dopo che i primi arrivati avevano finito di costruire, e sono stati vissuti dai secondi come una scala tirata su.

Non è un argomento contro le regole. È un promemoria che ogni regola ha una geografia, e che una moratoria decisa in una manciata di laboratori tra California, Londra e Shenzhen non è una pausa universale. È una pausa per alcuni e un muro per altri.

Yann LeCun porta nella discussione un'obiezione di tipo diverso, che non riguarda chi controlla ma cosa esattamente si sta controllando.

In un intervento pubblico legato a una conferenza recente ha ripetuto la sua posizione con una formula netta: i modelli linguistici sono molto utili, ma non sono la strada verso un'intelligenza di livello umano. Per capire il mondo reale, sostiene, servono architetture che vanno oltre la previsione del testo — sistemi radicati nella percezione, nella pianificazione, nel ragionamento su come si comportano gli oggetti fisici. È la ragione per cui, dopo Meta, ha fondato AMI Labs, che insegue proprio quelle architetture alternative.

La scena non è isolata. Fei-Fei Li ha presentato Atlas con World Labs: un modello addestrato da zero su testo, immagini, video e forme tridimensionali insieme, capace di generare ambienti in cui ci si può muovere, con controllo della posizione della telecamera e misura delle distanze. Detta in modo semplice, non produce descrizioni del mondo ma il mondo stesso, navigabile.

Il collegamento con il resto della giornata è più inquietante di quanto sembri. Tutta l'architettura del rallentamento — la verifica incrociata di Musk, i valutatori esterni chiesti da Dario Amodei, la finestra di un anno di Hinton — è costruita attorno a un oggetto preciso: il grande modello linguistico che si rilascia a una certa data. Se LeCun e Li hanno ragione, quell'oggetto è un ramo, per quanto rigoglioso, e non il tronco. Si starebbero scrivendo con enorme cura le regole del traffico per una strada che tra qualche anno sarà secondaria.

È già successo. Nei primi anni del Novecento le città hanno prodotto regolamenti dettagliatissimi sulla circolazione dei cavalli — larghezza delle carreggiate, obblighi di sosta, gestione del letame — proprio mentre l'automobile stava arrivando. Non erano norme sbagliate. Erano norme per un mondo che stava per finire.

La differenza, oggi, è che nessuno sa quale dei due sia il cavallo. E questo è il motivo per cui la domanda su chi ha titolo a verificare è più difficile di quanto la parola "verifica" lasci intendere: verificare presuppone sapere cosa si sta guardando.

Progetti da osservare.

Atlas, di World Labs, è l'argomento concreto del capitolo precedente: un modello che genera ambienti tridimensionali navigabili invece di frasi. Se l'intelligenza passa davvero dal capire lo spazio, questo è il primo pezzo visibile di quella scommessa.

ARC-AGI-3 è la nuova versione del test di ragionamento ideato da Chollet, e misura una cosa particolare: non quanto punteggio fa una macchina, ma quanto in fretta impara qualcosa di nuovo rispetto a una persona media. Per la prima volta un modello, GPT-6-Astra, ha superato quella soglia. Chi aveva dato tempi lunghi ora ha meno tempo.

METR è l'organizzazione che valuta i modelli di frontiera dall'esterno, e compare come riferimento nelle indagini di sicurezza. È la risposta pratica alla domanda su chi verifica: esiste già qualcuno il cui mestiere è farlo senza appartenere a nessun laboratorio.

goose nasce dentro Block, è software libero, e oggi è progetto fondativo della Agentic AI Foundation: oltre quarantaquattromila stelle su GitHub, il modello sottostante si cambia a piacere, e accede agli strumenti sulla macchina locale. È la tesi di Dorsey in forma eseguibile.

Roboharm, infine, sposta la domanda sulla sicurezza dove non esiste il tasto annulla: misura in modo sistematico se le politiche di controllo dei robot obbediscono a istruzioni pericolose o si fermano. Finché si parla di testo generato, un errore si cancella. Un braccio meccanico che si muove, no.

Una proposta di revisione incrociata fatta da un palco, mentre a Memphis crescono i capannoni pieni di processori. Trecento milioni pubblici per costruire una macchina che non vuole niente. Un banchiere che chiede di poter staccare una spina. Sono tre risposte alla stessa paura, e nessuna delle tre si fida delle altre due. Forse è questa sfiducia reciproca, più di qualunque accordo, la cosa che tiene aperto il gioco.

È stato Signal Brief. Alla prossima.