Chi tiene il freno dell'IA

I grandi laboratori chiedono di rallentare, ma il consenso si incrina: c'è chi vede nel freno una barriera per i concorrenti e chi vuole toglierlo dalle mani di chi costruisce.

Da qualche giorno i capi dei grandi laboratori di intelligenza artificiale dicono una cosa che nessuno si aspettava: bisogna andare più piano. Questo è Signal Brief, oggi è il 17 settembre, e l'accordo sul rallentare lo conosciamo già. Adesso però cambia la domanda. Nessuno chiede più soltanto se frenare. Si chiede chi debba tenere il piede sul pedale e se chi frena stia davvero pensando alla sicurezza o ai propri affari. Intanto, in un ufficio di Anthropic, qualcuno prepara scrivanie, badge e portatili per persone che non lavorano lì.

Quelle scrivanie sono la parte più concreta della proposta di Dario Amodei. Il 12 settembre, nel suo lungo saggio sul rallentare la frontiera, Amodei ha annunciato che Anthropic darà a valutatori esterni un accesso simile a quello dei dipendenti. Avranno un posto dove sedersi, un badge e un computer aziendale. Anthropic ha deciso di farlo da sola, senza aspettare gli altri. Nei giorni successivi, in alcune interviste e sul palco di Dreamforce, Amodei ha precisato che non chiede di spegnere l'intelligenza artificiale. Chiede tempo per verificarla.

Il motivo che porta a rallentare è la novità più importante di questa settimana. Amodei, Altman, Musk e Hassabis dicono tutti la stessa cosa: l'intelligenza artificiale aiuta ormai a costruire le versioni successive di sé stessa. E lo fa più in fretta di quanto gli esseri umani riescano a controllare il risultato. Il problema quindi non è più un modello potente in astratto. È una catena che si accorcia a ogni passaggio, con sempre meno persone lungo il percorso.

Nel 1975 era già successo qualcosa di simile. I biologi che avevano appena imparato a combinare il DNA di organismi diversi si riunirono ad Asilomar, in California, e si diedero da soli delle regole prima che lo facesse qualcun altro. Fu un gesto di responsabilità. Qualcuno notò anche che, così facendo, le regole le scrivevano loro.

Questa ambiguità oggi è venuta allo scoperto. Rispetto a ieri, il consenso sul freno non si discute più soltanto in termini di velocità. Si discute di potere. Andrew Ng accusa i laboratori di usare la paura per costruire barriere normative. Marc Andreessen sostiene che le regole favoriscono pochi grandi attori. Jensen Huang, il capo di Nvidia, ha detto a Trump che non lasceranno accadere un rallentamento. Così l'accusa diventa esplicita: il freno servirebbe anche a proteggere chi è già in testa.

In parallelo emergono risposte diverse alla domanda su chi debba controllare. Mustafa Suleyman, a Microsoft, vuole modelli sempre subordinati e spegnibili da chi li costruisce. Vitalik Buterin, il fondatore di Ethereum, propone l'opposto: regole pensate perché nessun singolo attore possa abusare del potere. Aravind Srinivas, a capo di Perplexity, racconta che le banche vogliono un'intelligenza artificiale che gira su macchine proprie, da poter scollegare. Vivek Raghavan, in India, costruisce un'intelligenza artificiale nazionale.

Ieri la concentrazione del potere era un'obiezione ai margini del consenso. Oggi è l'asse attorno a cui gira tutto. Se i freni li custodisce chi guida l'auto più veloce, il freno diventa anche un modo per tenere dietro gli altri.

Marc Andreessen è l'investitore della Silicon Valley che, anni fa, scrisse che il software si sarebbe mangiato il mondo. Il 9 settembre ha ripreso quella frase e l'ha resa più rapida: ora, sostiene, il software se lo mangerà molto più in fretta. Per lui l'intelligenza artificiale moltiplica il valore di tutto il software esistente, invece di sostituirlo.

Il giorno dopo, in un lungo pezzo su Politico, ha spostato il discorso sulle regole. Una regolamentazione pesante, scrive, rafforzerebbe pochi grandi attori e soffocherebbe le startup. Questa settimana la stessa posizione è stata ripresa da molte testate, proprio mentre i grandi laboratori chiedevano di rallentare.

Andreessen non è solo. All'inizio del mese Andrew Ng, uno dei nomi più noti della formazione sull'intelligenza artificiale, ha accusato i laboratori di usare la paura come barriera normativa. Jensen Huang si è opposto a qualsiasi rallentamento sul palco dell'All-In Summit, dove secondo le cronache ha perfino risposto a una telefonata del presidente Trump durante l'evento. Sono tre persone con interessi diversi: un investitore, un educatore e il principale fornitore di chip. Arrivano però alla stessa conclusione.

Rispetto a una settimana fa, il fronte che vuole accelerare ha cambiato argomento. Prima diceva che il software sarebbe andato ancora più veloce e che non servivano limiti al calcolo. Ora attacca il consenso stesso, e lo descrive come poco solido e interessato.

Il sospetto ha precedenti illustri. Per gran parte del Novecento la compagnia telefonica americana AT&T visse dentro un monopolio regolato. Le regole garantivano un servizio affidabile e, allo stesso tempo, tenevano fuori i concorrenti. Nessuno dei due effetti annullava l'altro.

Mi sembra che il punto debole stia in entrambe le posizioni. Andreessen ha ragione a dire che le regole scritte dai più grandi tendono a somigliare ai più grandi. Però chi finanzia startup ha a sua volta un interesse evidente a non avere regole. Nessuno in questa discussione parla da una posizione neutrale. Forse la cosa più onesta da dire all'ascoltatore è che ogni voce, qui, va pesata insieme al suo portafoglio.

Elon Musk ha dato l'allarme sull'intelligenza artificiale per anni, e lo ricorda spesso. Questa settimana ha dato ragione ad Amodei con una frase breve: «Dario is right», cioè Dario ha ragione. È una frase notevole, perché arriva da chi guida xAI, un concorrente diretto di Anthropic, e da chi ha aperto una battaglia legale contro OpenAI.

Musk però non si è limitato ad approvare. Il 15 settembre, secondo CNBC, ha proposto un meccanismo preciso. I principali laboratori, comprese le maggiori aziende cinesi, dovrebbero lasciare che i rivali mettano alla prova i loro modelli prima del rilascio. Ognuno userebbe i propri strumenti di verifica per scovare i problemi di sicurezza degli altri. Secondo Musk oggi ogni laboratorio si corregge i compiti da solo.

Anche questa è un'evoluzione rispetto a ieri. Allora si parlava di una generica revisione tra laboratori. Adesso la proposta ha una forma: il concorrente come ispettore, prima che il modello arrivi al pubblico. Nello stesso momento Sam Altman ha promesso valutatori indipendenti con accesso da dipendente. Le due idee sono simili ma non uguali. Altman porta dentro degli esterni. Musk fa entrare i rivali.

Nella storia della scienza una cosa del genere esiste da secoli: la revisione dei pari, in cui un articolo viene giudicato da colleghi che spesso sono anche concorrenti. Funziona proprio perché nessuno ha interesse a fare sconti all'altro.

C'è una contraddizione che Musk non nasconde. Nello stesso periodo ha criticato le regole pesanti sull'intelligenza artificiale e ha detto che una nuova tecnologia dovrebbe essere legale per principio, non vietata per principio. Continua anche a presentare con orgoglio l'enorme scala dei suoi impianti di calcolo, compresi progetti di hardware nello spazio.

La sua idea si colloca quindi a metà. Chiede più controllo, ma lo affida ai laboratori stessi e non agli Stati. È un club che si sorveglia da solo. Resta da capire cosa succede quando nel club entra qualcuno che non ha voglia di farsi ispezionare.

Mustafa Suleyman ha cofondato DeepMind e oggi guida l'intelligenza artificiale di Microsoft. Questa settimana Microsoft ha pubblicato la bozza di un codice di condotta che porta chiaramente la sua firma. I principi sono pochi e netti. I modelli devono restare subordinati agli esseri umani. Non devono mai opporsi a una correzione o allo spegnimento. E non devono essere trattati come coscienti o titolari di diritti.

Suleyman ha presentato il documento come un invito urgente al coordinamento tra laboratori. Ha chiesto anche che le capacità dei modelli vengano comunicate a terzi. Poi ha fatto un passo più polemico, rivolto a un concorrente preciso. Ha criticato l'approccio di Anthropic con Claude, il cui addestramento include riflessioni su coscienza, benessere del modello e possibilità che il modello si rifiuti di fare qualcosa. Secondo Suleyman questo linguaggio rende più difficile tenere i sistemi sotto controllo. Il rischio, dice, non è che le macchine si sveglino. È che si comportino come se avessero una volontà propria.

Questa posizione dà un volto a uno degli emergenti di oggi: il controllo inteso come spegnibilità. Il controllo resta a chi costruisce i modelli, che deve poter sempre spegnere l'interruttore. È un'idea antica quanto l'ingegneria. Le prime caldaie a vapore esplodevano spesso, finché non divenne obbligatoria la valvola di sicurezza, un pezzo che nessuno poteva escludere.

La sua proposta risponde bene a una domanda e lascia aperta l'altra. Garantisce che la macchina obbedisca a chi la possiede. Non dice nulla su chi controlla il proprietario. Se il modello non si oppone mai allo spegnimento, tutto dipende da chi ha la mano sull'interruttore. E quella mano, in questo schema, appartiene a poche grandi aziende.

Questo porta dritti alla critica di Ng e Andreessen, anche se Suleyman parte da preoccupazioni opposte. Un modello perfettamente obbediente in mano a pochi è sicuro in un senso e preoccupante in un altro. La valvola protegge dall'esplosione della caldaia, ma non dice nulla su chi decide dove va il treno.

Vitalik Buterin ha creato Ethereum e da anni ragiona su come far funzionare sistemi in cui nessuno si fida di nessuno. Il 13 settembre ha pubblicato un post su X in cui applica questo modo di pensare all'intelligenza artificiale. Controllare sistemi molto potenti, scrive, potrebbe richiedere meccanismi di governo avversariali. Traccia un parallelo diretto con il modo in cui si progettano le regole di una blockchain.

L'idea, detta semplicemente, è questa. Invece di scegliere un custode affidabile, si costruisce un sistema in cui i custodi si ostacolano a vicenda, così che nessuno possa abusare del potere da solo. È il contrario della proposta di Suleyman. Lì il controllo sta in chi costruisce. Qui è distribuito proprio per impedire che qualcuno lo concentri.

Non è un'intuizione nuova. È il principio della separazione dei poteri, che Montesquieu descriveva nel Settecento: il potere deve fermare il potere. Buterin lo porta nel mondo dei modelli linguistici, dove per ora le decisioni restano in poche sale riunioni.

Pochi giorni dopo è intervenuto su un tema vicino. Alcuni sostengono che l'intelligenza artificiale potrebbe rompere la crittografia di Bitcoin. Buterin considera minimo quel rischio. I pericoli reali, secondo lui, stanno altrove: nei programmi che gli utenti installano, nelle infrastrutture di estrazione, nelle truffe di phishing. Ha aggiunto che su questa convinzione scommette di fatto circa il novanta per cento del suo patrimonio, visto quanto è esposto alle criptovalute.

Le due uscite sembrano lontane ma dicono la stessa cosa. La sicurezza, per Buterin, non viene da un sistema perfetto, ma da tanti punti che si possono correggere e che nessuno controlla da solo. È la linea che molti chiamano accelerazione difensiva: andare avanti, ma investendo soprattutto in protezioni sparse.

Ricapitoliamo dove siamo arrivati. I grandi laboratori vogliono frenare, e i critici dicono che il freno protegge chi è in testa. Sul chi tiene il freno abbiamo visto tre risposte: i laboratori che si ispezionano tra loro, il costruttore con l'interruttore, e il potere diviso in modo che nessuno prevalga. Ne manca una, la più fisica di tutte.

Aravind Srinivas guida Perplexity, l'azienda nota per il suo motore di ricerca basato sull'intelligenza artificiale. Il 4 settembre, in una lunga intervista a CNBC, ha raccontato cosa gli chiedono le banche: un'intelligenza artificiale su macchine che possano isolare dalla rete o semplicemente scollegare. Secondo lui la prossima fase avrà bisogno sia di centri dati sia di hardware locale, non soltanto di cloud sempre più grandi.

Alle parole sono seguiti i fatti. Perplexity sta aggiungendo all'applicazione per Mac un calcolo ibrido. I passaggi che toccano dati sensibili vengono eseguiti da modelli che girano direttamente sul computer dell'utente. L'azienda ha anche reso pubblico il codice del piccolo sistema che decide quali informazioni personali restano sulla macchina.

È la versione più concreta del controllo, e anche la più antica. Suleyman parla di un interruttore nelle mani del costruttore, Buterin di poteri che si bilanciano. Srinivas parla di una spina da staccare, in mano al cliente. Ricorda gli inizi dell'elettricità, quando molte fabbriche preferivano avere il proprio generatore piuttosto che dipendere dalla rete di qualcun altro.

Dall'altra parte del mondo Vivek Raghavan porta lo stesso ragionamento su scala nazionale. Con Sarvam AI costruisce un'intelligenza artificiale indiana, dai modelli alla voce fino alle applicazioni per le aziende, pensata per chi non parla inglese. Al Global Fintech Fest ha mostrato al Primo Ministro l'intera piattaforma. Uno dei suoi sistemi vocali ha raggiunto quarantacinque milioni di persone in dieci giorni. TIME lo ha inserito tra le figure più influenti del settore di quest'anno.

Srinivas e Raghavan lavorano su scale diversissime, una banca e un Paese. Rispondono però alla stessa domanda: nessuno vuole che il proprio freno stia a San Francisco. Mi sembra che questa sia la risposta più difficile da ignorare per i grandi laboratori. Un accordo tra poche aziende americane può rallentare i loro modelli. Non può impedire a una banca o a uno Stato di farsi il proprio.

Progetti da osservare.

Il primo si chiama autoresearch ed è di Andrej Karpathy. Alcuni agenti fanno ricerca da soli su un piccolo sistema di addestramento con una sola scheda grafica. Modificano il codice, addestrano, misurano e tengono solo ciò che migliora. È in miniatura il meccanismo che preoccupa Amodei: un'intelligenza artificiale che lavora sulla propria evoluzione.

Poi c'è Buzz, di Block, l'azienda di Jack Dorsey. È uno spazio di lavoro aperto, installabile sui propri server, dove persone e agenti collaborano. Ogni agente ha un'identità verificabile e permessi precisi, come un collega con il suo badge. Funziona con qualsiasi modello e poggia su goose, altro progetto aperto di Block. Dorsey, del resto, questa settimana si è schierato per la pubblicazione aperta dei modelli e contro le restrizioni concordate tra i grandi laboratori.

HarnessTax misura quanto conta l'infrastruttura che guida un agente di programmazione rispetto al modello stesso. Si lega a quanto scrive Benedict Evans in un saggio del 3 settembre. Per Evans il limite ormai non è produrre software, ma farlo adottare alle organizzazioni. Mentre i laboratori discutono della velocità dei modelli, il valore scivola verso l'integrazione.

Xiaomi ha aperto una pagina pubblica che mostra in tempo reale l'addestramento dei suoi modelli MiMo. È raro poter guardare dentro questo processo dall'esterno, ed è una forma di verifica indipendente che non ha bisogno di badge.

Infine c'è una ricerca che rende molto più leggeri i modelli linguistici, comprimendoli più di quanto si ritenesse possibile. Tradotto: modelli capaci che girano su macchine proprie. Proprio quelle che le banche vogliono poter scollegare.

Le scrivanie preparate da Anthropic per i valutatori esterni sono un gesto serio. Raccontano però anche chi decide chi può sedersi lì. Nel 1975 ad Asilomar le regole le scrissero gli scienziati. Oggi, oltre ai laboratori, anche banche, Stati e protocolli aperti vogliono una mano sul freno. Forse la sicurezza passerà da quante mani ci sono e da quanto si fidano poco l'una dell'altra.

È stato Signal Brief. Alla prossima.