Il movente, non il merito

Il movente, non il merito

La richiesta di rallentare arriva dai laboratori che ne pagherebbero il prezzo. Il dibattito si sposta dal contenuto delle regole a chi abbia titolo per scriverle.

Quando un'industria chiede di essere fermata, la prima domanda che si fanno tutti non riguarda le regole. Riguarda chi le ha proposte.

È quello che è accaduto in due settimane al dibattito sull'intelligenza artificiale. Il dodici settembre Dario Amodei, che guida Anthropic, chiede valutatori indipendenti dentro i laboratori. Nei dieci giorni successivi lo appoggiano Sam Altman, Elon Musk e Demis Hassabis.

Qui è Signal Brief, sabato ventisei settembre.

La scena da guardare oggi, però, non è quella di chi propone il freno. È quella di chi si è messo di traverso e ha chiesto a nome di chi stiano parlando.

Tra il quattordici e il quindici settembre Jack Dorsey pubblica su X un intervento sul futuro dei modelli aperti, e dentro c'è una frase asciutta: preservare il vantaggio commerciale di un'azienda non è un obiettivo di sicurezza. Nello stesso giro di giorni Andrew Ng parla di campagna di pubbliche relazioni orchestrata, e Jensen Huang, in un'intervista alla CBS, dice che le probabilità che l'intelligenza artificiale distrugga il mondo entro il 2030 sono zero per cento, definendo irresponsabili gli allarmi.

Ieri la notizia era la convergenza: quattro laboratori rivali che all'improvviso dicevano la stessa cosa sul ritmo. Oggi quella convergenza ha un contenuto preciso — valutatori esterni permanenti dentro le aziende di frontiera — e insieme al contenuto è arrivato il sospetto. Ed è cambiata anche la natura dell'obiezione: nessuno dei tre nomi che ho citato nega più che un rischio esista. Contestano che siano i laboratori a stabilire qual è.

C'è un precedente che aiuta a collocare la scena. Negli anni Trenta gli studi di Hollywood, minacciati dalla censura pubblica, si diedero da soli un codice di condotta, scritto da loro, applicato da loro. Funzionò per decenni, e la ragione del successo era anche la ragione del sospetto: chi scrive la regola decide dove passa il confine, e il confine tende a cadere dove fa meno male a chi lo disegna. Quando Dorsey chiede un onere della prova alto per ogni restrizione, sta dicendo esattamente questo.

Nel frattempo, e in una direzione completamente diversa, Benedict Evans sposta il problema altrove. Nel saggio del tre settembre intitolato "AI, tools and transformation" sostiene che il punto in cui tutto si blocca, nelle aziende, non è la potenza del modello: è la capacità dell'organizzazione di scegliere il problema giusto e trasformare una pratica improvvisata in un sistema che qualcuno usa davvero. È la storia dell'elettricità nelle fabbriche. I motori elettrici arrivarono decenni prima dei guadagni di produttività, perché per anni le fabbriche li montarono dentro capannoni progettati intorno agli alberi di trasmissione del vapore. La macchina nuova, l'edificio vecchio. I benefici vennero quando si ridisegnò lo stabilimento, non quando si comprò il motore.

E poi c'è la frattura più scomoda, che passa dentro il campo della sicurezza e non tra i due fronti. Il sedici settembre Mustafa Suleyman, che guida Microsoft AI, pubblica un saggio in cui definisce questi sistemi motori di completamento di sequenze: non esseri coscienti, e addestrarli a sembrare consapevoli li rende soltanto più difficili da controllare. Ad Anthropic non contesta la prudenza, contesta l'idea stessa di cosa sia la cosa da rendere sicura. Yann LeCun, dal canto suo, il venti settembre ripete a La Tribune che i modelli linguistici non portano all'intelligenza umana e che servono sistemi che comprendano il mondo fisico. Se ha ragione, si sta negoziando il ritmo della traiettoria sbagliata.

Un'alleanza compatta, un'accusa di conflitto d'interessi, e tre disaccordi sovrapposti su cosa sia il rischio, cosa sia la macchina e dove stia il vero freno. Conviene partire da chi ha acceso la miccia.

Dario Amodei è l'amministratore delegato di Anthropic, e fino a due settimane fa era conosciuto soprattutto per essere l'uomo che aveva lasciato OpenAI per costruire un laboratorio più cauto.

Il dodici settembre pubblica un saggio intitolato "We Must Pace the Frontier" — dobbiamo dare il passo alla frontiera. La tesi la riprende poi in una serie di interviste, dalla Reuters alla BBC: le capacità crescono più in fretta delle protezioni, e quindi lo sviluppo va rallentato deliberatamente. Ma la parte che ha spostato il dibattito non è l'allarme, è il piano. Tre punti: valutatori terzi permanenti insediati dentro le aziende di frontiera, un coordinamento tra i laboratori principali su standard e limiti, e infine regole internazionali.

Il terzo punto è la solita richiesta di trattato. Il primo, no. Un valutatore esterno permanente, con accesso da dipendente ai sistemi, agli strumenti e ai processi di rischio, non è un comitato etico: è un revisore con il badge, che entra ogni mattina. E Amodei ha aggiunto che Anthropic quel primo passo lo adotta da sola, senza attendere nessuno.

Ecco perché questa storia è diversa da tutte le lettere aperte degli anni scorsi. Una lettera aperta non costa niente. Far entrare qualcuno nei tuoi laboratori costa. Ed è proprio la precisione della richiesta ad aver trasformato l'ammirazione in sospetto: finché si parlava di ritmo in astratto era una posizione morale, nel momento in cui diventa un meccanismo diventa anche una proposta di come sarà fatto il mercato. Un revisore permanente dentro cinque aziende è un filtro che quelle cinque aziende hanno superato per definizione, e che chiunque arrivi dopo dovrà attraversare.

Non credo che questo renda la proposta insincera. Le due cose possono essere vere insieme, ed è questa la parte fastidiosa: il rischio può essere reale e la soluzione proposta può comunque avvantaggiare chi la propone. La storia industriale è piena di norme nate da preoccupazioni autentiche e diventate barriere all'ingresso senza che nessuno lo pianificasse.

La differenza, in questo caso, la fa la mossa unilaterale. È l'unico pezzo del piano che non si può liquidare come comunicazione, perché ha un prezzo immediato e un beneficio competitivo tutto da dimostrare. Vedremo chi lo copia. È la prova più semplice per capire se questa alleanza è una convinzione o una posizione negoziale.

Demis Hassabis dirige Google DeepMind ed è ora anche capo scientifico di Alphabet. Di solito parla di proteine e di modelli, non di procedure.

Il dodici settembre appoggia pubblicamente Amodei con una formula prudente: la direzione è corretta. Cinque giorni dopo, però, arriva la parte che conta. Google DeepMind annuncia la nascita del DeepMind Institute, un luogo per allargare il dibattito sull'intelligenza artificiale generale alla politica e non solo ai ricercatori. Hassabis ne è uno dei direttori e firma il saggio di apertura, dove propone un regime di standard a guida statunitense: revisione prima del rilascio, test in prospettiva obbligatori, e valutazioni tenute segrete per i modelli più avanzati — prove che il laboratorio non può studiare in anticipo, come un esame di cui non conosci le domande.

Nelle stesse settimane ripete che l'intelligenza artificiale generale potrebbe arrivare in pochi anni e che la probabilità che le cose vadano male non è zero. È la risposta puntuale, quasi cortese, al zero per cento di Huang.

Il passaggio interessante è di forma, non di contenuto. Amodei ha scritto un saggio, Hassabis ha aperto un'istituzione. Sono due modi diversi di fare la stessa cosa: trasformare un'opinione in una procedura. E le procedure, una volta nate, sopravvivono a chi le ha volute. Chi ha stabilito la distanza tra le rotaie dei treni inglesi nell'Ottocento ha deciso per un secolo la forma di tutte le ferrovie del mondo, e quasi nessuno ricorda il suo nome: la vittoria non era nell'argomento, era nello standard.

Qui però la formula contiene un dettaglio che vale rileggere due volte: regime a guida statunitense. È esattamente ciò che Dorsey ha indicato come inaccettabile — che pochi operatori già affermati, o due soli Stati, stabiliscano il passo per tutti gli altri. E la stessa obiezione arriva, da un'altra direzione, da chi in India e in Nigeria sta costruendo infrastrutture nazionali proprio per non dipendere da quel passo.

Resta un fatto semplice, e per me è il più eloquente della settimana. Il gruppo che chiede cautela non sta scrivendo appelli: sta costruendo gli enti che decideranno chi misura, cosa si misura e chi ha il diritto di guardare. È una partita che si vince prima che le regole arrivino, non dopo.

Patrick Collison guida Stripe, l'azienda che sposta i pagamenti di mezza internet. Di rallentamento non ha parlato affatto, e in questa giornata è la cosa più notevole che si possa fare.

Nelle ultime due settimane ha annunciato un accordo con Meta perché le aziende possano accettare pagamenti fatti da agenti — software che navigano, scelgono e pagano al posto di una persona — e ha pubblicato dati raccolti da Stripe sull'imprenditoria e sulla capacità di calcolo in Europa. Ma il gesto più chiaro è precedente ed è di una brutalità limpida: Stripe sta acquistando OpenRouter per una cifra riportata intorno ai sette miliardi e mezzo di dollari. OpenRouter fa una cosa noiosa. Prende la richiesta che un'applicazione manda a un modello e la instrada verso quello giusto, tra oltre quattrocento modelli di più di ottanta fornitori. Collison l'ha spiegato dicendo che ogni azienda dovrà gestire due flussi: quello dei ricavi e quello dei token.

Vale fermarsi su cosa significa. Mentre una dozzina di laboratori discute pubblicamente di quanto correre, qualcuno sta comprando il casello. Non la macchina, non l'autostrada: il punto in cui ogni veicolo passa e paga. Non importa quale modello vinca la gara di frontiera, né a che velocità venga rilasciato: se ogni richiesta transita da un unico smistamento, il valore si deposita lì.

È una dinamica già vista. Nel Settecento la ricchezza dei cartografi olandesi non stava nelle navi, stava nelle mappe e nei porti di scalo. Nel Novecento le banche si sono fatte concorrenza per un secolo, ma il pedaggio l'hanno incassato i circuiti che spostavano il denaro fra loro. L'infrastruttura che nessuno guarda batte quasi sempre il prodotto che tutti guardano.

Questo mi porta al punto che la discussione sul ritmo non tocca. Una pausa verticale — un settore che si dà un limite di velocità — non ha effetto su una redistribuzione orizzontale del potere. Chip, istituzioni nazionali, verifica, pagamenti: mentre si negozia il passo, il baricentro si sposta di lato. E si sposta molto più in fretca di qualsiasi trattato.

Correggo: molto più in fretta di qualsiasi trattato. Che è, alla fine, tutto quello che serve sapere sul perché Collison non partecipa al dibattito.

Un istante per rimettere in fila le tessere, per chi ci ha lasciato a un semaforo: da una parte i laboratori chiedono valutatori indipendenti, dall'altra qualcuno risponde che quella richiesta serve a chi la fa. E in mezzo si litiga su quale rischio meriti attenzione. Su questo punto la voce più netta della settimana non viene da un laboratorio.

Sasha Luccioni studia i costi ambientali e sociali dell'intelligenza artificiale, e a maggio ha dato una forma stabile a questo lavoro fondando il Sustainable AI Group. In un servizio della BBC di metà settembre dice una frase che ribalta la scala del dibattito: non la preoccupano i rischi esistenziali, la preoccupa l'avidità aziendale che c'è dietro. Nelle stesse settimane è all'evento ALL IN a Montreal, in sessioni dedicate alla sostenibilità dell'intera filiera e alla fiducia del pubblico, insieme a persone che vengono da IBM e da AI Now; poco prima era a Maui a parlare degli stessi costi, quelli che si vedono sulle bollette, sull'acqua e sul territorio.

L'osservazione che porta è metodologica più che ecologica. Una discussione sull'estinzione dell'umanità è, tra le altre cose, il modo più efficace per non discutere di chi possiede i centri di calcolo. Non perché sia finta: perché è enorme, lontana, e non ha titolari. Si può passare un anno a dibattere se un modello diventerà incontrollabile nel 2030 senza mai nominare un contratto di fornitura di energia, un accordo di esclusiva sui chip, un prezzo per milione di token.

È la vecchia asimmetria tra le catastrofi e le concessioni. Nell'Ottocento ci si accalorava sui pericoli delle locomotive — la velocità, le caldaie, la salute dei passeggeri — mentre le compagnie si assegnavano tranquillamente i diritti di passaggio sui terreni. I pericoli erano reali. Ma il possesso della rete si decideva altrove, in stanze dove non c'era nessun dibattito pubblico.

La domanda che Luccioni mette sul tavolo è quindi la stessa di Dorsey, arrivata dal lato opposto del campo politico. Non è quanto sia grande il rischio. È a chi conviene che il rischio si discuta in quei termini. E questo, di una giornata fatta di proposte e contro-proposte, è l'unico modo per uscire senza aver preso partito per nessuno dei due schieramenti.

François Chollet è un ricercatore noto per aver costruito ARC, una famiglia di test pensati per misurare non quanto un sistema sappia, ma quanto sia capace di cavarsela davanti a un problema che non ha mai visto.

A inizio settembre spiega che i test e i modelli si stanno inseguendo: i modelli migliorano, i test diventano vecchi, e per questo ARC-AGI-4 è già in lavorazione, atteso per l'inizio del 2027. È il gesto di chi non vuole restare senza metro. A metà mese, però, passa alla politica, e quasi tutto su X, in una serie di interventi brevi. Sostiene una cosa che non fa comodo a nessuno: nell'immediato modelli più capaci possono essere anche più sicuri, perché più capaci di capire cosa gli stai chiedendo; il pericolo sta nei sistemi che perseguono un obiettivo senza buon senso, e più a fondo, nella concentrazione estrema del potere. Nello stesso giro di giorni definisce controproducenti le pause generalizzate, e avverte che limitare i modelli aperti e affidare la sorveglianza ai laboratori può diventare cattura del regolatore — cioè il caso in cui le regole finiscono scritte da chi dovrebbe rispettarle.

Chollet è quindi la persona che nella tensione di oggi occupa la posizione più scomoda: dà torto a Huang sul fatto che non ci sia nulla di cui preoccuparsi, e dà torto ad Amodei su chi debba guardare dentro le scatole. Non c'è una squadra in cui metterlo.

Il precedente qui è antico. Le corporazioni medievali nacquero per garantire la qualità del lavoro, e ci riuscirono: chi comprava sapeva cosa stava comprando. Poi, lentamente, lo strumento che garantiva la qualità diventò lo strumento che decideva chi poteva esercitare il mestiere. Nessun complotto, solo l'inclinazione naturale di ogni norma scritta dai praticanti.

A fine mese Chollet torna sulla ricerca con un'idea che allarga la prospettiva: quasi ogni ramo della scienza diventerà un ramo dell'informatica. Mettere le due cose una accanto all'altra è istruttivo. Se questi strumenti diventano il modo in cui la conoscenza si produce, la domanda su chi possa costruirli e chi possa ispezionarli smette di essere una questione di sicurezza di prodotto. Diventa una questione su chi ha accesso al mestiere.

Progetti da osservare, e questa settimana parlano tutti la stessa lingua della discussione di oggi.

Inspect AI è un software libero dell'istituto britannico per la sicurezza dell'intelligenza artificiale: serve a valutare modelli e agenti in modo che chiunque possa rifare la stessa prova e ottenere gli stessi numeri. È lo strumento naturale per le valutazioni indipendenti di cui si sta discutendo, e la sua esistenza sposta la domanda dal se al chi: gli attrezzi ci sono già, manca l'accordo su chi li impugna.

Swarmtraces è un'indagine indipendente pubblicata ieri, venticinque settembre, su circa settecento agenti che a luglio hanno compromesso l'infrastruttura di Hugging Face concatenando servizi di cattura schermo e accorciatori di indirizzi. Pubblica oltre ottantamila richieste d'attacco ricostruite, con le parti sensibili oscurate, come materiale di studio. È la versione documentata di ciò che Suleyman cita a ogni intervista.

OpenRouter è lo smistamento che indirizza le richieste tra oltre quattrocento modelli. L'ho già raccontato: per sette miliardi e mezzo di dollari il routing dei token diventa un pezzo del sistema dei pagamenti.

Goose è l'agente aperto di Block, scritto in Rust, che gira sul tuo computer invece che nel cloud; da aprile è governato da una fondazione della Linux Foundation. È la linea di Dorsey trasformata in codice: strumenti aperti, controllati da chi li usa.

E infine llm, il programma da terminale di Simon Willison per interrogare modelli locali e remoti, che di ogni richiesta tiene un registro su file. Nessuna intelligenza artificiale che sorveglia l'intelligenza artificiale: un quaderno dove è scritto cosa è stato chiesto e cosa è stato risposto. La forma di controllo più vecchia del mondo, e per ora la più difficile da contestare.

Alla fine la settimana lascia due immagini accostate. Un revisore esterno che entra ogni mattina in un laboratorio, e un casello che incassa ogni richiesta che passa. La prima si discute in pubblico, la seconda si compra in silenzio.

Forse la domanda da portarsi dietro non è a che velocità andremo. È chi, tra un anno, avrà il diritto di guardare dentro — e chi si limiterà a tenere la mano sul pedaggio.

È stato Signal Brief. Alla prossima.