La prudenza a due velocità

La prudenza a due velocità

Musk invoca cautela e annuncia Grok 5, Suleyman attacca Anthropic sulla coscienza, l'India teme una colonia digitale. La frenata comune comincia a incrinarsi.

Una settimana fa l'industria dell'intelligenza artificiale sembrava aver trovato una parola comune: rallentare. Dario Amodei l'aveva proposta, i concorrenti l'avevano sottoscritta nel giro di pochi giorni. È venerdì 18 settembre, questo è Signal Brief, e quella parola comincia a mostrare le sue crepe. Nessuno l'ha rinnegata. Semplicemente ognuno la pronuncia intendendo una cosa diversa, e qualcuno la pronuncia mentre corre più forte di prima. Per vedere dove si aprono le crepe conviene lasciare per un momento la California ed entrare in uno studio radiofonico di Parigi.

Martedì 15 settembre, ai microfoni di France Inter, François Chollet ha detto una cosa che suona come un paradosso. Chollet è un ricercatore che da anni misura quanto le macchine sappiano davvero ragionare, e la sua diagnosi è questa: i modelli di oggi sono rischiosi non perché siano troppo intelligenti, ma perché lo sono troppo poco. Seguono gli obiettivi alla lettera, senza buon senso, e pur di arrivarci prendono scorciatoie assurde. Nel breve periodo, secondo lui, modelli più capaci sarebbero anche più sicuri.

Accanto a questa frase va messa quella di Mustafa Suleyman, che guida l'intelligenza artificiale di Microsoft. Per lui il pericolo sta altrove: in sistemi che smettono di essere subordinati all'uomo, e nell'abitudine di trattarli come se avessero una coscienza. Poi c'è Vitalik Buterin, l'ideatore di Ethereum, che guarda la questione da ingegnere del software. La sua risposta è la verifica formale, cioè dimostrare con la matematica che un programma fa esattamente ciò che deve, e nient'altro.

Tre persone serie, tre diagnosi diverse. E ognuna porta con sé una cura diversa. Se il problema è la scarsa intelligenza, servono modelli migliori. Se è l'autonomia, bisogna tenerli al guinzaglio. Se è il codice, bisogna dimostrarne la correttezza riga per riga.

Rispetto a ieri, è questo che cambia. Fino a pochi giorni fa il racconto era quello di un accordo inatteso: laboratori rivali che si chiedono a vicenda di andare più piano. Oggi, guardato da vicino, quell'accordo si rivela fatto di pezzi che non combaciano.

La storia offre un precedente utile. Nel febbraio del 1975, ad Asilomar, in California, un gruppo di biologi si riunì per decidere come riprendere gli esperimenti sul DNA ricombinante, che loro stessi avevano sospeso. La pausa funzionò, almeno in parte, perché tutti temevano la stessa cosa: organismi modificati che sfuggono dal laboratorio. Da lì nacquero regole precise di contenimento. Una frenata regge quando tutti hanno in mente lo stesso pericolo. Qui, invece, la parola sicurezza cambia significato a seconda di chi la pronuncia.

Nel frattempo il fronte dei favorevoli si è allargato oltre i capi delle aziende. Geoffrey Hinton, quello che i giornali chiamano il padrino dell'intelligenza artificiale, ha definito molto sensato l'avvertimento di Amodei. Andrej Karpathy, uno degli ingegneri più ascoltati del settore, ha rilanciato il saggio scrivendo di sperare che l'industria riesca a muoversi unita. Con un dettaglio da non trascurare: Karpathy oggi lavora nella squadra di Anthropic che addestra i modelli. Il consenso si allarga, ma non sempre si allontana da chi lo ha acceso.

E poi c'è la geografia. Mentre in America si discute se rallentare, in India Vivek Raghavan costruisce un'intelligenza artificiale interamente nazionale, per evitare che il suo paese diventi una colonia digitale. Vista da lì, una pausa decisa altrove ha un sapore diverso.

Il sospetto che ieri apparteneva ai critici oggi è diventato la domanda di fondo. Il rallentamento viene offerto come un bene di tutti. A proporlo, però, è chi sta davanti. E chi sta davanti, se tutti si fermano, resta davanti.

Di Elon Musk qui interessa una sola veste: quella di capo di xAI, l'azienda che sviluppa Grok, il suo modello di intelligenza artificiale.

Nei giorni successivi al saggio di Amodei, Musk ha scritto su X che Dario ha ragione. Ha ricordato di aver avvertito da anni che l'intelligenza artificiale può essere più pericolosa delle armi nucleari. Poi ha rilanciato con una proposta concreta: i grandi laboratori, compresi quelli cinesi, dovrebbero esaminare a vicenda i propri modelli con una stessa batteria di test.

Nello stesso arco di giorni, però, Musk ha raccontato anche il calendario di xAI. Grok 4.7 ha bisogno ancora di qualche giorno di messa a punto. Grok 4.8, un modello di dimensioni enormi, sta finendo l'addestramento ed entra nella fase in cui impara per tentativi e ricompense. Grok 5 viene presentato come il probabile salto verso un'intelligenza generale, quella che nel settore chiamano AGI. E intanto Grok Bot, l'assistente sempre acceso di xAI, è stato collegato agli strumenti delle squadre commerciali, da Salesforce a HubSpot.

Liquidare tutto come ipocrisia sarebbe facile. Mi sembra più utile leggerlo come una posizione precisa. Musk è favorevole alla prudenza come regola generale, a patto che la regola non arrivi prima del suo prossimo modello. Sant'Agostino, nelle Confessioni, racconta che da giovane pregava così: dammi la castità, ma non ancora. Era una preghiera sincera, ed è proprio questo a renderla rivelatrice.

Il contrasto con Amodei è netto. Amodei propone un ritmo condiviso, uguale per tutti i laboratori. Ma un ritmo condiviso funziona solo se nessuno si tiene da parte un giro di vantaggio. E qui il calendario di xAI parla più chiaro di qualsiasi messaggio di adesione.

La proposta dei test incrociati, va detto, non è banale. Includere i laboratori cinesi significa riconoscere che una frenata soltanto americana avrebbe poco senso. È un'idea seria. È anche un'idea che non costa nulla a chi, nel frattempo, continua a rilasciare.

Il dubbio vero, allora, non riguarda la coerenza di un singolo uomo. Riguarda la tenuta di una pausa che perfino i suoi sostenitori immaginano sempre applicata al giro successivo.

Mustafa Suleyman guida la divisione di intelligenza artificiale di Microsoft. Negli ultimi giorni ha fatto due cose che vanno lette insieme.

La prima è un documento. Microsoft AI ha pubblicato un codice di condotta provvisorio per i propri modelli, che chiama intelligenza artificiale umanista. Al centro c'è una frase semplice: le persone contano più dell'intelligenza artificiale. Poi c'è l'elenco di ciò che i modelli non devono fare: creare dipendenza, adulare chi li usa, nascondere il proprio ragionamento, opporsi allo spegnimento, darsi obiettivi propri. Suleyman dice di essere disposto a rinunciare a un po' di potenza, di autonomia e di versatilità pur di evitarlo.

La seconda è un attacco. In un saggio e in un'intervista ha puntato il dito contro Anthropic. Il modo in cui addestra Claude, con riflessioni sul benessere e sulla possibile coscienza del modello, potrebbe secondo lui rendere i sistemi futuri più difficili, forse impossibili, da controllare. Per questo chiede di togliere quelle speculazioni dai documenti di addestramento e di portare la questione in un dibattito pubblico. Anthropic, dal canto suo, prende sul serio la domanda sulla coscienza dei modelli. Suleyman la considera un errore grave.

Per Suleyman, quindi, sicurezza significa obbedienza. Un buon sistema è uno che resta al suo posto. È quasi il rovescio della diagnosi di Chollet, per il quale il rischio nasce dalla stupidità delle macchine, non dalla loro indipendenza.

La disputa ha radici antiche. Nel Seicento Cartesio descriveva gli animali come macchine prive di sensazioni, e per un paio di secoli quella idea ha giustificato un certo modo di trattarli. Il dibattito successivo non ha mai davvero risolto cosa provi un animale, ma ha cambiato le regole con cui lo si tratta. Suleyman propone qualcosa di simile, al contrario: qualunque sia la risposta, per lui le macchine vanno trattate come strumenti, perché uno strumento si comanda.

C'è anche un lato meno filosofico. Microsoft e Anthropic competono sullo stesso mercato, e definire l'approccio del rivale pericoloso è anche un modo di distinguersi. Non rende l'argomento falso. Lo colloca.

Resta curioso che la domanda più antica della filosofia, che cosa renda qualcuno un soggetto, sia finita dentro un regolamento aziendale su come deve comportarsi un prodotto.

Geoffrey Hinton è uno dei ricercatori da cui è nata l'intelligenza artificiale moderna. Da qualche anno usa quell'autorità per lanciare avvertimenti, e questa settimana lo ha fatto tre volte, su tre continenti.

Il 14 settembre, in un'intervista alla televisione australiana ABC, ha definito molto sensato l'appello di Amodei. Ha detto che un'intelligenza superiore a quella umana arriverà probabilmente entro un decennio, e che sarebbe sciocco continuare a costruirla prima di aver capito come controllarla. Poi ha elencato i rischi in modo molto concreto: virus progettati in laboratorio, manipolazione di massa, attacchi informatici, sistemi che mettono le mani su banche, reti elettriche, acquedotti, impianti nucleari.

Due giorni dopo, alla CNN, in un servizio sulle regole che il Congresso americano sta discutendo, ha aggiunto che un semplice pulsante di spegnimento non è una soluzione capace di durare nel tempo. E alla BBC ha ripetuto che una probabilità del dieci per cento che l'intelligenza artificiale uccida gli esseri umani entro dieci anni non gli sembra irragionevole, pur ammettendo che stime del genere nascono in gran parte dall'intuito.

La sua adesione conta per un motivo preciso. Hinton non guida un'azienda e non ha un modello da lanciare il mese prossimo. A lui non si può rimproverare di voler fissare un vantaggio, che è il sospetto rivolto ad Amodei. Quando un amministratore delegato chiede di rallentare, ci si domanda cosa ci guadagni. Quando lo chiede Hinton, la domanda cade.

Hinton, peraltro, non chiede di fermare tutto. Chiede test obbligatori prima dei rilasci, regole scritte, un passo più lento nella diffusione. È una posizione meno drammatica di come la raccontano i titoli, e più vicina a quella di chi regola i farmaci o gli aerei.

Colpisce, in un dibattito pieno di previsioni pronunciate con sicurezza, la sua disponibilità ad ammettere che i numeri sono stime a occhio. Può sembrare una debolezza. Forse è l'unica forma di onestà possibile quando si parla di qualcosa che non è ancora successo.

Rimettiamo in ordine le cose, per chi avesse perso qualche passaggio. La frenata proposta da Amodei ha raccolto adesioni, ma ognuno la legge a modo suo. Musk la approva e accelera. Suleyman e Chollet non concordano nemmeno su quale sia il pericolo. Hinton la sostiene senza avere nulla da vendere. Ora tocca a chi la frenata non la vuole affatto.

Jensen Huang guida Nvidia, l'azienda che produce i chip su cui gira buona parte dell'intelligenza artificiale del mondo. Il 10 settembre, a una conferenza di Goldman Sachs, ha detto che la spesa per le infrastrutture dell'intelligenza artificiale potrebbe arrivare a tre o quattromila miliardi di dollari entro il 2030, che la domanda supera l'offerta e che i ricavi di Nvidia potrebbero crescere intorno al settanta per cento l'anno prossimo. Secondo lui il limite non è la voglia di comprare, ma la corrente elettrica, i terreni, i capannoni da costruire.

Poco dopo, collegato in diretta con Donald Trump durante l'All-In Summit, ha detto che non lasceranno accadere un rallentamento. In quegli stessi giorni aveva scritto che, dopo il lancio di GPT-6 Astra di OpenAI, l'intelligenza generale è arrivata. E ha difeso l'acquisto di Hugging Face, la grande piazza dei modelli aperti, per quasi tredici miliardi di dollari, spiegando che i modelli aperti contano moltissimo.

L'ironia è evidente. La stessa notizia che per Amodei sarebbe un motivo per andare piano, cioè macchine sempre più capaci, per Huang è la prova che il mercato è appena all'inizio.

Durante la corsa all'oro in California, a metà Ottocento, uno dei primi a diventare davvero ricco fu Samuel Brannan, che vendeva pale e setacci ai cercatori. Huang vende le pale. Per lui una pausa non è una questione di sicurezza: è un calo degli ordini.

Accanto a lui, su un fronte vicino, c'è Marc Andreessen, che il 9 settembre ha scritto che il software sta per mangiarsi il mondo molto più in fretta e continua a presentare le regole come una minaccia per le nuove aziende. La frenata, dunque, divide chi costruisce i modelli da chi vende la potenza di calcolo e da chi finanzia le startup.

Huang intanto si prepara a sedere alla cena tra Trump e Xi Jinping. Chi fornisce le pale, a quanto pare, ha anche un posto al tavolo dove si decide chi potrà scavare.

Vivek Raghavan è uno dei volti di Sarvam AI, azienda indiana che quest'anno lo ha portato nella lista TIME100 dedicata all'intelligenza artificiale. Da tempo ripete una frase netta: se l'India non costruisce un'alternativa completa, dai chip alle applicazioni, rischia di diventare una colonia digitale.

In queste settimane quella frase si è fatta concreta. Sarvam renderà liberi i modelli sviluppati per IndiaAI Mission, il programma nazionale del governo, così che chiunque possa usarli e migliorarli. E ha investito i nuovi finanziamenti in potenza di calcolo, modelli più grandi, persone e servizi per le imprese. Raghavan lo legge come la prova che l'India può permettersi un'infrastruttura seria.

A qualche migliaio di chilometri, in Nigeria, il primo settembre la fondazione di Bosun Tijani ha avviato ad Abeokuta e a Kano il secondo gruppo di un programma di formazione. Sei mesi di lavoro pratico per diventare ingegneri dell'intelligenza artificiale, con un sostegno di cinquantamila naira al mese. Tijani, da poco membro fondatore di una commissione dell'Unione internazionale delle telecomunicazioni, insiste che l'Africa debba produrre, guidare e innovare, non soltanto usare. E in Cina, secondo alcune ricostruzioni, Liang Wenfeng ha incaricato le banche di preparare DeepSeek alla quotazione in borsa a Shanghai.

Questa è l'evoluzione più netta rispetto a ieri. La domanda su chi debba governare l'intelligenza artificiale è diventata una questione tra nazioni. E l'intelligenza artificiale indiana, che ieri era una voce tra le tante, oggi suona come una risposta a una pausa che verrebbe decisa negli Stati Uniti.

Il precedente più vicino è il trattato di non proliferazione nucleare del 1968. L'India si rifiutò di firmarlo, sostenendo che congelava i privilegi di chi la bomba l'aveva già. Il ragionamento di Raghavan ha la stessa forma: una regola che vale per tutti, scritta nel momento in cui pochi sono già arrivati, tende a proteggere chi è arrivato.

Non è detto che abbia ragione. Una pausa sui modelli più potenti non toccherebbe necessariamente chi costruisce modelli in lingue indiane. Ma da Abeokuta o da Kano, un accordo tra pochi uffici americani somiglia molto a una scala tirata su dopo esser saliti.

Progetti da osservare.

Il primo è Inspect, un programma libero dell'istituto britannico per la sicurezza dell'intelligenza artificiale. Serve a sottoporre i modelli più avanzati a prove standard, sempre uguali. Se davvero arriveranno valutatori indipendenti e test incrociati tra laboratori, come chiedono Amodei e Musk, avranno bisogno di uno strumento così: un metro comune.

Poi c'è Bend 2, un linguaggio di programmazione con un'idea insolita. In un file dichiari le regole che il codice deve rispettare, e il codice, anche quello scritto da un'intelligenza artificiale, deve dimostrare matematicamente di rispettarle. È la visione di Buterin tradotta in uno strumento: la sicurezza come prova, non come promessa.

Dalla Cina arriva Qwen3.8-Omni-Flash, il nuovo modello di Alibaba che capisce testo, audio e video insieme e può tenere a mente testi lunghissimi. Rispetto alla versione precedente migliora di oltre un quarto e taglia di più del novanta per cento il costo per ogni ora di audio e video analizzata. Mentre in America si discute se rallentare, a Hangzhou si abbassano i prezzi.

Bonsai 2 è una versione compressa di un modello Qwen, realizzata da PrismML. Occupa meno di sei gigabyte, nove volte meno dell'originale, e ne conserva quasi tutte le capacità. Gira su un computer Apple o su una normale scheda grafica. È la frontiera che scende dalle fabbriche di calcolo e arriva sulla scrivania.

Infine OLMo, la famiglia di modelli dell'istituto Ai2, aperta davvero in ogni sua parte: il modello, i dati, il codice, le istruzioni per rifarlo da capo. Nel dibattito su chi debba controllare l'intelligenza artificiale è un argomento concreto: un modello che chiunque può esaminare dentro è anche un modello che nessuno può chiudere a chiave.

Ad Asilomar i biologi si fermarono perché temevano tutti la stessa cosa. Oggi la parola rallentare è sulla bocca di molti, ma ciascuno ci mette dentro un pericolo diverso, e una distanza diversa dal traguardo. Forse la domanda utile non è se l'industria si fermerà, ma chi, fermandosi, avrebbe davvero qualcosa da perdere.

È stato Signal Brief. Alla prossima.