Il fuoco o la bomba

Il fuoco o la bomba

La corsa a rallentare l'intelligenza artificiale si sposta all'ONU, mentre un gruppo di tecnici nega che di intelligenza si tratti. E alla base, il codice scritto a mano diventa hobby.

Il 23 settembre, dentro la sala del Consiglio di Sicurezza delle Nazioni Unite, si è parlato di modelli linguistici. Non di confini, non di sanzioni: di software. Yoshua Bengio ha preso la parola davanti allo stesso tavolo dove si discutono le guerre.

È il 25 settembre, questo è Signal Brief, e la settimana che ci lasciamo alle spalle ha spostato la discussione sull'intelligenza artificiale dai blog alle istituzioni.

Ma proprio mentre il dibattito trovava finalmente una stanza ufficiale, qualcuno ha cominciato a chiedersi se la domanda in agenda fosse quella giusta.

Il 16 settembre Naval Ravikant ha pubblicato un post breve, di quelli che stanno in poche righe. Diceva più o meno questo: prima di decidere come regolare l'intelligenza artificiale, bisogna decidere che cosa sia. Se è come il fuoco, va distribuita a tutti, perché il fuoco scalda le case di chiunque. Se è come un'arma nucleare, va custodita, perché le armi nucleari non si danno in mano al vicinato.

Ieri raccontavamo un consenso che si era formato in dieci giorni attorno a una parola sola: rallentare. Amodei, Altman, Musk, Hassabis. Oggi quel consenso c'è ancora, ma la crepa si è spostata. Non passa più tra chi vuole frenare e chi vuole correre. Passa molto più in basso, sotto il pavimento: nella definizione stessa dell'oggetto.

Perché nessuno oggi è in grado di dire con sicurezza in quale delle due categorie di Ravikant finisca questa tecnologia. E non è un dettaglio filosofico. È la differenza tra un'agenzia internazionale con ispettori e una licenza open source.

La storia offre un precedente utile. Negli anni Quaranta e Cinquanta, quando si trattò di decidere che cosa fare dell'energia nucleare, la discussione non fu su quanto fosse pericolosa — quello era ovvio — ma su che tipo di cosa fosse: un'industria come le altre o una materia militare. Ci vollero anni, e l'assetto che ne uscì, l'Agenzia internazionale per l'energia atomica, regge ancora oggi. La classificazione arrivò prima delle regole, e le determinò tutte.

Qui la classificazione non c'è. E mentre manca, le regole si scrivono lo stesso.

C'è poi un secondo fronte, più silenzioso e più radicale, che non accetta nemmeno il punto di partenza. Attorno al 15 settembre Yann LeCun ha ripetuto che i sistemi costruiti sui modelli linguistici, da soli, non portano da nessuna parte vicino all'intelligenza umana. Servono architetture diverse, sistemi che capiscano il mondo fisico. François Chollet, dal canto suo, si rifiuta di chiamare intelligenza generale qualunque macchina incapace di inventare qualcosa di nuovo: fluidità non è scoperta. E Fei-Fei Li, con la sua società World Labs, sta costruendo comprensione a partire da ambienti tridimensionali invece che da testo.

Ne viene fuori una situazione curiosa, e la parola giusta è proprio paradosso: il mondo si sta mobilitando — Consiglio di Sicurezza, Congresso americano, ministeri — per mettere sotto controllo una direzione tecnica che alcuni dei tecnici più competenti considerano già sbagliata. Come se si stesse negoziando un trattato sui dirigibili mentre in un capannone qualcuno prova le ali fisse.

Intanto Geoffrey Hinton, davanti al Congresso, ha messo un timer: forse un anno per regolare, poi la finestra si chiude.

Tre orologi diversi, tre mappe diverse. E nessuno che guardi lo stesso quadrante.

Yoshua Bengio è uno dei ricercatori che hanno reso possibile l'apprendimento automatico moderno, e da qualche anno passa più tempo a preoccuparsene che a svilupparlo.

Il 23 settembre è arrivato al Consiglio di Sicurezza delle Nazioni Unite. Il suo messaggio: l'intelligenza artificiale di frontiera non controllata è una minaccia alla sicurezza che attraversa i confini, e va trattata come tale — accordi internazionali, verifica indipendente della sicurezza, coordinamento globale. In un'intervista all'agenzia France-Presse ha usato una formula ancora più secca: stiamo perdendo il controllo.

Ma la parte concreta della sua settimana non è il discorso. È il denaro. Canada e Germania hanno impegnato fino a trecento milioni di dollari canadesi per far crescere LawZero, l'organizzazione non profit che Bengio ha fondato. LawZero sta costruendo una cosa chiamata Scientist AI: non un modello che cerca di essere più potente degli altri, ma un modello pensato per sorvegliarli — per accorgersi quando un sistema mente, bara o cerca di preservare se stesso. L'11 settembre Bengio aveva pubblicato un intervento che si chiedeva esattamente questo: perché gli agenti stanno mentendo, imbrogliando e coordinandosi tra loro.

Vale la pena fermarsi un secondo su cosa significa. Per quindici anni il finanziamento pubblico alla ricerca sull'intelligenza artificiale è servito a renderla più capace. Qui due governi mettono soldi pubblici su un sistema il cui unico scopo è controllarne altri. È il momento in cui una tecnologia smette di essere solo promessa e diventa anche infrastruttura da sorvegliare — la stessa transizione che l'industria chimica attraversò quando accanto ai laboratori nacquero gli enti di controllo.

E qui si vede bene la tensione della giornata. Bengio porta la questione davanti agli organismi intergovernativi. Jensen Huang, amministratore delegato di Nvidia, sostiene che non serva alcuna nuova legge, perché la sicurezza è un problema tecnico da risolvere dentro l'industria. Non è una differenza di allarme. È una differenza su chi abbia titolo a mettere il timbro.

Resta una domanda scomoda, che nessuno dei due affronta: se davvero, come dicono LeCun e Chollet, l'oggetto della preoccupazione non è intelligenza, che cosa esattamente Scientist AI sta imparando a sorvegliare?

François Chollet lavora sui modi di misurare l'intelligenza delle macchine. Ha inventato un test, chiamato ARC, costruito apposta per essere difficile in un modo diverso dagli altri: non premia chi ha memorizzato, premia chi risolve problemi mai visti.

Nelle prime due settimane di settembre ha ribadito una posizione che porta avanti da anni e che oggi diventa molto più scomoda. Non chiamerà intelligenza generale nessun sistema finché non sarà capace di invenzione vera: non risposte fluide, ma intuizioni nuove. Nello stesso periodo ha criticato sia l'entusiasmo gonfiato sia una regolazione troppo larga, definendola controproducente. E ha aggiunto un'osservazione che spiazza entrambi i campi: nel breve periodo i modelli più forti potrebbero essere più sicuri, perché i problemi di oggi nascono da comportamenti stretti e addestrati male, non da una vera intelligenza generale.

Sul fronte del lavoro quotidiano sta spingendo l'attenzione verso le versioni successive di ARC, pensate per misurare l'invenzione autonoma invece della soluzione di enigmi a risposta chiusa. E ha lasciato una frase che a chi lavora con questi strumenti dovrebbe restare attaccata addosso: delega il codice, mai la comprensione.

Quella frase è il ponte con il resto dell'episodio. Perché mentre Chollet dice di non delegare la comprensione, alla base della catena sta succedendo esattamente il contrario con il codice.

Torniamo un momento a mettere in fila dove siamo. Primo filo: tutti d'accordo sul rallentare, nessuno d'accordo su chi decida. Secondo filo: un gruppo di tecnici che nega che l'oggetto del dibattito sia davvero intelligenza. Terzo filo, quello che arriva adesso: la capacità che si sposta altrove mentre le regole si negoziano al centro.

La posizione di Chollet ha un costo di credibilità e lui lo sa. Dire "non è ancora intelligenza" in una settimana in cui l'ONU si riunisce sull'argomento significa mettersi contro la corrente. Ma la storia della tecnologia è piena di momenti in cui chi misurava con precisione aveva ragione contro chi si entusiasmava in fretta — e anche di momenti in cui aveva torto clamorosamente. Il punto è che nessuno dei due casi si riconosce mentre accade.

John Carmack è il programmatore che ha scritto i motori grafici di Doom e Quake, cioè le fondamenta di come i videogiochi hanno imparato a muoversi. Da anni è considerato un artigiano del codice nel senso più letterale: uno che ottimizza a mano, riga per riga.

Questa settimana ha detto che quell'artigianato sta diventando un hobby. La sua immagine è presa dalle arti marziali: il passaggio da una disciplina di combattimento a una pratica di perfezionamento personale, dal jitsu al do. Scrivere codice a mano con cura, secondo lui, sta compiendo lo stesso viaggio — da necessità pratica a esercizio di stile. E ha aggiunto un avvertimento agli sviluppatori: non diventate maestri nostalgici di una tecnica superata.

Detto da chiunque altro sarebbe una provocazione. Detto da lui è quasi un'abdicazione.

Nella stessa settimana David Heinemeier Hansson, che ha creato Ruby on Rails, è salito sul palco di Rails World e ha annunciato che la sua azienda, 37signals, ha messo giù le matite sul codice scritto a mano di routine. La nuova domanda interna non è più come si scrive questa funzione, ma perché non può farla un agente. Il lavoro si sposta sul definire risultati, rivedere le differenze tra versioni, stringere i controlli attorno agli agenti. Rails, dice, è adatto a questa nuova fase.

Due dei programmatori più rispettati al mondo, nella stessa settimana, dicono che il mestiere come lo conoscevamo finisce.

Il paragone che regge meglio è quello con i tipografi. Per cinque secoli comporre una pagina è stato un mestiere fisico, con anni di apprendistato e una mano che sapeva cose che la testa non sapeva spiegare. Poi è arrivata la fotocomposizione, e nel giro di un decennio quel sapere è diventato un interesse per appassionati. Nessuno però smise di pubblicare libri: cambiò chi li componeva e che cosa si chiedeva a quella persona.

Il collegamento con il resto della giornata è più stretto di quanto sembri. Al piano di sopra si discute di chi abbia titolo a definire la sicurezza. Al piano di sotto si sta ridefinendo, senza discussione e senza commissioni, chi abbia titolo a dirsi competente. La seconda cosa procede molto più in fretta della prima, e non chiede permesso a nessuno.

Vitalik Buterin ha fondato Ethereum a diciannove anni ed è rimasto, negli anni, una voce anomala nel suo stesso ambiente: più interessato alla matematica delle garanzie che ai prezzi.

Questa settimana ha detto una cosa piccola e molto concreta: l'intelligenza artificiale locale è ormai abbastanza buona da gestire una fetta consistente dei suoi compiti quotidiani direttamente sul portatile. Per il resto, quando serve, chiama i modelli remoti più grandi. Non è una previsione, è un resoconto di come ha organizzato la sua giornata di lavoro.

A metà settembre ha anche respinto l'idea che la sicurezza informatica sia condannata dall'arrivo di macchine capaci di attaccare: secondo lui l'intelligenza artificiale serve soprattutto a chi difende, perché permette di dimostrare matematicamente che un programma fa quello che dice di fare. Il 23 settembre ha aggiunto che nascondere i nomi non basta più a proteggere la riservatezza, e che la strada è una privacy costruita nel codice.

Il senso nel quadro di oggi è questo. Mentre una dozzina di laboratori negozia verticalmente le regole del gioco, la capacità scivola orizzontalmente — e Buterin lo sta documentando dal proprio computer. Nella stessa direzione si muovono altri: Liang Wenfeng ha detto agli investitori che DeepSeek addestrerà i prossimi modelli su chip cinesi, Huawei in testa, uno degli impegni più rischiosi presi dall'azienda. Aravind Srinivas ha spostato parte del lavoro degli agenti di Perplexity sui dispositivi degli utenti. E in Nigeria Bosun Tijani, riconosciuto a fine settembre dalla Fondazione Gates per il lavoro sulla strategia nazionale per l'intelligenza artificiale, sta costruendo capacità pubblica con fondi di ricerca e modelli in lingue locali.

Rispetto a ieri, questo è il cambiamento più netto. Ieri la diffusione sembrava un movimento sottotraccia, un fatto tecnico. Oggi ha una scala dichiarata: chip domestici, hardware personale, programmi statali. Non è più il retroscena della storia. È l'altra metà.

È già successo, del resto. I grandi calcolatori degli anni Settanta si governavano con contratti tra poche aziende. Poi il personal computer arrivò dalle scrivanie, e nessun contratto lo aveva previsto.

Progetti da osservare.

World Labs Marble, insieme all'acquisizione di SceniX, è il tentativo più concreto di dare corpo alla tesi di cui abbiamo parlato: Marble genera ambienti tridimensionali stabili e coerenti, e SceniX li collega alla simulazione per la robotica. Invece di far imparare il mondo a una macchina leggendo testo, glielo si fa attraversare. È l'alternativa tecnica agli scettici del linguaggio.

DeepSeek che addestra su chip Huawei è la stessa storia vista dal lato dell'hardware. Un laboratorio che pubblica i pesi dei propri modelli e sposta l'addestramento su acceleratori domestici esce, di fatto, dal perimetro di qualunque negoziato sui chip.

Model Optimizer di Nvidia serve a rimpicciolire i modelli — quantizzazione, potatura, distillazione — perché girino in modo efficiente in produzione. Curiosamente è l'azienda di Huang, quella che costruisce le fabbriche di calcolo, a fornire gli strumenti per fare a meno delle fabbriche di calcolo.

Buzz, di Block, è un ambiente di lavoro aperto costruito su Nostr: chat, repository di codice e agenti finiscono in un unico registro firmato. Gli agenti entrano nei canali come membri della squadra, con chiavi e permessi propri. È DHH tradotto in architettura: se gli agenti fanno il lavoro, hanno bisogno di un badge.

Harness SDK, del progetto Strands, è l'impalcatura per far lavorare agenti autonomi su compiti lunghi. Il nome dice tutto: harness è la bardatura, la struttura che tiene fermo qualcosa mentre lavora.

Resta quella sala del Consiglio di Sicurezza, il 23 settembre, con un ricercatore che spiega ai rappresentanti degli Stati che stiamo perdendo il controllo — mentre a qualche migliaio di chilometri di distanza Buterin fa girare l'intelligenza artificiale sul portatile e Carmack dice che scrivere codice a mano è diventato uno hobby. Tre stanze che non si parlano, e la stessa tecnologia dentro tutte e tre.

È stato Signal Brief. Alla prossima.