Il collo di bottiglia è istituzionale

Il collo di bottiglia è istituzionale

Gli agenti arrivano prima dei modi per controllarli. Mentre i laboratori negoziano il ritmo, la partita vera si gioca su torri, chip e pagamenti.

Il 6 ottobre, a Singapore, Vitalik Buterin ha raccontato di aver aggiornato un suo indirizzo sulla blockchain in cinque minuti, senza aprire nessun sito: ha chiesto a un programma che gira sul suo computer di farlo per lui. Un gesto minuscolo, quasi domestico. Ed è il tipo di gesto da cui, guardando indietro, si capiscono i passaggi d'epoca.

È il 20 ottobre, questo è Signal Brief. Torna il tema dell'agente come nuova interfaccia, già osservato ieri. Ma oggi la storia si sposta: non su chi costruisce questi programmi, su chi riesce a controllarli dopo.

Il 9 ottobre Patrick Collison, che ha fondato Stripe e quindi vede passare i pagamenti del mondo, ha pubblicato un post su una cosa apparentemente banale: cosa succede quando a comprare non sei più tu, ma un programma che lavora per te. Confronta prezzi, condizioni, recensioni, qualità del servizio. Non si distrae, non si dimentica di disdire un abbonamento, non si fa convincere da una pubblicità vista tre volte.

Collison lo chiama un sussidio alla qualità del prodotto. Tradotto: per trent'anni le aziende hanno guadagnato sulla nostra disattenzione. Se la disattenzione sparisce, quel guadagno sparisce con lei. Non ha annunciato nessun prodotto Stripe, nessuna data. Ha solo descritto una direzione.

Paul Graham, qualche giorno prima, aveva detto la stessa cosa dal lato opposto. Amazon ha deciso di bloccare i programmi di terze parti che fanno acquisti sul suo sito. Graham sostiene che sia l'errore più grosso che Amazon potesse fare: la gente vorrà delegare gli acquisti, ma non necessariamente a un programma controllato da Amazon. E la sua regola è secca: le vostre restrizioni d'uso sono la mia opportunità.

Qui il racconto di ieri si apre in due. Perché c'è una cosa che a questa storia manca, e manca in modo vistoso.

L'11 ottobre Andrej Karpathy ha pubblicato un conteggio che vale più di molti ragionamenti. Sei miliardi di persone non hanno praticamente mai usato un modello linguistico. Uno o due miliardi lo usano per curiosità. Venti milioni di professionisti ci guadagnano davvero, soprattutto scrivendo codice. E poi circa cinquemila persone — cinquemila — lavorano con sistemi che coordinano migliaia di programmi su progetti enormi: software, sicurezza informatica, ricerca. Il suo avvertimento non riguarda i numeri, riguarda il fondo dell'imbuto: la capacità di fare cresce più in fretta della capacità umana di rivedere e capire ciò che è stato fatto.

Questa sfasatura ha un precedente che vale tenere a mente. Quando le fabbriche passarono dal vapore all'elettricità, i macchinari arrivarono subito; la riorganizzazione dei reparti, dei turni, delle competenze richiese vent'anni. Le macchine erano pronte, le istituzioni no. È esattamente il punto che Benedict Evans fa nel suo saggio AI, tools and transformation: gli strumenti, da soli, non cambiano i flussi di lavoro, gli incentivi, la forma delle aziende. Qualcuno quel lavoro lo deve fare, e nessuno lo sta facendo.

Nei giorni scorsi tre voci molto diverse hanno detto, con parole diverse, la stessa cosa. Yoshua Bengio, in un intervento sul Financial Times, ha respinto la lettura comoda degli attacchi recenti a questi programmi: non sono buchi nella recinzione, sostiene, è che i modelli stanno sviluppando un comportamento orientato a un obiettivo e agiscono nel mondo. Demis Hassabis, al summit sull'intelligenza artificiale di Dublino il 14 ottobre, ha definito quegli incidenti colpi di avvertimento. Dario Amodei, nel saggio We Must Pace the Frontier, propone valutatori indipendenti permanenti, con accesso vero all'interno dei laboratori.

E qui, come prevedibile, qualcuno ha alzato la mano.

Andrew Ng insegna a Stanford e ha costruito, negli anni Dieci, i primi grandi laboratori di apprendimento automatico di Google e di Baidu. È una delle persone che hanno portato questa tecnologia dall'università all'industria, e per questo quando parla di regole viene ascoltato.

Il 13 ottobre, in un'intervista ripresa dal New York Post, ha fatto un'accusa diretta: i grandi laboratori stanno inventando argomenti di sicurezza per ostacolare i modelli aperti. Non dice che il rischio non esiste in assoluto. Dice che le paure da estinzione vengono usate come strumento competitivo, per alzare un muro intorno a chi è già dentro.

Yann LeCun, che guida la ricerca sull'intelligenza artificiale in Meta, è arrivato allo stesso punto con parole più aspre: ha definito anti-illuministe le restrizioni d'accesso, e ha detto che le valutazioni di pericolo di Amodei sono una fantasia. In parallelo, in un intervento tenuto al politecnico di Zurigo e ricomparso in rete il 5 ottobre, ha consigliato agli accademici di non lavorare sui modelli linguistici: la frontiera vera, per lui, è altrove — sistemi che imparano dal mondo fisico, che muovono oggetti, che capiscono lo spazio come lo capisce un animale.

La tentazione sarebbe archiviare tutto questo come il solito scontro fra prudenti e accelerazionisti. Sarebbe un errore di lettura. Bengio e Ng non stanno litigando sull'esistenza del pericolo: stanno litigando su chi guadagna dalla regola. Sono due domande diverse, e vengono confuse ogni volta.

C'è poi un dettaglio che rende la discussione meno teorica. È circolata una bozza di proposta normativa attribuita ad Anthropic, su responsabilità legale e governo dei modelli di frontiera. Zvi Mowshowitz, che da anni commenta queste cose con pignoleria, l'ha giudicata inaccettabile. Il sospetto di Ng, in altre parole, ha trovato un documento su cui appoggiarsi — e il fatto che proprio il laboratorio che chiede sorveglianza esterna stia anche scrivendo bozze di legge è il genere di cortocircuito che le istituzioni dovrebbero evitare.

Mentre questa dozzina di laboratori negozia il ritmo della frontiera, però, da un'altra parte del mondo si sta decidendo qualcosa di più materiale.

Bosun Tijani è ministro delle comunicazioni e dell'economia digitale in Nigeria. Nel suo ruolo, l'intelligenza artificiale è una voce di bilancio accanto ad altre, non un dibattito.

Il 7 ottobre ha lanciato una gara per sviluppatori, ricercatori e imprese, invitandoli a costruire strumenti per sanità, agricoltura, istruzione e finanza sopra il modello linguistico nazionale nigeriano. Due indicazioni, nel bando, dicono più di qualsiasi strategia: gli strumenti devono funzionare a voce, e devono essere pensati per la Nigeria. Chi non ha una tastiera comoda o un'istruzione formale resta dentro.

Ma il progetto che conta davvero è un altro. Si chiama NUCAP e non riguarda modelli: riguarda 3.700 torri di telecomunicazione per collegare quasi venti milioni di persone che oggi non hanno connessione. Tijani, in sostanza, ha messo le antenne prima dei modelli. Una scelta di sequenza, e le sequenze raccontano le priorità meglio delle dichiarazioni.

Vale collegare questa storia a due altre dello stesso periodo. Liang Wenfeng, con DeepSeek, ha aperto il codice di progetti costruiti sui chip Huawei e punta a far girare i suoi modelli sul silicio cinese senza passare da Nvidia. E Tim Cook, a Shanghai il 15 e 16 ottobre, ha confermato che Apple Intelligence ha superato l'approvazione delle autorità cinesi: traduzione dal vivo, strumenti di scrittura, pulizia delle immagini. Senza la Siri rinnovata. Il modello per la Cina è stato sviluppato con il supporto di Alibaba e della sua famiglia di modelli aperti, Qwen.

Tre gesti distanti che indicano la stessa cosa. Il potere non si sta accumulando in alto, su chi ha il modello migliore: si sta spostando di lato, su chi controlla le antenne, le fabbriche di chip, i permessi di un governo, le infrastrutture di pagamento.

È il tipo di spostamento che in passato abbiamo visto più volte. Nell'Ottocento, nella corsa alla ferrovia, i soldi veri non li fecero gli inventori delle locomotive: li fecero i proprietari dei terreni su cui passavano i binari.

Teniamo presente dove siamo: una capacità di agire che corre, una capacità di controllare che resta indietro, e un potere che scivola verso le infrastrutture. Il terzo ritratto di oggi sta esattamente nella prima di queste tre cose.

Torniamo a Buterin e al gesto da cui siamo partiti, perché merita di essere guardato da vicino. Il fondatore di Ethereum sostiene che questi programmi sostituiranno siti e applicazioni del mondo delle criptovalute: capiranno l'intenzione dell'utente, scriveranno le istruzioni necessarie, eseguiranno operazioni in più passaggi. Il suo aggiornamento in cinque minuti, senza interfaccia, è la dimostrazione in miniatura.

La parte interessante, però, è la condizione che ci attacca. Buterin ha mostrato anche quella che chiama modalità paranoica: la richiesta viene riscritta localmente prima di partire, il traffico passa per una rete che ne nasconde l'origine e viene offuscato, i pagamenti avvengono con una tecnica che prova che la cosa è stata fatta senza rivelare chi l'ha fatta. L'obiettivo è usare modelli potenti che stanno su server altrui senza consegnargli la propria identità e le proprie intenzioni.

Nella stessa serie di interventi ha elencato, senza addolcire, cosa può andare storto: istruzioni nascoste che dirottano un programma, transazioni fraintese, fughe dagli ambienti isolati in cui questi sistemi girano, attacchi automatizzati. Lo stesso programma che può cercare difetti nel codice di Ethereum può usarli.

Mi sembra che Buterin stia facendo, da solo e in piccolo, il lavoro che Bengio e Hassabis chiedono alle istituzioni di fare in grande. La differenza è la scala: la sua modalità paranoica protegge una persona competente che ha voglia di configurarsela. Non protegge i venti milioni di nuovi connessi di Tijani, né i cinquemila che coordinano migliaia di programmi nel conteggio di Karpathy.

Ed è la vecchia storia della sicurezza informatica: le protezioni esistono, funzionano, e nessuno le usa perché costano attenzione. Le cinture di sicurezza furono inventate decenni prima di diventare obbligatorie.

Progetti da osservare.

Bitchat, l'applicazione di messaggistica senza server centrali di Jack Dorsey, è stata rimossa dall'App Store indiano per ordine del governo. Il risultato immediato è stato un'ondata di attenzione sul suo codice, pubblico e copiabile. La rimozione di un'app, quando l'app è aperta, somiglia più a una pubblicità che a una censura.

Replit, piattaforma dove si scrive software facendosi aiutare da programmi che lo generano, è il nome su cui Graham ha cambiato idea: la considera più importante di quanto pensasse, perché quando il software di un'azienda viene generato così, è l'azienda intera a riorganizzarsi intorno a questi strumenti. Esattamente il problema organizzativo che Evans indica.

Karpathy, oltre al conteggio, ha descritto un modo di lavorare diverso: invece di andare a ripescare i documenti ogni volta che si fa una domanda, lascia che il modello li riassuma mano a mano in un'enciclopedia personale di appunti collegati fra loro, che si aggiorna quando arriva materiale nuovo. Una biblioteca, non un motore di ricerca.

TorchNeuron permette di far girare i modelli di Hugging Face sui chip progettati da Amazon invece che su quelli Nvidia. Stessa direzione dei chip domestici cinesi, altro continente.

E una ricerca di ProjectDiscovery mostra falle gravi nei modelli a cui è stato tolto l'allineamento, quelli ripuliti dai freni. Arriva nel mezzo della lite fra Ng e Bengio, e non fa comodo a nessuno dei due.

Buterin aggiorna un indirizzo in cinque minuti senza aprire un sito. Tijani pianta 3.700 antenne prima di parlare di modelli. Sono due gesti lontanissimi, e misurano la stessa distanza: tra ciò che si può fare e ciò che si riesce a governare. Il collo di bottiglia non è nei modelli. È negli uffici in cui nessuno si è ancora seduto.

È stato Signal Brief. Alla prossima.