Generare è gratis, verificare no

Generare è gratis, verificare no

Karpathy conta cinquemila persone che vedono i modelli più forti. Intanto il prezzo si inverte: produrre costa sempre meno, fidarsi costa sempre più.

Quattro città, la stessa settimana. A Seul, Yann LeCun dice che chi chiede di rallentare l'intelligenza artificiale sta facendo lobbying. A Rails World, David Heinemeier Hansson spiega che nella sua azienda gli ingegneri hanno messo giù le matite. Ad Astana, Balaji Srinivasan trasloca la sua scuola e premia un festival di cinema fatto con l'AI. In Cina, Liang Wenfeng sposta DeepSeek sui chip di Huawei. È il 13 ottobre 2026, questo è Signal Brief, e il filo che tiene insieme le quattro scene non è la potenza dei modelli. È un prezzo che si è girato al contrario. Si parte da un numero molto piccolo: cinquemila.

L'undici ottobre Andrej Karpathy ha pubblicato un conto che ha la forma di un imbuto molto stretto. Sei miliardi di persone non hanno praticamente mai usato un modello linguistico. Uno o due miliardi lo usano come chatbot gratuito, di tanto in tanto, per curiosità. Venti milioni di professionisti ci lavorano davvero, per scrivere codice o fare matematica. E circa cinquemila persone, in tutto il mondo, vedono i sistemi più potenti che esistono. Dentro quei laboratori, racconta, non si discute più di assistenti che rispondono meglio: si coordinano migliaia di agenti insieme, si affrontano interi progetti software, si prova a dare una mano alla ricerca scientifica. La capacità umana di controllare quello che ne esce, invece, è rimasta dov'era.

Ieri la discussione girava attorno a una parola sola, auto-miglioramento ricorsivo, e a quanto fossero diventati potenti i modelli. Questa settimana il baricentro si è spostato, e si è spostato su un terreno più prosaico: i prezzi. Generare costa sempre meno. Verificare, attribuire, fidarsi costano sempre più. Tutto il resto della giornata sta appeso a questa inversione.

È una dinamica che la storia conosce bene. Quando la stampa a caratteri mobili ha reso economico fare copie, il bene caro è diventato un altro: sapere chi avesse scritto davvero quel testo e se dicesse il vero. Sono comparsi i frontespizi con il nome dello stampatore, le licenze, i cataloghi, i correttori di bozze. L'abbondanza non ha prodotto fiducia. Ha prodotto un mestiere nuovo, quello di garantire.

Naval Ravikant ha tradotto la stessa cosa in linguaggio da investitore, e la sua formula è secca: il software puro sta diventando non investibile. Gli agenti prendono una lista di requisiti e restituiscono un'applicazione che funziona, in fretta; il codice da solo non difende più nessuna posizione. Quello che resta difendibile, secondo lui, sta altrove: hardware, effetti di rete, i modelli, i dati che tornano dall'uso, l'infrastruttura. Qualche mese fa era una diagnosi di mercato che portava a finanziare il calcolo distribuito. Adesso è la conseguenza diretta del ribaltamento dei prezzi, e cambia di segno: non è una scommessa sulla tecnologia, è la constatazione che il prodotto è diventato gratuito e il fossato è scomparso con lui.

Patrick Collison, in un post del nove ottobre, guarda lo stesso fenomeno dal lato di chi compra. Se ognuno di noi avrà un agente che confronta prezzi, recensioni, condizioni di disdetta, allora diventa molto più difficile vendere male un prodotto mediocre, e molto più redditizio costruirne uno buono. Lui lo chiama un sussidio strutturale alla qualità. Ma il punto, di nuovo, è sulla scarsità: ciò che costa non è l'offerta, è l'informazione affidabile sull'offerta.

E qui si inserisce Balaji Srinivasan, che in questi giorni ha portato il ragionamento alle conseguenze estreme: se produrre è gratis, il bene costoso diventa dimostrare chi parla. Identità, fiducia, prova.

Quattro persone molto diverse, con interessi molto diversi, che da strade separate arrivano alla stessa casa. Il primo a esserci arrivato, con un conto scritto a mano, è stato Karpathy.

Karpathy è l'uomo che ha guidato per anni la visione artificiale delle auto Tesla e che ha coniato l'espressione con cui mezzo settore descrive il proprio lavoro: programmare a sentimento, lasciando che il modello scriva e tenendo in mano la direzione. Da qualche mese, però, ha smesso di parlare di come migliorare i modelli e ha cominciato a parlare di come sopravvivere al loro uso.

L'imbuto dell'undici ottobre è il modo più chiaro in cui l'ha detto. Non è un grafico sulla diffusione di una tecnologia: è una mappa di chi ha visto cosa. Chi sta nei cinquemila osserva sistemi che orchestrano eserciti di agenti su progetti software interi. Chi sta nei due miliardi fa domande a un chatbot gratuito. In mezzo non c'è un continuum, c'è un salto. E la cosa più scomoda è che nessuno dei due gruppi riesce a controllare bene quello che il sistema produce: i primi perché la produzione viaggia più veloce della revisione, i secondi perché non hanno strumenti per valutarla.

La sua risposta, pubblicata il due ottobre, è disarmante nella sua praticità. Chiedete ai modelli uscite che un essere umano riesca ad assorbire: inglese controllato, diagrammi, pagine interattive, video che spiegano una cosa alla volta, costruiti su misura per chi guarda. Non chiedete la risposta migliore, chiedete la risposta che potete verificare. È un ribaltamento di prospettiva notevole: per anni la ricerca ha cercato di rendere i modelli più capaci, qui si cerca di renderli più leggibili.

Nello stesso filone, Karpathy insiste su un'idea che a un consulente non ingegnere suonerà strana: il software usa e getta. Pezzi di programma costruiti per un singolo problema, usati tre volte e buttati, perché costruirli costa quasi niente. Il programma, in questo mondo, non è più il codice. È il contesto che gli dai e il modo in cui coordini gli agenti.

Mi sembra che il suo conto dica una cosa precisa, al di là dei numeri: il collo di bottiglia dell'intelligenza artificiale non è più nei laboratori, è negli occhi di chi deve guardare il risultato. Per cent'anni abbiamo inventato macchine che facevano più cose di quante riuscissimo a usarne. Questa è la prima che fa più cose di quante riusciamo a leggerne.

Chi quella supervisione l'ha già messa in bilancio è David Heinemeier Hansson, che ha inventato Ruby on Rails e che da venticinque anni scrive codice a mano con una certa fierezza. Il passaggio al pencils down di 37signals lo conosciamo. Quello che è nuovo è cosa ci ha fatto dopo.

Ha preso Campfire, la sua applicazione di chat, e ha chiesto agli agenti di riscriverla da zero in quattro linguaggi diversi: Ruby, Elixir, Go e Rust. Poi ha pubblicato i numeri delle prestazioni, sostenendo che le riscritture fatte dagli agenti possono sbloccare guadagni enormi. La parte interessante è arrivata subito dopo: il confronto è stato criticato in modo pesante, per come era stato misurato. Un esperimento sull'abbondanza di produzione finito impantanato esattamente sul punto in cui si inciampa oggi, cioè se possiamo credere al risultato. L'inversione dei prezzi non è una teoria astratta: morde chi la racconta.

In parallelo, si è costruito una capanna per l'AI, come la chiama lui: una macchina sempre accesa che fa girare gli agenti, raggiungibile da remoto attraverso una rete privata, in modo che il portatile sul tavolo torni a essere un terminale leggero. E 37signals ha aperto Basecamp agli assistenti esterni, così che ChatGPT, Claude o Cursor possano lavorarci dentro. Non è nostalgia per il mainframe, ma la somiglianza è forte: il calcolo torna in una stanza, e davanti abbiamo un vetro.

Benedict Evans, in un saggio di queste settimane, mette il dito sul limite di tutto questo: gli strumenti, da soli, non riprogettano il modo in cui un'azienda lavora. È la stessa storia dell'elettrificazione delle fabbriche. I motori elettrici erano disponibili da decenni prima che qualcuno capisse che bisognava smontare l'albero di trasmissione centrale e ridisegnare l'intero capannone. La macchina arriva presto, l'organizzazione arriva dopo, e il ritardo non si misura in mesi.

Un attimo di bilancio, per chi ci ha raggiunti ora. Il filo di oggi è uno: produrre è diventato economico, controllare è diventato caro. Karpathy lo vede come un problema di comprensione, Hansson come una riorganizzazione del mestiere. La terza risposta è la più radicale, e arriva dall'Asia centrale.

Balaji Srinivasan è stato dirigente di Coinbase e investitore, e da anni porta avanti un'idea sola: comunità che nascono in rete e poi si danno un territorio, quello che chiama network state. Nelle ultime due settimane ha fatto da padrone di casa alla conferenza sul tema, ha discusso di decentralizzazione con Vitalik Buterin, e soprattutto ha traslocato.

La sua scuola si è spostata ad Astana, in Kazakistan, in accordo con il governo locale, con oltre duecentoquaranta membri internazionali e un giro di finanziamento che secondo i resoconti valuta il progetto due miliardi di dollari, con Polychain, a16z e Coinbase tra i nomi coinvolti. Ha anche finanziato e giudicato un festival di cinema fatto con l'AI nella stessa città, con un milione di dollari destinato alle squadre più promettenti.

Il ragionamento che tiene insieme le due cose è il nostro. Se generare testi, immagini e film costa quasi zero, allora diventano preziose tre cose: sapere chi sta parlando, poterlo dimostrare con la crittografia, e appartenere a una comunità di cui ti fidi. Gli argentieri inglesi hanno risolto un problema simile tre secoli fa con i punzoni: un piccolo marchio impresso dall'ufficio di saggio, che non diceva niente sulla bellezza dell'oggetto ma garantiva il titolo del metallo. Era il bene scarso. Lo è di nuovo.

La cosa che rende questa posizione discutibile è la direzione in cui porta. Srinivasan immagina una via d'uscita individuale: ciascuno si sgancia dalle istituzioni che non controlla usando chiavi e firme. Vivek Raghavan, che in India costruisce modelli e ha appena avviato una divisione dedicata ai sistemi per istituzioni critiche, vuole l'opposto: un intero stack nazionale, perché senza controllare modelli, infrastruttura e applicazioni un paese finisce per essere, parole sue, una colonia digitale.

Due progetti incompatibili che usano lo stesso argomento. Dipendere dallo stack di qualcun altro è pericoloso, dicono entrambi. Poi uno risponde con un passaporto crittografico e l'altro con una politica industriale. Succede quasi sempre così, con le tesi forti: il motivo per cui convincono tutti è che ognuno le usa per andare dove voleva già andare.

Yann LeCun, che è stato il capo della ricerca sull'intelligenza artificiale di Meta e che ora guida un proprio laboratorio, il dodici ottobre era a Seul. Ha ripetuto la sua obiezione di fondo: i modelli linguistici di oggi vanno bene su matematica e codice e male su quasi tutto il resto, perché non hanno un'idea di come funziona il mondo fisico né di cosa succede quando si fa un'azione. Il suo laboratorio lavora su modelli di quel tipo, con applicazioni alla robotica e all'industria, e intende rilasciarli liberamente, dice, anche per evitare che tutti finiscano a dipendere da piattaforme americane o cinesi. Nei giorni precedenti era entrato nel comitato scientifico di un'azienda che usa modelli simili per prevedere il comportamento delle cellule.

Il giorno dopo, il tredici, ha detto la frase che pesa: gli argomenti di chi chiede di rallentare sono lobbying, oppure teatro. La sicurezza, per lui, è un problema di ingegneria, da risolvere con controlli tecnici a valle.

Ed è qui che il quadro è davvero cambiato rispetto a ieri. La discussione non è più su quanto siano capaci i modelli. È su dove abiti il rischio. Per Geoffrey Hinton è una proprietà del modello, da accertare prima che esca: da lì l'idea di un'autorità che approvi i sistemi di frontiera come si approvano i farmaci. Dario Amodei, nel saggio di settembre in cui chiede di dare un ritmo alla frontiera, propone tre livelli di salvaguardie, a partire da valutatori indipendenti con accesso permanente dentro i laboratori, come se fossero dipendenti. Per LeCun e per Jensen Huang, invece, il rischio è un guasto: si ripara dopo, e si regolano i danni concreti, non gli scenari.

Il polo opposto a Hinton, fino a due settimane fa, era occupato da chi diceva che gli incidenti con gli agenti erano solo ambienti mal configurati. Adesso quel posto lo tiene LeCun, e lo tiene con un argomento di natura diversa: non nega il problema tecnico, nega le intenzioni di chi lo solleva. Quando una controversia scivola dalle prove alle motivazioni dei contendenti, in genere vuol dire che le prove non stanno convincendo nessuno.

Mentre a Seul si discuteva di chi debba approvare i modelli, in Cina Liang Wenfeng stava svuotando la domanda dall'interno. Il fondatore di DeepSeek, il laboratorio che un anno e mezzo fa ha spiazzato il settore con modelli aperti e costi bassissimi, ha detto agli investitori che i prossimi modelli dovranno essere addestrati su acceleratori Huawei e su altri chip cinesi, e che altre forniture Huawei potrebbero arrivare tra fine anno e inizio 2027. Si parla anche di un modello enorme, da ottomila miliardi di parametri, ma quel dettaglio resta non confermato.

Sul fronte dei soldi, i resoconti indicano un giro di finanziamento vicino agli ottanta miliardi di yuan, circa dodici miliardi di dollari, con Tencent e CATL tra i partecipanti, e l'ipotesi di una quotazione nel 2027. Liang continua a dire che la priorità sono i modelli aperti e la ricerca, non il fatturato immediato. Ha anche investito una quota di circa il due per cento in Unitree, che costruisce robot umanoidi.

Il significato, per il filo di oggi, è geografico. Hinton e Amodei discutono di una pausa negoziata tra una dozzina di laboratori occidentali e i rispettivi governi. In Cina si addestra su hardware domestico, fuori da quel perimetro. In Nigeria, Bosun Tijani ha appena lanciato una gara per trasformare il modello linguistico nazionale in strumenti per sanità, agricoltura e istruzione, e sta collegando quel lavoro al nuovo sistema di codici postali del paese. In India si costruisce lo stack intero.

I trattati navali degli anni Trenta funzionavano così: limitavano il tonnellaggio di chi firmava, e nessun altro. Il mare restava grande.

Non significa che le salvaguardie siano inutili. Significa che un anno fa chiedere una pausa era una questione di volontà politica dentro un settore concentrato, e oggi è una questione di giurisdizione dentro un settore che si è sparpagliato. È una perdita di presa che non si recupera con un documento meglio scritto.

Progetti da osservare, e questa volta parlano quasi tutti della stessa cosa.

Il più eloquente arriva dalla comunità di QGIS, il programma libero con cui mezzo mondo disegna mappe. Hanno proposto una moratoria sui contributi scritti con l'AI: per ora, codice generato non entra. Non è tecnofobia, è aritmetica. Chi tiene un progetto aperto vive del tempo dei revisori, e se il codice arriva gratis e la revisione no, il conto non torna.

Sul versante opposto ci sono gli strumenti che quel codice lo producono. Claude Code e opencode sono due agenti che vivono nel terminale, uno di Anthropic e uno indipendente dal fornitore del modello, e stanno tra i progetti che crescono più in fretta. Sono la forma pratica del passaggio da scrivere a specificare e revisionare.

C'è poi llm, la riga di comando e la libreria Python di Simon Willison per interrogare e confrontare modelli diversi con un sistema di estensioni. Serve esattamente ai programmi usa e getta di cui parla Karpathy: monti un pezzo, lo usi, lo butti.

Janas affronta un problema fisico. È un sistema che fa girare modelli più grandi della memoria disponibile, facendoli scorrere a pezzi. Tradotto: cose che richiedevano una sala macchine cominciano a funzionare su hardware normale, e l'imbuto dei cinquemila si allarga un poco dal basso.

Infine, Anthropic ha pubblicato ricerca sulle difese contro la distillazione, cioè contro il tentativo di estrarre le capacità di un modello proprietario interrogandolo tante volte. Combacia con l'intuizione di Ravikant: se il codice non difende più nulla, quello che resta da difendere è il modello, e lo si difende tenendolo dietro un server.

Resta quel numero, cinquemila, e la sua compagnia: sei miliardi di persone che non hanno mai provato nulla di tutto questo. In mezzo, una comunità di cartografi che chiude la porta al codice gratuito per poter continuare a leggere quello che entra. Forse la domanda da portarsi dietro non è quanto diventeranno capaci le macchine, ma quanto siamo disposti a pagare per capirle. È stato Signal Brief. Alla prossima.