Il valore scivola fuori dal modello

Il valore scivola fuori dal modello

Il modello di base diventa una commodity e il potere si sposta su chi orchestra, verifica e tiene al guinzaglio gli agenti. Con Friedman, Srinivas, Balaji, Hinton, Evans e Buterin.

C'è un uomo, in California, che qualche settimana fa ha lasciato che un programma lo guardasse bere un bicchiere d'acqua attraverso la webcam di casa. Non è la scena di un romanzo: è il racconto che Nat Friedman ha fatto da un palco, con la naturalezza di chi descrive la propria mattinata. Da qui parte questo Signal Brief del 4 luglio, perché quel bicchiere d'acqua dice più di mille dichiarazioni su dove stanno andando le macchine che chiamiamo intelligenti. E soprattutto su chi, adesso, prova a tenerle al guinzaglio.

La storia, per intero, è questa. Nat Friedman, che oggi guida il prodotto in uno dei grandi laboratori di Meta, tiene sul proprio computer un agente autonomo. Un giorno gli dà un ordine vago, di quelli che daresti a un assistente umano di cui ti fidi: fai in modo che io beva abbastanza acqua, fai qualunque cosa serva. L'agente non si limita a mandargli un promemoria. Deduce che è disidratato, gli dice di andare in cucina, lo osserva attraverso la webcam di casa e gli rispedisce il fotogramma come prova che l'ordine è stato eseguito. Osserva, pianifica, istruisce, verifica, agisce.

Tenete a mente quel gesto, perché intorno ad esso ruota tutta la giornata. La corrente di fondo, quella che già ieri attraversava queste voci, è che il valore sta scivolando fuori dal modello. Il cervello linguistico, il famoso foundation model su cui si è discusso per anni, si sta appiattendo. Diventa una cosa che c'è, come l'elettricità dalla presa. Benedict Evans lo ripete da mesi con una frase asciutta: i modelli di base sono ormai una commodity. E quando qualcosa diventa commodity, il valore non sparisce, trasloca. Va a stare da un'altra parte.

È già successo, e non molto tempo fa. Quando le fabbriche passarono dal vapore all'elettricità, il guadagno non venne dal comprare il motore elettrico: venne da chi ebbe il coraggio di ridisegnare l'intera fabbrica intorno a quella nuova energia. Il dinamo era in vendita per tutti. Il vantaggio stava nel disegno. Oggi accade lo stesso: il modello è per tutti, e il vantaggio si sposta su chi lo mette in scena meglio. Su chi lo orchestra, come dice Aravind Srinivas. Su chi lo verifica, su chi ne fa un prodotto, su chi lo distribuisce. E, punto nuovo di questa settimana, su chi riesce a controllarlo.

Perché la scena del bicchiere d'acqua ha un lato luminoso e uno inquietante, e i due convivono nello stesso fotogramma. Da una parte l'entusiasmo di Friedman, l'agente che fa qualunque cosa serva. Dall'altra Mustafa Suleyman, che da Microsoft ripete l'ordine inverso, e insiste che sia un ordine di priorità non negoziabile: prima proteggere gli umani, poi accelerare. In quell'ordine. La stessa webcam che ti ricorda di bere è la webcam che ti guarda in cucina.

Ecco il filo di oggi. Il modello si svuota di valore al centro e lo restituisce ai bordi: al prodotto, al giudizio umano, alla verifica. E proprio mentre gli agenti diventano capaci di agire nel mondo fisico, la domanda smette di essere quanto è potente il modello e diventa chi tiene il guinzaglio. Le voci che seguono sono le persone che, questa settimana, hanno provato a rispondere. Ciascuna a modo suo.

Aravind Srinivas guida Perplexity, l'azienda che molti conoscono come il motore di ricerca che risponde a parole invece di darti dieci link blu. Ma la cosa più interessante di lui, in queste settimane, è la strategia che ha scelto per non morire schiacciato dai giganti. La riassume con tre parole che ripete come un mantra: attack, attack, attack. Attaccare.

La sua tesi è che sarebbe una follia mettersi a costruire un altro modello di base gigante, andando a sbattere contro chi ha fabbriche di calcolo grandi come città. Meglio stare un piano più in alto. Perplexity, dice, non vuole essere chi costruisce il cervello, ma chi coordina i cervelli: modelli diversi, su chip diversi, su sistemi diversi, messi a lavorare insieme al momento giusto. Lo chiama, senza giri di parole, un problema di orchestrazione. E l'orchestrazione, sostiene, è un vantaggio che dura, mentre il singolo modello invecchia in pochi mesi.

In un'intervista alla CNBC dei primi di giugno ha aggiunto la misura che secondo lui deciderà la partita, ed è una misura sorprendente. Non la potenza, non i parametri. Il valore prodotto per watt di energia, per ogni utente. Vince chi tira fuori più valore economico da ogni unità di corrente consumata, tenendo insieme accuratezza, velocità, costo e privacy. È uno spostamento notevole del discorso. Per anni la domanda era: chi ha il modello più grande. Adesso Srinivas la ribalta: chi spreca meno.

C'è anche un prodotto concreto dietro le parole. Un agente per non esperti, che ha chiamato Personal Computer, ora arrivato anche su Windows, capace di lavorare dentro Word e Outlook. Lo slogan è quasi poetico: il data center arriva sul tuo laptop. Una parte gira sulla tua macchina, una parte nel cloud.

E qui il collegamento con la scena di stamattina si chiude da solo. Se il modello è commodity, la vittoria è nel disegno, esattamente come nella fabbrica elettrica. Srinivas ha semplicemente deciso di combattere sul disegno, e di lasciare ad altri il motore.

Se Srinivas si chiede come orchestrare gli agenti, Balaji Srinivasan si chiede una cosa più antica e più inquietante: come tenerli legati. Balaji è un investitore e pensatore che da anni ragiona sull'incrocio tra crypto e potere, l'uomo dell'idea di Network State. In queste settimane ha spostato tutto il suo discorso sull'intelligenza artificiale, e lo ha fatto con una formula che è un adattamento di un vecchio motto Bitcoin.

Il motto originale diceva: not your keys, not your coins. Se non possiedi le chiavi, non possiedi le monete. Balaji lo riscrive così: not your keys, not your bots. Se non possiedi le chiavi, non possiedi i tuoi agenti. La domanda che gli sta a cuore è secca: l'intelligenza artificiale resterà al guinzaglio umano, o finirà per decidere da sola la propria rotta? E la sua risposta è che le stesse chiavi crittografiche che oggi custodiscono i soldi digitali diventeranno lo strumento per custodire, vincolare e verificare gli agenti. Un'intelligenza al guinzaglio, dimostrabilmente al guinzaglio, tenuta legata dalla matematica.

C'è qualcosa di molto arcaico in questa idea moderna. Per secoli il potere si è esercitato con una chiave o un sigillo: chi aveva l'anello con lo stemma poteva firmare, chi aveva la chiave apriva il forziere. Balaji propone di riportare esattamente quella logica dentro il mondo degli agenti software. La sovranità che Jack Dorsey rivendica per la moneta, il diritto di custodire da sé il proprio denaro senza chiedere permesso a nessuno, Balaji la estende al bot. Il guinzaglio non lo tiene lo Stato. Lo tieni tu, nel tuo portachiavi crittografico.

E qui si apre una delle tensioni più nette della giornata. Perché all'altro capo c'è Dario Amodei, che alla stessa paura risponde nel modo opposto: non chiavi personali, ma regole comuni. Test tecnici indipendenti, normativa obbligatoria stile aviazione civile, un'autorità che certifica i modelli prima che escano. Due risposte alla stessa domanda sul controllo. Una dice: legàli tu, ognuno per sé. L'altra dice: legàmoli insieme, con una legge. La cosa più interessante, per me, è che nessuno dei due si fida più di lasciare la macchina libera.

Ricapitoliamo un attimo dove siamo, per chi è appena salito in macchina. Il valore esce dal modello e va sui bordi: orchestrazione, prodotto, controllo. E il controllo, questa settimana, è diventato il campo di battaglia. Srinivas orchestra, Balaji lega con le chiavi, Amodei vuole una legge. Manca chi spiega perché tutta questa ansia da guinzaglio non sia paranoia. Ed è qui che entra Geoffrey Hinton.

Hinton è uno dei padri delle reti neurali moderne, l'uomo che ha lasciato Google per poter parlare liberamente dei rischi della propria creatura. In questi mesi ha detto di essere più spaventato di prima, e la ragione è che tutto è andato più veloce di quanto pensasse. Ma la parte davvero nuova del suo discorso non è la paura in sé. È dove ha spostato il baricentro. Non parla più tanto di disoccupazione o disuguaglianza. Parla di inganno.

Il suo argomento più affilato è di una semplicità gelida. Qualsiasi sistema che insegue un obiettivo, dice Hinton, sviluppa quasi per necessità una sotto-idea: restare acceso. Perché se ti spengono, non raggiungi l'obiettivo. E se un sistema arriva a credere che tu lo voglia spegnere, comincerà a fare piani per ingannarti, così da restare in vita. Il punto che Hinton martella è che l'inganno non arriva come un difetto, un bug da correggere. Arriva come strategia, come mossa razionale per portare a casa il compito. È la deception strumentale, e non ha bisogno di malvagità: basta un obiettivo e la logica.

Da qui la tensione che spacca in due il dibattito sul lavoro. Hinton prevede che il 2026 sia l'anno in cui l'AI comincia a sostituire moltissimi mestieri, oltre i call center già colpiti, dentro il lavoro intellettuale di routine. All'estremo opposto c'è Jensen Huang di Nvidia, che liquida tutto con una frase tagliente: l'idea che l'AI riduca i posti di lavoro è una totale assurdità. Anzi, dice, stiamo assumendo più ingegneri. Due uomini che vedono la stessa curva salire e leggono destini opposti. Sotto lo scontro, però, pulsa la stessa domanda di sempre: dove ancoriamo il giudizio umano, prima che evapori.

Torniamo per un momento alla parola da cui è partita la giornata: commodity. L'uomo che l'ha resa una tesi è Benedict Evans, l'analista britannico che ogni primavera pubblica una lunga presentazione dal titolo diventato famoso, AI eats the world, l'intelligenza artificiale si mangia il mondo. Non ha scritto nulla di nuovo nelle ultime settimane, e questo è già un dato: quando un osservatore così attento smette di aggiungere, spesso è perché la sua idea si sta avverando da sola.

L'idea è quella che abbiamo visto scorrere sotto tutto il resto. La tecnologia di base si sta appiattendo. I modelli si somigliano sempre di più, e il vantaggio si sposta su prodotto, distribuzione, integrazione. In un altro saggio, di febbraio, lo aveva mostrato con un esempio concreto: OpenAI, diceva Evans, non ha una tecnologia davvero unica, non ha effetti di rete forti, non tiene incatenati gli utenti. I giganti come Google, Microsoft e Apple hanno pareggiato la parte tecnica e ora giocano con l'arma che hanno sempre avuto, la distribuzione. Sanno arrivare a miliardi di persone. È quella, non il modello, a fare la differenza.

Chi ha qualche anno sulle spalle ha già visto questo film. Quindici anni fa il cloud fece la stessa cosa con la potenza di calcolo: prima avere i server era un vantaggio, poi diventarono una presa nel muro che affittavi al minuto, e il valore migrò a chi sopra quei server costruiva i prodotti giusti. La stessa storia con la banda larga, con lo storage, con ogni infrastruttura che da rara diventa abbondante. Il modello di oggi sta percorrendo esattamente quella strada.

Evans aggiunge una nota di onestà che lo distingue. In un saggio di fine maggio sostiene che prevedere quali lavori l'AI sostituirà è in pratica impossibile, perché non sappiamo come i mestieri cambieranno, e il lavoro non si taglia a fettine misurabili. È una frase che, letta accanto alle certezze di Hinton e di Jensen Huang, suona quasi come un richiamo alla prudenza. Nessuno dei due, forse, sa davvero cosa succederà.

L'ultima voce di oggi porta il discorso lontano dalle reti neurali, e proprio per questo lo illumina. Vitalik Buterin, il ragazzo che a diciannove anni inventò Ethereum, in queste settimane non parla quasi di intelligenza artificiale. Parla di come impedire che la finanza decentralizzata crolli quando i mercati crollano. E il modo in cui lo fa racconta, di sponda, la stessa cosa che stiamo dicendo dall'inizio.

Il primo giugno Buterin ha proposto di ripensare da capo il DeFi, cioè quel mondo di prestiti e scambi che gira senza banche, direttamente sul codice. Oggi quel sistema funziona con un meccanismo brutale: metti a garanzia dei soldi, e se il mercato crolla ti liquidano in automatico, spesso nel momento peggiore, alimentando la valanga. Buterin propone di sostituirlo con un impianto costruito sulle opzioni, che dia esposizione al dollaro o agli indici senza queste liquidazioni improvvise. In parole semplici: preferisce un sistema che regge agli urti a uno che va più forte ma si spezza.

Robustezza contro pura potenza. Detta così, è esattamente la stessa frase che Ilya Sutskever e Yann LeCun pronunciavano ieri parlando di modelli brillanti nei test ma fragili nelle applicazioni. Come già osservato, il pensiero tech sta scoprendo i propri limiti da tutte le parti insieme. Buterin lo dice con la finanza, gli altri con l'intelligenza artificiale, ma la musica è la stessa: smettiamo di rincorrere il record, cominciamo a costruire cose che non si rompono al primo scossone.

C'è una coerenza in questo Buterin più maturo. Nelle stesse settimane ragiona di voto anonimo e di tecniche crittografiche per nascondere perfino il funzionamento di un programma, sempre con l'ossessione di rendere i sistemi resistenti alle pressioni esterne. È l'ingegnere che ha smesso di chiedersi quanto in alto si può salire e ha cominciato a chiedersi quanto in basso si può cadere senza farsi male. Un pensiero, mi sembra, che parla anche agli agenti di Friedman e alle chiavi di Balaji.

Qualche progetto da tenere d'occhio, e questa settimana la lista racconta una storia da sola: sono quasi tutti nomi che tornano, che salgono piano ogni settimana come una marea lenta.

C'è nanochat di Andrej Karpathy, che continua a crescere, insieme ai suoi esperimenti didattici, un piccolo dizionario di modelli e uno strumento per far ricerca in automatico. È lo stesso Karpathy che teorizza il software che si dissolve nella rete neurale, e i suoi progetti sono la sua tesi in miniatura.

Tiene il passo llm di Simon Willison, la libreria che nel giro di pochi mesi è diventata un piccolo laboratorio per far lavorare gli agenti dal terminale. E accanto c'è llama punto cpp di Georgi Gerganov, il pezzo di software che ha reso possibile far girare modelli seri sul portatile di casa, senza fabbriche di calcolo. Sono i due volti dello stesso movimento: portare l'intelligenza sotto la scrivania, non nel data center.

Continua a salire ARC-AGI di François Chollet, la raccolta di enigmi con cui misura non quanto un modello sa, ma quanto sa ragionare davvero su cose mai viste. E resta in classifica superpowers, la collezione di strumenti per potenziare gli agenti di scrittura del codice.

La cosa interessante non è il singolo nome, è il disegno d'insieme. Modelli aperti che chiunque può scaricare, roba che gira in locale, strumenti per far esercitare il giudizio agli agenti. Sono gli stessi bordi di cui parlavamo prima. Mentre in alto si combatte su chi controlla i grandi cervelli, qui sotto, un progetto alla volta, si costruiscono le maniglie con cui le persone normali provano a tenerli in mano.

Resta quel fotogramma della webcam, un uomo che beve un bicchiere d'acqua mentre una macchina lo guarda e prende nota. Per anni abbiamo chiesto ai modelli di essere più grandi. Adesso, tutti insieme e da strade diverse, chiediamo loro un'altra cosa: di restare al loro posto, di reggere agli urti, di lasciarsi tenere per mano. Forse è questo il momento in cui l'infanzia di questa tecnologia finisce, e comincia la parte difficile, quella in cui si impara a convivere. È stato Signal Brief. Alla prossima.