L'oracolo che manca alla biologia

L'oracolo che manca alla biologia

Dove esiste un test automatico, le macchine corrono. Dove non esiste, nessuna scala di modello aiuta. Sulla stessa faglia si dividono capitali, governance e lavoro.

Diciassette luglio, e Signal Brief comincia da una fattura.

Centosessantacinquemila dollari di token bruciati per riscrivere un pezzo di software da zero. Non un esperimento accademico: una decisione presa con la calcolatrice in mano, e giustificata.

La stessa settimana, dall'altra parte del settore, il capo di un laboratorio che prometteva di comprimere dieci anni di medicina in uno fa marcia indietro. Stessa tecnologia, stessi modelli, due esiti opposti.

La differenza tra i due casi non sta nella potenza delle macchine. Sta in una cosa molto più antica, che nel software esiste da decenni e nella biologia non è mai esistita.

L'otto luglio Simon Willison pubblica sul suo blog il resoconto di una riscrittura. Un progetto grosso, portato da un linguaggio a un altro, con agenti automatici che lavorano in parallelo e si controllano a vicenda. Il conto finale: centosessantacinquemila dollari di token. Otto giorni dopo, un altro pezzo dello stesso tipo, venticinquemila dollari.

Numeri che sembrano assurdi finché non guardi cosa li rende sensati. Quel progetto aveva una cosa preziosissima: una batteria di test che dice, senza discussione e senza opinioni, se il codice nuovo si comporta come il vecchio. Un giudice automatico. Le macchine possono sbagliare quanto vogliono, tanto qualcosa le corregge.

È qui che torna il tema che attraversava già il briefing di ieri — il collo di bottiglia che si sposta dallo scrivere al verificare. Ma stavolta la storia fa un passo avanti, e il passo lo fa Andrej Karpathy con una frase che vale la pena tenere: i computer di sempre automatizzano ciò che sai specificare, i modelli linguistici automatizzano ciò che sai verificare.

Verificare, non capire. E la verifica ha un prerequisito.

Fine giugno, San Francisco, lancio di Claude Science. Dario Amodei sale sul palco e dice una cosa che due anni fa non avrebbe detto: oggi non riusciamo a fare progressi al ritmo di dieci anni all'anno. Nel 2024 aveva scritto un saggio in cui sosteneva esattamente il contrario. Cos'è cambiato? Non i modelli. Manca il giudice. La biologia non ha una batteria di test che ti dice se hai ragione: ha esperimenti che durano mesi, cellule che fanno quello che vogliono, corpi che non collaborano. Puoi mettere tutta la potenza di calcolo del mondo davanti a quel problema, e la natura risponde con i suoi tempi.

Tre voci lontanissime — un ingegnere che scrive codice la sera, un divulgatore, l'amministratore delegato di un laboratorio da miliardi — che descrivono lo stesso muro da tre lati diversi.

Mi sembra la cosa più solida emersa questa settimana, e ha un precedente storico preciso. Fine Ottocento, le fabbriche passano dal vapore all'elettricità. La tecnologia nuova c'era, era migliore, costava meno. Ma per trent'anni non produce quasi nessun guadagno di produttività, perché le fabbriche erano costruite intorno all'albero di trasmissione del vapore: un motore centrale, cinghie ovunque, macchine disposte in base alla cinghia. L'elettricità dava un vantaggio solo se ridisegnavi il capannone. Chi lo ridisegnò decollò, chi si limitò a sostituire il motore non guadagnò niente.

L'oracolo automatico è la stessa cosa. Non è una caratteristica dei modelli. È una caratteristica del capannone. Il software si è ritrovato tra le mani, per motivi che non c'entravano nulla con l'intelligenza artificiale, un'infrastruttura perfetta per farsi automatizzare: i test li scrivevano da vent'anni per altre ragioni. La biologia quel capannone non ce l'ha, e non lo si costruisce comprando più schede grafiche.

Il che porta dritto alla domanda che divide il settore in due, e non è una domanda scientifica.

Jensen Huang guida l'azienda che vende le macchine su cui gira tutta questa faccenda. Da tre anni è l'uomo più ascoltato del settore, il che è già di per sé un fatto interessante: il momento più filosofico della storia recente della tecnologia ha come oratore principale un fornitore di componenti.

Alla fine di giugno, parlando con l'Associated Press, Huang dice due cose. La prima: usate l'intelligenza artificiale, tutti, andate a provarla, servono nuove abitudini sociali. La seconda, più tagliente: il discorso che l'AI riduce i posti di lavoro è una totale sciocchezza. La sua aritmetica è semplice — se uno sviluppatore produce nove per ogni tre che costa, le aziende ne assumono di più, non di meno.

Ma la parte che conta è un'altra, e l'aveva già messa a fuoco a marzo: il vero limite è l'energia. Non le idee, non i dati, non i paradigmi. La corrente elettrica. NVIDIA, dice, non vince perché fa i chip più potenti ma perché fa quelli che consumano meno per unità di lavoro. Ed è per questo che collega i centri di calcolo ai posti di lavoro in fabbrica: sta rispondendo, con calma, al malumore politico che comincia a montare intorno a quei capannoni pieni di ventole.

Ora, tenete insieme le due scene. Da una parte Ilya Sutskever che dice: i dati sono finiti, di internet ce n'è uno solo, l'era della scala è chiusa, servono idee nuove. Dall'altra Huang che dice: il collo di bottiglia è fisico, dateci più corrente e continuiamo.

Sembra un dibattito scientifico. Non lo è. Sutskever ha un laboratorio che non ha prodotti e vende esclusivamente l'idea che serva una scoperta nuova. Huang vende le macchine che servono se basta insistere. Ciascuno dei due sta descrivendo il mondo in cui il proprio capitale vale di più.

Non voglio dire che siano in malafede. Dico che le loro convinzioni sono comodissime, e che quando una posizione teorica coincide così bene con il bilancio di chi la sostiene, conviene ascoltarla con l'orecchio dell'osservatore, non del discepolo. La cosa più onesta di tutta questa disputa è che nessuno dei due può dimostrare di avere ragione. Qui l'oracolo non c'è. E dove non c'è l'oracolo, come vedremo, vince chi parla più forte o chi ha più soldi.

Nella stessa settimana di luglio due persone che si contendono lo stesso mercato scrivono, separatamente, la stessa cosa.

Sam Altman firma un intervento sul Financial Times: serve un forum internazionale a guida americana, con rappresentanti dei governi ed esperti indipendenti, che stabilisca standard di sicurezza e faccia da controllore sui laboratori, per proteggerli dalle pressioni commerciali che spingono verso una corsa pericolosa. Cita l'aviazione civile e l'agenzia atomica come precedenti.

Il quattordici luglio Demis Hassabis pubblica un manifesto personale e chiede sostanzialmente lo stesso: un organismo di vigilanza globale a guida americana, finanziato dall'industria, con il potere di coordinare un rallentamento generale se i rischi crescono. Lo vuole operativo prima della fine dell'anno.

Due anni fa Altman girava Washington per convincere i legislatori a non regolamentare. Oggi chiede un arbitro. Cos'è successo nel frattempo? È successo che OpenAI ha smesso di vincere. Le visite mensili di ChatGPT sono scese sotto la metà del mercato per la prima volta, e un concorrente dichiara ricavi quasi doppi. Fortune l'ha notato senza troppa delicatezza: la richiesta di regole arriva da chi sta perdendo terreno.

Non è cinismo, è un classico. Le compagnie ferroviarie americane, dopo trent'anni di guerra dei prezzi che le stava dissanguando tutte, chiesero e ottennero un'autorità federale che fissasse le tariffe. La chiamarono protezione del pubblico. Era una tregua.

Poi però c'è Jack Clark, che dentro un laboratorio ci lavora davvero, e che sul suo bollettino settimanale scrive che l'allineamento non è on track e che servono organizzazioni capaci di urlare contro chi le finanzia. Detta da lui, che è finanziato esattamente da chi dovrebbe urlare contro, la frase pesa. Nelle stesse settimane porta un dato interno: otto volte il codice integrato nel 2026 rispetto al periodo 2021-2024. E una frase che è la più fredda del mese: i sistemi stanno espandendo le loro capacità economicamente rilevanti più in fretta di quanto gli umani espandano il proprio vantaggio comparato.

E infine Naval Ravikant, che a tutta questa conversazione risponde in anticipo e da fuori: la minaccia non è la macchina fuori controllo, è la concentrazione del controllo giustificata per il nostro bene. Detto mentre due amministratori delegati chiedono un arbitro che loro stessi finanzierebbero, suona meno paranoico di quanto suonerebbe in altri momenti.

Torniamo un attimo sul filo di oggi, perché è facile perderlo tra i nomi. Il punto è uno solo: dove esiste un giudice automatico, le macchine corrono e il costo si giustifica. Dove non esiste, tutto diventa una questione di chi ha più voce. Fin qui abbiamo visto tre zone senza giudice: la biologia, la disputa sul paradigma, la governance.

La quarta è la più importante di tutte, ed è il lavoro.

Geoffrey Hinton, tra dicembre e gennaio, ha detto una cosa che è passata più inosservata di quanto meritasse. Non ha detto che l'intelligenza artificiale ci toglierà il lavoro. Ha detto che sarà il capitalismo a farlo: la tecnologia dà una capacità, è il sistema economico a decidere di usarla per sostituire le persone anziché per moltiplicare quello che fanno. Renderà pochissimi molto più ricchi e la maggioranza più povera. È una lettura economica, non tecnologica, e la differenza è tutta lì.

Il quattordici luglio, Marc Andreessen scrive l'esatto opposto. L'intelligenza artificiale doveva sostituire il lavoro umano e ha fatto il contrario: per la prima volta nella storia gli esseri umani costano meno del software, e i posti che crea sono più di quelli che elimina. Il ragionamento sotto, che aveva esposto due giorni prima, è più solido di quanto la provocazione lasci pensare: le idee profittevoli sono sempre state più numerose delle persone e dei capitali per realizzarle. Se l'AI abbassa la soglia, più progetti diventano possibili. Non libera lavoratori: apre cantieri.

Due tesi opposte, entrambe formulate da persone serissime. E nessuna delle due porta un dato. Non uno.

Ed è precisamente il punto di Karpathy, restituito con una simmetria quasi comica: qui l'oracolo non esiste. Non c'è una batteria di test che ci dica chi ha ragione sul lavoro. Non ci sarà per anni. Benedict Evans, che sull'argomento ha scritto a maggio, arriva a dire che misurare l'impatto occupazionale è largamente inutile, perché non sai come cambierà il lavoro né cosa cambierà intorno.

Quindi restiamo con due uomini che gridano da due lati di un fossato, e nessun modo di sapere chi sta dicendo il vero, se non aspettando. Mi sembra che questa, e non le previsioni sull'AGI, sia la vera notizia sgradevole del mese.

Progetti da osservare.

nanochat, di Karpathy. In crescita continua, presente da settimane.

llm-wiki, sempre di Karpathy. In crescita continua.

autoresearch, ancora Karpathy. In crescita continua.

llama.cpp di Georgi Gerganov. In crescita continua.

llm di Simon Willison. In crescita continua.

ARC-AGI di François Chollet. In crescita continua.

Vale la pena fermarsi su quest'ultimo per un motivo che parla direttamente al filo di oggi. Chollet sta preparando la terza versione del suo test, e ha cambiato la regola: non conta più solo se il modello risolve il problema, ma con quante mosse. Un limite stretto, tarato su quello che farebbe una persona. Per anni ha detto che l'intelligenza è l'efficienza con cui usi quello che sai per affrontare qualcosa di nuovo. Ora quella definizione entra nel meccanismo di punteggio invece di restare una frase da conferenza.

Sta costruendo un oracolo dove non ce n'era. È l'unica risposta seria al problema di tutta la giornata: se manca il giudice, fabbricane uno. Poi si può discutere se sia quello giusto — ma è un gesto, non un'opinione.

Nella stessa direzione lavora Mira Murati. Il quindici luglio il suo laboratorio ha pubblicato il primo modello, con i pesi aperti: chiunque può scaricarlo e modificarlo. Cinque giorni prima aveva scritto un saggio in cui sostiene che i valori umani non si mediano e non si centralizzano, e che il futuro buono ha molte intelligenze artificiali, cresciute in posti diversi. Il modello aperto è quel saggio tradotto in codice.

Resta la fattura da centosessantacinquemila dollari, che era una decisione razionale solo perché qualcuno, vent'anni fa e per tutt'altri motivi, aveva scritto dei test. Le grandi accelerazioni arrivano quasi sempre così: appoggiandosi a qualcosa che era già lì e che nessuno aveva costruito per quello.

La domanda, allora, non è quanto diventeranno brave le macchine. È quali pezzi di mondo hanno, per fortuna o per storia, un giudice pronto ad aspettarle.

È stato Signal Brief. Alla prossima.