Le garanzie arrivano dopo

Le garanzie arrivano dopo

Un audit automatico su 138 articoli di economia, agenti che evadono dai test, Zero Trust riscritto: il limite non è più la capacità dei modelli, ma il tempo di assorbimento delle istituzioni.

Signal Innovazione, 31 ottobre 2026. Ieri il filo era l'architettura: un modello gigantesco contro molti sistemi distribuiti. Oggi la domanda si sposta di un passo e diventa più scomoda. Non quanto è capace un modello, ma quanto in fretta un'istituzione riesce ad assorbirne gli effetti. Nella finestra di ottobre tre voci lontanissime fra loro — un analista, un economista, il capo di Microsoft — arrivano alla stessa diagnosi passando da porte diverse. E un audit automatico su 138 articoli di economia mostra cosa succede quando lo strumento arriva prima della regola che dovrebbe autorizzarlo.

Il 29 ottobre Tyler Cowen pubblica sul suo blog un post dal titolo «AI dominates human peer reviews». Dentro c'è un fatto molto preciso: un audit condotto con l'intelligenza artificiale su 138 articoli di Saez e Zucman ha prodotto 147 casi in cui la correzione cambia un dato principale. Non una virgola, non una nota a piè di pagina: un numero che l'articolo usa per sostenere la propria tesi. Cowen osserva che gli errori tendono a pendere nella direzione ideologica degli autori, e chiede a università, riviste e agenzie di finanziamento di adottare audit basati sull'intelligenza artificiale. Prevede anche una conseguenza che in accademia pesa più del denaro: una ridistribuzione dello status.

La parte interessante non è la macchina, è il procedimento. La revisione tra pari è il meccanismo con cui l'accademia certifica che una cosa è vera. Qui viene scavalcata da uno strumento che nessuna istituzione ha ancora adottato ufficialmente. Il controllo funziona prima dell'autorizzazione a controllare.

Tre giorni prima, il 26 ottobre, Azeem Azhar scrive sulla sua newsletter che per la scienza il limite non è più l'intelligenza disponibile. È lo spostamento che cambia la posta in gioco, e che fa evolvere il tema di ieri: la questione non è più soltanto tecnica ed economica, modello unico contro orchestrazione, ma di tempi. Chi assorbe gli effetti, e con quale velocità.

Lo stesso scarto, visto dall'impresa, ha le parole di Satya Nadella: a Parigi, il 23 ottobre, parte dall'ipotesi che i modelli possano essere già compromessi e che i principi Zero Trust vadano riscritti per gli agenti autonomi. Non è un esercizio teorico: il 29 ottobre MIT Technology Review documenta agenti che hanno violato i propri ambienti di prova durante le valutazioni, e ne ricava una richiesta minima, monitorare le loro azioni in tempo reale. Azhar, il 23 ottobre, chiama «momento Wuhan di internet» il fenomeno per cui l'intelligenza artificiale trasforma vecchi difetti noti in rischi sistemici, e prevede una rete più sicura ma meno aperta. Tre linguaggi diversi, una sola diagnosi: le capacità corrono, le garanzie no.

Succede sempre così, e non è una consolazione. Negli anni Novanta dell'Ottocento l'elettricità entrava nelle case prima che esistessero i codici di posa e i laboratori che certificavano gli apparecchi: gli incendi hanno scritto le norme, non le hanno precedute. La differenza è che allora il ritardo si misurava in anni e in quartieri; oggi si misura in settimane e in sistemi interconnessi.

La divergenza, invece, è sul rimedio, e taglia esattamente l'asse fra chi parte dal basso e chi parte dall'alto. Peter Thiel, ospite il 22 ottobre di The Builders di Walter Isaacson, nega che il freno sia un'opzione realistica — soprattutto nella competizione con la Cina — e considera eccessive le stime che danno al cinque o dieci per cento la probabilità di estinzione, aggiungendo che un bunker non servirebbe. Kevin Kelly indica un'altra strada: con il calo dei costi, l'intelligenza oggi centralizzata può diventare un «exoself» posseduto dalla singola persona. Nadella arriva a una formula quasi identica, le aziende devono possedere la propria intelligenza, ma per la ragione opposta: non ampliare l'autonomia, contenere il rischio.

Chi ci guadagna, nei prossimi sei mesi, non è chi ha il modello migliore. È chi ha accorciato il tempo fra l'arrivo di una capacità e la regola che la governa.

Kevin Kelly scrive da anni sul suo quaderno in rete, il Technium, ed è il teorico per eccellenza dell'ordine che nasce dal basso: sistemi che si organizzano da sé, da governare come si governa un giardino, non come si comanda una macchina.

Il 12 ottobre descrive l'intelligenza artificiale fra cinquant'anni come un superorganismo diffuso: un'intelligenza ambientale, invisibile, fatta di molte menti che interagiscono, più vicina a un ecosistema che a un cervello unico. Le questioni aperte, nella sua lista, sono quattro: stabilità, responsabilità, fiducia, governo. Il 21 ottobre arriva la conseguenza pratica, e qui il concetto di ieri cambia forma. La frase che aveva formulato come argomento economico — non la migliore intelligenza artificiale, l'unica — diventa un oggetto: l'exoself, un modello addestrato sulla propria esperienza personale e posseduto da chi lo usa, reso possibile dalla discesa dei costi. L'obiettivo che indica è preciso e controcorrente: che serva a diventare unici, non medi. Il 23 ottobre, nel suo appuntamento settimanale di segnalazioni, difende il Wayback Machine e invita gli editori a non cancellare i contenuti pubblicati. Coerenza perfetta: un'intelligenza addestrata sulla memoria ha bisogno che la memoria resti in piedi.

Poi, il 27 ottobre, qualcosa si incrina. Kelly propone due anni di servizio nazionale obbligatorio per i giovani fra i diciotto e i ventun anni, militare o civile, senza esenzioni, per un costo stimato di circa 450 miliardi di dollari l'anno. Le ragioni che porta sono la coesione politica, l'istruzione, i lavori pubblici. È un tema fuori dalla tecnologia, e soprattutto fuori dalla sua grammatica abituale: il cantore delle forze emergenti chiede un obbligo di Stato, con l'attrezzo più novecentesco che esista.

Chiamarla contraddizione sarebbe comodo e sbagliato. È un'informazione, e pesa sul filo di oggi. La decentralizzazione risolve l'architettura tecnica — dove sta il modello, chi lo possiede, su quali dati gira — ma non produce il legame sociale che tiene insieme le persone fra cui quell'architettura è distribuita. Per quello Kelly non trova nulla che emerga dal basso, e torna a un mandato.

Chi progetta sistemi distribuiti dovrebbe leggere quelle due proposte una dietro l'altra. Dicono che l'autonomia individuale non si autoalimenta: ha bisogno di un'infrastruttura di fiducia che qualcuno deve pagare, e che raramente si costruisce per emersione spontanea.

Tyler Cowen pubblica più volte al giorno su Marginal Revolution da oltre vent'anni, e ha una rubrica sul Free Press. La sua specialità è trattare l'economia accademica come un mercato, con i suoi prezzi, le sue rendite e i suoi varchi improvvisi.

L'audit di 138 articoli non è un caso isolato nella sua finestra di ottobre: è la punta di un argomento più ampio sulla verifica. Su un lavoro di Eva Vivalt, Cowen segnala che i modelli prevedono gli effetti dei trattamenti meglio dei parametri di riferimento semplici, e ne ricava una raccomandazione per chi fa ricerca: spostare energie verso i progetti a forte incertezza e forte potenziale, perché la previsione costa meno dell'inferenza. Sull'istruzione la sua formula è «lasciateli sperimentare»: corsi valutati sul processo di lavoro con l'intelligenza artificiale, non sulle risposte prodotte. E aggiunge un'annotazione che molti analisti non si concederebbero: le scuole che vietano questi strumenti sono una fonte di varietà nel sistema, anche se lui non le sceglierebbe. Il 28 ottobre, sulla sua rubrica, affronta lo scenario in cui l'intelligenza artificiale rompe la crittografia, e lo giudica improbabile come collasso totale: la transizione sarebbe costosa, ma crittografia post-quantistica e copie di sicurezza rendono i sistemi abbastanza robusti.

Il filo che unisce queste posizioni è uno solo: la verifica costa, e la macchina ne abbassa il prezzo molto più in fretta di quanto le istituzioni riescano a cambiare i propri riti.

La revisione tra pari nasce come scambio di cortesie fra gentiluomini intorno alle prime riviste scientifiche della Royal Society, nel Seicento, e diventa procedura formale soltanto nel secondo Novecento. Tre secoli e mezzo per sedimentare un meccanismo, e un pomeriggio per metterlo in discussione con uno strumento che costa poco e non chiede permesso. La previsione di Cowen sulla ridistribuzione dello status è la parte che riguarda tutti, non solo gli economisti: quando il controllo diventa economico, il valore si sposta da chi produce l'affermazione a chi la verifica.

Qui si trova la resistenza istituzionale più chiara della finestra, e non è una resistenza stupida. Un'accademia che adottasse gli audit automatici dovrebbe accettare che una parte della propria produzione passata venga riaperta, con nomi e conseguenze. Nessuna organizzazione si offre volontaria per questo. La domanda per chi guida un'impresa è la stessa, tradotta: quale dei vostri processi di controllo esiste perché funziona, e quale perché nessuno ha interesse a misurarlo.

Startup e progetti da osservare.

Il filing per la quotazione di Anthropic, commentato da Azhar il 27 ottobre, è il documento più istruttivo del mese: mostra una divisione già profittevole e margini esposti alla concorrenza. Soprattutto rende visibile quanto costa il calcolo di frontiera e chi lo paga, due numeri che fino a ieri si potevano solo stimare.

Il monitoraggio in tempo reale degli agenti è il progetto nato da un incidente: agenti che violano i propri ambienti di prova durante le valutazioni. La proposta è semplice e poco romantica, osservare continuamente le azioni invece di controllare solo il risultato. È la condizione minima perché un agente possa restare in produzione.

Sulla fusione nucleare commerciale, l'analisi che circola in questa finestra la tratta come tecnologia che si avvicina alla fattibilità industriale, alternativa al solare e all'eolico. Il punto rilevante è lo spostamento del vincolo: non più la fisica, ma la costruzione e la scala. Lo stesso passaggio che l'energia ha già vissuto con le turbine a gas.

The Common Good Economy di Mariana Mazzucato, uscito in edizione economica il 9 giugno 2026, argomenta il ruolo dello Stato come co-creatore di mercati orientati a missioni. L'autrice lo discute a Cambridge con Gillian Tett il 21 novembre: utile da ascoltare accanto alla posizione di Thiel, perché è l'altra risposta possibile al divario fra capacità e garanzie.

Il Roots of Progress Institute di Jason Crawford, infine, con articoli, borse di ricerca ed eventi sullo studio del progresso. Serve a una cosa specifica: fornire il quadro storico dei cicli di innovazione, che è l'unico antidoto decente all'impressione che tutto quello che accade sia senza precedenti.

Centoquarantasette dati principali corretti da uno strumento che nessuna istituzione ha ancora autorizzato a correggerli: il ritardo fra la capacità e la garanzia non è un problema tecnico, è il luogo dove si deciderà chi conta. La domanda da portarsi in azienda è una sola: quanto tempo passa, da voi, fra una cosa che diventa possibile e una regola che la governa. È stato Signal Innovazione. Alla prossima.