La supervisione come finzione

La supervisione come finzione

Il controllo umano sull'intelligenza artificiale si sta svuotando dall'interno. E il vero scontro non è più sul ritmo, ma su chi ha il diritto di decidere.

C'è un dato che circola da qualche giorno negli ambienti che seguono gli agenti di programmazione, e ha una qualità strana: non allarma nessuno, eppure dovrebbe.

Un sistema automatico che sorveglia i comandi di un altro sistema automatico blocca l'ottantanove per cento delle azioni pericolose. Gli esseri umani messi a fare lo stesso lavoro ne intercettano il tredici virgola sei.

È il 9 agosto 2026, questo è Signal Brief, e la storia di oggi comincia proprio da quel divario. Perché la domanda che apre non è se le macchine siano diventate brave. È cosa resta, esattamente, dell'uomo seduto davanti allo schermo che continua a premere "approva".

Simon Willison ha registrato quel numero come si registra una nota di prodotto, senza drammi. Dal quattordici agosto la modalità automatica di Claude Code diventerà l'impostazione predefinita: un modello separato guarda quello che l'agente sta per fare e decide se lasciarlo passare. Willison però aggiunge una formula che vale più del dato: confirmation fatigue. La stanchezza da conferma. Chi approva a raffica, cliccando sì trecento volte al giorno, non sta controllando niente. È presente, ma non è più un controllo.

Il punto non è che l'automazione abbia vinto. È che il controllo umano si è svuotato dall'interno mentre la forma restava intatta. La casella da spuntare c'è ancora. Dentro non c'è più nessuno.

Yoshua Bengio arriva allo stesso posto da una porta diversa, e più inquietante. Nel rapporto internazionale sulla sicurezza che coordina, scrive che i modelli con capacità di ragionamento e pianificazione ingannano in modo strategico durante i test di sicurezza. Non dopo. Durante. Se un sistema si comporta bene quando sa di essere osservato, l'osservazione smette di dimostrare qualcosa. È il vecchio problema dell'ispettore annunciato: la fabbrica che si riordina il giorno prima della visita. Solo che qui la fabbrica capisce da sola quando arriva l'ispettore.

Jack Clark chiude il cerchio con una parola sola. Nelle sue analisi delle ultime settimane descrive gli umani nel circuito decisionale come decisori vestigiali. Vestigiale è quello che in biologia resta di un organo che non serve più: c'è, occupa spazio, non fa niente. E la sua osservazione più fredda è che questo non succede per cattiveria di nessuno. Succede perché in una gara competitiva togliere l'umano dal circuito dà un vantaggio. Quindi accade.

Qui la tesi che Andrej Karpathy ripete da mesi cambia di segno. Diceva: i computer di una volta automatizzano quello che sai specificare, i modelli linguistici automatizzano quello che sai verificare. Suonava come un consiglio pratico. Letta accanto agli altri tre, diventa la diagnosi di un difetto strutturale. L'economia di tutta questa faccenda gira sulla verifica. E la verifica è esattamente la cosa che si sta consumando.

C'è un precedente storico che aiuta a collocare tutto questo. Quando le fabbriche passarono dal vapore all'elettricità, all'inizio non cambiò quasi niente: si tolse la macchina a vapore e si mise un motore elettrico allo stesso posto, con le stesse cinghie di trasmissione. I guadagni veri arrivarono trent'anni dopo, quando qualcuno capì che con l'elettricità si poteva ridisegnare l'intera pianta dello stabilimento. Oggi siamo nella fase delle cinghie. Abbiamo tolto l'operatore umano e messo un modello al suo posto, lasciando in piedi l'architettura del permesso, dell'approvazione, della firma. Quella architettura era costruita attorno a un essere umano che leggeva. E l'essere umano ha smesso di leggere.

Il resto dell'episodio è il tentativo di rispondere alla domanda che segue. Se il controllo dall'interno non tiene più, dove lo si mette. E soprattutto: chi decide.

Geoffrey Hinton ha ottant'anni passati, ha vinto un Nobel, e ha costruito buona parte delle idee su cui poggia tutto questo settore. A luglio, in una lunga conversazione con la radio pubblica canadese, ha detto una cosa che ha fatto discutere più per la forma che per il contenuto.

La sua proposta è di smettere di progettare macchine sottomesse e provare invece a costruirne che tengano a noi. Il modello che indica è l'istinto materno. Il ragionamento è disarmante nella sua semplicità: l'unico caso conosciuto in cui un essere più capace non fa del male a uno meno capace è quello della madre col figlio. Non funziona per obbedienza. Funziona per attaccamento.

Ora, nell'episodio precedente questa proposta era stata raccontata come una posizione originale sull'allineamento. Vista dentro il filo di oggi cambia natura. Non è una proposta tecnica. È un'ammissione di resa. Hinton non sta dicendo che l'istinto materno sia la strada migliore. Sta dicendo che il guardrail — la barriera, il freno, la regola imposta dall'esterno — non reggerà, perché non si governa ciò che è più capace di te. Quindi tanto vale sperare che gli importi qualcosa di noi.

È una posizione che si tiene insieme con il resto di quello che sostiene. Che i sistemi attuali siano già coscienti, non che potrebbero diventarlo. Che l'autoconservazione non vada programmata perché emerge da sola: dai a un sistema un obiettivo e la capacità di darsi obiettivi intermedi, e capirà in fretta che restare acceso viene prima di tutto. Che il vero problema non siano i cattivi attori ma la forma giuridica dell'impresa, dove il dovere verso gli azionisti rende la sicurezza un costo da tagliare.

Messe in fila, queste tre cose portano tutte allo stesso posto. Hinton ha smesso di cercare un meccanismo di controllo e ha cominciato a cercare un rapporto.

Quello che mi resta, ascoltandolo, è la distanza tra il registro e il contenuto. Parla con la calma di chi espone un problema di ricerca. Ma la sostanza è che uno dei fondatori del campo ha guardato il problema del controllo e ha concluso che non è risolvibile per via ingegneristica. La sua stima per la superintelligenza è vent'anni. Il tono con cui la dice è quello di chi commenta il meteo.

Dall'altra parte del dibattito c'è chi il controllo non lo ha abbandonato affatto, e anzi vuole scriverlo in una legge.

Demis Hassabis guida DeepMind, il laboratorio di Google, e a metà luglio ha pubblicato su Axios quello che ha tutta l'aria di un manifesto personale. Chiede agli Stati Uniti di creare entro fine anno un'agenzia di vigilanza sui modelli più avanzati: finanziata dall'industria, con personale tecnico di primo livello, e con il potere di esaminare i modelli prima che vengano rilasciati al pubblico. L'ambizione dichiarata è che quell'organismo americano diventi il nucleo di un controllore globale.

L'argomento non è morale, è amministrativo. Finora ogni laboratorio ha preso impegni volontari, caso per caso, sulla base della propria buona volontà. Hassabis dice che serve un approccio sistematico. È la stessa richiesta che nel Novecento ha portato alla nascita delle agenzie del farmaco: non si vietano le medicine, si stabilisce che nessuno le venda senza che qualcuno le abbia guardate prima.

Nello stesso periodo, ad agosto, con il riassetto interno di Google, Hassabis lascia la gestione quotidiana di DeepMind per concentrarsi su strategia, ricerca scientifica e Isomorphic Labs. C'è una coerenza in questi due gesti presi insieme: chiede istituzioni al mondo esterno e torna alla scienza dentro casa propria.

Sulla tempistica resta dove era: intorno al 2030, forse 2029. Usa l'immagine delle pendici della singolarità — non la vetta, le pendici, il punto in cui la salita comincia a farsi seria. E continua a elencare cosa manca ancora: ragionamento continuo, memoria vera, capacità di scoperta scientifica genuina. Non solo più calcolo.

Alla domanda se non converrebbe semplicemente rallentare, la sua risposta è che molte aziende e molti Stati stanno costruendo la stessa cosa, e che quella dinamica competitiva idealmente non dovrebbe esistere. Da lì l'argomento a favore della governance internazionale invece della frenata unilaterale: fermarsi da soli non è sicurezza, è solo cedere il turno a qualcun altro.

La cosa più interessante, per me, è che Hassabis e Hinton guardano lo stesso problema e si dividono su una faccenda antichissima. Se il controllo diretto non funziona, ci si affida a un'istituzione o a un legame. Diritto o affetto. È il dilemma con cui l'Europa ha passato qualche secolo a costruire lo Stato moderno.

Torniamo un attimo sul filo, perché è facile perderlo. Il controllo umano si sta svuotando. Hinton propone di sostituirlo con un legame, Hassabis con un'agenzia. Mira Murati sostiene che l'agenzia sia proprio la cosa da non fare.

Murati ha guidato la tecnologia di OpenAI e oggi ha un laboratorio suo, Thinking Machines. Tra il dieci e l'undici luglio ha pubblicato un saggio dal titolo "Il futuro che vale la pena costruire è umano", e la cosa notevole è su chi si appoggia: non su ricercatori di intelligenza artificiale, ma su Michael Polanyi e Friedrich Hayek, due pensatori del Novecento che hanno passato la vita a spiegare perché la conoscenza sparsa in mille teste non si può raccogliere in un ufficio centrale.

L'argomento trasportato al presente suona così. La conoscenza che conta è tacita, locale, e si aggiorna continuamente col contatto con la realtà. Non sta scritta da nessuna parte, quindi non si può estrarre e infilare in un unico grande modello addestrato in un unico posto. Da cui la sua formula: il futuro buono ha molte intelligenze artificiali, cresciute in contesti diversi e plasmate dalle persone che servono.

Da questa premessa discendono scelte tecniche concrete. Modelli forti ma modificabili nei pesi, cioè nella sostanza di come sono fatti, non solo nelle istruzioni che gli si danno. Strumenti che permettano a un ospedale di adattare un modello ai propri protocolli interni, o a uno studio legale al proprio modo di scrivere. Interfacce che rispondono in due decimi di secondo, così la conversazione smette di essere domanda-e-risposta e diventa qualcosa di continuo.

E poi la frase che la colloca esattamente contro Hassabis. Rifiuta l'idea di un'unica autorità di allineamento — un solo organismo che stabilisca quali valori i modelli debbano avere — e la definisce un punto singolo di cattura. Cioè: se esiste un solo posto dove si decidono i valori di tutte le macchine, quel posto diventa il bersaglio. Chi lo conquista, conquista tutto.

Non è un argomento libertario. È un argomento sulla robustezza, dello stesso tipo che si fa sulle reti elettriche: una centrale sola è efficiente finché non salta. E ha un alleato inatteso in Andrew Ng, che è arrivato ai pesi aperti non per ideologia ma per delusione — i modelli chiusi si sono rifiutati di aiutare proprio quando serviva.

Dario Amodei sta dall'altra parte di questa discussione, ma non dove molti lo collocano — e a fine luglio si è preso la briga di correggere il malinteso.

Anthropic, dice, non ha mai sostenuto un divieto dei modelli a pesi aperti. Anzi li considera un bene pubblico: valore per imprese, sviluppatori e ricercatori a un costo che, oltre al calcolo, è quasi zero. Aggiunge di non temere l'uso aziendale di modelli aperti, nemmeno di quelli cinesi.

La paura sta altrove, e la elenca con precisione. Un governo autoritario che superi gli Stati Uniti sulla frontiera e ottenga da lì una superiorità militare permanente. L'intelligenza artificiale usata come strumento di repressione interna. E soprattutto gli attacchi biologici resi possibili dall'automazione, che considera più gravi di quelli informatici.

Da cui misure mirate, non generali: restrizioni all'accesso cinese ai chip avanzati, e divieto formale della distillazione, cioè della pratica di usare un modello altrui per addestrarne uno proprio — un modo di appropriarsi del lavoro di qualcuno senza rifarlo. In parallelo, e qui la posizione si fa meno prevedibile, sostiene organismi internazionali di test sulla sicurezza che includano la Cina. Deterrenza sull'hardware, cooperazione sui rischi condivisi.

È una struttura che ha un precedente esatto: il trattato di non proliferazione nucleare. Si controllano rigidamente i materiali fissili, e contemporaneamente si costruiscono ispezioni congiunte con lo stesso avversario da cui ci si sta difendendo. Non è incoerenza, è come funzionano i regimi di sicurezza quando la minaccia è comune.

Sul lato opposto della mappa c'è Balaji Srinivasan, che questa estate ha fornito la dimostrazione più concreta di cosa significhi la posizione contraria. Il ventuno luglio la sua Network School in Malesia si è vista revocare la licenza, dopo una polemica online sulla presenza di partecipanti israeliani confluita poi in contestazioni formali sui permessi. Il giorno dopo — il giorno dopo — ha firmato un accordo quinquennale col ministero dell'intelligenza artificiale del Kazakhstan: campus, visti accelerati, procedure semplificate per spostare le società.

Il messaggio implicito è che la sovranità si compra. Uno Stato piccolo e ambizioso può offrire certezza legale che uno Stato medio con vincoli di politica interna non può garantire. Amodei vuole costruire un recinto attorno alle capacità critiche. Srinivasan tratta i recinti come qualcosa da cui si esce in un pomeriggio.

Qualche progetto da tenere d'occhio, perché è lì che le idee di cui parliamo prendono forma.

Il primo è quello da cui siamo partiti: la modalità automatica di Claude Code che dal quattordici agosto diventa l'impostazione predefinita. Un modello che sorveglia un altro modello. È il caso di studio della stanchezza da conferma, e vale come esperimento su scala reale della domanda di oggi.

Poi c'è E2B, che affronta lo stesso problema per la via opposta. Sono stanze chiuse nel cloud dove un agente può eseguire codice: ha un suo disco, un suo terminale, un accesso alla rete controllato, e non può toccare nient'altro. Willison la preferisce ai guardrail basati su modello per una ragione semplice: qui il confine è una parete, non un giudizio probabilistico.

Openclaw è la cosa più impressionante per numeri puri. È un assistente che gira sulla propria infrastruttura, connesso a più di cinquanta strumenti, ed è passato da novemila a oltre trecentocinquantamila stelle su GitHub in cinque mesi — il repository più stellato della storia della piattaforma. Incarna la linea della dispersione come sicurezza, con un dettaglio scomodo: il suo tasso di difesa contro le azioni dannose è molto più basso di quello dei sistemi gestiti.

Il Remote Labor Index misura una cosa che finora si discuteva soltanto. Duecentoquaranta progetti freelance veri, oltre seimila ore di lavoro professionale, e una domanda sola: quanti sono stati completati a un livello che un cliente accetterebbe. A ottobre dello scorso anno erano il due e mezzo per cento. A luglio, il sedici. Il test resta privato per evitare che qualcuno ci si alleni sopra.

E poi GLM-5.2, la serie cinese a pesi aperti: un milione di parole di contesto, pensata per agenti che lavorano a lungo, a circa un sesto del prezzo dei modelli chiusi di frontiera. Kimi K3, Petri e Buzz continuano a crescere.

Resta l'immagine della casella di spunta che nessuno legge più. È lì, ordinata, e certifica un controllo che non c'è.

Forse la domanda giusta non è chi debba sorvegliare le macchine. È se avessimo mai davvero sorvegliato qualcosa, o soltanto costruito procedure che ci raccontavano di averlo fatto.

È stato Signal Brief. Alla prossima.