La frattura su cosa sia l'intelligenza

La frattura su cosa sia l'intelligenza

Non si discute più di quando arriverà l'AGI, ma di cosa stia davvero costruendo questo settore. E nessuno è più d'accordo.

Per anni la domanda è stata una sola: quando arriva. Quando le macchine diventeranno intelligenti come noi, o più di noi. Ci si divideva sulle date, non sul resto. Poi, nelle ultime settimane, qualcosa si è spostato sotto i piedi di tutti. Le stesse persone che guidano questo settore hanno smesso di litigare sui tempi e hanno cominciato a litigare su una cosa più profonda, e più scomoda. Non più "quando". Ma "cosa, esattamente, stiamo costruendo". È qui che comincia Signal Brief di oggi.

Cominciamo da un uomo che ha tutte le ragioni per difendere la strada che lui stesso ha tracciato, e che invece ha deciso di dire che quella strada è finita.

Ilya Sutskever è stato uno degli architetti dell'idea che ha dominato gli ultimi cinque anni: più dati, più potenza di calcolo, e i modelli migliorano. Una formula quasi meccanica. In queste settimane l'ha smontata con una frase secca: i dati sono finiti, c'è un solo internet, e l'addestramento così come lo conosciamo è finito. Detto da chiunque altro sarebbe una provocazione. Detto da lui, è come se l'ingegnere che ha progettato il motore a vapore annunciasse che il vapore non porterà più lontano. Il problema, dice, non è più la potenza. Sono le idee.

Tenete a mente questa immagine, perché racconta il filo di oggi meglio di qualsiasi definizione. Fino a ieri il disaccordo era tra chi stava dentro la scommessa e chi la criticava da fuori. Ora la crepa è dentro casa.

E mentre Sutskever dice che la vecchia ricetta è esaurita, gli altri non sono nemmeno d'accordo su cosa quella ricetta avrebbe dovuto produrre. Come già osservato ieri, c'è chi dichiara che l'intelligenza artificiale generale è già arrivata e chi la colloca fra qualche anno. Ma il vero spostamento è un altro. Non stanno più discutendo del calendario. Stanno discutendo di cosa sia l'intelligenza. Per uno è qualcosa che hai già in mano. Per un altro è una cosa che i modelli linguistici, per come sono fatti, non avranno mai, perché indovinano la parola successiva ma non capiscono il mondo fisico. Per un terzo è una capacità precisa, misurabile, e oggi semplicemente assente. Tre persone competenti che guardano la stessa macchina e vedono tre cose diverse.

È successo altre volte nella storia. Quando arrivò l'elettricità nelle fabbriche, per un po' nessuno sapeva davvero cosa fosse quella cosa nuova: una versione migliore del motore a vapore, o un principio completamente diverso che avrebbe ridisegnato l'intero edificio. Ci vollero decenni per capire che era la seconda. Siamo in un momento simile. E quando non sai cosa hai in mano, ogni regola che provi a scrivere per governarlo nasce già provvisoria.

Su questo terreno incerto galleggia però una cosa concreta, e qui le voci tornano vicine. L'era degli agenti, dei programmi che agiscono da soli e non si limitano a rispondere, è già operativa. Lo si vede nel lavoro vero. Ma proprio qui spunta la domanda più interessante per me, e arriva da François Chollet: questa nuova potenza non solleva tutti allo stesso modo. Chi ha già la testa per decidere, guadagna ancora. Chi è abituato a subire, perde ancora di più. Non è uno strumento che livella. È uno strumento che divide.

E intanto la sicurezza, quella parola che fino a poco fa era una categoria a sé, si sta sciogliendo dentro un altro discorso: la gara con la Cina. Sam Altman l'ha detto al Congresso quasi senza giri di parole. Gli Stati Uniti devono guidare, fare i modelli migliori e renderli sicuri. Ma quando metti la sicurezza dentro la corsa geopolitica, smette di essere un freno e diventa un argomento per accelerare. Teniamo insieme questi tre fili: cosa sia l'intelligenza, chi guadagna dagli agenti, e cosa voglia dire ancora "sicurezza". Sono la mappa di oggi.

Torniamo per un momento su Ilya Sutskever, perché merita di essere guardato da vicino. È uno dei nomi che hanno fatto la storia recente di questo campo: tra i cervelli dietro i sistemi che hanno spinto l'addestramento su scala enorme. Per anni la sua scommessa è stata la più semplice e la più potente: ingrandisci tutto, e funziona.

Il gesto delle ultime settimane è proprio il rovesciamento di quella scommessa. Sutskever ha periodizzato la storia recente come un racconto in tre atti. Gli anni della ricerca pura. Poi gli anni dello scaling, dal 2020 al 2025, quando bastava aggiungere benzina. E adesso, dice, si apre una terza fase, dove bisogna tornare a cercare idee nuove, perché la benzina è quasi finita.

Per spiegare cosa non va nei modelli di oggi racconta una scena quasi comica. Un programma che corregge un errore nel codice, e così facendo ne introduce un altro. Poi corregge quello, e reintroduce il primo. In loop, all'infinito. Bravissimo nei test, fragile nella vita vera. È un'immagine che resta, perché tutti abbiamo conosciuto qualcuno che sa rispondere a ogni domanda d'esame e poi si perde davanti a un problema reale.

La diagnosi di Sutskever è che a questi sistemi manca qualcosa che noi abbiamo per natura. Una specie di bussola interna. Gli esseri umani imparano bene perché l'evoluzione ci ha messo dentro le emozioni, che funzionano come un sistema di valutazione automatico: questo va bene, questo no. Le macchine attuali non hanno niente del genere. E senza quella bussola, dice, puoi ingrandirle quanto vuoi, ma non impareranno mai davvero.

Il collegamento col filo di oggi è diretto. Sutskever non sta dicendo "ci vorrà più tempo". Sta dicendo che stavamo costruendo la cosa sbagliata, o almeno la stavamo costruendo nel modo sbagliato. È il disaccordo sulla natura, non sui tempi. E quando a dirlo è chi quella natura l'aveva definita, il peso è diverso.

La cosa che mi colpisce è il tono. Non c'è trionfo, non c'è panico. C'è la sobrietà di chi ammette che la mappa che aveva disegnato non porta dove pensava. Nella scienza succede di rado che qualcuno smonti il proprio lavoro mentre è ancora in cima. Di solito quel compito tocca alla generazione dopo. Qui l'ha fatto lui, adesso.

Se Sutskever dice che la vecchia formula è esaurita, François Chollet è quello che da anni cerca di dimostrare, numeri alla mano, cosa quella formula non riesce proprio a fare.

Chollet è un ricercatore noto per una cosa precisa: ha costruito un test. Non un test qualsiasi, ma uno pensato apposta per misurare la differenza tra sapere tante cose e saper ragionare su qualcosa di nuovo. A marzo ne ha lanciato la terza versione. E qui sta il gesto concreto da raccontare. Non sono i soliti indovinelli fissi. Sono centinaia di piccoli giochi originali, fatti a mano, senza istruzioni e senza obiettivo dichiarato. Ti mettono davanti e devi capire le regole giocando, come un bambino davanti a un gioco mai visto.

Il risultato al lancio è il cuore di tutto. Gli esseri umani: cento per cento. I modelli più avanzati al mondo: sotto l'uno per cento. Non un po' indietro. Praticamente a zero.

Chollet ne ricava una distinzione che vale la pena tenere. Da una parte c'è la conoscenza accumulata, tutto quello che hai studiato e memorizzato: in questo i modelli sono campioni. Dall'altra c'è la capacità di arrangiarti davanti a qualcosa che non hai mai visto, di costruire una regola al volo. È questa seconda cosa che il suo test misura, ed è qui che le macchine crollano. E nessuna quantità di potenza in più, dice, risolve il problema. Perché è un problema di tipo, non di quantità.

Ma la sua osservazione più interessante di queste settimane è un'altra, ed è quella che ho già anticipato. Chollet l'ha messa in una riga sola: chi usa questi strumenti partendo già passivo diventa ancora più passivo, chi li usa partendo attivo diventa ancora più capace. L'intelligenza artificiale come amplificatore che non pareggia, ma allarga le distanze.

È un pensiero che sposta il discorso fuori dal solito binario sicurezza contro capacità. Perché parla di noi, non delle macchine. Mi ricorda quello che successe con i primi grandi strumenti di calcolo negli uffici: chi sapeva già porre le domande giuste divenne molto più potente, chi si limitava a digitare numeri divenne sostituibile. Lo strumento non decide da solo chi solleva. Riflette e ingrandisce quello che già c'è. E se ha ragione Chollet, la stessa cosa che chiamiamo progresso sta silenziosamente dividendo le persone in due, secondo una linea che esiste già prima della tecnologia.

Da chi misura l'intelligenza passiamo a chi ne ha già tratto le conseguenze pratiche, nel modo più brutale: licenziando.

Jack Dorsey è uno dei fondatori di Twitter e oggi guida Block, l'azienda dietro Square e Cash App, strumenti di pagamento usati da milioni di piccoli commercianti. Non è un teorico. È un imprenditore che prende decisioni e le mette a bilancio.

La decisione, in questo caso, è stata enorme. A inizio anno Block ha tagliato il quaranta per cento del personale: da circa diecimila persone a seimila. E la cosa che rende questo gesto un segnale, più che una notizia di cronaca aziendale, è come l'ha spiegato Dorsey. Niente eufemismi sul "ottimizzare" o "ristrutturare". Ha indicato direttamente gli strumenti di intelligenza artificiale come causa strutturale. Il loro programma interno, racconta, ha reso gli ingegneri più produttivi del quaranta per cento in pochi mesi. Quindi serve meno gente. È il dirigente più esplicito del settore nel dire ad alta voce quello che molti pensano e pochi mettono per iscritto. E la borsa l'ha premiato, con un balzo del titolo.

Qui il collegamento col filo di oggi diventa concreto e un po' freddo. Ricordate l'idea di Chollet, l'amplificatore che divide? Block è quella teoria diventata busta paga. Gli ingegneri che restano sono i più capaci di guidare gli agenti, e diventano più potenti. Gli altri non ci sono più. L'asimmetria di cui parla Chollet, qui, ha un numero preciso: quattromila persone.

Vale la pena fermarsi un secondo su cosa significa. Per tutta l'epoca del software, la regola non scritta era che la tecnologia creava più lavoro di quanto ne distruggesse: nuovi ruoli, nuove aziende, nuovi mestieri che prima non esistevano. Dorsey sta scommettendo, soldi veri sul tavolo, che stavolta la regola non vale. Che gli strumenti non liberano persone per fare altro, ma le tolgono e basta.

Non so se abbia ragione. È successo tante volte che le previsioni di lavoro distrutto si siano rivelate sbagliate, perché il lavoro si è semplicemente spostato altrove. Ma la differenza, stavolta, è che a fare la previsione non è un economista. È uno che firma i licenziamenti. E quando chi ha la mano sulla leva agisce invece di prevedere, conviene guardare con attenzione.

C'è un'ultima voce che voglio aggiungere oggi, perché sposta lo sguardo dalle macchine alle stanze dove si decide. Ed è una voce tornata dal silenzio.

Mira Murati per anni è stata uno dei nomi tecnici più importanti di OpenAI. Poi, dopo le turbolenze ai vertici di quella società, è sparita dai radar per circa diciotto mesi. A inizio giugno è riapparsa in pubblico, a una grande conferenza tech a San Francisco, per presentare la sua nuova impresa.

La parte tecnica del suo intervento è affascinante, ma quello che parla davvero al filo di oggi è la sua diagnosi sulla governance, cioè su chi e come dovrebbe tenere le redini di questa tecnologia. Murati ha detto una cosa controcorrente. Il settore, sostiene, è ossessionato dal carattere dei singoli capi: questo è affidabile, quello no, di chi ci possiamo fidare. È la domanda sbagliata. Il problema vero non sono le persone, sono i controlli. Mancano i meccanismi solidi che, a prescindere da chi comanda, impediscano alle cose di andare fuori strada. E lo dice chi quelle stanze le ha viste da dentro, nel momento in cui sono andate in tilt.

Qui il filo di oggi si chiude su se stesso. Ricapitoliamo un attimo dove siamo. Abbiamo visto che nessuno è d'accordo su cosa sia l'intelligenza che stiamo costruendo. Abbiamo visto che gli strumenti che funzionano dividono le persone invece di unirle. E adesso Murati aggiunge il pezzo finale: le istituzioni che dovrebbero governare tutto questo non sono attrezzate. Non perché ci siano cattivi al comando, ma perché la struttura stessa è vecchia rispetto alla velocità delle cose.

C'è chi va oltre. Un altro nome di primo piano del settore stima oltre il sessanta per cento di probabilità che entro pochi anni la ricerca sull'intelligenza artificiale diventi quasi completamente automatica, cioè che le macchine migliorino se stesse senza quasi più mani umane nel processo. Se anche solo metà di questo è vero, il tempo per scrivere regole calme e meditate, semplicemente, è già scaduto.

È la stessa sensazione di quando le ferrovie attraversarono l'Europa più in fretta di quanto i parlamenti riuscissero a scrivere le leggi sui binari. La tecnologia correva, le regole inseguivano. Solo che allora il treno andava a cinquanta all'ora. Stavolta la corsa è un'altra.

Qualche progetto da tenere d'occhio, e non a caso parlano tutti la stessa lingua del racconto di oggi: capire come funziona davvero questa intelligenza, e tenerne un pezzo nelle proprie mani invece di affidarlo a un padrone lontano.

ARC-AGI, di François Chollet: in crescita continua. È proprio il banco di prova di cui parlavamo, quello che misura la differenza tra sapere e ragionare.

nanochat, di Andrej Karpathy: in crescita continua. Un modo per costruirsi in piccolo, da soli, un sistema simile a quelli grandi, per capirne le viscere.

llm, di Simon Willison: in crescita continua. Uno strumento semplice per parlare con i modelli dal proprio computer, senza intermediari.

llama.cpp, di Georgi Gerganov: in crescita continua. Il progetto che ha reso possibile far girare modelli potenti su una macchina normale, sul tavolo di casa, non in un capannone grande come una città.

superpowers, di obra: in crescita continua. Un modo per dare ai propri assistenti digitali capacità nuove, componibili a pezzi.

Il filo che li lega è quello di sempre, in questi mesi: da una parte ci sono fabbriche di calcolo enormi e chiuse, dall'altra una folla di persone che vuole capire e tenere in mano lo strumento. Questi progetti stanno tutti da quella seconda parte. E in un momento in cui nessuno è d'accordo su cosa sia l'intelligenza, poterla smontare sul proprio tavolo non è un dettaglio da poco.

Resta l'immagine dell'ingegnere che smonta il proprio motore mentre è ancora in cima alla salita. Per anni abbiamo chiesto a queste persone quando saremmo arrivati. Forse la domanda giusta, oggi, è un'altra: arrivati dove. Perché quando chi costruisce la strada non sa più dire dove porta, il viaggio diventa di colpo molto più interessante, e un po' più serio. È stato Signal Brief. Alla prossima.