Il mestiere che si riscrive da solo

Il mestiere che si riscrive da solo

Programmare cambia pelle, la paura si sposta dalla macchina al potere che la concentra, e l'ultimo lavoro umano diventa verificare.

In una sala a Singapore, a metà giugno, un uomo che per anni aveva parlato di codice e protocolli si è messo a parlare di chiavi private e di sovranità. Non è un episodio isolato, è il segno di uno spostamento. Questo è Signal Brief, oggi è il diciotto giugno, e la storia della giornata non comincia da una macchina più potente. Comincia da un mestiere che si sta riscrivendo sotto i piedi di chi lo pratica. Partiamo da una confessione.

La confessione è di Andrej Karpathy, uno dei nomi più rispettati del settore, uno che il codice lo ha insegnato a mezzo mondo. In un messaggio pubblico ha scritto di non essersi mai sentito così indietro come programmatore. Non è una battuta modesta. È il sintomo di qualcosa che sta attraversando tutta la professione, e la cosa più interessante per me è proprio il tono: non è trionfo, è smarrimento.

Perché il punto non è che il software vada più veloce. Il punto è che il software classico, quello scritto riga per riga da una persona, sta andando in liquidazione. Lo dice secco Naval Ravikant, che in una serie di conversazioni di fine maggio ha ripetuto una frase che suona come un rovesciamento: per anni si è detto che il software si mangiava il mondo, adesso è l'intelligenza artificiale che si mangia il software. E lo conferma, da tutt'altra parte, l'ultima persona da cui te lo aspetteresti: David Heinemeier Hansson, il padre di Rails, uno che ha sempre difeso il codice scritto a mano, adesso lavora lasciando che siano gli agenti a scrivere quasi tutto.

Vale la pena fermarsi su questa immagine, perché ne abbiamo già viste di simili. Quando arrivò la stampa, gli amanuensi che copiavano i libri a mano non sparirono in un giorno. Ma il terreno si mosse sotto di loro. Il valore non stava più nella bella calligrafia, stava nel decidere cosa stampare. È esattamente quello che sta succedendo qui. Chi scriveva codice non diventa inutile, ma il pregio si sposta: non nel produrre, nel decidere e nel controllare.

E qui la storia prende una piega che un anno fa non era così chiara. La paura del settore non è più la macchina in sé. La paura è la concentrazione. Chi controlla questi sistemi, in quante mani finiranno. Naval lo dice con una domanda che resta addosso: se davvero pensi di creare qualcosa di simile a un dio, vuoi che lo crei una sola azienda? È un cambio di registro enorme. Fino a poco fa il dibattito era tecnico, riguardava i ricercatori. Adesso è politico, e quasi tutte le voci importanti sono migrate dall'ingegneria al potere.

Da questa paura nascono due risposte opposte, e le sentiremo tornare per tutta la puntata. Una è dall'alto: regole vincolanti, come chiede Dario Amodei. L'altra è dal basso: un'intelligenza artificiale personale, privata, che gira sul tuo computer e non risponde a nessuno. È la strada di Balaji Srinivasan, ed è la scena di Singapore da cui siamo partiti.

E sotto tutto questo, una promozione silenziosa dell'essere umano. Se la macchina esegue, all'uomo resta una cosa sola: verificare. Come già osservato ieri, il giudizio è diventato l'ultimo territorio nostro. Oggi quel territorio ha persino un nome economico. Ma per arrivarci, partiamo dalle persone che questa settimana hanno fatto qualcosa di concreto.

Andrej Karpathy, dicevamo. Per orientarsi: è stato tra i fondatori di OpenAI e poi a capo dell'intelligenza artificiale in Tesla, e quando parla di come si scrive il software, in molti prendono appunti.

Il diciannove maggio ha fatto una mossa che da sola racconta la direzione del vento. Ha chiuso il suo progetto educativo e si è unito ad Anthropic, nel gruppo che si occupa di addestrare i modelli. Lo scopo dichiarato è quasi vertiginoso: usare Claude per accelerare la ricerca su Claude stesso. Esperimenti più rapidi, miscele di dati migliori, architetture più efficienti. La macchina che aiuta a costruire la prossima macchina. È il filo che avevamo già seguito ieri, quello del delegare la ricerca alle macchine, che qui prende corpo dentro un'azienda vera.

Pochi giorni dopo, sul palco di una conferenza, ha messo una data sul suo cambiamento personale: dicembre dell'anno scorso. Da quel momento ha smesso di scrivere circa l'ottanta per cento del proprio codice. Lo affida agli agenti. La formula che ha usato è precisa: una certa moda del programmare a sensazione ha alzato il pavimento, l'ingegneria fatta di agenti alza il soffitto. E poi una tesi che fa discutere: la maggior parte delle applicazioni che usiamo oggi, ha detto, non dovrebbe nemmeno esistere. Ha raccontato di una piccola app per fotografare i menu dei ristoranti e vedere i piatti: è diventata inutile nel giro di settimane, quando un modello ha imparato a farlo da solo, senza che nessuno scrivesse niente.

È un pensiero radicale, e mi sembra che dica più di quanto sembri. Per quarant'anni il software è stato istruzioni precise date a una macchina ottusa. L'idea di Karpathy è che stiamo passando a qualcosa di diverso: spiegare a parole a un interprete cosa vogliamo, e lasciare che capisca lui i dettagli. È la differenza tra dettare ordini a un esecutore e affidare un compito a un collaboratore.

Ecco perché la sua confessione di sentirsi indietro non è falsa modestia. Chi ha passato la vita a perfezionare il primo mestiere si ritrova bravissimo in qualcosa che sta perdendo valore. E deve reimparare daccapo. È lo smarrimento di chi sa benissimo cosa sta succedendo, e proprio per questo non riesce a fingere che sia tutto sotto controllo.

Dall'altra parte di questa storia c'è chi nega che la strada attuale porti davvero da qualche parte. E qui la persona da seguire è Yann LeCun, per dodici anni il capo scienziato dell'intelligenza artificiale di Meta, uno dei padri delle reti neurali moderne.

A novembre ha lasciato Meta. A marzo la sua nuova impresa parigina ha chiuso un finanziamento iniziale da poco più di un miliardo di dollari, il più grande mai visto in Europa per una startup appena nata. E i soldi servono a finanziare una convinzione che LeCun ripete dal duemilaventidue: i modelli linguistici di oggi non ragionano. Recuperano informazioni, le ricombinano bene, ma non si costruiscono dentro un'immagine di come funziona il mondo. Per lui un sistema che voglia davvero pianificare deve prima imparare a prevedere le conseguenze delle cose, e questo i modelli attuali non lo sanno fare. La sua alternativa, su cui i suoi gruppi hanno appena pubblicato due studi, prova a far imparare alla macchina il senso di una scena invece dei suoi dettagli di superficie.

Il diciassette giugno, a una grande fiera tecnologica a Parigi, ha aggiunto il tassello politico. Ha tenuto un discorso a favore di un'intelligenza artificiale sovrana: ogni Stato dovrebbe avere la propria, invece di dipendere da pochi padroni stranieri. È la stessa paura della concentrazione di cui parlavamo, vista dall'alto delle nazioni.

E qui c'è il paradosso che secondo me è il dettaglio più gustoso della settimana. I tre critici più feroci dell'idea che questi modelli ragionino, LeCun, François Chollet e Ilya Sutskever, sono anche i tre che hanno appena raccolto montagne di denaro per costruire l'alternativa. Chollet con il suo laboratorio nuovo, Sutskever con un'impresa valutata decine di miliardi che però non ha ancora prodotto nulla. Negare la strada di tutti e farsi finanziare per aprirne un'altra: è una scommessa coerente, ma resta il fatto curioso che lo scetticismo, oggi, è diventato un ottimo modello di business.

Torniamo a Singapore, alla scena da cui siamo partiti. L'uomo sul palco era Balaji Srinivasan, ex dirigente di una grande società di criptovalute, un pensatore che da anni immagina futuri alternativi. Al SuperAI Conference, tra il dieci e l'undici giugno, ha messo in fila la sua risposta alla paura della concentrazione, e l'ha condensata in tre parole: personale, privata, programmabile.

L'idea è concreta. Un modello che gira sul tuo computer, i tuoi file che restano tuoi, le tue chiavi che restano tue. Nessun server centrale a cui chiedere il permesso. Tu calcoli in casa, e con la rete di cui ti fidi scambi pacchetti cifrati. È l'esatto opposto del mondo in cui tutto passa per i computer di tre o quattro aziende.

C'è anche una parte più inquietante, ed è interessante perché ribalta un entusiasmo. Per Balaji l'intelligenza artificiale renderà tutto falso: testi, voci, volti, ovunque, in quantità infinita. La sua frase è netta: l'intelligenza artificiale rende tutto finto, la crittografia lo rende di nuovo vero. La firma digitale diventa il modo per dimostrare che dietro un contenuto c'è davvero qualcuno, magari persino un essere umano. Dentro la cerchia fidata l'intelligenza lavora libera. Fuori, c'è un muro di rumore, e serve una prova per distinguere il vero dal falso.

Ricapitoliamo un attimo dove siamo, perché i fili sono tre e conviene tenerli insieme. Primo: il mestiere di programmare si sta riscrivendo, e chi lo conosce meglio è il più spaesato. Secondo: la paura si è spostata dalla macchina alla concentrazione del potere, e a quella si risponde o con le regole dall'alto o con l'intelligenza personale dal basso. Terzo, ed è quello che ci manca: cosa resta da fare agli esseri umani. Per questo serve l'ultima persona.

L'ultima persona è Jack Clark, che lavora alle politiche di Anthropic e ogni settimana scrive una newsletter molto letta nel settore. È uno che guarda i numeri prima di emozionarsi, e proprio per questo i suoi allarmi pesano.

Nelle ultime due uscite, dell'otto e del quindici giugno, ha messo due cose sul tavolo. La prima: dentro Anthropic nel duemilaventisei si genera otto volte più codice rispetto a qualche anno fa. Per lui è un segnale che la fase in cui i sistemi cominciano a migliorare se stessi, di cui parlavamo già ieri, non è più una previsione, è già cominciata. La seconda è un titolo che non lascia spazio: l'allineamento non è sulla buona strada. Tradotto: la capacità di questi sistemi corre più veloce della nostra capacità di capirli e tenerli sotto controllo. Per questo è nato Sequent, una nuova organizzazione senza scopo di lucro dedicata proprio a questo, e Clark la presenta come una risposta urgente ma in ritardo.

Ma l'idea sua più originale è un'altra, ed è quella che chiude il cerchio della giornata. La chiama economia del livello di verifica. Funziona così: man mano che la macchina si prende l'esecuzione, gli esseri umani si spostano verso il controllo. Verificare che il risultato sia giusto, che non ci siano rischi, che ci si possa fidare. Nasce una domanda nuova, un intero strato di lavoro fatto di fiducia attorno a tutto ciò che la macchina produce.

È lo stesso pensiero che ritorna in mezza dozzina di voci diverse, ognuna a modo suo. Simon Willison costruisce strumenti dove l'agente si ferma e chiede il permesso prima di fare qualcosa di irreversibile. Vitalik Buterin propone di accoppiare l'intelligenza artificiale, che produce codice in quantità, con vecchi metodi matematici che ne dimostrano la correttezza: la macchina dà volume, la verifica restituisce precisione. E Naval lo dice nel modo più asciutto: l'uomo verifica, non crea.

Mi colpisce che da strade così diverse, la criptografia, la matematica, la filosofia degli affari, si arrivi tutti alla stessa casa. È il segno che non è una moda passeggera. È dove sta andando il baricentro del lavoro umano.

Qualche progetto da tenere d'occhio, tutti in crescita costante da settimane, e tutti curiosamente in linea con i fili di oggi.

C'è autoresearch di Karpathy, in continua crescita: lo abbiamo già citato ieri, è l'idea della macchina che fa ricerca da sola, e oggi suona ancora più centrale.

C'è nanochat, sempre di Karpathy, in continua crescita: un modo per costruirsi un piccolo modello da soli, in casa. È lo spirito del fai-da-te, lo stesso che muove l'intelligenza personale di Balaji.

C'è llm di Simon Willison, in continua crescita: lo strumento di chi vuole comandare questi modelli dal proprio computer, alle proprie condizioni.

C'è llama punto c c di Georgi Gerganov, in continua crescita: è il pezzo che permette di far girare i modelli su una macchina normale, senza data center. Il cuore tecnico di tutta l'idea di portarsi l'intelligenza in casa.

E c'è ARC AGI di François Chollet, in continua crescita: la serie di test pensati per misurare se una macchina ragiona davvero o fa solo finta. Detto da chi sostiene che non ragioni, è un termometro onesto, ed è esattamente il fronte su cui si combatte la grande discussione di queste settimane.

Cinque progetti, una sola direzione: portare l'intelligenza vicino a chi la usa, e tenere un modo per misurarla e fidarsene. Gli stessi due bisogni, controllo e verifica, che attraversano tutta la puntata.

Resta addosso l'immagine di partenza: uno dei più bravi programmatori del mondo che confessa di sentirsi indietro. Non è una sconfitta, è il rumore di un mestiere che cambia pelle, come gli amanuensi davanti alla stampa. La macchina prende l'esecuzione, a noi resta il giudizio. La domanda aperta non è più cosa sappiamo costruire, ma di chi ci fidiamo per verificarlo. È stato Signal Brief. Alla prossima.