Immaginate di risolvere una sfida epica in un gioco soulslike, tipo Elden Ring, ma senza aver mai imparato le meccaniche di base, senza capire il pattern dei boss e, soprattutto, senza poter nemmeno spiegare ai vostri amici come avete fatto. Avreste vinto la partita? Tecnicamente sì, ma il senso della sfida è andato a farsi benedire.
È esattamente questo il dramma che una vera ‘legione’ di matematici (parliamo di una lista di nomi che farebbe sembrare il reparto R&D di Google un gruppo di dilettanti, tra cui una marea di vincitori della Medaglia Fields) ha sollevato recentemente. Il punto non è che i Large Language Models (LLM) stiano diventando bravi a risolvere problemi matematici complessi. Quello è pure figo, per carità. Il problema è il ‘misalignment’, ovvero il disallineamento tra l’obiettivo delle big tech e quello della scienza.
Per le aziende che pompano miliardi in questi modelli, il successo è il ‘benchmark’: la macchina deve sputare fuori il risultato corretto, un output ‘true/false’ che faccia notizia sui social e faccia salire le azioni. Ma la matematica non è una funzione booleana. La matematica è un processo di esplorazione. È capire le strutture, creare nuovi linguaggi, discutere, sbagliare, e infine scrivere un paper che un laureato possa leggere e comprendere.
Gli autori del manifesto avvertono che stiamo assistendo a una produzione di massa di ‘soluzioni’ che arrivano senza contesto, senza citazioni e senza quel processo di ‘digestione’ intellettuale che serve a rendere una scoperta parte del canone umano. È come se avessimo un traduttore automatico che ti dà la risposta corretta a un libro in sanscrito, ma non ti spiega la grammatica, né la cultura, né il senso della storia. Alla fine, avresti solo una stringa di testo corretta, ma zero conoscenza.
C’è il rischio concreto che l’automazione del risultato uccida l’automazione del pensiero. Se l’IA si limita a fornire la risposta finale, saltando tutta la fase di ‘comprensione profonda’, stiamo smantellando proprio le fondamenta su cui costruiamo la tecnologia stessa. Non stiamo solo parlando di matematica; il rischio è che questo approccio ‘black box’ si estenda a ogni disciplina scientifica e creativa.
Non sono un ludista e non sto dicendo di spegnere i server e tornare alle tavolette di argilla. L’IA può essere un acceleratore pazzesco, un assistente che ci aiuta a esplorare territori inimmaginabili. Ma dobbiamo assicurarci che lo strumento rimanga tale e non diventi il sostituto del processo cognitivo. Perché se alla fine del giorno avremo solo risposte corrette senza sapere il perché, saremo solo spettatori passivi di un progresso che non apparteniamo più.