Un tempo il vero rischio era che i robot avrebbero preso il controllo del mondo con le armi; oggi il rischio è che lo facciano con la nostra pigrizamente accettata comodità.
È circolata una riflessione interessante su Hacker News che mi ha fatto riflettere mentre cercavo di capire perché il mio script Python continuasse a fallire per una virgola mancante. Il tema è il cosiddetto «offloading» del pensiero alle IA. In pratica, ci stiamo chiedendo se, delegando la logica, la sintesi e persino la creatività a dei modelli linguistici, non stiamo finendo per atrofizzare l’unica cosa che ci rende superiori a un semplice script Bash: la capacità di ragionare in modo autonomo.
Il punto non è criticare la tecnologia — che tra l’altro è una figata atomica quando la usi per automatizzare i task più noiosi — ma riflettere sulla perdita di autonomia. Se smettiamo di masticare problemi complessi perché tanto ‘lo fa l’IA’, cosa ci resta? Diventiamo dei semplici supervisori di output generati da una scatola nera di cui non controlliamo i pesi e non comprendiamo davvero il processo decisionale. È un po’ come smettere di imparare la grammatica perché esiste il correttore automatico: finisce che scrivi frasi che sembrano corrette, ma che non hanno alcuna sostanza o profondità.
Certo, leggendo certe analisi americane, sembra quasi che ci sia un piano orchestrato per renderci tutti dei sudditi digitali. Noi in Italia, tra l’altro, abbiamo già abbastanza complicazioni burocratiche e legali senza dover aggiungere anche il rischio di perdere la capacità di analisi critica. Non è che le leggi che arrivano da Bruxelles o dagli USA ci cambino la vita ogni giorno, ma la filosofia che ci sta dietro — quella della comodità estrema che elimina l’attrito del pensiero — è un virus che sta colpendo tutto il pianeta.
Il pericolo vero è quando l’IA non è più uno strumento per espandere le nostre capacità, ma una stampante per i nostri pensieri. Se usiamo l’IA per scrivere il codice, è genialata. Se usiamo l’IA per decidere *cosa* è giusto scrivere, siamo nei guai. Dobbiamo restare quelli che aprono il terminale, che debuggano, che si chiedono perché quella funzione faccia schifo e che, dopotutto, amano la fatica mentale. Perché la vera intelligenza non è dare la risposta giusta, ma saper porre la domanda che nessuno ha ancora pensato di fare.