
Avete presente quel momento in cui un sistema complesso, che dovrebbe essere solido come una roccia, decide improvvisamente di andare in loop infinito senza un motivo apparente? Ecco, benvenuti nel presente.
Recentemente abbiamo assistito a una serie di blackout che avrebbero fatto impallidire un cattivo di un film di serie B: da Microsoft 365 ai sistemi di controllo del traffico aereo, fino a colpire i giganti del settore. E la spiegazione ufficiale? «Non sono collegati, non è un attacco hacker, non è colpa dell’IA generativa». Ma se non è l’una, non è l’altra, cos’è? Un miracolo della fisica quantistica?
La verità è molto meno magica e molto più deprimente. Il problema non è il codice, ma chi lo scrive e lo mantiene. Come scrive un interessante post su Hacker News, il mondo regge perché esistono persone intelligenti a cui «importa davvero». Persone che non si limitano a fare il task assegnato, ma che scavano nel kernel, che capiscono i glitch dei sistemi legacy (tipo l’ACH bancario, che è un reperto archeologico che però funziona per miracolo) e che intervengono manualmente quando la logica standard fallisce.
Il dramma è che il management moderno sta cercando di sostituire questo ‘tocco umano’ con la promessa (spesso illusoria) dell’IA. L’idea è: «Perché pagare un ingegnere che si lamenta, chiede ferie e conosce troppo i dettagli, quando posso usare un modello che genera codice, non dorme mai e dice esattamente quello che voglio sentire?».
Il problema è che l’IA non sa cosa significhi ‘preoccuparsi’. L’IA non nota l’edge case che sta per far esplodere il cluster di produzione. L’IA produce output, non soluzioni. E mentre cerchiamo di automatizzare la responsabilità, stiamo svuotando di significato il lavoro di chi sta in trincea. Ogni volta che un developer viene spinto a fare il babysitter di un LLM invece di progettare architetture solide, perdiamo un pezzetto di quella conoscenza profonda che serve a evitare il collasso totale.
In Italia, dove spesso ci accontentiamo di ‘manutenzione a bassa fedeltà’ o di stratificazioni di software vecchio e mal documentato, questa tendenza è ancora più pericolosa. Se smettiamo di coltivare la competenza tecnica pura per inseguire l’automazione della fuffa, finiremo per trovarci con sistemi che sembrano bellissimi sulla superficie, ma che crollano al primo soffio di vento.
Stiamo toccando un ferro rovente e, purtroppo, stiamo iniziando a sentire l’odore di bruciato. Spero solo che ci sia ancora qualcuno abbastanza sveglio da alzare il carico di lavoro prima che tutto diventi irrimediabilmente offline.
