C’è un momento preciso in cui la soddisfazione di vedere un pull request approvato si trasforma in un brivido di puro terroce nei solchi dello stomaco. È quel momento in cui ti rendi conto che la funzione che hai appena pushato è stata generata da un LLM e, onestamente, non hai la minima idea di cosa stia succedendo dentro quel loop di trecento righe.
Recentemente, un ingegnere di Meta ha lanciato un monito che ha fatto esplodere i commenti su Hacker News. Il succo è questo: la velocità con cui l’AI scrive codice sta rendendo impossibile l’ispezione manuale di ogni singola riga. Se vogliamo stare al passo con i ritmi frenetici del deployment moderno, dobbiamo accettare l’idea di gestire sistemi che sono, a tutti gli effetti, delle black box. Sappiamo cosa dovrebbe fare il sistema a livello macroscopico, ma il dettaglio granulare? Quello è diventato un mistero sepolto sotto strati di predizioni statistiche.
Per noi che siamo cresciuti con la filosofia del ‘se non lo capisco, non lo scrivo’, questa è una violazione dei diritti fondamentali dello sviluppatore. È un po’ come se un meccanico ti dicesse che la tua macchina va veloce perché «il modulo computazionale ha deciso così», senza poterti spiegare come funziona la distribuzione della coppia alle ruote. La tentazione di delegare la parte noiosa è enorme, certo, ma il rischio è quello di trasformarci da ingegneri a semplici ‘validatori di output’.
Certo, qui in Italia non che la velocità di rilascio sia la nostra priorità assoluta (spesso siamo troppo impegnati a discutere se il bug sia colpa del server o del meteo), ma la questione è universale. Se smettiamo di capire il ‘perché’ dietro una riga di codice, stiamo solo accumulando debito tecnico con interessi altissimi. Un domani, quando un edge case assurdo farà esplodere la produzione alle tre di notte, non avremo un debugger, avremo solo un prompt da scrivere sperando che l’AI si scusi e risolva.
Il problema non è l’uso dello strumento, che tra l’altro può essere una bomba per la produttività, ma lo spostamento del paradigma mentale. Stiamo passando dal costruire strutture solide al curare flussi di dati generati da altri. È un’evoluzione affascinante, ma se non stiamo attenti, finiremo per vivere in un mondo di software ‘magico’ dove l’unica cosa che capiamo è il tasto ‘Deploy’. E ragazzi, fidatevi: la magia senza controllo è solo il preludio a un crash epocale.
Source: Ask HN: How to deal with shipping AI-written code you don't understand?