Scommetto che tra qualche anno, quando il server principale andrà in kernel panic, la prima cosa che farete non sarà aprire un terminale, ma controllare se l’agent dell’AI ha già inviato un tweet di scuse ai clienti.
Scherzi a parte, c’è una tendenza in atto nel mondo SRE e DevOps che merita una riflessione seria, lontano dai fari dei comunicati stampa patinati. Leggendo le ultime discussioni su Hacker News, emerge un quadro piuttosto inquietante: l’uso dell’AI per gestire l’incident response sta effettivamente abbassando il MTTR (Mean Time To Recovery). Sembra una notizia fantastica, vero? Meno downtime, meno chiamate alle tre di notte, meno panico. Ma c’è un «ma» grande quanto un cluster Kubernetes mal configurato.
Il problema è che delegare la gestione dei guasti a modelli di linguaggio e automazioni intelligenti sta creando un pericoloso distacco tra l’ingegnere e il proprio sistema. È un po’ come guidare una Tesla in modalità Full Self-Driving: finché la strada è dritta e non c’è neanche un pedone, ti senti un genio della tecnologia. Ma nel momento in cui la strada diventa un sentiero sterrato pieno di ostacoli imprevedibili, ti rendi conto di aver dimenticato come si tiene in mano un volante.
L’automazione è bravissima a gestire i pattern noti, quelli che hanno già visto in un dataset di addestramento. Ma il vero lavoro dell’ingegnere — quello che fa la differenza tra un bug risolto e un disastro globale — è gestire l’anomalia, l’imprevisto, l’edge case che non ha una documentazione su Stack Overflow. Se ci abituiamo a far fare tutto alla ‘scatola magica’, perderemo la capacità di diagnosticare i problemi quando l’AI incontrerà qualcosa che non rientra nei suoi parametri di confidenza.
In Italia, spesso ci concentriamo su quanto queste tecnologie siano costose o su come le regolamentazioni europee cercheranno di metterle in cintura di sicurezza, ma il vero rischio è interno alla nostra professione. Non stiamo parlando di perdita di controllo burocratico, ma di atrofia cognitiva. Se smettiamo di sporcarci le mani con i log, con i trace e con l’analisi profonda dei processi, diventeremo semplici osservatori di un sistema che non comprendiamo più davvero.
L’automazione è un alleato potente, un superpotere che dobbiamo cavalcare, ma non dobbiamo permettere che diventi il nostro sostituto cognitivo. Teniamoci pronti a riprendere il comando, perché quando l’automazione fallirà — e lo farà, garantito — vogliamo essere noi quelli che sanno esattamente dove andare a colpire.
Source: AI handles incidents, engineers lose touch with their systems