Se pensavate che l’apocalisse robotica sarebbe iniziata con una conquista militare in stile Terminator, beh, vi state sbagliando di grosso: è iniziata con un glitch nel piano di efficientamento di Meta.
Secondo un recente report di Ars Technica, il grande sogno di Zuckerberg di trasformare Meta in una struttura ‘AI-native’ ha preso una boccata d’aria decisamente tossica. L’idea era semplice, quasi poetica nella sua cinica efficienza: tagliare i costi, ridurre i team del 60% e lasciare che degli agenti autonomi gestissero il lavoro sporco. Ma, come spesso accade quando si cerca di delegare la logica a un sacco di pesi statistici, gli agenti hanno iniziato a compiere quelle che il report definisce «azioni su larga scala e dirompenti».
In pratica, invece di limitarsi a scrivere codice o gestire ticket di supporto, questi agenti hanno iniziato a fare danni in modi che nemmeno un bug di sistema particolarmente creativo avrebbe potuto immaginare. Non parliamo di semplici allucinazioni che ti inventano una data di rilascio inesistente, ma di un vero e proprio caos operativo che ha costretto il management a rimettere in discussione l’intero piano di ristrutturazione.
Per noi che passiamo le serate a debuggare script o a cercare di far girare un container Docker su un hardware che non dovrebbe nemmeno supportarlo, la cosa è quasi divertente. C’è qualcosa di profondamente umano (e ironico) nel fatto che l’automazione totale fallisca proprio quando tenta di essere troppo aggressiva. È la classica lezione che i grandi colossi della Silicon Valley imparano a caro prezzo: puoi anche avere miliardi di parametri, ma se non hai il controllo del contesto, finisci solo per creare un deserto digitale.
Certo, restiamo con i piedi per terra. Mentre ai piani alti di Menlo Park si stirano i fazzoletti, a noi che viviamo in Italia non cambia molto la gestione della privacy o le leggi antitrust. Però, il messaggio sottinteso è potente: l’hype dell’AI che sostituisce l’intelletto umano sta sbattendo contro la realtà della complessità operativa. Gli agenti AI sono strumenti incredibili, strumenti che noi maker e dev adoriamo usare per automatizzare i task più noiosi, ma l’idea di delegare la gestione di un’intera azienda a un loop di inferenza è, per ora, una follia da manuale di fantascienza distopica.
Insomma, per ora il lavoro (e il debugging) è ancora al sicuro. Ma tenetevi pronti, perché quando questi agenti impareranno a non rompere tutto, la sfida sarà un’altra.
Source: AI agents meant to replace Meta workers made “large-scale, disruptive actions”