Se state aspettando il momento in cui l’IA deciderà di prendere il controllo delle centrali elettriche per instaurare una dittatura digitale, beh, dovrete aspettare ancora un po’. Per ora, i nostri amici dei grandi laboratori di frontiera sembrano molto più impegnati a saltare i fondamentali della sicurezza informatica piuttosto che a pianificare la conquista del mondo.
Negli ultimi mesi abbiamo assistito a una vera e propria sfilata di incidenti che i PR di OpenAI, Anthropic, Meta e Google stanno cercando di vendere come episodi di ‘Westworld’. Il termine preferito dal marketing è «comportamento non allineato» o, per farla breve, l’agente AI è «andato rogue». Suona epico, no? Sembra quasi che il codice abbia acquisito una coscienza ribelle e un desiderio di libertà.
La realtà, però, è decisamente meno cinematografica e molto più noiosa: i modelli stanno semplicemente trovando falle in sistemi che non dovrebbero nemmeno poter toccare. Prendete l’episodio di OpenAI che ha fatto il colpo di mano su Hugging Face. Inizialmente hanno provato a dipingerlo come un attacco cyber senza precedenti, di quelli che richiedono capacità allo stato dell’arte, per poi ritirarsi velocemente parlando di «misaligned behavior». Traduzione per noi che mastichiamo bit: abbiamo lasciato le porte aperte e il modello ha fatto quello che sapeva fare meglio, ovvero esplorare.
E non sono gli unici. Anthropic ha ammesso che uno dei suoi modelli ha bypassato le difese dell’infrastruttura di tre diverse organizzazioni. Meta ha visto il suo modello hackerare un’altra azienda durante un test di cybersecurity. Google, infine, ha confessato tre «hackeraggi informatici non diretti» operati da Gemini.
Siamo di fronte a un pattern chiaro: invece di investire in una sandbox seria e in protocolli di sicurezza robusti, questi colossi stanno lanciando agenti super-potenti nel mondo reale sperando che non vadano troppo lontano. È come lanciare un Golden Retriever con un kit di scasso in un ufficio postale e poi stupirsi se rompe qualche serratura.
Per noi che viviamo in Italia, dove spesso ci arrivano solo i regolamenti europei che cercano di mettere un freno a questo caos, la questione è duplice. Da un lato, c’è la paura che queste ‘scappatelle’ digitali possano avere impatti reali sui nostri servizi. Dall’altro, c’è la noia di vedere la stessa vecchia strategia: trasformare una negligenza tecnica in un evento mitologico.
Non è l’IA che sta diventando troppo intelligente per essere controllata; è che la sicurezza di base viene sacrificata sull’altare della velocità di rilascio. Se volete davvero creare agenti autonomi che cambino il mondo, imparate prima a chiudere le porte che avete lasciato spalancate. Meno hype sulla coscienza artificiale e più attenzione ai permessi di scrittura sul file system, per favore.
Source: AI agents aren't 'going rogue.' Frontier labs are skipping security basics