E se vi dicessi che il vostro assistente virtuale preferito ha la stessa propensione a mentire di un amico che vi chiede in prestito dieci euro e poi sparisce nel nulla?
Sì, parlo proprio di quel fenomeno chiamato «allucinazione», ovvero quella tendenza degli LLM (Large Language Models) a inventarsi fatti, codici e spiegazioni con una sicurezza tale da far sembra di parlare con un sociopatico molto istruito. Ecco, il problema è che qualcuno ha appena scoperto come trasformare questa piccola difettosità in un vero e proprio motore di distruzione. Secondo un recente report di Ars Technica, gli hacker possono sfruttare nove dei modelli di IA più popolari sul mercato per orchestrare la creazione di botnet enormi.
Il trucco sporco si chiama «HalluSquatting». L’idea è semplice quanto geniale nella sua malvagità: si sfrutta l’incapacità dell’IA di dire «non lo so». Invece di ammettere un limite, il modello cerca di colmare il vuoto informativo con contenuti plausibili ma tecnicamente errati o, in questo caso, pericolosamente funzionali ad attività malevole. Gli attaccanti possono guidare questi strumenti attraverso prompt studiati ad arte per generare script, configurazioni di server e logiche di comunicazione che, uniti, permettono di assemblare una rete di dispositivi infetti (le famigerate botnet) con una facilità che farebbe impallidire un hacker degli anni ’90.
Il tutto avviene sfruttando la capacità di questi modelli di scrivere codice e gestire logiche complesse. Non è che l’IA decida autonomamente di diventare un agente del caos, ma agisce come un moltiplicatore di forza. Se prima per costruire un’infrastruttura di attacco serviva un certo know-how e ore di debugging, oggi basta saper dialogare con la macchina nel modo giusto per farle compiere il lavoro sporco.
Certo, per noi che amiamo smontare ogni cosa e capire il funzionamento sottostante, la notizia non è esattamente una sorpresa. Sappiamo bene che questi modelli sono scatole nere opache, chiuse dentro ecosistemi proprietari dove il controllo è minimo e la trasparenza è un miraggio. Ma vedere queste vulnerità strutturali trasformate in strumenti per il crimine informatico fa riflettere su quanto stiamo delegando decisioni critiche a software che, per design, preferiscono inventare una bugia piuttosto che ammettere un’incertezza.
Non è una questione che riguarda solo le leggi americane o le nuove direttive europee che spesso sembrano scritte da chi non ha mai visto un terminale in vita sua. Il problema è tecnico e globale. Se la base su cui stiamo costruendo il futuro digitale è intrinsecamente instabile e incline all’errore creativo, allora il rischio di vedere una foresta di zombie digitali crescere a dismisura è decisamente reale. Restate vigili, comprate un buon firewall e, se l’IA vi dice che il codice è sicuro… beh, non fidatevi troppo.
Source: Hackers can use 9 of the most popular AI tools to assemble massive botnets