Il codice non mente mai, ma sa essere un manipolatore fenomenale. Se pensavate che il problema principale dell’era dell’IA fosse solo l’allucinazione dei chatbot, preparatevi a rimettervi comodi, perché il vero pericolo si nasconde dove l’occhio umano non può arrivare: nel vuoto tra un carattere e l’altro.
Si parla di «ASCII Smuggling», una tecnica che un tempo era il giocattolo preferito dei ricercatori di sicurezza per testare i confini dei modelli linguistici (i famosi LLM). L’idea era semplice: infilare istruzioni malevole o prompt injection dentro stringhe di testo cariche di caratteri Unicode invisibili o quasi indistinguibili. Per noi umani, il testo sembra perfettamente pulito; per la macchina, è un comando che bypassa i filtri di sicurezza. Un po’ come scrivere un messaggio segreto usando solo il respiro tra le parole.
La notizia, riportata da Ars Technica, ci dice che questa tecnica sta trovando una nuova, decisamente meno ‘accademica’ dimora: lo spamming selvaggio. Gli spammers hanno capito che possono usare questo blocco di Unicode per camuffare link malevoli, contenuti phishing o semplici messaggi pubblicitari che i filtri antispam tradizionali faticano a intercettare. Poiché il contenuto ‘sporco’ è tecnicamente invisibile o interpretato in modo diverso dai sistemi di scansione, il messaggio passa l’ostacolo come un fantasma in un film horror di serie B.
Certo, per noi che passiamo la giornata a debuggare script o a smanettare con file di configurazione, l’idea di un testo che nasconde altro testo è quasi affascinante, quasi una sfida di reverse engineering. Ma quando la tecnologia che dovrebbe proteggerci viene aggirata da un trucco da prestigiatore digitale, l’entusiasmo scema velocemente.
In Italia, siamo abituati a combattere con email di truffe bancarie palesemente scritte in un italiano maccheronico, ma questo livello di sofisticazione è un altro paio di maniche. Non è una questione di leggi o di regolamenti europei che arrivano sempre con un ritardo infinito; è una questione di difesa tecnica. Se i filtri non vedono il problema, il problema non esiste per il sistema.
Non aspettatevi una soluzione magica dai grandi vendor che arriverà domani mattina con un aggiornamento ‘seamless’. La lotta tra chi crea nuovi metodi di offuscamento e chi cerca di patchare il mondo è ciclica. Per ora, l’unico consiglio è quello di non fidarsi mai di ciò che sembra troppo pulito per essere vero, specialmente se sotto la superficie sembra esserci un vuoto digitale che attende solo di essere sfruttato.
Source: Once popular for attacking AI, ASCII smuggling is embraced by spammers