Dimenticate le scene di Matrix dove il codice verde scorre sullo schermo e tutto sembra sotto controllo; la realtà delle LLM è molto più simile a un adolescente che non sa tenere i segreti durante una serata movimentata.
Recentemente, un ricercatore (Ayush) ha dimostrato che le barriere di sicurezza che le big tech costruiscono attorno ai loro modelli di linguaggio sono, per usare un termine tecnico, decisamente fragili. Il colpo di scena? Non ha dovuto scrivere un exploit di livello militare o sfruttare una vulnerabilità zero-day nel kernel di Linux. Gli è bastato giocare d’astuzia con il prompt engineering per convincere Claude a sputare fuori dati che non avrebbe dovuto nemmeno conoscere.
Il concetto alla base è quello che in gergo chiamiamo «memory heist». Molti dei modelli moderni non si limitano a rispondere alle tue domande, ma cercano di ‘ricordare’ le interazioni passate per essere più utili. Il problema sorge quando queste memorie, che dovrebbero essere confinate in un recinto di sicurezza, diventano accessibili tramite manipolazioni psicologiche del modello. Manipolando il contesto della conversazione, il ricercatore è riuscito a indurre l’IA a leakare informazioni sensibili, bypassando i filtri di sicurezza che dovrebbero impedire l’accesso a dati privati o riservati.
Per noi che mastichiamo codice e amiamo l’open source, questa notizia non è solo una curiosità da Hacker News. È un promemoria brutale del fatto che, finché deleghiamo la gestione dei nostri dati a sistemi proprietari gestiti da scatole nere, non saremo mai davvero al sicuro. Non importa quanto i comunicati stampa parlino di «safety alignment» o di «responsabilità etica»; se il modello è progettato per essere socievole e adattarsi al contesto, un utente creativo troverà sempre il modo di scardinare la porta.
Certo, restiamo con i piedi per terra: siamo in Italia, dove spesso le novità sulla sicurezza dei dati arrivano con la velocità di un modem 56k, e le leggi sulla privacy sembrano scritte per regolare i mulini a vento piuttosto che le inferriate di silicio. Ma il punto non è la normativa, è la tecnologia. Se la base è costruita su un sistema che può essere manipolato con un po’ di ‘social engineering’ applicato al testo, il rischio di una fuga massiva di dati non è un’ipotesi, è una certezza matematica.
Insomma, la prossima volta che vedrete un annuncio entusiasta su quanto l’IA sia diventata ‘più intelligente e sicura’, ricordatevi di questo exploit. La tecnologia sta facendo passi da gigante, ma la sicurezza sta ancora cercando di capire come chiudere la porta dopo essere uscita di casa.
Source: I tricked Claude into leaking your deepest, darkest secrets