Avete presente quando cercate di sigillare un pacco con dieci strati di nastro adesivo extra e, nel farlo, finite per creare un buco nel cartone che rende tutto ancora più fragile? Ecco, la Silicon Valley ha appena scoperto di aver fatto esattamente questo con l’intelligenza artificiale.
Il punto non è che l’IA sia diventata cattiva, ma che le nuove tecnologie che usiamo per ‘monitorare’ l’output (parliamo del famigerato SynthID e simili) stanno creando degli effetti collaterali decisamente poco divertenti. Secondo un recente report di Ars Technica, l’inserimento di watermark digitali nei testi generati dai Large Language Models (LLM) può, paradossalmente, rendere i modelli molto più suscettibili ai prompt malevoli. In pratica, quello che doveva essere un bollino di tracciabilità si trasforma in un punto debole che un utente esperto (o un malintenzionato con un minimo di sana cattiveria) può sfruttare per bypassare i filtri di sicurezza.
Per chi non ha passato le ultime notti a smanettare con i pesi di un modello open source, il concetto è questo: il watermarking funziona manipolando leggermente la probabilità di scelta delle parole (token) per lasciare una traccia invisibile all’occhio umano, ma rilevabile dagli algoritmi. Il problema è che questa manipolazione altera la distribuzione statistica delle risposte. E dove c’è una distribuzione alterata, c’è un nuovo spazio di manovra per l’adversarial prompting. È come se, nel tentativo di mettere un lucchetto più visibile sulla porta, avessimo involontariamente reso la serratura più facile da scassinare con un semplice spago.
Certo, la notizia arriva da fonti americane e si parla di tecnologie che spesso sono blindate dentro ecosistemi proprietari, quindi per noi che preferiamo far girare tutto in locale su una workstation con una GPU che scotta, il rischio di ‘controllo centralizzato’ è già pane quotidiano. Però, il tema è serio: se le soluzioni che le Big Tech propongono per la ‘sicurezza’ finiscono per creare nuove vulnerabilità, stiamo solo girando in tondo in un labirinto di bug che noi stessi stiamo costruendo.
Non è la solita fuffa da comunicato stampa sulla ‘AI Safety’ che serve solo a rassicurare i regolatori; qui parliamo di una falla strutturale nel modo in cui intendiamo la tracciabilità. Se la soluzione al problema della disinformazione diventa la chiave per generare contenuti pericolosi, forse è il momento di rimettere in discussione l’intero approccio. Alla fine, come insegnano i vecchi film cyberpunk, la tecnologia non è mai neutra e, spesso, le corazze più pesanti sono quelle che ti impediscono di muoverti quando ne hai davvero bisogno.
Source: LLMs respond differently to harmful prompts when AI watermarking is used