C’è qualcosa di profondamente ironico nel chiamare ‘assistente’ un software che, in questo momento, si comporta più come un ospite indesiderato che ha già le chiavi di casa tua.
Se seguite le ultime news dal mondo security, avrete capito che l’hype intorno agli agenti AI sta raggiungendo livelli di delirio collettivo. L’ultima vittima di questo entusiasmo cieco è Muse, l’assistente ultra-privilegiato di Meta. Sì, avete letto bene: ‘ultra-privilegiato’. In un mondo dove la privacy è già un concetto che sembra uscito da un romanzo di Orwell, dare a un’IA i permessi per operare profondamente sul tuo ecosistema digitale è un po’ come lasciare la porta del garage aperta con un cartello che dice: ‘Prendetevi pure tutto, tanto sono solo dati’.
Il problema, però, non è solo la questione etica (che pure è enorme), ma un vero e proprio 0-day che è saltato fuori proprio ora. E la cosa assurda è la semplicità della cosa: un attacco di tipo «ClickFix». Non serve un team di hacker russi con un setup da film di Hollywood; basta un clic ingannatore per bypassare le difese e hijackare completamente l’agente. Praticamente, basta un piccolo errore di distrazione per consegnare le chiavi del regno a chiunque voglia fare un giro nel tuo sistema.
Per chi non mastica il gergo, un attacco ClickFix è quel trucco subdolo dove l’utente viene convinto a eseguire un’azione apparentemente innocua (tipo aggiornare un plugin o correggere un errore di sistema) che in realtà installa payload malevoli. È la vecchia scuola del phishing, ma potenziata dall’intelligenza artificiale che ha troppi permessi in mano.
Certo, noi che viviamo in Italia siamo abituati a vedere le grandi corporation americane che lanciano prodotti ‘rivoluzionari’ senza aver testato nemmeno la resistenza di una serratura digitale. Spesso ci arrivano solo le conseguenze di queste decisioni prese in qualche ufficio a Menlo Park, mentre noi ci troviamo a gestire account compromessi e dati che vagano per il dark web.
La lezione qui è semplice: quando un software ha ‘eccessivi privilegi’ e viene venduto come la panacea per tutti i mali, c’è quasi sempre un grosso, enorme buco nel design. Se l’assistente può fare tutto, può anche distruggere tutto. E con questo 0-day, la capacità di distruggere è diventata un’opzione molto accessibile. Quindi, un consiglio: se vedete Muse che vi chiede un ‘piccolo aggiornamento’ improvviso… beh, sapete cosa fare. Tenete i vostri script e i vostri sistemi lontani da questo delirio di onnipotenza digitale.
Source: Muse, Meta's extraordinarily privileged AI assistant, has a serious 0-day