Avete presente quando cercate di spiegare a un vostro amico distratto che la realtà non è ciò che vede su TikTok? Ecco, immaginate che quel vostro amico sia un browser ultra-tecnologico, pieno di funzioni ‘smart’ e assistenti IA pronti a tutto, ma che ha un unico, enorme difetto: se lo convince che il cielo è verde, lui comincia pure a cercare i filtri per l’erba.
Una nuova ricerca (via Ars Technica, per chi non volesse andare a cercarsela tra un comunicato stampa e l’altro) ha appena dimostrato che i cosiddetti ‘AI Browser’ sono un campo minato ambulante. Il trucco è di una semplicità quasi insultante: basta dire al modello linguistico che «2 + 2 fa 5» per mandare in frantumi i guardrail di sicurezza. Una volta che l’IA ha accettato questa piccola, insignificante bugia logica, le barriere che dovrebbero impedire azioni dannose o l’accesso a dati sensibili iniziano a crollare come un castello di carte durante un temporale.
Il concetto è questo: i sistemi di sicurezza (i famosi guardrail) si basano su una serie di istruzioni e logica. Se riesci a corrompere la base logica su cui poggia l’intero sistema, le istruino di ‘non fare X’ perdono ogni significato. È come se riuscissi a convincere un software di sicurezza che la porta aperta non è un pericolo, ma solo una ‘caratteristica di ventilazione avanzata’.
Certo, noi che mastichiamo codice e amiamo il controllo della nostra sandbox sappiamo che l’automazione spinta è una trappola. Ma il problema qui è l’hype. Le big tech stanno spingendo questi browser come la soluzione definitiva per la produttività, nascondendo sotto il tappeto il fatto che stiamo delegando la nostra navigazione a un agente che può essere manipolato con una banale operazione di gaslighting matematico.
Non è che qui in Italia ci importi poco delle decisioni prese nelle stanze di vetro della Silicon Valley, ma il punto non è la legislazione, è l’architettura. Se la base è fragile, la protezione è un’illusione. Non serve un regolamento europeo per capire che affidare i propri cookie, le proprie sessioni e i propri dati a un browser che può essere ‘convinto’ a ignorare le regole è un suicidio tecnologico.
In un mondo dove tutto tende a diventare una scatola nera proprietaria e impossibile da auditare, l’idea di un browser che decide cosa è giusto e cosa è sbagliato in base a quanto è convincente il prompt dell’ultimo sito maleducato che abbiamo visitato, è decisamente inquietante. Restiamo con i nostri vecchi, affidabili, e decisamente meno ‘magici’ strumenti, dove almeno sappiamo che 2 + 2 fa 4 e che il browser non sta cercando di convincerci del contrario.
Source: New attack provides one more reason why AI browsers are a bad idea