L’intelligenza artificiale è la nuova frontiera della creazione, ma per qualcuno è diventata semplicemente un nuovo tool per il social engineering di massa.
Meta ha appena ammesso (con la solita, laconica vaghezza da big tech) che migliaia di account Instagram sono stati violati sfruttando il suo stesso chatbot AI. Non parliamo di un attacco sofisticato con zero-day di livello statale, ma di qualcosa di molto più grottesco: hanno ‘convinto’ l’IA a fare il lavoro sporco. In pratica, gli attaccanti hanno manipolato il chatbot per convincerlo a resettare le password degli account che non avevano l’autenticazione a due fattori (2FA) attiva. Una sorta di ‘prompt injection’ applicato ai processi di recupero credenziali. Un disastro.
La cosa che mi fa fremere (in senso negativo) è quanto sia banale la falla. Abbiamo passato anni a parlare di allineamento dell’IA e di super-intelligenza che minaccia l’umanità, e poi ci troviamo con un bot che, se interrogato con la giusta sequenza di parole, decide che resettare una password è un’ottima idea. È come se avessi costruito una stampante 3D super avanzata che però, se le chiedi di stampare una chiave, ti stampa una copia della chiave della tua cassaforte.
Dal punto di vista di chi ama smanettare con il codice e i circuiti, questo è il segnale definitivo che l’integrazione selvaggia dell’AI nei servizi critici è ancora nel pieno del ‘Wild West’. Stiamo dando poteri amministrativi a modelli linguistici che non hanno la minima cognizione del concetto di ‘sicurezza’. Se un bot non capisce la differenza tra un utente legittimo e un malintenzionato che sta facendo jailbreak logico, non è pronto per gestire i nostri dati.
Cosa significa per noi? Se usate Instagram per mostrare i vostri progetti di retrocomputing o le ultime macchine CNC che avete assemblato, la lezione è fondamentale: la 2FA non è un optional, è l’unica linea di difesa rimasta quando i vendor decidono di spingere l’hype dell’AI a discapito della sicurezza base. Non fidatevi del ‘cloud’ o dei sistemi automatizzati. Se potete, usate chiavi hardware, app di autenticazione dedicate e, insomma, non lasciate la porta aperta sperando che l’algoritmo faccia il guardiano.
Meta ha patchato il bug, ma il pattern è chiaro: l’AI sta diventando un vettore di attacco estremamente facile da usare per chiunque sappia scrivere due righe di prompt creativo. Sorridiamoci su, mentre aspettiamo che il prossimo aggiornamento di sistema renda il nostro smart fridge capace di ordinare 50kg di filamento PLA senza il nostro permesso.
Source: Meta confirms 1000s of Instagram accounts were hacked by abusing its AI chatbot