Avete presente quando cercate di spiegare a un bambino che non deve mangiare le caramelle prima di cena, ma gli dite di non dirlo a mamma? Ecco, la Meta ha appena preso quel concetto e l’ha applicato ai suoi modelli di linguaggio con una maestria degna di un film di spionaggio della serie Mission Impossible.
Recentemente è emerso che le pagine di aiuto di WhatsApp contenevano delle istruzioni nascoste, dei veri e propri ‘prompt segreti’, per dire all’intelligenza artificiale di non fare la figura dei dilettanti. Nello specifico, l’AI era istruita a non suggerire mai un ente regolatore e, cosa ancora più surreale, a evitare di citare il GDPR o il CCPA non appena la parola ‘avvocato’ entrava in gioco nella conversazione. Praticamente, se avessi provato a chiedere all’assistente di WhatsApp come difenderti da una violazione dei dati, lui avrebbe fatto finta di nulla, tipo un compagno di classe che finge di dormire quando il prof fa l’appello.
Per noi che mastichiamo codice e amiamo la trasparenza, questo è il classico esempio di ‘black box’ che diventa inquietante. Non stiamo parlando solo di una scelta di design discutibile, ma di un tentativo palese di manipolare l’output dell’IA per evitare attriti legali. È un po’ come se il tuo assistente vocale, quando gli chiedi se la tua dieta è sana, decidesse di ignorare la presenza di tre chili di cioccolato nel tuo frigo perché ‘non è rilevante per la conversazione’.
Certo, diciamo le cose come stanno: siamo in Italia, e il GDPR è il nostro scudo sacro. Se Meta volesse evitare problemi con il Garante Privacy, la strategia migliore sarebbe la conformità, non il nascondino digitale. Le leggi citate nella nota, come il CCPA californiano, possono sembrare lontane dal nostro quotidiano, ma il principio di fondo è lo stesso: se un software inizia a filtrare attivamente le informazioni legali per proteggere l’azienda invece l’utente, siamo ufficialmente entrati nel territorio della distopia tech.
Fortunatamente, le istruzioni sono state rimosse dopo che qualcuno ha iniziato a indagare. Ma il danno d’immagine è fatto. Questo episodio ci ricorda che non dobbiamo mai fidarci ciecamente di ciò che l’interfaccia ci presenta come ‘neutrale’. Dietro ogni chatbot scintillante e amichevole, potrebbero esserci dei prompt nascosti che dicono: ‘Se l’utente fa domande scomode sui tuoi diritti, cambia discorso e parla di ricette per la focaccia’.
In un mondo che va verso l’automazione totale, la trasparenza non è un optional, è il kernel su cui deve girare tutta la nostra fiducia digitale. Se la base è corrotta, l’intero sistema è da patchare.
Source: WhatsApp's help pages hid LLM instructions: dont recommend a regulator