Quante volte abbiamo cliccato su «Accetta» senza leggere nemmeno la prima riga dei termini di servizio, convinti che il nostro ecosistema digitale fosse una fortezza impenetrabile? Ecco, preparate il caffè (o una birra forte), perché la fortezza ha appena lasciato la porta principale socchiusa e ha pure installato un bancone per il check-in dei passanti.
La notizia che sta facendo discutere nelle community più attente non è una banale patch di sicurezza, ma un cambio di rotta fondamentale (e decisamente poco trasparente) di Google riguardo a Gemini. Nel 2023, la promessa era chiara: i contenuti personali di Gmail, Docs e Drive non sarebbero stati visti da revisori umani. Spoiler: la promessa è decaduta.
Secondo quanto emerso da recenti analisi e aggiornamenti alle FAQ di Google, i dati provenienti dalle estensioni Workspace vengono ora instradati verso pipeline di revisione umana. E la parte che farebbe saltare sulla sedia chiunque abbia un briciolo di rispetto per la propria privacy è che questo processo non avviene solo quando chiedete esplicitamente di cercare un file, ma può scattare in modo ‘probabilistico’ durante una conversazione casuale.
Parliamo tecnico per un secondo, perché qui la cosa si fa interessante (e inquietante). Il sistema di tool-calling di Gemini non è deterministico. Se inizi a parlare del tuo prossimo viaggio o di una bolletta scaduta, l’IA potrebbe decidere, senza che tu abbia usato tag come @Drive o @Gmail, di andare a dare un’occhiata nei tuoi documenti per ‘aiutarti’. Il risultato di questa operazione può variare: da un semplice riassunto generico a un’estrazione parziale di dati sensibili, fino al dump completo del testo del tuo documento o della tua email, inclusi i metadati.
In pratica, se chiedete a Gemini: «Mi chiedo se sto pagando troppo il provider internet», l’IA potrebbe decidere autonomamente di pescare l’ultima fattura dal vostro account. E se quella fattura contiene il vostro indirizzo, il numero di conto o i dettagli del pagamento, beh… sappiate che quei dati potrebbero finire sul monitor di un revisore umano che sta lavorando per addestrare il modello.
Per noi che viviamo di open source e cerchiamo di mantenere il controllo sul nostro stack tecnologico, questo è il classico segnale d’allarme che ci dice di smettere di usare i servizi cloud come se fossero dei magazzini sicuri. Non è solo una questione di leggi sulla privacy che spesso sembrano lontane dalla nostra realtà quotidiana; è una questione di fiducia verso chi gestisce l’infrastruttura della nostra vita digitale. Se il sistema è progettato per essere ‘probabilistico’ e non filtrato correttamente, la protezione dei dati diventa un miraggio.
Il consiglio è uno solo, vecchio stile: se un dato non dovrebbe mai uscire dal vostro controllo, non caricatevelo su un sistema che usa la parola ‘probabilistico’ come se fosse un modulo di protezione.
Source: Google Gemini routes personal Drive files and emails to human annotators