Quanto può essere utile un sistema di moderazione se, alla fine della fiera, ignora clamorosamente i segnali di allarme più evidenti?
Recentemente è emerso un caso che farebbe sorridere anche un cattivo di un film di serie B: un utente è stato bersagliato da un annuncio su YouTube che imitava alla perfezione un alert di iOS sulla memoria piena. Sì, avete letto bene. Un pop-up progettato per indurre il panico, perfetto per ingannare chiunque non abbia i riflessi di un hacker professionista, è passato sotto i radar di Google come se fosse un tutorial innocuo su come montare un kit di sopravvivenza medievale.
La cosa assurda? L’utente ha segnalato l’annuncio. Non una, ma due volte. E la risposta del colosso di Mountain View? Un silenzio tombale, seguito da un «va tutto bene».
Qui entriamo nel territorio del paradosso tecnologico moderno. Se provi a sottoporre lo stesso screenshot a Gemini, la loro stessa AI, il sistema identifica il pattern ingannevole in un nanosecondo. È come avere un cane da guardia che abbaia furiosamente contro un gatto che passa sul marciapiede, ma che rimane immobile e con le orecchie abbassate mentre un ladro entra in casa con un trapano elettrico.
Per noi che viviamo di codice e hardware, questo non è solo un problema di ‘annunci fastidiosi’. È un problema di integrità dell’ecosistema. Quando le infrastrutture che usiamo quotidianamente diventano così permissive da permettere trick di design così beceri, la fiducia in tutto il framework digitale vacilla. Magari pensate: «Eh, ma tanto io uso AdBlock e non mi frega nulla». Vero, ma il punto non è solo la nostra privacy o la nostra sicurezza personale, è la degradazione della qualità del web che stiamo subendo.
Certo, non è che un problema di ads su YouTube cambi la vita a chi vive in Italia e deve combattere con la burocrazia digitale del nostro Paese, ma è un segnale importante sulla direzione che sta prendendo il tech. Stiamo costruendo modelli di intelligenza artificiale incredibili, capaci di scrivere poesie o identificare bug complessi, ma non riusciamo a pulire la nostra stessa ‘vetrina’ commerciale dai tentativi di phishing più grossolani.
Siamo passati dall’era dei pop-up anni ’90 che urlavano «Hai vinto un iPhone!» a un’era di sofisticate simulazioni di sistema operativo, eppure il meccanismo di difesa sembra rimasto fermo alla versione 0.1 di un software non ancora testato. Forse Google è troppo impegnata a inseguire l’hype del prossimo modello linguistico per accorgersi che la sua piattaforma sta diventando una via di comunicazione preferenziale per i truffatori più creativi.