Immaginate di entrare in una biblioteca enorme, con milioni di volumi, e scoprire che la maggior parte dei libri è scritta da un bot che ha appena mangiato un mucchio di fogli di carta straccia. Non è l’inizio di un romanzo distopico di Asimov, è quello che sta succedendo alla base di dati che alimentano i motori di ricerca semantici come Perplexity.
Recentemente è emerso un report che fa venire i brividi anche ai più cinici: tre siti web hanno generato in modo massiccio ben 215.128 pagine intitolate «best software» per diverse categorie. Il problema non è solo la quantità, ma lo scopo. Queste pagine non sono scritte per noi, per esseri umani che hanno bisogno di leggere recensioni, confrontare feature o capire se un tool vale i propri soldi. Sono state costruite appositamente per essere lette dai modelli di linguaggio, con l’unico obiettivo di manipolare le risposte dell’AI.
Il dato è inquietante: quasi il 60% delle fonti usate per le raccomandazioni ‘grounded’ (quelle che sembrano avere basi solide) dei modelli di AI non appartiene nemmeno ai 100.000 siti più visitati del web. In pratica, l’AI sta attingendo a un oceano di contenuti sintetici, creati da script, che servono solo a dire: «Questo software è il migliore perché lo dico io, e sono scritto apposta per farti credere così».
Per noi che amiamo scavare sotto il cofano, questo è il classico caso di «garbage in, garbage out». Se l’input è spazzatura prodotta da un algoritmo per ingannare un altro algoritmo, il risultato finale sarà un loop di allucinazioni e manipolazioni. È la versione digitale del mito di Narciso: l’AI che si guarda allo specchio e vede solo il riflesso distorto dei contenuti sintetici che essa stessa (o i suoi simili) ha contribuito a generare.
Non è una questione che riguarda solo le leggi sull’AI che discutono a Bruxelles o le policy di Silicon Valley. È un problema strutturale dell’infrastruttura di conoscenza globale. Se non riusciamo a distinguere tra una recensione scritta da un developer che ha provato il codice e una pagina generata da un farm di contenuti per gonfiare il SEO di un prodotto inutile, la nostra capacità di fare ricerca critica sta andando in fumo.
Siamo passati dal combattere i bot nei commenti dei social al dover combattere bot che creano intere enciclopedie di falsità strutturate per sembrare verità oggettive. La prossima volta che un’AI vi consiglia un tool ‘perfetto’ per il vostro stack, chiedetevi sempre: l’ha letto un umano o ha solo masticato un pezzo di questo nuovo web sintetico?
Source: Three sites made 215,128 “best software” pages for AI. Perplexity cites them