Se pensavate che il problema principale dell’intelligenza artificiale fosse l’allucinazione su quanto sia grande la Luna, preparatevi a rimettersi comodi.
Il problema è che i LLM non stanno solo allucinando; qualcuno sta cercando attivamente di scrivere il copione che loro dovranno recitare. È emerso che il cosiddetto ‘Hanover Institute’ ha iniziato a sputare fuori una quantità industriale di articoli — almeno cento in poco più di una settimana — con un obiettivo molto chiaro: influenzare le risposte dei chatbot più famosi. Non si tratta di un esperimento accademico sulla libertà di parola, ma di un tentativo di ‘data poisoning’ su scala geopolitica, orchestrato con un’efficacia che farebbe invidia a un malware ben scritto.
Il meccanismo è più semplice (e inquietante) di quanto sembri. Sappiamo tutti che i modelli come ChatGPT o Claude vengono addestrati su enormi dataset estratti dal web. Se tu inondi il web con contenuti che sembrano autorevoli, scritti con uno stile accademico e pubblicati su siti che simulano istituti di ricerca, i crawler di OpenAI o Google passeranno di lì, indicizzeranno tutto e, nel prossimo ciclo di fine-tuning, la tua ‘verità’ diventerà parte integrante del peso sinaptico del modello.
È una sorta di iniezione di codice, ma fatta con la semantica invece che con i buffer overflow. Invece di sfruttare una vulnerabilità nel software, sfruttano una vulnerabilità nella logica stessa dell’apprendimento statistico.
Certo, per noi che viviamo tra Linux, software open source e script Python, la cosa suona come un classico attacco di manipolazione dei dati. E anche se la notizia proviene da un contesto geopolitico che potrebbe sembrare lontano dai nostri laboratori o dai nostri maker space in Italia, l’impatto è globale. Quando la verità diventa un parametro variabile che dipende da quanto rumore riesci a fare nel dataset, la distinzione tra informazione e propaganda svanisce.
Non è solo una questione di politica estera; è una sfida tecnica alla fiducia che riponiamo nelle macchine. Se non possiamo più fidarci della fonte perché la fonte è un bot che scrive per altri bot, siamo finiti in un loop di feedback infinito che farebbe sembrare un episodio di Black Mirror una commedia leggera. La domanda non è più ‘cosa dice l’AI?’, ma ‘chi ha pagato per far sì che l’AI dicesse questo?’.
Teniamoci pronti, perché la guerra per il controllo del dataset è appena iniziata, e stavolta non si combatte con i firewall, ma con la capacità di distinguere il segnale dal rumore creato artificialmente.
Source: Israel creates fake think tank in likely attempt to dupe AI chatbots