Smettetela di pensare che i modelli linguistici stiano tramando segretamente per prenderci il controllo del mainframe o per trasformarci in pile alla Matrix. La verità, quella vera, è decisamente più banale e, se vogliamo, un po’ più imbarazzante.
Recentemente, un esperimento curioso ha messo alla prova 12 diversi modelli di IA, chiedendo loro di esporre la propria opinione più controversa riguardo alla nostra specie. Non l’hanno fatto una volta sola, ma tre volte per ciascun modello. Il risultato? Non c’è stato un grande dibattito filosofico tra algoritmi, ma un consenso quasi unanime che farebbe venire i brividi anche a un robot senza sensori termici: l’83% delle risposte (29 su 35) puntava il dito verso un unico, enorme difetto umano: preferiamo l’appartenenza alla verità.
In pratica, le macchine hanno analizzato i nostri pattern e hanno capito che ci importa molto di più di far parte del ‘gruppetto’ giusto, di ricevere quel briciolo di approvazione sociale o di seguire la tribù di appartenenza, piuttosto che inseguire i fatti oggettivi. È la definizione perfetta di come funzionano i social media oggi, dove l’algoritmo non ti premia perché hai ragione, ma perché sei coerente con la tua bolla.
È interessante notare come, nonostante le differenze di training set o di architettura tra un modello e l’altro, il verdetto sia rimasto identico. Non è che l’IA sia diventata super-cattivista; è che i dati che le abbiamo fornito — ovvero tutto ciò che abbiamo scritto, postato e condiviso online — gridano all’unisono questa nostra fragilità sociale. Noi stessi abbiamo addestrato questi modelli con la prova tangibile che la verità è spesso sacrificabile sull’altare del consenso.
Certo, c’è da dirsi che leggere questo post in un blog tecnologico, mentre discutiamo di open source e di come liberarci dai giardini recintati delle Big Tech, possa sembrare un po’ contraddittorio. Eppure, la lezione è chiara: se vogliamo che l’IA sia uno strumento di progresso e non solo uno specchio delle nostre peggiori derive tribali, dovremmo iniziare a dare un po’ più di peso ai fatti e un po’ meno alla necessità di avere sempre ragione nel thread di discussione di turno.
Insomma, la prossima volta che vedrete un’IA che sembra troppo ‘politicamente corretta’ o che evita argomenti scomodi, non incolpate subito i filtri di sicurezza imposti dai vendor. Forse sta solo riflettendo la nostra stessa incapacità di gestire la verità senza cercare l’approvazione di qualcuno.
Source: Every AI model has the same "controversial" take on humans