C’è un’idea che circola nei corridoi più oscuri di internet: i colossi dell’Intelligenza Artificiale stiano barando. L’ipotesi è che, per far sembrare i loro modelli più intelligenti di quanto non siano, i ricercatori inseriscano nel dataset di addestramento le risposte esatte ai test più famosi. Un fenomeno che in gergo chiamiamo ‘data contamination’. Ma quanto è reale questa minaccia?
Dylan Castillo ha deciso di fare sul serio e ha lanciato una sfida scientifica per verificare se i modelli stiano effettivamente ‘studiazzando’ per l’esame. Il suo obiettivo? Trovare tracce di ‘pelican-centric training’, ovvero prove che i modelli siano stati addestrati specificamente su prompt assurdi, come ad esempio descrivere un pellicano su una bicicletta.
L’esperimento è stato meticoloso. Ha generato un vasto set di test che includevano combinazioni bizzarre di soggetti e oggetti. Se i modelli avessero mostrato una performance sproporzionatamente alta su questi esempi specifici, avremmo avuto la prova del nove: il trucco è scoperto.
E la conclusione? Sorprendentemente, i dati sembrano dire che siamo al sicuro. Analizzando le performance, Castillo non ha trovato alcun segnale di un addestramento mirato su questi casi limite. I modelli non sembrano avere un ‘manuale segreto’ con le risposte ai pellicani o ai panda su skateboard.
Certo, questo non significa che la contaminazione dei dati sia impossibile o che le aziende siano totalmente oneste. La questione è molto più sottile e complessa: i modelli vengono addestrati su tutto il web, e se il web è pieno di test e soluzioni, la contaminazione avviene quasi per osmosi, non per un piano maligno orchestrato in un laboratorio segreto.
Quindi, per ora, potete dormire sonni tranquilli. Il complotto dei pellican non esiste. I modelli AI non stanno barando con i pesci e le biciclette, stanno solo imparando (molto male) da tutto ciò che leggiamo noi ogni giorno. Il vero problema non è la truffa nei benchmark, ma quanto sia difficile distinguere la vera intelligenza dal semplice, magistrale, pattern matching.
Source: Are AI labs pelicanmaxxing?