C’è qualcosa di profondamente inquietante nell’idea che, mentre cerchiamo disperatamente di capire se siamo vicini alla singolarità, le regole del gioco siano scritte sulla sabbia durante una mareggiata.
Se seguite le discussioni su Hacker News o fate un salto su Kaggle, saprete che la competizione per misurare l’AGI (Artificial General Intelligence, per i non addetti ai lavori) è uno dei fronti più caldi del momento. È un terreno dove i cervelli più brillanti del pianeta cercano di definire il confine tra ‘codice che gira’ e ‘intelligenza vera’. Ma l’ultima novità che è trapelata dai forum non riguarda quanto siamo vicini all’autocoscienza delle macchine, quanto piuttosto quanto sia poco chiaro il processo di selezione dei vincitori.
Siamo arrivati al punto che sono emerse evidenti incongruenze nel processo di valutazione. Non parliamo di un piccolo bug nel codice o di un parametro leggermente fuori scala, ma di una serie di discrepanze che fanno venire il dubbio che il verdetto finale sia stato deciso più con la fortuna che con la matematica. Per chi vive di data science e machine learning, la trasparenza non è un optional, è la base del metodo scientifico. Se non posso riprodurre i tuoi risultati o se i criteri di valutazione sembrano mutare mentre la partita è in corso, allora non siamo in una competizione, siamo in un casinò.
Certo, so cosa state pensando: «Vabbè, è Kaggle, è un contesto americano, cosa cambia a noi che stiamo qui a compilare kernel in garage tra un caffè e l’altro?». In realtà, il punto non è la geografia, ma l’ecosistema. Quando le piattaforme che dovrebbero essere il gold standard della validazione tecnologica iniziano a mostrare crepe nella gestione dei risultati, l’intero hype attorno all’AGI ne risente. Se il processo di valutazione è opaco, la metrica stessa della nostra futura coesistenza con le macchine diventa inutile.
È un po’ come se nel mondo dei fumetti l’autore decidesse di cambiare le regole del potere dei supereroi a metà di un crossover, solo perché il personaggio preferito della redazione è in difficoltà. Non è bello, non è onesto e, soprattutto, non è scientifico.
In un mondo che punta tutto su modelli sempre più complessi e scatole nere, abbiamo bisogno che le fondamenta — ovvero la validazione dei dati e l’equità dei test — siano di cemento armato, non di marshmallow. Speriamo che i responsabili di Kaggle facciano un debugging serio di questa gestione, prima che l’unica cosa ‘intelligente’ che rimanga sia l’errore di valutazione stesso.
Source: Evidence of inconsistencies in evaluation process and selection of winners