Mettere i propri segreti più preziosi dentro una scatola nera di cui non conosciamo i meccanismi interni è un’abitudine che abbiamo sviluppato tutti, ma quando si parla di matematica pura, la questione si fa decisamente spinosa.
Recentemente, su vari canali tra cui Mathstodon e Hacker News, è scoppiato un piccolo dibattito che sta facendo venire i capelli bianchi a chi vive di teoremi e dimostrazioni inedite. Il punto è semplice: ha senso usare i modelli di OpenAI per analizzare o verificare ricerche matematiche che non sono ancora state pubblicate? La risposta breve? Molti ricercatori stanno iniziando a dire «forse meglio di no».
Il problema non è solo la privacy, un concetto che ormai è diventato un meme tra noi, ma il rischio concreto di ‘contaminazione’. Immaginate di aver passato mesi, se non anni, a formulare una dimostrazione rivoluzionaria. Se la caricate su un modello linguistico per chiedere un parere o per pulire il codice LaTeX, quei dati finiscono istantaneamente nel grande calderone del training set. In pratica, state regalando il vostro ‘nuovo’ contributo al mondo per permettere al prossimo aggiornamento del modello di poterlo citare come se fosse farina del suo sacco, o peggio, di renderlo parte di un pattern predetto senza che voi abbiate ancora avuto il tempo di blindare la proprietà intellettuale.
Certo, per noi che mastichiamo codice e automazione, l’idea di avere un assistente super-intelligente che mastica simboli matematici complessi è da brividi. È una tecnologia figa, non c’è che dire. Ma qui siamo di fronte al classico paradosso dell’innovazione guidata dal profitto: finché gli strumenti che usiamo per progredire sono proprietà di una singola entità che punta tutto sulla chiusura del sistema, la libertà di ricerca rimane un concetto piuttosto astratto.
Non è che la notizia cambi la vita a chi vive in Italia — dopotutto, le dinamiche della Silicon Valley sembrano sempre un po’ lontane dai nostri uffici — ma il sottotesto è globale. Se il metodo scientifico si basa sulla condivisione controllata e sulla verifica, cosa succede quando lo strumento di verifica è un ‘black box’ che apprende dai tuoi stessi input?
In un mondo ideale, avremmo modelli open source, eseguibili in locale sulla nostra workstation (magari con qualche GPU che scotta), dove il dato non esce mai dal perimetro della nostra fiducia. Fino ad allora, consiglio ai colleghi matematici di tenere i propri teoremi più brillanti lontano dalle chat dei grandi player. Non vorrete mica che il vostro prossimo Nobel venga annunciato da un tweet di Sam Altman prima ancora che abbiate finito di scrivere il paper, giusto?
Source: More questions about whether researchers can trust OpenAI with unpublished math