Guardate dentro il motore di un modello linguistico e cosa ci trovate? Probabilmente solo una massa informe di pesi e bias che sembrano scritti in una lingua morta.
Sulle bacheche di Hacker News è spuntato un nuovo nome che sta facendo discutere: OpenJev. Se guardate la fonte, non c’è un comunicato stampa lucido o un video promozionale con musica epica stile trailer di un film Marvel. C’è solo un output grezzo, quasi brutale, che parla di «choice probabilities» e di lettura diretta dei logit.
Per chi non mastica l’architettura dei transformer ogni mattina davanti al caffè, lasciatemi tradurre: l’idea sembra essere quella di poter andare a spulciare i logit del modello (quelle probabilità grezze che il modello assegna a ogni possibile token) e normalizzarli solo sulle opzioni che decidiamo noi. In pratica, non ci si limita a leggere la risposta finale — che spesso è quella che ci viene servita in modo preconfezionato e filtrato dai soliti protocolli di sicurezza — ma si cerca di vedere cosa sta ‘pensando’ veramente il modello prima che intervenga il processo di decoding.
È una cosa figa? Potenzialmente, sì. Se riuscissimo ad avere un tool che ci permette di analizzare le probabilità di scelta senza che ci sia un layer di filtraggio che ci nasconde il funzionamento interno, avremmo qualcosa di veramente utile per il debugging e per capire come questi modelli prendono le decisioni (e dove invece iniziano a delirare). È quel tipo di trasparenza tecnica che non cerca il consenso dei media, ma parla direttamente ai bit.
Però, restiamo con i piedi per terra. Al momento OpenJev sembra più un esperimento da laboratorio che un prodotto finito. Le informazioni che abbiamo sono frammentarie, quasi criptiche. Non è che ci sia un impatto diretto sulle leggi europee o sui regolamenti che ci stanno soffocando in Italia, ma il concetto di poter osservare la ‘scelta’ del modello senza intermediari è un principio che va bene ovunque, specialmente quando l’hype del momento tende a oscurare ciò che accade sotto il cofano.
Insomma, non è ancora il nuovo standard dell’industria, ma è un segnale che qualcuno sta provando a smontare il giocattolo per vedere come sono fatti gli ingranaggi. E noi, che siamo abituati a preferire il codice nudo e crudo alla propaganda aziendale, siamo pronti a vedere se sotto quel velo di probabilità c’è sostanza o solo rumore statistico.
Source: OpenJev