Se foste i responsabili della sicurezza di un’intelligenza artificiale super-avanzata, preferireste sapere *come* il modello sia arrivato a una conclusione o vi basterebbe leggere il risultato finale e sperare che non stia pianificando la conquista del mondo?
La risposta, per quanto possa sembrare controintuitiva, è la prima. Ma sembra che in OpenAI le cose stiano prendendo una piega decisamente ‘black box’. Recentemente, tre ex dipendenti sono stati tagliati fuori dall’azienda con un classico gesto di management che definire ‘disertore’ è un complimento. La cosa surreale? Questi tre ex collaboratori hanno pubblicato un appello pubblico per chiedere che venga preservato il monitoraggio della ‘Chain of Thought’ (CoT), ovvero la catena di ragionamento del modello.
Per chi non mastica l’argomento, la Chain of Thought è quel processo attraverso cui l’AI non sputa fuori una risposta a caso, ma ‘pensa’ ad alta voce, scomponendo il problema in passaggi logici. È il debugger della coscienza sintetica. Se perdi la capacità di monitorare questi passaggi, ti ritrovi con un oracolo che ti dà risposte certe ma di cui non puoi verificare la logica. Praticamente, è come avere un programmatore che ti consegna il codice compilato senza un briciolo di documentazione o commenti.
La notizia ha questo sapore di assurdo: OpenAI ha licenziato i critici, ma ufficialmente ha dichiarato di essere d’accordo con le loro raccomandazioni. Traduzione per i non addetti ai lavori: «Hai ragione, ma non voglio che tu sia qui a dirmelo mentre cerco di fatturare come un forsennato». È il classico paradosso delle Big Tech, dove l’hype per il rilascio di nuovi modelli e la velocità di mercato rischiano di schiacciare la sicurezza e la verificabilità sotto un mucchio di marketing aggressivo.
Certo, siamo in Italia e probabilmente pensaremo: ‘Vabbè, sono problemi di gente che vive nella Silicon Valley’. Ma non fatevi ingannare. Quando i guardrail della logica di questi modelli iniziano a essere sacrificati sull’altare dell’efficienza, il rischio è che l’unico modo per interagire con la tecnologia diventi un atto di fede cieca. E io, personalmente, non ho mai avuto molta fiducia nei dogmi, specialmente quando sono scritti in codice proprietario e blindati dietro API che non permettono di vedere cosa succede ‘sotto il cofano’.
Speriamo che questa battaglia per la trasparenza non sia solo un’eco lontana nel vuoto del tech-broismo americano, perché se perdiamo la capacità di capire il ‘perché’ dietro un output, stiamo solo costruendo dei magici distributori di risposte, senza alcuna garanzia che la logica non sia andata in crash da un pezzo.
Source: 3 Fired OpenAI Employees Write Plea for Chain of Thought Monitoring to Be Preserved