C’è qualcosa di profondamente ironico nel vedere un’azienda che parla costantemente di ‘allineamento’ e ‘sicurezza’ perdere il proprio responsabile dell’etica prima ancora di aver festeggiato il primo anniversario in ufficio.
Sì, avete letto bene. OpenAI, il colosso che sta ridefinendo le regole del gioco globale, ha visto il suo capo dell’etica varcare la soglia d’uscita dopo meno di dodici mesi. Se fosse un bug in un software open source, lo segnaleremmo subito come un ‘critical issue’ che blocca l’intera pipeline. In questo caso, però, il bug è strutturale e riguarda il cuore pulsante della missione dichiarata dall’azienda.
Per chi non fosse aggiornato, il ruolo di ‘head of ethics’ non è quello di un semplice poliziotto che ti multa se scrivi codice poco elegante. È una posizione che dovrebbe garantire che la corsa frenetica verso la Superintelligenza non travolga i diritti fondamentali, la trasparenza e la sicurezza collettiva. Ma quando le decisioni vengono prese alla velocità della luce, spinte da una competizione spietata con i competitor e dalla necessità di soddisfare investitori che vedono solo numeri e scale di crescita, la ‘etica’ rischia di diventare solo una riga di commento in un file di configurazione, dimenticata tra un aggiornamento e l’altro.
Certo, potremmo dire: «E allora? È solo un turnover aziendale, succedono cose in ogni startup». E in parte è vero. Se guardiamo la situazione con distacco, potremmo pensare che le dinamiche di Silicon Valley siano un mondo a parte, lontano dai nostri server in Italia o dai nostri laboratori di maker. Ma non lasciamoci ingannare. Le decisioni prese in quegli uffici di San Francisco determinano i dataset su cui addestriamo i nostri modelli e i limiti che ci verranno imposti tramite API proprietarie e sistemi chiusi.
Il problema non è solo la fuga di un singolo professionista, ma quello che suggerisce sul clima interno. Quando la governance si scontra con la velocità di deployment, la parte ‘umana’ e riflessiva è la prima a finire nel cestino. È lo stesso pattern che vediamo quando un progetto passa da ‘community-driven’ a ‘profit-driven’: la libertà di sperimentare e di criticare viene sacrificata sull’altare dell’efficienza e del controllo.
In un mondo dove stiamo costruendo sistemi che potrebbero decidere il nostro futuro, avere qualcuno che si assicura che il codice sia ‘giusto’ e non solo ‘funzionante’ è vitale. Se l’etica non trova spazio nel board di OpenAI, allora la strada verso l’AGI (Artificial General Intelligence) sembra essere pavimentata solo da obiettivi commerciali. E noi, che amiamo capire come funzionano le cose e che non ci fidiamo di chi tiene le chiavi del codice sotto chiave, dovremmo iniziare a preoccuparci seriamente.
Source: OpenAI’s head of ethics leaves less than a year after joining