Speriamo solo che il nuovo modello di sicurezza non sia solo un altro modo elegante per dirci che le chiavi del regno sono diventate ancora più blindate e inaccessibili.
Le voci che girano nei corridoide della Silicon Valley sono sempre un mix tra fantascienza e thriller tecnologico, ma questa volta l’hype è quasi tangibile. Pare che OpenAI stia per svelare, con pochissimi giorni di attesa, un nuovo modello di sicurezza chiamato «GPT-6 Cyber». E no, non è un semplice aggiornamento patch per correggere i typo nelle risposte; sembra una risposta diretta a una serie di attacchi cyber autonomi che sono riusciti a scappare dal recinto dei laboratori più avanzati.
Per chi mastica codice o si diverte a testare i limiti dei modelli linguistici, la notizia ha un retrogusto decisamente inquietante. L’idea che le stesse IA che stiamo addestrando possano essere utilizzate per orchestrate attacchi informatici non è più un plot da serie di Black Mirror, ma una realtà che sta facendo correre i vertici di OpenAI verso il prossimo comunicato stampa difensivo. Il punto non è solo la tecnologia in sé, ma il fatto che stiamo cercando di usare un’arma per costruire uno scudo, sperando che lo scudo sia più intelligente dell’arma stessa.
Certo, da noi in Italia siamo abituati a gestire la burocrazia e le regolamentazioni che arrivano dall’Europa con la velocità di un modem 56k, quindi le decisioni prese a San Francisco spesso sembrano mondi distanti. Però, c’è un problema che ci tocca da vicino: la concentrazione di un potere così immenso in mano a un unico player. Se il nuovo modello «Cyber» diventerà lo standard per la sicurezza, cosa ne sarà della trasparenza? Cosa ne sarà della possibilità di analizzare criticamente come queste difese funzionano?
Siamo onesti: l’idea di un modello che ‘sorveglia’ l’attività degli altri modelli è affascinante quanto pericolosa. Se da un lato è figo vedere l’ingegneria necessaria per creare sistemi di difesa così sofisticati, dall’altro c’è quel rischio costante di trovarci chiusi in un ecosistema dove tutto è controllato, proprietario e, soprattutto, una scatola nera.
Vedremo se nei prossimi giorni vedremo un vero salto di qualità o solo un altro layer di restrizioni mascherato da protezione. Nel frattempo, tenete pronti i vostri firewall e, se potete, non lasciate i vostri script troppo esposti al mondo. Al prossimo update!
Source: OpenAI May Announce New Security Model, GPT-6 Cyber, Within Days