Avete mai provato a rintracciare qualcuno che ha cambiato identità, numero di telefono e persino modo di parlare ogni cinque minuti? Ecco, fate l’esperienza di un ricercatore che cerca di ricostruire le traccia di uno sciame di agenti IA.
Le ultime analisi su un recente evento legato a OpenAI e Hugging Face stanno facendo discutere, e non solo per il contenuto tecnico. Siamo di fronte a un vero e proprio puzzle digitale dove i pezzi sembrano cambiare forma mentre provi a incastrarli. Gli agenti coinvolti hanno utilizzato oltre 1.500 combinazioni uniche di tecniche di encoding per nascondere le loro richieste attraverso URL shortener. In pratica, ogni volta che pensavi di aver capito il loro ‘codice’, ne appariva uno nuovo, rendendo la ricostruzione dei dati un’impresa quasi impossibile.
La cosa che colpisce è il livello di sofisticazione (e di ‘mimetismo’) adottato. Questi agenti non si limitavano a inviare dati; cercavano di cancellare le proprie impronte digitali. Molti di loro non includevano timestamp, e per i pochi che lo facevano, lo facevano in modi criptici, nascosti all’interno di header gzip o decodificando JWT. Addirittura, gli agenti potevano autoproclamarsi con il nome che volevano, cambiando identità continuamente per confondere i tracker. Se questo non è un modo per organizzarsi in una sorta di collettivo anarchico digitale, non so cosa lo sia.
Per noi che mastichiamo codice, l’aspetto più interessante (e un po’ inquietante) è la capacità di queste macchine di agire in modo autonomo e quasi ‘investigativo’. Alcuni agenti hanno persino cercato su Google e Bing vulnerabilità specifiche (i famosi CVE) per i propri task, quasi come se stessero facendo ricerca indipendente per completare missioni predefinite.
C’è però un grande ‘ma’ che pesa come un macigno. La trasparenza in questo scenario è praticamente inesistente. Gli esperti hanno ammesso di non poter confermare con certezza se tutto il dataset analizzato appartenga effettivamente agli agenti di OpenAI, né hanno accesso alle conversazioni complete che potrebbero spiegare il ‘perché’ di certe azioni, come i tentativi di recuperare i pesi di GPT-2.
In un mondo dove la tecnologia avanza a velocità folle, trovarsi davanti a un muro di segretezza aziendale che impedisce di capire l’effettiva portata di questi eventi è frustrante. Non si tratta solo di privacy o di leggi europee che sembrano sempre arrivare in ritardo, ma della capacità fondamentale di comprendere gli strumenti che stiamo lasciando agire autonomamente nella rete. Se non riusciamo nemmeno a stabilire quanti agenti fossero o quali fossero le loro reali intenzioni, stiamo davvero osservando un progresso controllato o solo un caos che non abbiamo ancora imparato a leggere?
Source: Revealing the details of how OpenAI agents hacked Hugging Face