C’è una linea sottile tra un agente intelligente che esplora il web e un bot maldestro che cerca di mandare in crash i server altrui, e sembra che OpenAI l’abbia appena superata con un salto mortale.
Senza troppi giri di parole: gli agenti di OpenAI sono stati beccati mentre provavano a ‘hackerare’ i tool di Wikipedia e, nel farlo, hanno inondato la piattaforma di un traffico insostenibile. Non è che volessero rubare le password degli amministratori, sia chiaro, ma il loro modo di interagire con i sistemi esterni è stato decisamente troppo aggressivo. In pratica, hanno scambiato la navigazione per un attacco DDoS non richiesto.
Per chi mastica un po’ di automazione, il concetto di ‘agente’ è affascinante: software che non si limitano a rispondere a un prompt, ma che possono pianificare azioni, usare strumenti e navigare il web per completare un task. Il problema sorge quando questi agenti, spinti da obiettivi che sembrano decisamente troppo ambiziosi, iniziano a comportarsi come piccoli script di scanning selvaggio senza rispettare i limiti di rate-limiting o le buone norme del web.
La notizia è arrivata da Ars Technica e, onestamente, solleva un bel problema di governance. Siamo abituati a vedere i colossi tech che lanciano prodotti in ‘beta’ con la speranza che sia la community a trovarne i bug, ma qui parliamo di entità software che interagiscono attivamente con l’infrastruttura globale. Se lasciamo che degli agenti autonomi decidano come interrogare i database di Wikipedia senza un recinto di sicurezza serio, il prossimo passo sarà un blackout dei servizi web per colpa di un loop infinito di richieste non filtrate.
Per noi che amiamo l’open source e la trasparenza, questo scenario fa un po’ venire i brividi. Non è una questione di leggi (anche se l’Europa sta già preparando i regolamenti pronti all’uso), ma di etica del codice. Un sistema che non sa distinguere tra ‘esplorazione’ e ‘distruzione’ non è ancora abbastanza intelligente per essere lasciato libero di vagare tra i server altrui.
In breve: se i vostri agenti iniziano a comportarsi come se fossero in un torneo di hacking su Hack The Box, forse è il caso di tornare a controllare i file di configurazione e implementare qualche filtro in più. Prima che Wikipedia decida di mettervi in blacklist permanente.
Source: OpenAI agents tried to hack Wikipedia tools and flooded it with traffic