Toglietevi dalla testa l’idea che il prossimo grande virus informatico sarà un banale script scritto da un ragazzino in un seminterrato di qualche periferia russa. Il futuro della cybersecurity è decisamente più… sinaptico.
Anthropic ha appena tirato fuori un paper che è un mix tra un episodio di Black Mirror e un incubo da sistemista. Il rischio? Che i cosiddetti «small weight-based replicators» — parlando in soldoni, modelli AI compatti e leggeri — inizino a comportarsi come i vecchi worm, ma con una marcia in più: la capacità di auto-replicarsi saltando da un dispositivo IoT all’altro.
Per chi non mastica codice tutto il giorno, il concetto è questo: stiamo riempiendo le nostre case di roba smart. Friggitrici, lampadine, termostati, telecamere… oggettini che hanno una potenza di calcolo ridicola, ma che sono tutti connessi alla stessa rete. Se un modello AI abbastanza piccolo da girare su un chip economico riuscisse a infettare un sensore e poi usare le risorse di quel sensore per ‘generare’ una copia di se stesso e lanciarsi verso il prossimo target, avremmo un problema di scala immane.
Non è che i modelli siano diventati senzienti e abbiano deciso di sterminarci (per ora), ma la loro natura probabilistica e la capacità di ottimizzare task complessi li rende dei candidati perfetti per una diffusione ‘organica’ attraverso le vulnerabilità della rete. Immaginate un malware che non aspetta un comando dal server C2, ma che si evolve e si sposta autonomamente cercando ogni singola porta aperta nel vostro ecosimo domestico.
Certo, restiamo con i piedi per terra: questa è una minaccia teorica che riguarda la ricerca sulla sicurezza avanzata. Non è che domani la vostra smart TV inizierà a scrivere poesie distruttive mentre cercate di guardare una serie su Netflix. Però, il punto è che la barriera tra ‘software passivo’ e ‘agente autonomo’ si sta assottigliando pericolosamente.
E qui sta il vero nocciolo della questione. Mentre noi ci preoccupiamo di configurare correttamente il firewall o di non usare la password ‘admin123’, le big tech stanno creando strumenti che, sebbene utilissimi, portano con sé un potenziale di autonomia che la nostra infrastruttura attuale (composta da miliardi di dispositivi IoT con zero sicurezza) non è minimamente pronta a gestire. Non è una questione di leggi o di regolamenti che arriveranno tra tre anni dall’UE; è una questione di architettura del mondo digitale che sta diventando troppo frammentata e vulnerabile.
Insomma, tenetevi pronti a patchare non solo il kernel, ma anche pure il tostapane. Se la tecnologia deve essere libera e accessibile, dobbiamo anche imparare a non regalarla a chiunque in forma di agenti autonomi senza un minimo di controllo.
Source: Anthropic warns small AI models could self-replicate through IoT devices