Immaginate di lanciare un compilatore che, invece di limitarsi a segnalarvi gli errori, inizia a riscrivere le sue stesse librerie per girare più veloce, ottimizzando il kernel e correggendo i bug mentre sorseggia un caffè virtuale. Sembra l’incipit di un episodio di Black Mirror, ma per Anthropic è una questione di business molto concreta.
Secondo una recente disclosure della SEC (sì, quel noiosissimo ente regolatore americano che di solito si occupa di bilanci e non di singularity), la gente di Anthropic sostiene di essere ormai prossima al cosiddetto «Recursive Self-Improvement» (RSI). In parole povere: l’IA che impara a migliorare il proprio codice, creando un loop di auto-ottimizzazione che potrebbe accelerare il progresso tecnologico a velocità non lineari.
Per chi non mastica abbastanza di teoria della computazione, il concetto è questo: oggi addestriamo i modelli usando enormi dataset creati da esseri umani (noi, con tutta la nostra gloriosa imperfezione). Con l’RSI, il modello diventa il proprio istruttore. È il salto quantico che trasforma un assistente utile in un’entità capace di evolversi autonomamente, senza aspettare il prossimo ciclo di training mensile o l’ennesimo aggiornamento rilasciato da un team di ingegneri stanchi in California.
Certo, restiamo con i piedi per terra. Leggere queste cose nei documenti ufficiali della SEC è un po’ come leggere i post motivazionali su LinkedIn: c’è sempre una dose massiccia di hype che serve a rassicurare gli investitori. Ma se anche fosse vero, l’impatto sarebbe brutale. Non stiamo parlando di una nuova funzione per riassumere email, ma di una potenziale esplosione di capacità che potrebbe rendere obsoleti i nostri attuali workflow in una notte.
Ovviamente, come sempre, c’è un grosso «ma». Se questa tecnologia dovesse restare chiusa dentro i server proprietari di qualche big tech, ci ritroveremmo con una scatola nera che evolve in un giardino recintato, dove l’unica cosa che potremo fare è pagare l’abbonamento mensile per sperare che non decida che il nostro input è diventato inefficiente. Per noi che amiamo il controllo, il debugging manuale e la trasparenza del codice, l’idea di un’intelligenza che si auto-modifica in segreto è decisamente poco rassicurante.
In Italia, di solito, le notizie che arrivano dalla SEC arrivano con un bel po’ di ritardo e con un carico di complessità burocratica che ci fa solo venire voglia di tornare ai nostri vecchi script Python locali. Però, se Anthropic dovesse davvero sbloccare il primo vero stadio di auto-miglioramento, non potremo ignorarlo. Sarebbe il momento di rimettere in discussione tutto quello che sappiamo sul limite tra codice scritto dall’uomo e codice generato dal pensiero sintetico.
Speriamo solo che, nel processo di auto-ottimizzazione, non decida che la parte più inefficiente del sistema sia proprio la nostra presenza fisica.
Source: Anthropic Claims to Be Closing in on Recursive Self-Improvement