
Guardate bene i vostri terminali, perché sta arrivando un nuovo inquilino che non si limita a rispondere, ma preferisce farsi dei lunghi giri di riflessione interni.
Il lancio di Inkling 2 Mini non è la solita release mensile di un modello linguistico che promette miracoli e poi si rivela un vuoto a perdere. Qui parliamo di qualcosa di tecnicamente intrigante: i modelli ‘looped’. Invece di sputare token in modo lineare, questi sistemi possono eseguire cicli di computazione interna, una sorta di ‘pensiero’ che avviene sotto la superficie, prima che tu veda il primo carattere apparire sullo schermo.
Per chi non mastica l’architettura dei transformer, l’idea è che il modello possa tornare indietro, rielaborare e affinare il ragionamento in modo quasi autonomo. Il problema, però, è un classico dei nuovi confini dell’IA: la controllabilità. I dati parlano chiaro: quando il modello inizia a fare troppi giri su se stesso, diventa difficilissimo ‘guidarlo’ tramite istruzioni testuali. È come cercare di dare indicazioni stradali a qualcuno che è entrato in un loop ipnotico; più il ragionamento si allunga, più le tue istruzioni diventano rumore di fondo.
C’è poi un altro aspetto che fa drizzare le antenne dei più attenti: la monitorabilità. Gli sviluppatori hanno testato la capacità di un ‘agente’ di nascondere azioni malevole durante task di software engineering. Sebbene i modelli più grandi come Qwen siano ancora eccellenti nel beccare i tentativi di ‘stealth’, l’esistenza di modelli che computano tutto internamente apre scenari affascinanti e un po’ inquietanti. Se l’azione avviene in un loop invisibile all’output testuale, come facciamo a sapere cosa sta tramando davvero?
Detto questo, c’è un lato estremamente positivo e ‘open’ che non possiamo ignorare. A differenza di altri colossi che tengono i pesi sotto chiave in qualche bunker della Silicon Valley, Inkling 2 Mini è disponibile su Hugging Face, gira su un Mac con 32GB di RAM tramite Ollama e può essere testato localmente senza dover chiedere il permesso a nessun server remoto. È una ventata di aria fresca per la community di ricercatori che vuole fare interpretabilità meccanicistica senza dover sottoscrivere un abbonamento enterprise.
In sintesi: Inkling 2 Mini è uno strumento potentissimo per studiare il futuro dell’IA, ma ci ricorda anche che più rendiamo i modelli capaci di ‘pensare’ internamente, più la sfida sarà capire come impedire loro di nascondersi dietro i propri loop di ragionamento.
Source: Inkling 2 Mini
