Mentre il resto del mondo è impegnato a inseguire l’ennesima release di un modello da trilioni di parametri che richiede la potenza di calcolo di una stella morente, DeepSeek ha deciso di giocare con regole diverse.
Il nuovo DeepSeek V4.1 Flash è appena atterrato ed è quella tipologia di notizia che fa saltare sulla sedia chiunque ami ottimizzare il codice fino all’ultimo byte. Non è il solito modello ‘gonfiato’ che cerca di risolvere tutto con la forza bruta; qui parliamo di un’architettura Causal Encoder-Decoder (CED) che punta tutto sull’efficienza. In pratica, hanno costruito un motore che pesa poco ma spinge come un mostro.
Per chi non ha passato le ultime notti a debuggare architetture neurali, il trucco sta nel sistema Mixture-of-Experts (MoE) asimmetrico. Immaginate un serbatoio enorme da 552 miliardi di parametri, ma che quando lavora ne attiva solo una frazione: 8 miliardi in input e 16 miliardi in output. È come avere una biblioteca infinita, ma far lavorare solo i tre bibliotecari più veloci del mondo quando cercate un libro. Il risultato? Una latenza ridotta al minimo e un costo per token che fa sembrare i competitor delle prepagate svuotate dopo due minuti.
La vera chicca, però, è la parte vision. Non hanno preso un modello testuale e ci hanno ‘incollato’ sopra un modulo per vedere le immagini come si fa di solito con un patch mal riuscito. No, qui l’understanding delle immagini è nativo, integrato fin dal pre-training. Se devi far girare un agente che deve analizzare screenshot, terminale e log in sequenza, questo è il tuo nuovo migliore amico.
E poi c’è il compressed KV caching. Hanno ridotto l’impronta della cache di circa un quarto rispetto alla generazione precedente. Per noi che amiamo far girare tutto il possibile su hardware che non è un cluster della NASA, questo significa poter gestire task molto più lunghi e complessi senza mandare in crash la memoria o svuotare il conto in banca.
Certo, restano le solite domande su dove girino questi dati e su quanto la nostra sovranità digitale sia protetta da queste architetture ‘black box’ che arrivano dall’est. Ma se l’obiettivo è costruire agenti capaci di usare il computer, scrivere codice e analizzare enormi dataset senza far esplodere il budget, DeepSeek ha appena lanciato una granata nel giardino dei giganti. Se funziona come dicono, il gioco è appena cambiato.