E se vi dicessi che il vostro computer, quello che usate per guardare serie TV o scrivere codice, ha potenzialmente lo stesso ‘cervello’ di un server da migliaia di euro? Non è un trick da venditori di hardware, ma la promessa di Strata, il nuovo framework che sta facendo discutere la community.
Il problema dell’AI locale è sempre stato lo stesso: o hai una GPU da capogiro con una VRAM infinita, o ti accontenti di modelli mediocri che rispondono alla velocità di una tartaruga con l’artrite. Strata prova a scardinare questo limite con un approccio che potremmo definimento ‘democratico’. L’idea è quella di non lasciare risorse inutilizzate: se la tua scheda video è piena, Strata va a pescare nella RAM e coinvolge persino il processore, orchestrando un lavoro di squadra tra i vari componenti del PC.
Immaginate una cucina professionale: gli ingredienti che usate ogni secondo sono sul tagliere (la vostra GPU), ma il resto della dispensa e della cella frigorifera (RAM e SSD) sono pronti a intervenire non appena serve. È proprio questo il cuore del funzionamento di Strata. Il modello non deve per forza stare tutto interamente sulla scheda video; i suoi ‘esperti’ vengono spostati e caricati dinamicamente. Il risultato? Potete far girare modelli complessi, come il Qwen3.8-Flash-Next, anche se non possedete un supercomputer.
La cosa più interessante, e che farà impazzire chi usa agenti di coding o assistenti personali, è la compatibilità. Si comporta come un server OpenAI: basta puntare l’URL locale e il gioco è fatto. Potete collegarci Claude Code o qualsiasi app che parli il linguaggio standard delle API senza dover configurare mille dipendenze strane. E per chi ama sperimentare, c’è anche la gestione delle immagini e la possibilità di decidere quanto ‘pensare’ debba l’AI (da un modo istantaneo a uno più riflessivo e profondo).
Certo, non è tutto rose e fiori. Se la RAM finisce, il PC inizierà a rallentare vistosamente, trasformando la vostra sessione di lavoro in un test di pazienza estrema. E sebbene l’approccio sia geniale per chi vuole privacy totale e controllo locale, gestire i pesi dei modelli e i caricamenti manuali richiede comunque un minimo di dimestichezza con i terminali e i file di configurazione. Ma per noi appassionati, questo tipo di libertà e di ottimizzazione estrema è esattamente ciò che serve per smettere di dipendere dai cloud proprietari e dalle loro restrizioni.
In breve: se avete un PC con una discreta quantità di RAM e una GPU decente, Strata è la scusa perfetta per dare una nuova vita all’hardware che avete già sotto mano.
Source: Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s