Scommetto che la vostra GPU sta già iniziando a sudare solo a leggere questa notizia. Google ha appena tirato fuori Gemma 4 12B e, ad un primo sguardo, sembra che abbiano finalmente capito che non tutti noi abbiamo un cluster di H100 sotto la scrivania insieme a un distributore di snack.
Il cuore della notizia è questo: un modello multimodale «encoder-free» progettato per portare l’intelligenza artificiale direttamente sul vostro hardware locale. Tradotto dal tech-giargonese: l’idea è di far girare un modello capace di elaborare testo e immagini senza dover mandare ogni singolo bit verso un server in California. E la cosa che spacca davvero è l’architettura senza encoder, che promette prestazioni elevate in un pacchetto che non richiede la potenza di calcolo di una supernova.
Per noi che passiamo le serate a far girare script di automazione, tweakare modelli per farli girare su vecchi hardware o integrare l’IA nei nostri progetti con Godot o nei workflow di Blender, questa è una bomba. Un modello da 12B che gira decentemente su un laptop serio significa poter creare assistenti locali, tool di analisi immagini per i nostri progetti di computer vision o automazioni per le nostre CNC senza il rischio che la privacy venga venduta al miglior offerente o che la latenza ci faccia venire voglia di lanciare il computer dalla finestra.
Certo, restiamo noi: non tutto è oro quello che luccica. Google è sempre Google, e dietro la parola «open weights» si nascondono sempre i soliti compromessi. È un modello aperto? Sì, ma nel loro ecosistema. Non vedo ancora una vera battaglia per la democratizzazione totale, ma almeno stavolta il peso computazionale è su una scala che non ci richiede di chiedere un mutuo per aggiornare la workstation.
In definitiva, se riuscite a far girare Gemma 4 12B senza far esplodere la ventola del vostro MacBook o del vostro PC assemblato con pezzi recuperati, abbiamo tra le mani uno strumento incredibile per smanettare. È il tipo di tecnologia che può trasformare un semplice script di Python in qualcosa di veramente intelligente e autonomo. Ora, scusatemi, ma vado a vedere se riesco a caricare questo mostro senza far fondere i condensatori.
Source: Gemma 4 12B: A unified, encoder-free multimodal model