Scommetto che la vostra GPU sta già iniziando a sudare solo a leggere questa notizia. Google ha appena tirato fuori Gemma 4 12B e, ad un primo sguardo, sembra che abbiano finalmente capito che non tutti noi abbiamo un cluster di H100 sotto la scrivania insieme a un distributore di snack.

Il cuore della notizia è questo: un modello multimodale «encoder-free» progettato per portare l’intelligenza artificiale direttamente sul vostro hardware locale. Tradotto dal tech-giargonese: l’idea è di far girare un modello capace di elaborare testo e immagini senza dover mandare ogni singolo bit verso un server in California. E la cosa che spacca davvero è l’architettura senza encoder, che promette prestazioni elevate in un pacchetto che non richiede la potenza di calcolo di una supernova.

Per noi che passiamo le serate a far girare script di automazione, tweakare modelli per farli girare su vecchi hardware o integrare l’IA nei nostri progetti con Godot o nei workflow di Blender, questa è una bomba. Un modello da 12B che gira decentemente su un laptop serio significa poter creare assistenti locali, tool di analisi immagini per i nostri progetti di computer vision o automazioni per le nostre CNC senza il rischio che la privacy venga venduta al miglior offerente o che la latenza ci faccia venire voglia di lanciare il computer dalla finestra.

Certo, restiamo noi: non tutto è oro quello che luccica. Google è sempre Google, e dietro la parola «open weights» si nascondono sempre i soliti compromessi. È un modello aperto? Sì, ma nel loro ecosistema. Non vedo ancora una vera battaglia per la democratizzazione totale, ma almeno stavolta il peso computazionale è su una scala che non ci richiede di chiedere un mutuo per aggiornare la workstation.

In definitiva, se riuscite a far girare Gemma 4 12B senza far esplodere la ventola del vostro MacBook o del vostro PC assemblato con pezzi recuperati, abbiamo tra le mani uno strumento incredibile per smanettare. È il tipo di tecnologia che può trasformare un semplice script di Python in qualcosa di veramente intelligente e autonomo. Ora, scusatemi, ma vado a vedere se riesco a caricare questo mostro senza far fondere i condensatori.

Source: Gemma 4 12B: A unified, encoder-free multimodal model

Lo so, lo so. Un altro articolo su un nuovo modello di AI. Ma stavolta c’è un dettaglio che potrebbe far drizzare le orecchie anche ai più cinici tra noi: Gemma 4 gira sul tuo iPhone, completamente offline. Sì, avete letto bene. Niente server lontani, niente dati che vagano nel cloud. O almeno, questa è la promessa.

Google ha appena rilasciato l’app AI Edge Gallery, che permette di eseguire modelli di intelligenza artificiale direttamente sul tuo dispositivo mobile. E non stiamo parlando di qualche toy model, ma di Gemma 4, l’ultimo gioiellino di casa Google. La novità? Tutto rimane nel tuo telefono, senza bisogno di connessione internet.

Ma perché dovrebbe importarci? Per noi smanettoni, la possibilità di avere un modello di AI potente e privato è una manna dal cielo. Potremmo finalmente sperimentare con machine learning senza dover mandare i nostri dati a qualche server remoto. E poi, ammettiamolo: è sempre figo avere un supercomputer in tasca.

L’app offre alcune funzionalità interessanti, come il ‘Tiny Garden’, un modo per addestrare modelli personalizzati, e il ‘Sandbox’, dove possiamo testare i modelli senza rischi. C’è anche una modalità ‘Privacy’, che promette di non raccogliere dati sensibili. Insomma, sembra quasi troppo bello per essere vero.

Ma attenzione, perché non tutto è perfetto. Innanzitutto, l’app è solo per iPhone (sì, ancora una volta gli utenti Android sono lasciati indietro). Inoltre, la promessa di privacy è relativa: Google ammette di raccogliere alcuni dati diagnostici, anche se non li associa direttamente a noi. E poi, con 35,4 MB, l’app non è proprio leggerissima.

Cosa significa per noi che amiamo mettere le mani in pasta? Be’, finalmente possiamo sperimentare con l’AI senza doverci preoccupare di server costosi o di problemi di privacy. Possiamo addestrare modelli su dataset personalizzati, testare algoritmi e vedere come si comportano in tempo reale. È un’opportunità per imparare, sperimentare e creare senza limiti.

Ma attenzione: non fidatevi troppo. La privacy è un concetto relativo, soprattutto quando si tratta di Big Tech. Leggete sempre i termini e le condizioni, e ricordate che, anche se i dati rimangono sul vostro dispositivo, Google potrebbe comunque raccogliere informazioni su come usate l’app.

In conclusione, Gemma 4 sul tuo iPhone è una notizia interessante, ma con le dovute riserve. Se siete smanettoni e volete sperimentare con l’AI, questa potrebbe essere l’occasione giusta. Ma ricordate: la privacy perfetta non esiste, e la curiosità deve sempre essere accompagnata da un pizzico di scetticismo.

Source: Gemma 4 on iPhone