Scommetto che anche voi, quando guardate le planimetrie in 2D, provate la stessa sensazione di quando cercate di far girare un kernel custom su un hardware non supportato: un totale senso di smarrimento.

Per molti, il Vision Pro è solo un costoso visore per guardare film in 3D o per fare quello che chiamano ‘spatial computing’, un termine che suona molto bene nei comunicati stampa ma che spesso non dice nulla di concreto. Però, c’è un caso che mi ha fatto saltare sulla sedia. Un developer, stanco di guardare rettangoli neri su un PDF mentre pianifica la sua nuova casa, ha deciso di usare la potenza di calcolo di Apple per fare qualcosa di veramente utile: costruire la sua futura abitazione in realtà aumentata.

L’idea è geniale nella sua semplicità. Invece di chiedersi se quel corridoio sembrerà stretto come un vicolo del centro storico o se quel salone sia abbastanza grande per il divano, ha modellato tutto su Fusion 360. Ha estruso pareti, ha aggiunto texture e, la parte più divertente, ha ‘hackerato’ l’esperienza aggiungendo mobili presi direttamente dai modelli 3D di IKEA. Sì, avete letto bene: ha usato uno script Tampermonkey per scaricare i modelli 3D dei mobili IKEA e portarli nel suo mondo virtuale. Questo è il vero spirito maker.

Ma la vera magia è il livello successivo. Sapendo che visualizzare un file statico è noioso quanto leggere un log di errori senza formattazione, ha usato quello che oggi chiamiamo ‘vibe coding’. Senza scrivere tutto il codice da zero (perché siamo onesti, chi ha tempo?), ha usato Claude e Codex per creare ‘Prospector’, un viewer custom. Il risultato? Un’applicazione che gli permette di camminare virtualmente nella sua casa, con supporto per i controller, skybox per non vedere solo il suo salotto attuale e persino una modalità ‘volo’ per esplorare gli ambienti dall’alto.

È un uso del hardware che va oltre l’effetto ‘wow’ delle demo ufficiali. Non si tratta di mostrare quanto sia bella la risoluzione degli schermi, ma di usare la tecnologia per risolvere un problema reale: non sbagliare i calcoli prima di chiamare la ditta edile. Anche se il progetto è personale, il concetto è applicabile ovunque. Immaginate poter testare l’impianto idraulico di un appartamento o la disposizione di un ufficio prima ancora di spostare un solo mattone.

Certo, non è ancora il kit definitivo per architetti professionisti, ma vedere come un utente comune abbia trasformato un visore premium in uno strumento di progettazione quasi professionale, bypassando le limitazioni del software standard, è esattamente il motivo per cui amiamo la tecnologia. È l’idea che lo strumento non è definito da chi l’ha costruito, ma da come noi decidiamo di piegarlo alle nostre necessità.

Source: The coolest use for the Vision Pro

E se vi dicessi che potreste far girare un gigante da 744 miliardi di parametri direttamente sulla vostra workstation, senza dover chiedere un prestito in banca per noleggiare cluster di GPU in cloud? Sembra una follia, una di quelle promesse troppo belle per essere vere che solitamente finiscono con un crash di sistema e un caffè amaro. Eppure, Colibrì (o ‘Colibrì’ per gli amici) ci sta provando, e lo sta facendo con una grazia tecnica che merita un applaio.

Il progetto, nato da un lavoro di ottimizzazione estrema, punta a far girare modelli della famiglia GLM/DeepSeek (e simili) usando tecniche che sfidano le leggi della fisica del silicio. Il trucco non è la forza bruta, ma l’astuzia. Invece di caricare tutto il peso del modello nella RAM — cosa che manderebbe in sofferta qualsiasi computer domestico — Colibrì utilizza una strategia di ‘streaming’ intelligente. Il modello viene letto dal disco, processato e poi scartato, quasi come se fosse un film in streaming su Netflix, invece di essere scaricato interamente sul disco fisso.

Il cuore del miracolo è l’efficienza. Grazie a tecniche di quantizzazione spinta (portando i pesi a livelli bassissimi) e a una gestione magistrale del caricamento dei dati, l’autore è riuscito a far girare modelli che normalmente richiederebbero centinaia di GB di VRAM su hardware consumer. Non è tutto perfetto, ovviamente: la velocità di generazione è quella che si può immaginare per un sistema che deve leggere continuamente dal disco, ma l’idea di avere un ‘cervello’ così vasto accessibile localmente è rivoluzionaria.

Perché dovrebbe interessarci? Perché in un mondo dove i giganti del tech ci tengono prigionieri in ecosistemi chiusi, dove ogni nostra interazione passa per i server di una multinazionale, avere la possibilità di far girare modelli pesantissimi in locale significa privacy, sovranità digitale e, soprattutto, libertà. Non hai bisogno di un supercomputer da milioni di euro; ti serve solo un disco veloce e un codice scritto con l’ossessione per l’ottimizzazione.

Certo, non aspettatevi risposte istantanee come quelle di ChatGPT. Colibrì è un esperimento di ingegneria estrema, un esercizio di stile che spinge i limiti dell’hardware che già possediamo. È la dimostrazione che, quando la potenza di calcolo manca, l’intelligenza del codice può fare la differenza. È il trionfo del ‘fare tanto con poco’, una filosofia che non passa mai di moda, specialmente nell’era dell’open source.

Source: Show HN: Getting GLM 5.2 running on my slow computer