Chi l’avrebbe mai detto che la Silicon Valley avrebbe improvvisamente iniziato a preoccuparsi della nostra privacy e del risparmio di banda, vero?
Per mesi abbiamo assistito alla corsa all’oro dell’IA generativa, una giostra frenetica dove tutti cercavano di spingere il più possibile verso il cloud. Il risultato? Server che scaldano quanto un reattore nucleare e una dipendenza da API esterne che farebbe paura anche a un fan della serie ‘Black Mirror’. Ma, contro ogni aspettativa, sembra che il gigante di Cupertino abbia deciso di cambiare marcia.
Le tracce lasciate dal leaker Aaron Perris suggeriscono che Apple stia sviluppando una nuova app nativa per macOS dedicata a rendere ‘facile’ l’esecuzione di modelli IA direttamente sul proprio hardware. Sì, avete letto bene. L’idea è quella di portare il carico di lavoro dai mega-datacenter alla potenza dei chip Apple Silicon che abbiamo già sotto il dito.
Per noi che amiamo smanettare con i pesi dei modelli, scaricare file da decine di GB e provare a far girare qualche versione quantizzata di Llama o Mistral senza che il Mac esploda, la notizia è decisamente eccitante. Far girare l’IA in locale significa meno latenza, meno costi di inferenza e, soprattutto, il controllo totale sui propri dati. Niente più prompt che finiscono nel database di qualche corporation per addestrare il prossimo modello ‘miracoloso’.
Certo, c’è quel piccolo ‘ma’ che non guasta mai. Sappiamo bene come funziona il gioco: Apple ama la semplicità, ma ama ancora di più la sua versione di ‘semplicità’. Il rischio è che questa app sia un’astrazione talmente stratificata da renderci impossibilitati a modificare i parametri che ci piacciono, trasformando un potente strumento di hacking in una scatola nera preconfezionata e difficile da personalizzare. Se l’obiettivo è solo rendere tutto ‘user-friendly’ per i non addetti ai lavori, potremmo trovarci con le solite limitazioni che rendono frustrante ogni tentativo di deviazione dal percorso prestabilito.
In Italia, poi, non è che la questione cambi molto: le leggi sulla privacy sono stringenti, ma se il modello gira sul tuo MacBook Pro mentre sorseggi un caffè, la questione della sovranità del dato è già risolta alla radice.
Restiamo in attesa di vedere se questa app sarà un vero strumento per i power user o solo un altro modo elegante per dirci: ‘Ecco la tecnologia che vuoi, ma non toccare nulla che non abbiamo approvato noi’. Se riusciranno a mantenere l’apertura verso l’ecosistema open source, avremmo tra le mani qualcosa di veramente rivoluzionario. Se invece sarà un altro recinto dorato, beh… sapete dove trovare la mia repository su GitHub per le alternative.
In bocca al lupo, Apple. Ne avrai bisogno.
Source: Apple has new Mac app coming to make running local AI models easy