Chi l’avrebbe mai detto che per avere un compagno di jam session intelligente non servisse un cluster di GPU da migliaia di dollari o una connessione in fibra ottica che non arriva nemmeno a casa nostra?
Mentre il resto del mondo corre freneticamente dietro a modelli linguistici mastodontici che sembrano avere la stessa leggerezza di un server rack in un data center pieno di fumo, qualcuno ha deciso di tornare alle basi (o almeno, alle basi che girano localmente). È appena trapelato su Hacker News un progetto che è puro netturbino per la nostra curiosità nerd: un Transformer da soli 125 milioni di parametri addestrato per completare le performance MIDI in tempo reale.
Sì, avete letto bene. 125M. Per i non addetti ai lavori, parlando in termini di scale che oggi usiamo per far generare immagini di gattini in stile cyberpunk, è una dimensione ridicola. Eppure, è proprio questa sua ‘piccolezza’ a renderlo una figata atomica. L’idea non è quella di avere un’entità onnisciente che scrive la tua prossima sinfonia, ma un sistema che funge da ‘autocomplete’ per il piano. Tu suoni una sequenza, e lui, senza latenza degna di nota, ti suggerisce dove potrebbe andare la prossima nota o l’accordo successivo.
La cosa che mi ha fatto saltare sulla sedia è il concetto di ‘on-device’. In un’epoca in cui ogni minima funzione di un’app richiede che i tuoi dati vengano sparati su un server in California per essere processati (e poi rivenduti a qualche broker pubblicitario), l’idea di far girare tutto localmente è un briciolo di libertà che non dovremmo mai sottovalutare. Niente latenza da rete congestionata, niente dipendenza dal cloud, niente privacy che va a farsi benedire ogni volta che premi un tasto.
Ovviamente, non aspettatevi che questo modello superi Beethoven in una sfida di composizione. Siamo parlando di pattern recognition applicata al protocollo MIDI. È un esperimento di efficienza: come far fare cose intelligenti a hardware che non ha bisogno di una centrale nucleare per respirare. Se i maker riusciranno a integrare questo tipo di logica in synth hardware o controller economici, potremmo vedere strumenti musicali con un ‘cervello’ locale davvero reattivo.
Certo, restano i soliti dubbi su quanto questo possa diventare uno standard chiuso in futuro, ma per ora, vedere un Transformer che balla al ritmo del tuo MIDI senza chiedere il permesso a nessun server esterno è una piccola vittoria per la filosofia dell’informatica decentralizzata. Un esperimento che ci ricorda che, a volte, meno parametri significano più magia.
Source: Show HN: I trained a 125M model to autocomplete piano on-device