Dimenticate per un secondo l’idea di avere un supercomputer che pensa come un dio greco ogni volta che volete scrivere una riga di codice o riassumere un’email.
Per mesi siamo stati ipnotizzati dalla corsa all’armamento dei modelli ‘frontier’. Tutti a cercare il nuovo Fable o il Sol, modelli giganteschi, costosissimi e con una potenza di calcolo che farebbe piangere qualsiasi server rack in un ufficio decente. Ma c’è una notizia che sta facendo sussurrare (e un po’ sognare) chiunque abbia mai provato a guardare il conto della API alla fine del mese: i piccoli modelli sono finalmente arrivati e sono una bomba.
Recentemente è circolata una riflessione interessante su quanto modelli come gpt-5.6-luna stiano cambiando le regole del gioco. Non parliamo di geni assoluti capaci di risolvere i teoremi di Fermat, ma di macchine che viaggiano a 100 token al secondo e che costano una frazione infinitesimale rispetto ai giganti. Se prima far girare un processo di ricerca personalizzato su migliaia di dati ti costava dollari (una cifra folle se vuoi lanciare una piccola app per i tuoi utenti), ora stiamo parlando di pochi centesimi.
Qui sta il punto fondamentale per noi che amiamo buildare cose: il paradigma sta cambiando. Il vecchio playbook per le startup era: ‘fai un sito figo, attira utenti, vendi pubblicità’. Ma con l’AI integrata, ogni singola richiesta ha un costo di inferenza che può mandare in bancarotta anche il founder più ottimista. Se ogni interazione ti costa 1 dollaro, un abbonamento a 30 euro al mese è un suicidio finanziario prima ancora di iniziare.
Ma la vera genialità sta nell’analizzare il tipo di lavoro che effettivamente facciamo. Esiste il lavoro ‘IQ 180’, quello dei geni che risolvono problemi strutturali impossibili, e poi esiste il lavoro ‘token spewer’, ovvero la gestione della giungla quotidiana: rispondere a messaggi, aggiornare task, spostare balle, organizzare l’entropia. Il secondo tipo di lavoro non richiede un super-cervello, richiede solo qualcuno (o qualcosa) che sia rapido, affidabile e, soprattutto, economico.
Immaginate un esercito di piccoli agenti specializzati che gestiscono le scartoffie digitali, i flussi di lavoro e le notifiche, lasciando ai modelli massicci solo i compiti che richiedono una riflessione profonda. È un approccio molto più simile all’ecosistema Linux che a quello di un monolite proprietario e chiuso.
Certo, restano da risolvere un sacco di problemi tecnici — sicurezza, gestione dei permessi, evitare che un prompt injection faccia saltare il banco — ma la direzione è tracciata. La vera democrazia tecnologica non passerà per l’accesso a un unico oracolo digitale infallibile, ma per la possibilità di distribuire piccoli, intelligenti e super-economici frammenti di automazione ovunque. E noi, che amiamo smanettare con l’open source e l’efficienza, non vediamo l’ora di iniziare a orchestrare questo caos.
Source: Small Models Have Arrived