Se la vostra idea di ‘lento’ è aspettare che un compilatore finisca di masticare un progetto C++ pieno di template, preparatevi a rimettere in discussione i vostri standard di pazienza.
La notizia che sta girando tra i corridoide di Hacker News è abbastanza folle: Cerebras e OpenAI hanno messo insieme un ‘frullatore’ di intelligenza chiamato GPT-5.6 Sol in modalità Ultrafast. Non stiamo parlando di un piccolo tweak al tasso di generazione, ma di un salto che arriva fino a 750 token al secondo. Per capirci, è una velocità che rende le risposte dei modelli attuali simili a un vecchio modem 56k che cerca di scaricare un file ISO in fibra ottica.
Ma perché dovrebbe interessarci? Se siete uno di quelli che scrive script per automatizzare tutto ciò che è noioso, la velocità è tutto. Il punto non è solo leggere il testo velocemente, ma poter lanciare agenti autonomi che agiscono in tempo reale. Immaginate un sistema di cybersecurity che analizza un attacco e reagisce prima ancora che abbiate avuto il tempo di distogliere lo sguardo dal terminale per prendere un sorso di Red Bull. Questo è l’obiettivo dichiarato.
Il trucco magico, se vogliamo chiamarlo così, non è software, ma hardware. Cerebras sta usando la sua architettura Wafer-Scale Engine. Invece di far rimbalzare i dati tra la memoria e il processore (il classico collo di bottiglia che fa scaldare le GPU come un forno per la pizza), hanno creato un chip grande quanto un wafer di silicio con 44 GB di SRAM integrata. In pratica, i pesi del modello restano lì, sul chip, e i token scorrono senza interruzioni. È un approccio ‘brute force’ dall’efficacia clamorosa, che risolve il problema del movimento dati che solitamente uccide le performance dei modelli enormi.
Certo, c’è un piccolo ‘ma’ che non possiamo ignorare. Per ora, l’accesso è limitato a un gruppo ristretto di clienti selezionati. Come al solito, restiamo in attesa di vedere quando questa tecnologia uscirà dai giardini recintati per arrivare a noi maker e sviluppatori indipendenti. E poi, c’è sempre quella sensazione di dipendenza crescente da infrastrutture proprietarie che diventano sempre più mastodontiche e inaccessibili.
Però, lasciate che vi dica una cosa: se i benchmark di ‘Humanity’s Last Exam’ sono veri e il modello ha smontato i competitor risolvendo migliaia di quesiti da dottorato in poche ore invece di giorni, allora abbiamo davanti qualcosa di veramente serio. Non è solo hype da comunicato stampa, è potenza di calcolo pura che sta cambiando le regole del gioco. Restiamo sintonizzati, ma con un occhio critico su chi detiene le chiavi di questo nuovo turbo.