Scommetto che molti di voi stavano già pensando che l’unico modo per far girare un modello decente fosse avere un cluster di H100 grande quanto il garage di un fan di Star Wars. Ebbene, OpenAI ha deciso di smettere di fare la cliente viziata e ha iniziato a progettarsi l’hardware di casa.
La notizia è arrivata con la forza di un glitch in un sistema critico: OpenAI ha presentato il suo primo processore custom, battezzato «Jalapeino». Non è un chip generico per farci girare Minecraft o compilare kernel Linux, ma un pezzo di silicio disegnato specificamente per ottimizzare l’inferenza. In pratica, hanno chiesto a Broadcom di aiutarli a costruire un motore che parli la stessa lingua dei loro modelli, saltando il passaggio intermedio di comprare tutto ciò che NVIDIA mette in vendita con la fretta di un bot di trading.
Per chi non mastica silicio tutto il giorno, l’inferenza è quella fase in cui l’IA riceve il tuo prompt e sputa fuori la risposta. È il momento in cui il modello «pensa». Fare questo compito su hardware generico è come cercare di far girare Cyberpunk 2077 su un Commodore 64: tecnicamente possibile se hai una pazienza infinita, ma decisamente inefficiente. Con Jalapeño, l’obiettivo è la velocità pura e l’efficienza energetica, riducendo quella latenza che ti fa aspettare che ChatGPT finisca di scrivere la frase mentre tu fissi lo schermo con l’aria di chi sta aspettando che il rendering di un video 4K finisca su un vecchio laptop.
Certo, c’è da essere entusiasti. Vedere l’hardware che si evolve insieme al software è la base del progresso tecnologico. Ma non siamo tutti qui a farci incantare dai comunicati stampa colorati. Se da un lato questo significa prestazioni incredibili, dall’altro stiamo assistendo a una verticalizzazione estrema. Stanno costruendo un ecosistema dove tutto, dal codice ai transistor, è progettato per funzionare solo sotto il loro dominio. È un po’ come se i maker più puri dovessero accettare che il futuro dell’IA sia scritto in un linguaggio che solo un manipolo di ingegneri in California può decifrare.
In Italia, dove magari ci preoccupiamo più della privacy e di dove finiscono i nostri dati che del numero di transistor in un chip custom, questa notizia potrebbe sembrare distante. Ma la verità è che quando i giganti iniziano a fabbricarsi i propri pezzi, il gioco cambia per tutti. Il confine tra chi usa la tecnologia e chi possiede la tecnologia si sta facendo sempre più marcato.
Insomma, Jalapeño promette di bruciare, ma restiamo tutti a vedere se questo calore alimenterà l’innovazione aperta o se servirà solo a rendere ancora più impenetrabile la fortezza di OpenAI.
Source: OpenAI unveils its first custom chip, built by Broadcom