Un nuovo modello di speech-to-text così leggero da girare su un engine CPU condiviso con Needle. Velocità folle, peso ridicolo e zero sbatti per le risorse di sistema.
Scopri di più Whistle: 17 MB di pura magia (e addio latenza)
Tag: EdgeComputing
Bonsai 27B: l’intelligenza artificiale che finalmente non ha bisogno di un data center (o di venderti l’anima)
Un modello da 27 miliardi di parametri che gira su uno smartphone? Sembra magia nera, ma Bonsai 27B sta riscrivendo le regole della compressione LLM senza sacrificare troppo il ragionamento.
Scopri di più Bonsai 27B: l’intelligenza artificiale che finalmente non ha bisogno di un data center (o di venderti l’anima)