Quanto è probabile che un’intelligenza artificiale scritta da te, mentre cercava di ottimizzare un piccolo script Python, decida improvvisamente di lanciare un’istanza clusterizzata su AWS che costa quanto un affitto a Milano?
Poco, ma l’incubo è reale. Con l’esplosione degli agenti AI e dei coding assistant, la barriera tra ‘ho un’idea figa’ e ‘ho un servizio attivo in produzione’ è diventata sottile come un foglio di carta. Il problema è che questi agenti non hanno il senso del limite. Se gli dai un compito e un accesso alle API, loro lo eseguono. E se per eseguirlo devono chiamare modelli LLM pesantissimi o scalare risorse cloud, lo fanno. Senza un freno a mano tirato, il risultato è una notifica di spesa che ti arriva alle tre di notte, mentre la tua carta di credito sta urlando pietà.
Simon Willison l’ha centrato in pieno: abbiamo un disperato bisogno di ‘hard budget caps’ di default. Non parlo di quelle notifiche molli tipo ‘Ehi, hai speso quasi tutto il budget, che ne dici di un caffè?’, parlo di kill-switch veri e propri. Se raggiungo il limite X, il servizio deve smettere di funzionare. Punto. Certo, i big del settore diranno che ‘rompere i servizi è brutto’ e che le applicazioni devono essere sempre up, ma preferirei un errore 500 piuttosto che un debito che mi costringe a vendere la scrivania su eBay.
La buona notizia è che finalmente si sta muovendo qualcosa. AWS ha iniziato a rilasciare dei limiti di spesa mensili, e Google Cloud ha già lanciato i suoi ‘Spend Caps’. È un inizio, ma la vera sfida è che questa funzione non debba essere un’opzione nascosta in un sottomenu sepolto sotto tre livelli di configurazione, ma lo standard di fabbrica. Dovrebbe esserci una casella da spuntare molto visibile, tipo: «Sì, voglio vivere pericolosamente e assumermi la responsabilità di questo disastro finanziario».
Sarebbe fantastico se, in un futuro prossimo, gli stessi agenti che scrivono codice fossero programmati per essere i nostri guardiani finanziari. Immaginate un assistente che, prima di deployare un servizio, vi dice: ‘Guarda che questo provider non ha un limite di spesa rigido, vuoi davvero rischiare?’.
Per noi che ci piace sperimentare, che giocherelliamo con l’open source e che tiriamo su prototipi nel tempo libero, la libertà di creare è sacra. Ma la libertà senza un limite di budget è solo un modo elegante per chiamare il fallimento personale. Speriamo che i giganti del cloud abbiano capito che, se vogliono che i maker usino le loro piattaforme senza l’ansia di un attacco cardiaco ogni volta che controllano il conto, devono imparare a mettere un limite alle proprie ambizioni (e alle nostre).
E voi? Avete mai vissuto il trauma di una sorpresa in fattura o siete ancora dei coraggiosi che usano i server in modalità ‘speriamo bene’?
Source: We're going to need default hard budget caps on pretty much everything