Guardate i benchmark di qualche mese fa e vedrete una scena quasi poetica: modelli open-source che, grazie a un buon framework di orchestrazione, riuscivano a battere i giganti proprietari. Sembrava che il potere stesse tornando nelle mani di chi ama compilare tutto da zero. Poi, quasi magicamente, le cose sono cambiate.
Il problema non è più solo quanto è intelligente il modello (i pesi), ma quanto è bravo il suo «hanno» (l’harness). Immaginate l’AI non come un cervello isolato, ma come un agente che ha a disposizione strumenti, memoria e permessi. È qui che si gioca la partita vera. Le grandi aziende non si sono fatte beffare: hanno capito che se integrano strettamente il modello al suo ecosistema di strumenti, creano una barriera quasi impossibile da scavalcare. È un trucco vecchio come il mondo, molto simile a quando un produttore di hardware ti costringe a usare solo i suoi accessori perché «funzionano meglio insieme».
Il recente Terminal-Bench ha mostrato proprio questo: i laboratori proprietari hanno iniziato a stringere le viti, integrando modello e scaffold in un unico blocco monolitico. Il risultato? Se provi a usare un modello open sulla loro infrastruttura, le performance crollano. È la strategia del recinto: rendono il tutto così efficiente che smettere di usare il loro ecosistema sembra una scelta tecnicamente stupida. E noi sappiamo bene che dove c’è estrema ottimizzazione, spesso si nasconde un costo invisibile in termini di libertà.
Ma non è tutto buio. C’è una luce in fondo al tunnel, ed è un problema di permessi. Attualmente, nessuno ha risolto davvero come gestire le «write operations». È facile dare a un agente il permesso di leggere un PDF, ma chi decide se può spendere i tuoi soldi o inviare un’email a tuo nome senza farti impazzire con mille notifiche? Il rischio di quella che chiamano «consent fatigue» è altissimo: finiremo per cliccare «approva» su tutto pur di non essere interrotti, aprendo la porta a disastri imprevisti.
La vera opportunità per la community sta proprio qui, nel creare uno strato di controllo neutro e universale. Se riusciamo a costruire un framework di governance che funzioni indipendentemente dal modello che stiamo usando, il vantaggio dei big tech svanisce. I dati dicono che i modelli open, su un framework neutrale, costano fino a cinque volte meno e arrivano quasi alla pari dei top di gamma.
Non serve temere il segreto dei pesi dei modelli proprietari; la sicurezza non sta nel nascondere il codice, ma nel controllare cosa l’agente può effettivamente toccare. La sfida è aperta: dobbiamo costruire le regole del gioco prima che i proprietari del campo decidano che le regole le scriviamo solo noi, dietro un abbonamento mensile.
Source: The state of open source AI