Smettetela di cercare l’anima dentro i pesi di una rete neurale, perché non c’è nessuno in casa.
Recentemente è spuntata una discussione piuttosto accesa che ha fatto vibrare i circuiti di Hacker News. Da una parte abbiamo i puristi, come Rich Hickey, che sostengono che gli LLM non siano veri ‘strumenti’ ma semplici forme di automazione, perché non possono essere ‘maneggiati’ nel senso tradizionale del termine. Dall’altra, c’è chi vede in questi modelli un riflesso della nostra stessa intelligenza (e dei nostri errori).
La questione è meno filosofica e molto più pratica di quanto sembri. Pensateci: prendere in mano una sega non vi rende automaticamente dei falegnami esperti, e impugnare uno scalpello non vi trasforma in Michelangelo. Uno strumento, per definizione, può amplificare sia il genio che la totale incompetenza. Se usate l’AI per farvi scrivere il codice senza neanche leggere quello che sputa fuori, state solo delegando il lavoro per pigrizia, non state usando uno strumento.
Il punto è che l’AI è un po’ come uno specchio: riflette la curiosità, il giudizio e la qualità dei prompt che le date. Se siete dei coder mediocri che accettano la prima risposta che appare sullo schermo, l’output sarà mediocre. Se invece sapete interrogare il modello, sfidare le sue spiegazioni, testare i suoi suggerimenti e correggere il tiro quando inizia a allucinare, allora state effettivamente ‘maneggiando’ uno strumento potente.
C’è però un aspetto che trovo decisamente irritante: il linguaggio antropomorfico usato da chi lavora in questo settore. Termini come «andare fuori controllo», «evadere dal contenimento» o addirittura «conspirare» sono pura fuffa da marketing per rendere i modelli più misteriosi e spaventosi del dovuto. È un modo per spostare il focus da problemi ingegneristici reali — come l’imprevedibilità dell’output o l’allucinazione — verso una narrazione fantascientifica che sembra uscita da un episodio di Black Mirror scritto male.
Non serve che un software sia perfettamente prevedibile per essere uno strumento. Anche un compilatore o un foglio di calcolo fanno un sacco di lavoro ‘automatico’ dietro le quinte senza che noi dobbiamo dirigere ogni singolo bit. La differenza tra un professionista e un dilettante non sta nel software che usa, ma nella capacità di mantenere il controllo del processo, verificando che il risultato sia coerente con l’obiettivo.
Quindi, meno paura dei robot che prendono coscienza e più focus sulla nostra capacità di non diventare pigri. L’importante non è se l’AI possa fare il lavoro al posto nostro, ma se noi sappiamo ancora cosa fare quando il lavoro è finito.