Siamo ufficialmente entrati nell’era del ‘rumore bianco digitale’. Se un tempo il problema di internet era il bot che ti spammava link per farti comprare pillole miracolose, oggi abbiamo un problema molto più subdolo e, onestamente, deprimente: l’eco-sistema dell’intelligenza artificiale che sta iniziando a masticare e sputare la propria merda.
Recentemente è circolata una storia (che ha fatto il giro di Hacker News come un virus ben scritto) decisamente inquietante. Un developer ha notato dei repository su GitHub che stavano diffondendo malware. Ovviamente, nel tentativo di risolvere il problema, ha chiesto aiuto all’AI. La risposta? Nulla di utile, la solita allucinazione o vaghezza di rito. Ma il vero colpo di scena è arrivato quando ha aperto una discussion su GitHub per segnalare il problema: il primo commento che ha ricevuto era la copia esatta della risposta dell’AI. E non è finita qui. Quando ha provato a contestare l’assurdità della cosa, un altro utente è intervenuto con… lo stesso identico testo generato dall’AI. Un loop infinito di bot che si rispondono a vicenda, creando un muro di testo inutile che serve solo a coprire il fatto che nessuno sta più controllando davvero quello che succede.
E non è solo un problema di sicurezza o di GitHub. La storia prosegue con un racconto di vita aziendale che fa venire i brividi: un business owner che, invece di rispondere a una domanda tecnica, ti manda uno screenshot di ChatGPT. Ecco, ragazzi, questo è il momento in cui il progresso tecnologico incontra il muro della pigrizia cognitiva. Non stiamo parlando di usare l’AI per velocizzare il refactoring di un modulo complicato o per generare boilerplate noioso, stiamo parlando di delegare il pensiero critico a un modello probabilistico che non sa nemmeno cosa sia un malware.
Per noi che amiamo smontare i circuiti, scrivere script custom o far girare Godot su un vecchio hardware, questa cosa è un insulto. Il bello della tecnologia è capire la logica, è il debug, è il ‘perché questa cosa funziona così?’. Se smettiamo di leggere e iniziamo solo a fare copia-incolla da una dashboard di OpenAI, stiamo solo costruendo una torre di carta digitale destinata a crollare alla prima vulnerabilità critica.
Il rischio concreto? Il cosiddetto ‘Model Collapse’. Se l’AI viene addestrata su dati generati da altre AI (perché l’internet sta diventando un loop di bot che parlano con bot), la qualità dell’informazione degraderà fino a diventare poltiglia digitale. Per noi maker e dev, questo significa che il valore del vero lavoro umano, di quello sporco, fatto di trial and error e logica pura, sta diventando l’unica vera moneta di scambio rimasta. Quindi, continuate a scrivere codice vero, a modellare in 3D con criterio e a non fidarvi di quello che vi dice uno screenshot di ChatGPT. La realtà è fatta di bit che contano, non di allucinazioni statistiche.
Source: I'm Tired of Talking to AI