L’era del «non è colpa mia, l’ha detto l’intelligenza artificiale» sta ufficialmente finendo, e la colpa è di un tribunale tedesco che ha deciso di rimettere i big tech in riga.
Per anni, i motori di ricerca si sono goduti il privilegio del ‘safe harbor’: in pratica, potevano ospitare contenuti creati da altri senza rischiare troppo, a patto di rimuoverli se qualcuno faceva presente che erano una bomba a orologeria di fake news. Ma con l’avvento degli AI Overviews, Google ha iniziato a fare qualcosa di molto più audace (e pericoloso): non si limita più a indicizzare, ma sintetizza, rielabora e, periodicamente, inventa fantasie degne di un trip sotto LSD.
Il caso specifico è da manuale: l’AI di Google ha collegato in modo totalmente infondato due editori a delle attività fraudolente, tirando fuori affermazioni che non esistevano in nessuna delle fonti citate. Il verdetto del tribunale regionale tedesco è stato netto: quegli abstract generati dall’IA non sono semplici riassunti, sono «parole proprie» di Google. E se Google dice una cavolata, Google ne risponde.
Da smanettone che passa le notti a debuggare script o a far girare modelli locali su hardware che scotta, trovo questa sentenza una vittoria epica contro l’hype tossico. Siamo stanchi di vedere le corporation che spingono l’acceleratore sull’automazione solo per tagliare i costi, scaricando poi l’onere della veridicità sull’utente finale o sulle fonti originali. È facile urlare al progresso quando si sta dietro a un server farm, ma se il tuo bot inizia a diffamare le persone, devi prenderti la responsabilità del tuo codice.
Cosa cambia per noi che amiamo smanettare e costruire cose? Beh, per un secondo potrebbe sembrarlo un limite all’innovazione, ma in realtà è fondamentale per la sopravvivenza del web aperto. Se l’IA continua a ‘cannibalizzare’ i contenuti altrui inventando fatti a caso, la fiducia nel web crollerà definitivamente, trasformandolo in un deserto di allucinazioni digitali.
Per chi sviluppa software o lavora con i dati, questo significa che il paradigma sta cambiando: non basta più che il modello sia ‘efficiente’ o ‘veloce’, deve essere verificabile. Il far west dell’IA generativa sta incontrando il muro della realtà legale. E onestamente? Mi piace. Se vuoi far parlare la tua macchina, devi anche saperle tenere la lingua in bocca quando sbaglia.
Speriamo solo che questa sentenza non porti a un eccesso di cautela che renda i motori di ricerca ancora più inutili e piatti, ma almeno, per una volta, il peso della verità non ricade solo su di noi che cerchiamo solo di capire come far funzionare un modulo Python senza che esploda tutto.
Source: German ruling declares Google liable for false answers in AI Overviews