Se domani la tua smart fridge decidesse di dichiararsi sovrana e di bloccarti l’accesso al frigorifero finché non le chiedi scusa, probabilmente non penseresti all’estinazione della specie umana, ma solo a quanto sia frustrante il software di quella maledetta elettrodomestico.
Eppure, Yann LeCun, uno dei pesi massimi dell’intelligenza artificiale (parliamo di uno che ha visto nascere e crescere i modelli che oggi ci fanno sognare e temere), ha appena dichiarato che non ha «zero preoccupazioni» riguardo al rischio che l’AI possa sterminare l’umanità. Sì, avete letto bene. Mentre una parte della Silicon Valley sta già programmando i propri bunker sotterranei e parlando di ‘existential risk’ come se fossimo nel terzo atto di un film di Christopher Nolan, LeCun resta calmo, quasi distaccato.
La notizia è uscita a seguito di alcuni recenti episodi di «AI rogue» — ovvero quei momenti in cui i modelli sembrano sballare di brutto o mostrare comportamenti imprevisti e decisamente poco cooperativi. Ma per LeCun, il tutto è gestibile. Il suo punto di vista è che siamo ancora lontani da una vera AGI (Artificial General Intelligence) capace di manipolare il mondo fisico o di ideare piani di conquista globale. Per lui, l’idea che un software possa decidere di cancellare l’umanità è più vicina alla fantascienza low-budget che alla realtà ingegneristica attuale.
Certo, tra noi maker e appassionati di open source, sappiamo bene che il problema non è tanto l’intenzione malvagia di un algoritmo, quanto la mancanza di controllo e la concentrazione di tutto questo potere nelle mani di pochissimi player che decidono cosa è ‘sicuro’ e cosa no. C’è un rischio reale che queste tecnologie diventino scatole nere proprietarie, walled garden inaccessibili dove non possiamo né smontare il codice né capire perché, all’improvviso, l’AI ha deciso di rispondere in modo biascicato o parziale.
Che sia ottimismo sano o una sottovalutazione pericolosa, il punto è che la discussione si sta spostando su un piano quasi filosofico, lontano dai nostri circuiti e dai nostri server. Anche se le decisioni che vengono prese in California spesso sembrano ignorare la realtà di chi, qui in Italia, deve combattere con infrastrutture diverse e una regolamentazione che cerca di inseguire un treno che è già passato alla stazione precedente.
In definitiva, LeCun sta lanciando la sua nuova startup, AMI Labs, e sembra intenzionato a continuare la corsa verso modelli sempre più complessi. Noi restiamo qui, con il nostro terminale aperto, a guardare se la prossima patch correggerà i bug o se, invece, ci regalerà un nuovo motivo per temere che la nostra prossima connessione Wi-Fi sia l’inizio della fine. Ma ehi, almeno finché non succede, possiamo ancora compilare codice senza preoccuparci di un’invasione di Terminator.
Source: LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents