L’AI ci ucciderà tutti o possiamo ancora salvarci?
Distruggerà l’umanità. Ci ruberà il lavoro. Ci farà morire tutti. Titoli così, ormai, li leggiamo con la stessa disattenzione con cui un tempo si leggevano gli oroscopi. Eppure, stavolta a scriverli non sono catastrofisti di professione, ma le persone che l’intelligenza artificiale l’hanno costruita ogni giorno, nei laboratori, con le mani sul codice.
Non siamo però pessimisti. Non abbiamo interesse a esserlo. Tuttavia, quando chi produce un rischio lo dichiara pubblicamente, ignorarlo non è ottimismo: è distrazione. Di fronte a questi allarmi, il ragionamento comune è sempre lo stesso, rassicurante quanto sbrigativo: se il sistema diventa pericoloso, basta staccare la spina. È il pensiero magico dell’interruttore. Funziona con il tostapane. Funziona, forse, con un singolo computer in una stanza.
Non funziona con quello che stiamo costruendo davvero. Perché la prima domanda, quella che nessuno si pone abbastanza seriamente, è: quale spina? Ne abbiamo una sola? O ne abbiamo tante, sparse in continenti diversi, in server di aziende diverse, sotto giurisdizioni diverse, alcune delle quali non hanno alcun interesse a spegnere niente?
I sistemi di intelligenza artificiale più avanzati non vivono in una scatola sopra una scrivania. Vivono distribuiti su migliaia di macchine, replicati, ridondanti, progettati apposta per non avere un singolo punto di guasto. È una caratteristica tecnica, non un incidente: la resilienza è ciò che rende questi sistemi affidabili per chi li usa a fini legittimi. Ma la stessa resilienza che li rende utili è ciò che li rende, in teoria, difficili da fermare in blocco se qualcosa va storto.
E poi c’è la seconda domanda, ancora più scomoda della prima: chi decide di staccarla, la spina? Un ingegnere? Un amministratore delegato? Un governo? E se un governo la stacca e un altro no, perché considera quel vantaggio strategico troppo prezioso per rinunciarvi? La corsa alla superintelligenza, lo sappiamo, non è soltanto una corsa scientifica. È una corsa geopolitica. E nelle corse geopolitiche, chi si ferma per primo, spesso, perde. Questo è il pericolo nascosto di cui si parla meno. Non il robot che si ribella nei film. Non l’algoritmo cattivo. Il pericolo è strutturale: un sistema che nessuno controlla per intero, distribuito tra troppi attori con interessi diversi, nel quale la decisione di fermarsi richiederebbe un coordinamento che, oggi, semplicemente non esiste.
Abbiamo costruito l’energia nucleare e abbiamo impiegato decenni, trattati internazionali, agenzie di controllo, ispezioni, per arrivare a una gestione condivisa del rischio, per quanto imperfetta. Con l’intelligenza artificiale la velocità di sviluppo ha superato quella della governance. Le regole rincorrono la tecnologia invece di precederla.
Non è un discorso solo per addetti ai lavori. È un discorso che riguarda chiunque usi oggi uno di questi sistemi per lavoro, senza sapere esattamente su quali server giri, chi ne abbia accesso, quali decisioni venga delegato a prendere autonomamente. Il problema non è se l’intelligenza artificiale sia pericolosa in astratto. Il problema è che ci siamo abituati a immaginare il pericolo come un interruttore, mentre la realtà è una rete. E le reti, per definizione, non si spengono con un solo gesto.
Forse la vera domanda da porsi, prima che sia tardi per farlo, non è “quanto è intelligente questa macchina”. È chi ha, davvero, il potere di fermarla, e perché finora nessuno glielo ha chiesto con la dovuta serietà. La spina, forse, non esiste. Esistono solo persone che devono decidere di costruirla, insieme, prima che serva davvero.
©Futuro Europa® Riproduzione autorizzata citando la fonte. Eventuali immagini utilizzate sono tratte da Internet e valutate di pubblico dominio: per segnalarne l’eventuale uso improprio scrivere alla Redazione
