10/09/2026
NON SERVE CHE L’IA DECIDA DI UCCIDERCI. BASTA MOLTO MENO.
In questi giorni si parla molto dei ricercatori che stanno lasciando i grandi laboratori di Intelligenza Artificiale e del rischio che, prima o poi, una superintelligenza possa sfuggire al controllo umano. È uno scenario che fa impressione, chiaramente, però secondo me rischiamo di concentrarci sulla cosa più estrema e perdere di vista un problema molto più semplice e forse anche molto più vicino. Non serve che l’IA si ribelli contro di noi, basta che noi diventiamo sempre più dipendenti dalle sue decisioni.
Il percorso potrebbe essere anche abbastanza banale: all’inizio l’IA ci consiglia, poi ci accorgiamo che in molti casi decide meglio e più velocemente di noi, quindi iniziamo a delegarle sempre più cose. Poi le decisioni diventano migliaia, milioni, e nessuno è più veramente in grado di controllarle una per una. A quel punto interi sistemi economici e sociali iniziano a funzionare attorno a quelle decisioni. Ed è qui che secondo me c’è il passaggio più interessante: prima diciamo “possiamo spegnerla”, poi diventa “possiamo spegnerla, ma sarebbe troppo costoso” e magari un giorno “non sappiamo più davvero cosa succederebbe se la spegnessimo”.
Non servono robot armati davanti ai datacenter. Basta pensare a sistemi di IA che fra qualche anno possano gestire pezzi importanti della rete elettrica, della logistica, del traffico, degli ospedali, delle banche, delle assicurazioni, delle telecomunicazioni, della pubblica amministrazione o della sicurezza informatica. Tecnicamente magari l’interruttore esiste ancora, ma se spegnerlo significa bloccare mezza economia o mettere in crisi servizi essenziali, qual'è davvero la nostra libertà di usarlo?
E qualche piccolo anticipo lo abbiamo gia visto. Nei Paesi Bassi sistemi algoritmici utilizzati per individuare frodi nei sussidi hanno contribuito a classificare erroneamente migliaia di famiglie come sospette, con conseguenze molto pesanti. In Australia il sistema Robodebt ha automatizzato il recupero di presunti debiti previdenziali ed è finito al centro di una commissione d’inchiesta nazionale. Nel Regno Unito durante il Covid un algoritmo utilizzato per determinare i voti degli A-level ha prodotto risultati talmente contestati che il governo è dovuto tornare indietro. Anche in sanità sono stati documentati algoritmi che producevano discriminazioni perchè usavano indicatori apparentemente razionali ma sbagliati per stabilire chi avesse maggior bisogno di cure.
E questa secondo me è la parte più importante: l’algoritmo non deve essere “cattivo”. Non deve odiarci e neppure avere una sua volontà. Può semplicemente fare molto bene la cosa sbagliata. Se gli diamo un obiettivo incompleto o un parametro sbagliato, il problema cresce insieme al potere che gli affidiamo. E gia oggi una parte enorme di quello che leggiamo, guardiamo e compriamo viene scelta da algoritmi. Domani potrebbe riguardare sempre di più lavoro, credito, assicurazioni, sanità, scuola, tasse e servizi pubblici.
Quindi forse la vera domanda non è quando l’IA diventerà più intelligente dell’uomo. La domanda è quando delegheremo all’IA così tante funzioni da non poterci più permettere di farne a meno. E secondo me questa cosa potrebbe accadere molto prima della famosa superintelligenza. Nei prossimi 5-10 anni probabilmente vedremo sistemi molto più autonomi, capaci non solo di rispondere ma di agire, coordinare altri software e prendere decisioni su processi sempre più complessi. Nessuno può sapere oggi se arriveremo davvero a una perdita di controllo estrema, magari non succederà mai, ma una forma di dipendenza economica e sociale può arrivare molto prima.
Forse la soglia veramente importante non sarà tecnologica, ma economica. Il giorno in cui l’IA sarà talmente integrata nel funzionamento della società che rinunciarci avrà un costo enorme, potremo ancora dire formalmente di avere il controllo, ma magari avremo perso un po' della libertà di esercitarlo. E il rischio vero, almeno per come la vedo io, non è che un giorno l’Intelligenza Artificiale ci ordini di obbedirle. È che piano piano diventiamo talmente dipendenti da lei da non sapere più come farne a meno. E forse, in parte, sta gia succedendo.
Ach.Gianluigi D'Angelo