Intelligenza artificiale, Italiano (Luiss): “Allarme Onu va preso sul serio, costruire regole e controlli”

(Adnkronos) – L'allarme dell'Onu sull'intelligenza artificiale come "minaccia per le democrazie" va "preso sul serio" senza "trasformarlo in allarme apocalittico" e per questo è necessario costruire "oggi regole e controlli proporzionati alle capacità reali dell'Ai, senza aspettare che sia il prossimo incidente a imporcelo". E' la posizione di Giuseppe Francesco Italiano, prorettore per l'Artificial Intelligence e le Digital Skills all'Università Luiss 'Guido Carli' di Roma, in cui è anche professore ordinario di Informatica. Secondo Italiano, intervistato da Adnkronos/Labitalia e tra i massimi esperti italiani ed europei di informatica, algoritmi e intelligenza artificiale, " i rischi più concreti per i servizi essenziali e per le democrazie sono già visibili oggi, non tra dieci anni".  
Professor Italiano, come giudica l'allarme dell'Onu sull'Ai? Può davvero paralizzare i servizi essenziali ed essere una minaccia per le democrazie? Quali sono i rischi reali?
 "L'allarme dell'Alto commissario Türk va preso sul serio, ma senza trasformarlo in un allarme apocalittico. Nella sua lettera parla di una soglia irreversibile che riguarderà anche le generazioni future: un linguaggio molto forte, e non è un caso che arrivi proprio ora, mentre il dibattito sui rischi dell'AI si fa più acceso. Detto questo, i rischi più concreti per i servizi essenziali e per le democrazie sono già visibili oggi, non tra dieci anni: attacchi informatici sempre più automatizzati, disinformazione su scala industriale, frodi, manipolazione dell'opinione pubblica, sistemi decisionali che amplificano discriminazioni o errori quando vengono usati per selezionare persone, credito, cure mediche. C'è poi un rischio emergente che merita attenzione: sistemi sempre più autonomi, capaci di interagire direttamente con Internet e con infrastrutture reali, scrivere ed eseguire codice, usare credenziali, agire senza supervisione costante. Il problema qui non è che una macchina abbia cattive intenzioni: basta che abbia molta capacità, molta autonomia, accesso a sistemi critici, e che noi non siamo ancora in grado di controllarla adeguatamente. È la combinazione di potenza e scarso controllo a essere pericolosa, non l'intenzione. Per questo insisterei su una distinzione che nel dibattito pubblico si perde troppo spesso: rischi documentati, rischi plausibili, scenari estremi. Prendere sul serio l'allarme non significa credere a ogni previsione catastrofica. Significa costruire oggi regole e controlli proporzionati alle capacità reali dell'Ai, senza aspettare che sia il prossimo incidente a imporcelo".  
Anche le Big Tech americane hanno lanciato l'allarme sullo sviluppo non controllato dell'AI. Ma non potevano prevederlo prima? E davvero l'AI può impadronirsi del web?
 "È una contraddizione evidente, e non da oggi. Le stesse aziende che ora chiedono prudenza, penso all'appello di Amodei di pochi giorni fa, sostenuto pubblicamente anche da Musk con il suo 'Dario ha ragione' su X, sono quelle che hanno spinto più di chiunque altro sull'acceleratore negli ultimi anni. Non è la prima volta: nel 2023 Musk firmò una lettera per una moratoria sullo sviluppo dell'AI che non si è mai concretizzata, mentre altri leader del settore firmavano dichiarazioni sul rischio esistenziale e continuavano comunque a correre più veloci dei concorrenti. Il punto è che le buone intenzioni delle singole aziende non bastano: se tutti dicono che bisogna rallentare, ma nessuno vuole essere il primo a farlo per paura di perdere terreno, il problema si risolve soltanto con regole comuni, non con appelli. Quanto alla possibilità che l'AI si impadronisca del web, non è più fantascienza, ma non nel senso in cui lo intendiamo di solito. I modelli più avanzati possono già navigare in Internet, scrivere ed eseguire codice, usare credenziali, interagire con sistemi reali in autonomia. Quindi la domanda giusta non è se l'AI possa 'prendere il controllo di Internet' in senso assoluto — probabilmente no, almeno non ancora — ma quanto accesso le concediamo, a chi, e quanto siamo davvero in grado di controllare ciò che fa una volta che glielo abbiamo dato. Forse è questa, oggi, la domanda che conta".  
Il presidente Trump ha invece sottolineato che gli USA non rallenteranno. Quale è a suo parere l'obiettivo del presidente americano?
 "Le dichiarazioni del presidente Trump vanno sempre lette con un margine di iperbole tipico del personaggio, ma qui il messaggio di fondo mi sembra abbastanza chiaro. Lo ha detto lui stesso, a margine dell'Irish Open: gli Stati Uniti sono 'all'avanguardia rispetto alla Cina' e devono restare il Paese più avanzato al mondo nell'intelligenza artificiale, perché 'chi vince sull'intelligenza artificiale vince su tutto'. Per Washington l'AI non è più soltanto una tecnologia: è potere economico, militare e geopolitico, tutto insieme. In questa logica, rallentare unilateralmente significa regalare vantaggio ai concorrenti. Ed è per questo che l'appello di Amodei, per quanto sostenuto anche da Musk, difficilmente troverà sponda concreta alla Casa Bianca senza un accordo che coinvolga anche la Cina: è lo stesso problema di coordinamento di cui parlavamo prima, solo spostato dal piano delle aziende a quello degli Stati. 
Venendo all'Europa, cosa pensa della proposta di Lagarde sulla necessità di progetti Ue per essere meno dipendenti dagli Usa? E quale contributo può arrivare dall'Italia?
 Christine Lagarde, da presidente della Bce, ha usato un paragone efficace: è un po' come l'Ottocento delle ferrovie americane, quando i risparmi europei finanziarono la crescita ferroviaria degli Stati Uniti e i benefici restarono in gran parte oltreoceano. Oggi, dice Lagarde, rischiamo di ripetere lo stesso schema con l'intelligenza artificiale: le famiglie dell'area euro hanno circa 440 miliardi di euro investiti in aziende tecnologiche americane, mentre le imprese europee destinano solo il 10% dei loro investimenti all'AI, con un divario che si allarga rispetto agli Stati Uniti. Il punto che coglie è fondamentale: l'Europa non deve necessariamente produrre tutto in casa, ma non può permettersi di dipendere completamente da chi produce tecnologie di intelligenza artificiale. E qui sovranità tecnologica significa una cosa molto concreta: poter decidere cosa fare con l'AI anche se domani cambiano le condizioni geopolitiche o commerciali. Pensiamo a cosa vorrebbe dire vedersi interrompere, o rinegoziare a proprio svantaggio, l'accesso a un servizio cloud da cui dipende la pubblica amministrazione. Significa avere una capacità europea significativa di calcolo, dati, modelli e competenze; poter valutare autonomamente quanto sono sicuri e affidabili i sistemi che usiamo; non dipendere da un unico fornitore straniero per servizi essenziali; avere la capacità di sviluppare alternative quando serve. Lagarde stessa indica una strada concreta: potenziare la capacità di calcolo europea e sviluppare modelli "sufficientemente buoni" per la maggior parte degli usi (cita l'esempio di Mistral in Francia) invece di inseguire in ogni segmento i giganti americani. Non significa costruire un'Europa completamente autonoma, né replicare la Silicon Valley: sarebbe illusorio. Significa evitare che le infrastrutture da cui dipenderanno la nostra economia, la pubblica amministrazione e persino la nostra conoscenza siano interamente controllate da altri. E qui l'Italia può dare un contributo reale: abbiamo università, ricerca, imprese, una quantità enorme di dati e competenze. Quello che ci manca non è il materiale grezzo, ma la capacità di metterlo a sistema. E soprattutto di trasformare più rapidamente la ricerca in tecnologia, e la tecnologia in applicazioni che qualcuno usa davvero. 
—lavorowebinfo@adnkronos.com (Web Info)