L’IA sterminerà l’umanità? L’esperto Stefano Quintarelli: ‘Una sciocchezza’

Di adnkronos

“L’idea di un’intelligenza artificiale che stermina l’umanità è una sciocchezza”. Stefano Quintarelli, imprenditore informatico, pioniere di Internet e tra i protagonisti della trasformazione digitale italiana, ridimensiona così uno degli scenari più estremi che accompagnano il dibattito sull’IA. Lo fa al festival Pordenonelegge, dove ha presentato in anteprima nazionale il suo nuovo libro, “La bolla dell’intelligenza artificiale. Tecnologia, mercato e nuove prospettive”, pubblicato da Bollati Boringhieri.

La sua analisi, parlando con l’Adnkronos, parte da una distinzione precisa:”il rischio che una macchina acquisisca autonomamente il controllo dell’umanità appartiene”, secondo Quintarelli, “soprattutto al terreno della speculazione”. I problemi concreti dell’intelligenza artificiale, sostiene, “sono invece legati a come gli esseri umani progettano, utilizzano e regolano questi sistemi”. “Ogni tecnologia ha dei rischi”, osserva Quintarelli. “Anche abitare una casa comporta un rischio, così come utilizzare l’automobile, il gas o l’elettricità. La questione – spiega – non è dunque stabilire se un evento negativo sia astrattamente possibile, ma valutarne la probabilità e soprattutto confrontarla con i benefici e con i rischi concreti derivanti dall’uso della tecnologia”. Nel confronto sul futuro dell’intelligenza artificiale, Quintarelli individua una contraddizione tra due narrazioni oggi molto diffuse. Da una parte c’è quella di un’IA potenzialmente fuori controllo, capace di ribellarsi agli esseri umani e arrivare a provocare un’estinzione di massa. Dall’altra c’è la rappresentazione di sistemi tecnologici sempre più affidabili, dalle automobili a guida autonoma ai dispositivi capaci di assumere decisioni complesse. “Le due narrazioni non stanno insieme”, sostiene.

Se una macchina fosse realmente destinata a sfuggire sistematicamente al controllo dell’uomo, osserva Quintarelli, “lo stesso problema dovrebbe manifestarsi anche nei sistemi autonomi utilizzati nel mondo fisico, a d esempio con auto autonome che si mettono a investire pedoni. Al contrario, il settore della guida autonoma viene sviluppato proprio attraverso sistemi di controllo, regole, procedure e responsabilità”. Da qui la sua conclusione: “lo scenario di un’intelligenza artificiale che decide autonomamente di eliminare l’umanità appartiene più alla fantascienza che all’analisi dei rischi tecnologici attuali”. Il punto, secondo Quintarelli, è che “il problema non sta necessariamente in una macchina dotata di una volontà propria, ma negli obiettivi e nei vincoli che l’uomo stabilisce per il sistema”.

Anche rispetto agli scenari di un’intelligenza artificiale capace di utilizzare autonomamente armi, Quintarelli invita a distinguere tra possibilità teorica e condizioni operative. “Perché una macchina possa prendere automaticamente decisioni utilizzando un sistema d’arma – spiega – dovrebbe essere previsto che tutto il processo decisionale di utilizzo delle armi sia governato sistemi artificiali, senza coinvolgere umani, e dovrebbero essere definite regole che consentano quel tipo di operatività”. “I protocolli che prevedono l’accesso alle armi escludono questa possibilità”, sottolinea l’ex presidente del Comitato di indirizzo dell’Agenzia per l’Italia digitale e inventore dello Spid.

La questione, quindi, non viene ricondotta a una presunta ribellione spontanea della macchina, ma alle decisioni degli esseri umani che progettano e autorizzano l’impiego dei sistemi. E’ una distinzione che attraversa tutta la riflessione di Quintarelli: “attribuire alla tecnologia una volontà autonoma rischia di oscurare il ruolo di chi la progetta, la finanzia, la mette sul mercato e decide in quali contesti utilizzarla”.

Se l’apocalisse tecnologica appartiene, secondo Quintarelli, soprattutto alla dimensione speculativa, esistono invece rischi che considera molto più concreti. Il primo è “il fatto che i decisori prendano delle decisioni sulla base di un’idea delle capacità dell’intelligenza artificiale che è eccessiva”. Il pericolo, in altre parole, è attribuire all’IA una capacità quasi taumaturgica, immaginando che possa individuare automaticamente la soluzione corretta a qualsiasi problema. Ma una decisione non è soltanto una questione tecnica, osserva Quintarelli. Quando si stabilisce che cosa sia “giusto”, entrano in gioco valori, obiettivi e priorità che non possono essere semplicemente ricavati da un algoritmo.

Un esempio evocato è quello della pubblica amministrazione statunitense e del Department of Government Efficiency, noto come Doge, istituito durante la seconda amministrazione Trump. Quintarelli richiama il caso di interventi sulle politiche abitative e sull’utilizzo dell’intelligenza artificiale per contribuire alla riscrittura delle regole, come esempio di quella che definisce una fiducia eccessiva nella tecnologia. Il problema, sostiene, “non è l’utilizzo in sé di uno strumento di IA, ma l’idea che esso possa sostituire il processo politico e istituzionale attraverso il quale vengono stabiliti obiettivi, diritti e valori”.

Un secondo esempio riguarda l’uso dell’intelligenza artificiale per individuare persone considerate potenzialmente inclini a commettere reati. Secondo Quintarelli, “l’idea di stabilire che una persona possa essere considerata maggiormente a rischio sulla base di un insieme di espressioni fisiche e di conseguenza sottoporla a controlli più frequenti presenta analogie con la fisiognomica di Cesare Lombroso”. “Stiamo parlando di una nuova pseudoscienza”, afferma. La critica riguarda quindi l’idea che una previsione statistica possa trasformarsi automaticamente in una valutazione individuale e, successivamente, in una decisione istituzionale.

Il tema non riguarda soltanto le aziende tecnologiche. “È una categoria di rischi che io vedo ad ogni livello, dalle aziende fino agli Stati”, sostiene Quintarelli. “La questione diventa particolarmente delicata quando i sistemi di IA vengono impiegati in ambiti nei quali le decisioni producono conseguenze dirette sui diritti delle persone: sicurezza, giustizia, accesso ai servizi, lavoro, credito, salute o istruzione”.

C’è poi un secondo grande rischio che Quintarelli considera meno discusso: “l’impatto dell’intelligenza artificiale sulla formazione del pensiero e dell’opinione pubblica. Il punto di partenza sono i social network”. In una prima fase, osserva Quintarelli, “i social potevano essere considerati strumenti di partecipazione e di relazione. Con l’introduzione degli algoritmi capaci di determinare quali contenuti mostrare agli utenti, però, il rapporto è cambiato”. Secondo Quintarelli, “le piattaforme hanno progressivamente assunto una funzione di orientamento dell’opinione pubblica: da strumenti a disposizione degli utenti sono diventate strumenti attraverso i quali i proprietari delle piattaforme possono esercitare una forma di condizionamento”.

Con i chatbot, sostiene, “questo meccanismo potrebbe diventare ancora più difficile da vedere”. “I social sono visibili, accadono alla luce del sole. I chatbot sono individuali, intimi e nessuno sa che cosa dice il chatbot a una persona”, afferma. E’ questa, nella sua analisi, una delle differenze decisive. “Un social network espone pubblicamente un contenuto, mentre una conversazione con un assistente artificiale assume un carattere personale e riservato. L’utente può rivolgersi al chatbot per problemi di lavoro, relazioni, studio, scelte personali o orientamento politico, attribuendo progressivamente al sistema un livello di autorevolezza superiore a quello che sarebbe prudente riconoscergli”.

Quintarelli richiama anche gli studi sull’influenza politica dei chatbot e sulla capacità di questi sistemi di modificare le opinioni degli utenti. “Il rischio” – nella sua prospettiva – “è che una persona consideri autorevole una risposta generata automaticamente anche quando contiene dati errati, informazioni inventate o ricostruzioni prive di fondamento”. “Le persone tendono a fidarsi dei chatbot, pensano che siano autorevoli”, sostiene. “Il risultato potrebbe essere la formazione di un’opinione che l’utente considera propria, ma che in realtà è stata influenzata dal sistema con cui ha interagito”. (di Paolo Martini)