L’intelligenza artificiale è già realtà, ma va governata

Oliviero Stock, matematico, da anni è uno dei massimi esperti di intelligenza artificiale (I.A.). In questa intervista spiega opportunità e rischi della nuova frontiera (varcata) della tecnologia

Dottor Stock, lei è uno dei massimi esperti di intelligenza artificiale (I.A.), non solo in Italia.

Quello che è certo è che me ne occupo da una vita. Attualmente sono Distinguished Fellow alla Fondazione Bruno Kessler, dove in passato ho diretto uno degli istituti più importanti in Europa in questo campo.

Cominciamo da capire di cosa parliamo: cosa si intende per I.A.?

Ci sono molte definizioni al riguardo. Quella più comune definisce la I.A. come la disciplina che si propone di costruire sistemi che realizzano funzionalità tipiche dell’intelligenza umana. Per me. I.A. significa far sì che le macchine facciano loro lo sforzo di capire gli esseri umani (anziché viceversa). Insomma, metto l’accento sul lato umano.

Ci può fare un esempio di I.A. applicata?

Potrei farne tanti per la vita di ogni giorno: il pianificatore del nostro percorso stradale, sistemi di analisi delle radiografie, il riconoscitore della nostra faccia sul telefonino, i vari sistemi di interazione linguistica. Pensi appunto alle applicazioni nel settore del linguaggio.  Le tecniche che si usano ora vanno bene per molte applicazioni. Si basano su grandi corpora e metodi statistico-probabilistici, Praticamente tutto quello che è stato scritto (da quando la scrittura venne inventata 5000 anni fa) è ora in forma digitale, e può essere usato come base su cui effettuare elaborazioni automatiche.

A che sviluppo si è arrivati nel campo della I.A.?

C’è stato un cambio di paradigma negli ultimi venti anni. Si parla ora comunemente di apprendimento automatico, che però può essere un termine fuorviante: non ha a che vedere con l’apprendimento umano. Rispetto al passato, in cui si costruivano modelli di funzionamento dell’apparato cognitivo per i vari settori, oggi si tende a basarsi su grandi quantità di dati, i big data, su cui fare andare degli algoritmi a base statistico-probabilistica, secondo tecniche conosciute da tempo ma richiedenti grandi capacità di calcolo. Oggi esistono macchine che consentono di utilizzare questi algoritmi, come le dicevo prima a proposito dello studio del linguaggio. Ma questo non significa affatto che tutti i problemi siano risolti. Anzi, per molti aspetti bisognerà trovare tecniche che recuperino la modellistica cui accennavo.

Un nodo del prossimo futuro, forse già attuale: quanto può essere predittiva l’I.A.? non c’è il rischio che, affidandosi a modelli predittivi basati su algoritmi applicati a big data, in realtà si prendano scelte sbagliate? Una delle accuse mosse agli economisti, ad esempio, è di non aver previsto le cri economiche degli anni 2000 perché si sono elaborati modelli basati sul passato.

Sono assolutamente d’accordo, questo è un rischio concreto. Mi spiego. Certo, sistemi possono fare emergere delle correlazioni che ad occhio nudo non possono emergere, però l’idea che si possa arrivare da ciò a fare previsioni accurate generalizzate è piuttosto irrealistica. Bisogna perciò stare attenti. Ritengo che oggi siamo in un momento in cui venga attribuito troppo alla capacità dell’I.A. Certo, ci sono cose interessanti da realizzare con gli strumenti attuali e altre da costruire nel prossimo futuro, ma dal mio punto di vista manca soprattutto ora un efficace collegamento tra le macchine e le capacità cognitive umane. Al contrario io credo che un ruolo dell’I.A. sia di aiutare a capire il funzionamento dell’uomo, oltre e aiutarlo.

L’utilizzo dei Big data pone anche un altro problema: quello della tutela della riservatezza. A che punto siamo?

È un problema reale. In Cina e Usa sono meno attenti, in Cina addirittura c’è un utilizzo spregiudicato dei dati che riguardano la vita delle persone. L’Unione Europea invece è avanti nel dare indirizzi di tipo etico. Io credo che in generale i temi etici siano molto importanti per l’I.A. Del resto, l’etica è importante per tutte le discipline, si pensi alla biologia alla medicina o anche alla fisica. Così lo è anche per l’I.A. Quello che è però unico di questo campo è che gli stessi sistemi prodotti potranno prendere decisioni di fronte a situazioni nuove sulla base di ragionamenti etici.

È possibile che in futuro sarà una macchina a giudicare se una persona è, ad esempio, colpevole o innocente in un processo?

Se ne è discusso molto. In America si è parlato del caso di un sistema automatico che in un giudizio ha preso una posizione razzista, perché ha elaborato il verdetto su base statistica, basandosi sul fatto che una percentuale alta di autori del reato ascritto sono persone di colore. Ecco come l’uso dell’I.A. può arrivare a una stima non intelligente, perché basata solo sull’apprendimento dal passato. Però, in linea di principio, vorrei aggiungere un’altra cosa.

Cosa?

I sistemi semiautomatici, anche in ambito giuridico, penso possano essere utilizzati, anche oggi, purché però sia sempre prevista una supervisione umana prima di arrivare a una conclusione. D’altra parte oggi in informatica giuridica si usano sistemi che elaborano modelli che non usano solo elaborazione dati, ma anche il ragionamento basato su logiche (chiamate deontiche) o su ragionamento basato su casi.

Un altro pericolo dell’uso dei big data, e in generale dell’uso degli algoritmi nei sistemi di I.A., è quello del loro uso criminale, ad esempio per produrre fake news

È un tema importantissimo, assolutamente sottovalutato finora. Ci vorrebbe una grande iniziativa internazionale, in cui, ad esempio, le grandi multinazionali, che si sono così arricchite finora, anche in modo spregiudicato, devolvano parte di introiti alla ricerca su questo tema. È un tema vitale per la democrazia, sul quale bisogna cominciare a fare qualcosa, e la tecnologia ci può aiutare molto.

Vorrei concludere questa intervista con un paio di domande personali, lei di recente si è scoperto anche scrittore, pubblicando un libro “In Barba a H.” che ripercorre una saga familiare, quella di tre generazioni della famiglia di sua madre

Sì. Il libro ebbe origine da quando avevo comprato un MacIntosh per mia madre, che aveva 78 anni affinché scrivesse le sue memorie. Lei era molto attratta dall’innovazione tecnologica, e adottò il MacIntosh come suo compagno di vita. Scrisse quindi le sue memorie fino al 1945. Poi tradusse le memorie di suo nonno, che riteneva ancora più interessanti della sua biografia. In effetti, devo dire che lo sono entrambe. Mia madre, Gerty Schwarz, era un’ebrea viennese, viveva con i genitori e due fratelli e al momento dell’Anschluss aveva 19 anni. Il mio bisnonno, Ferdinand Geiringer, era un industriale tessile in Moravia. I luoghi geografici narrati nel libro sono quelli dell’Europa centrale, ma la storia si dipana tra Austria, Germania, Cecoslovacchia, Polonia, Italia, Jugoslavia, Stati Uniti, Iraq, Inghilterra. Mia madre nel 1938 si è sposata a Trieste, proprio mentre stavano per essere promulgate le leggi razziste.  I fratelli e poi i suoi genitori emigrarono in Palestina.  I miei nonni riuscirono a beffare i nazisti, salvando anche parte dei loro beni realizzando un piano ben articolato. Vi è poi la storia del mio bisnonno, espulso dai nazisti in Polonia, con la testimonianza sui primi tempi della guerra e la modalità, coraggiosissima, con cui beffò lo stesso Hans Frank, governatore generale nazista della Polonia, salvandosi.

Lei è uno scienziato, come si è trovato nel mondo della narrativa?

Il libro non è un romanzo. È un approfondimento storico dettagliato, basato su lunghe ricerche, a partire dalle memorie dei testimoni. Si svolge dunque su due piani temporali: quello dei fatti e quello della ricerca sui fatti. È stata un’esperienza diversa rispetto alla scrittura scientifica, ma forse la pratica scientifica mi ha guidato nel cercare evidenze e spiegazioni per ogni passaggio.

Cosa simboleggia la “H” del titolo?

Lo scopriranno i lettori…

Un’ultima domanda. Il suo cognome, accoppiato a Trieste, mi ha fatto venire in mente la storica etichetta di un brandy…

L’origine in effetti è… di famiglia, ma di un altro ramo, io non c’entro. Comunque la Stock già da molti anni è finita in mano tedesche e credo poi americane, e non esiste nemmeno più la fabbrica a Trieste.