Crea sito

Intelligenza artificiale e derive sessiste

intervista ad Isabelle Collet a cura di Gwendaline Coipeault
pubblicato su “Clara Magazine” n°171 – janvier/février 2019

Qual’è il nesso fra l’intelligenza artificiale e gli stereotipi sessisti?

Ogni volta che si associa l’intelligenza artificiale (IA) al genere, si sollevano in verità tre tipi di problemi.
Il più conosciuto, ed il più diffuso, riguarda i giochetti legati alle derive sessiste, o meglio agli stereotipi, sui dati forniti al motore dell’intelligenza artificiale per produrre risultati. Parliamo, precisamente, di quei dati utili alla decisione finale che potrebbero aiutare, per esempio, nel decidere se accordare o meno un prestito. Alcuni studi hanno dimostrato che un prestito per la creazione di un’impresa avrà più possibilità di essere erogato ad un uomo che ad un adonna, semplicemente a causa di tali stereotipi.
Giova ricordare che tutto ciò riguarda qualsiasi motore di ricerca, Google compreso. I dati di ingresso sono inquinati perchè essi sono forniti da persone che hanno, a loro volta, stereotipi propri, che siano sessisti, razzisti o omofobi. A partire dal momento in cui un motore di IA si alimenta di stereotipi esso non farà altro che riprodurli, ne più nè meno come la società che li ha costruiti. Al di là di questo però, il problema è che sarà molto facile nascondere la realtà dietro all’affermazione che ” è l’IA che lo dice”, sdoganando, al tempo stesso, la possibilità di assumere decisoni razziste o sessiste nascondendosi dietro un algoritmo opaco ma ritenuto obbiettivo, infallibile ed intransigente. Quand’anche esso non sia altro che la serie di pregiudizi sui quali si sostiene.
Tutto questo riguarda anche gli avatar prodotti dall’IA e cioè precisamente gli o le assistenti di conversazione. Si possono citare a questo proposito Siri, Alexa, Cortiana ed altri avatar. Quando voi entrate in un sito, sia quello delle ferrovie dello Stato o di una assicurazione o di un grande magazzino, vi si chiede: ” Fatemi una domanda, io sono il vostro assistente di conversazione, sono qui per aiutarvi”. Ci si accorge che ogni qualvolta questi avatar assumono un aspetto “umano”, cioè praticamente sempre, questo aspetto è frutto di stereotipi sessisti : le “persone” che vi aiutano e che vi consigliano sono preferibilmente donne, preferibilmente carine, preferibilmente esili, preferibilmente bianche. Salvo che nel campo delle scienze o della finanza o della tecnica, perchè in questo caso l’avatar sarà un uomo. L’avatar dunque riconferma gli stereotipi esistenti. E questo li trattiene e li rinforza. Gli utenti ritengono naturale ritrovarsi di fronte ad una donna che è al loro servizio, eventualmente per poterla anche insultare se non svolge bene il compito che le è stato assegnato. Si può fare la stessa considerazione con la voce femminile di un GPS oppure con quella di un uomo quando si tratta di un altro tipo di problema.

A volte si ha l’immagine di una macchina che rimpiazza l’essere umano…

E’ il terzo problema quello più complicato. Esso si riferisce alle funzioni automatizzabili. Possiamo immaginare che l’IA possa rimpiazzare l’umano, in un certo numero di casi e per certe funzioni. Un rimpiazzamento che riguarda, in particolare, i lavori di cura e di assistenza che vedono una manodopera essenzialmente femminile. Ciò significa che verranno presi di mira i settori già fragili sotto il profilo salariale e nei quali sono soprattutto le donne ad essere impiegate. Quelli che sono favorevoli all’ingresso delle macchine sostengono, e non è affatto un argomento idiota, che le persone, soprattutto donne, che lavorano nel settore sociale possono essere portatrici di razzismo e sessismo ed essere prevenute nei confronti dei senza fissa dimora, dei poveri, delle famiglie precarie… E’ un problema reale. Dunque poter disporre di un’ IA che avrà la possibilità di concedere aiuti e sussidi, al posto di persone potenzialmente prevenute, permetterà di rendere le procedure più oggettive eliminando preconcetti e pregiudizi. Tutto ciò ha un fondo di verità, ma nei fatti ciò che si suppone, come d’abitudine, è che le donne siano soggettive, che prendano decisioni fondate sulle emozioni e che quindi sia meglio rimpiazzarle con una razionalità che non viene messa in dubbio perchè deriva da un uomo bianco, istruito,con un livello socio-professionale piuttosto alto, cioè con il programmatore della macchina. Come se quest’ultimo potesse essere neutro.
Tutto ciò perpetua lo stereotipo di un algoritmo come risorsa neutra in opposizione all’umano fatalmente soggettivo?
Esattamente, perchè si dimentica che preliminarmente agli algoritmi ci sono delle persone che li programmano, essi non nascona dal nulla.

E’ possibile immaginare programmi informatici che siano etici?

A livello europeo si sta lavorando su ciò che viene chiamata la trasparenza dell’algoritmo. E’ un argomento complicato perchè, attualmente, questi algoritmi imparano da soli, li si nutre di dati e poi ad un certo punto si allentano le briglie. Si auto-perfezionano ma non si sa bene come facciano. Essi vanno troppo veloce, le formule matematiche sono talmente complesse che non si possono seguire passo dopo passo, è proprio per questo che essi sono efficaci. Imbrigliare gli algoritmi per poter comprendere quello che fanno in ogni tappa ci impedisce d’avere degli algoritmi performanti. Se si vogliono ottenere risultati etici, ciò che si può dire in prima battuta è che non siamo costretti a sottomerci alle loro decisioni ed inoltre si potrebbe inserire volontariamente l’obbligo di correggere quelle distorsioni che si anticiperebbero all’interno del funzionamento della macchina.

Pensate che esistano degli ambiti dove andrebbe vietato l’accesso all’ IA?

Non ne vedo la ragione, la questione è sopratutto come ci si serve dell’IA. Del resto non abbiamo bisogno di fantasmi. Ripensiamo agli anni ’70/80, quando si cominciò ad inserire l’informatica nelle scuole, si diffuse il panico ” Si stanno rimpiazzando i prof con dei computers!” Questa paura non era completamnete irrazionale perchè vi furono delle discussioni sulla stampa circa l’obiettività dei professori in relazione alla presunta imparzialità dei computer. Quando si osserva però cosa fosse un computer a quel tempo non si può che ritenere fantasmagorica una paura del genere, I computer si sono perfezionati ma non è successo nulla. E’ difficile immaginare quale sarà l’impatto che l’IA avrà sulle nostre vite, ma essa non è il male in sè.

Tanto più che, in numerosi ambiti, l’IA è encora in fase sperimentale….

Vien male a rendersi conto dello sviluppo e dell’efficacia dell’IA. Fra gli ambiti che fanno paura c’è quello della diagnosi in medicina: ciò vuol dire che verranno rimpiazzati i medici a favore di un IA cha farà la diagnosi ed invierà in tempo reale l’informazione ad una farmacia che erogherà ciò che vi serve? Ma assolutamente no. Anche se non lo si vuole. Lo si può volere e accadrà, non lo si può volere e non accadrà. L’IA può essere utile ai medici perchè si può aggiornare permanentemente. Essa può dire ai medici ” Nella vostra dioagnosi avete tenuto conto di questo, di quello, di quest’altro?” E il medico può verificare se l’informazione gli è utile o no. L’IA, cioè, non potrà che fare ciò che le si domanderà di fare.
(Traduzione a cura della redazione)

Definizioni:

Intelligenza artificiale (IA) :

«L’intelligenza artificiale (o IA, dalle iniziali delle due parole, in italiano[1]) è una disciplina appartenente all’informatica che studia i fondamenti teorici, le metodologie e le tecniche che consentono la progettazione di sistemi hardware e sistemi di programmi software capaci di fornire all’elaboratore elettronico prestazioni che, a un osservatore comune, sembrerebbero essere di pertinenza esclusiva dell’intelligenza umana. (…)» (Tratto da Wikipedia)

Avatar:

“avatàr s. m. [dal sanscr. avatāra, attrav. il fr. e ingl. avatar]. – 1. Nel brahmanesimo e nell’induismo, la discesa di una divinità sulla terra, e in partic. ciascuna delle 10 incarnazioni del dio Visnù. Per estens., nell’uso letter., reincarnazione, ritorno, trasformazione e sim. 2. Nei giochi di ruolo virtuali, personaggio dalle più diverse sembianze che rappresenta l’alter ego dei vari partecipanti, sostituendoli nelle azioni di gioco.” (Dal vocabolario Treccani)

Algoritmo:

” (…) L’algoritmo è un concetto fondamentale dell’informatica, anzitutto perché è alla base della nozione teorica di calcolabilità: un problema è calcolabile quando è risolvibile mediante un algoritmo. Inoltre, l’algoritmo è un concetto cardine anche nella fase di programmazione dello sviluppo di un software: preso un problema da automatizzare, la programmazione costituisce essenzialmente la traduzione o codifica di un algoritmo per tale problema in programma, scritto in un certo linguaggio, che può essere quindi effettivamente eseguito da un calcolatore rappresentandone la logica di elaborazione.” (Tratto da Wikipedia)