I pregiudizi dell’IA, l’IA in redazione e la terza via di Kasparov

Tre questioni affrontate al ReWriters Fest sulle quali vale la pena tornare.

Redazione ANSA ROMA

di Alessio Jacona*

Sabato ho preso parte come curatore dell’Osservatorio IA al ReWriters1 Fest di Eugenia Romanelli, ospite di una tavola rotonda dedicata al tema dell’intelligenza artificiale e coordinata da Rosa Maria Di Natale. Oltre al piacere di rivedere e ascoltare persone competenti come Davide Bennato, Arturo di Corinto e Federico Badaloni, ho avuto qualche minuto a disposizione per affrontare tre argomenti che riassumo qui i tre punti:

1) A proposito dei Bias, i pregiudizi che già ora affliggono le intelligenze artificiali

Se n'è parlato molto prima che intervenissi: quando è venuto il mio turno ho fatto presente - parafrasando Umberto Tozzi - che “i Bias siamo noi”: spesso sento parlare del fenomeno (giustamente) come di problema grave, ma con un tono che lo rende distante, quasi inatteso, insomma una sorpresa.

Però abbiate pazienza: anche se è vero che gli algoritmi sono “scatole nere” che prendono decisioni in modi che non conosciamo, o meglio, che non possiamo verificare, tuttavia è altrettanto vero che siamo noi a scrivere gli algoritmi, noi che che li addestriamo dandogli in pasto le enormi quantità di dati digitali che sempre noi produciamo come società e che, quindi, proprio per questo ci rispecchiano perfettamente.

Se tutto questo genera IA razziste o sessiste, qualche domanda facciamocela. E poi corriamo ai ripari.

2) Quando l’IA entra in redazione

Quando entra in redazione, l’IA porta in dote questioni etiche mentre mette in discussione il senso stesso del lavoro di giornalista. E non perché ne minaccia il posto di lavoro cercando di sostituirlo (cosa per la quale ci vorrà ancora chissà quanto, se mai accadrà), ma proprio perché ne “aumenta” le capacità sotto ogni aspetto.

In redazione l’IA può essere utilizzata in ogni fase della filiera produttiva della notizia:

- per scovarla, navigando nel mare magnum delle informazioni in rete e selezionandole per il giornalista;

- per elaborarla in forma di bozza, prima che il giornalista la completi e chiuda;

- per distribuirla, perché consegnandola fino nelle mani del lettore potenzialmente più interessato.

Sulla scelta della notizia:

Tutto bello sulla carta, finché non si ritorna a considerare la sopracitata questione dei “pregiudizi”: con che criterio un’IA sceglie e sceglierà le notizie? E se dovesse “preferire” i

crimini commessi da persone di colore, oppure i successi ottenuti da maschi bianchi con più di sessant’anni? La narrazione della storia stessa è un puzzle di fatti piccoli e piccolissimi la cui scelta può orientare scelte e coscienze, imporre una visione del mondo. Certo, queste scelte “arbitrarie” (ne senso più neutro del termine) avvengono già quotidianamente in ogni giornale, specie in quelli caratterizzati da un preciso colore politico, ma sono comunque figlie di una posizione precisa e conosciuta, e quindi in qualche modo persino prevedibili.

Se le IA scelgono per i giornalisti, in base a quali criteri individueranno le notizie? Cos’è per una IA la “notiziabilità”? E cos’è una notizia poi? Qualcosa che tutti dobbiamo sapere perché in qualche modo ci riguarda anche se ne siamo allo scuro, oppure l’argomento in testa ai trending topic dei social e delle ricerche? Quello, per intenderci, di cui si scrive un pezzo solo per finire in quelle stesse ricerche e fare più views (e quindi più soldi)?

La risposta non è semplice, ma è dirimente.

Sulla distribuzione della notizia:

La distribuzione ad hoc delle notizie, in stile Facebook, e quindi capace di raggiungere le persone “veramente interessate” con precisione chirurgica per generare interesse, like e interazioni, funziona ma crea bolle, anzi “camere dell’eco”. Luoghi dell’informazione in cui continueremo a sentirci dire solo quello che vogliamo sentirci dire (come già sui social), peraltro premiando i discorsi che stimolano rabbia, risentimento e frustrazione, ovvero quelli che generano maggiore interazione. Bisogna andarci con i piedi di piombo.

Serve un nuovo patto di fiducia tra redazione e lettore

Dunque, se l’intelligenza artificiale entra in redazione, ciò che deve essere ridiscusso con trasparenza e sincerità è il patto di fiducia tra redazione e lettore: in primo luogo, la gente deve sapere che c’è un’IA al lavoro e cosa sta facendo, che interviene lungo tutta la fase produttiva e con quali criteri. Dopodiché deve sapere anche che nel giornalismo, come in molti altri contesti dove serve l’inafferrabile ingegno umano per svolgere un compito, la tecnologia non sostituirà le persone, ma piuttosto vedremo un’umanità aumentata dalle tecnologie, IA in prima fila.

3) La terza via per l’IA di Garry Kasparov

Nella narrazione riguardante il futuro dell'intelligenza artificiale, si distinguono oggi sostanzialmente tre filoni principali:

- da una parte ci sono gli “entusiasti”, secondo cui l’IA ci salverà da ogni male e infine prenderà il nostro posto per risolvere le molte questioni che non abbiamo saputo gestire.

- Dall’altra ci sono quelli (e tra loro figurano personaggi come Bill Gates e Elon Musk) secondo cui l’IA prenderà il controllo e ci distruggerà.

- Nel mezzo ci sono invece tutti coloro che con gli algoritmi ci lavorano e secondo i quali il nostro futuro dipende da una solida un’alleanza tra essere umani e intelligenza artificiale, da una progressiva simbiosi dove gli uni contribuiscono riempiendo le lacune dell’altra, e viceversa.

Me lo ha spiegato magistralmente in un’intervista del 2018 (che trovate qui in versione integrale2) il grande campione di scacchi Garry Kasparov: tutti ricordano il suo scontro con il computer Deep Blue di IBM nel 1996 e ‘97, e tutti ricordano che perse (anche se in maniera rocambolesca), ma pochi sanno che, dopo il ritiro, ha passato anni a fare da consulente proprio per l’addestramento delle IA, ovviamente su una scacchiera.

«Osservando la sperimentazione basata sul gioco degli scacchi - mi disse - quando si mettono assieme un essere umano e un’intelligenza artificiale per farli collaborare, più importante delle rispettive abilità è l’efficienza del processo con cui essi si relazionano. Uno scacchista di medie capacità e una macchina, uniti da un buon processo, sconfiggono sia un computer più forte di entrambi, sia un campione di scacchi in coppia con un supercomputer quando questi collaborano in virtù di un processo meno efficiente».

Il futuro dell’umanità è l’umanità aumentata dall’intelligenza artificiale. Che l’una non possa fare a meno dell’altra è pacifico. Che noi si trovi e implementi il modo migliore di collaborare con le macchine è assolutamente necessario, ma per nulla scontato.

*Giornalista, esperto di innovazione e curatore dell’Osservatorio Intelligenza Artificiale ANSA.it

1 https://rewriters.it/rewriters-fest/

2 https://thewebobserver.it/2021/10/19/intelligenza-artificiale-la-terza-via-di-garri-kasparov/

 

RIPRODUZIONE RISERVATA © Copyright ANSA