Sono incuriosito ma anche sospettoso. Quando c’è euforia intorno a qualche tecnologia spuntano anche molti “dilettanti allo sbaraglio” che tentano di cavalcare l’onda. Mi lascia il link a un teaser. Il video mi intriga (è professionale). Vado a controllare il suo profilo e scopro che Mateusz Miroslaw Lis è anche studente di Ingegneria dell’Informazione all’Università di Padova. Ah. Ok, ora sono davvero curioso.

Gli chiedo se vogliamo fare una call. Accetta. Un pomeriggio di sabato mi siedo davanti al computer. Mateusz e Stefano Pellizzari, studente di Lettere, Comunicazione e Spettacolo all’Università di Trieste, insieme co-produttori del film “Il diario di Sisifo” (e soci nella società di produzione Briefcase Films), mi raccontano genesi e obbiettivi del loro progetto audiovisivo.

La loro è una propensione innata alla sperimentazione. Mateusz mi racconta che, fin dall’inizio della sua carriera universitaria, ha coniugato l’amore per il cinema con l’interesse per il settore dell’Intelligenza Artificiale. Uno dei primi cortometraggi realizzati con Stefano è stato “Frammenti di anime meccaniche”, circa un anno e mezzo fa. L’ispirazione per questo progetto è venuta, tra l’altro, da “Sunspring”, un corto del regista Oscar Sharp scritto nel 2016 da un’intelligenza artificiale chiamata Benjamin (più precisamente un algoritmo basato su una LSTM recurrent neural network).

La sceneggiatura di “Frammenti di anime meccaniche” è stata invece scritta grazie a GPT-2, l’IA open source creata da OpenAI progenitrice dell’attuale ChatGPT. Le sono state date in pasto, per un’operazione di “fine tuning”, sceneggiature di vari autori non convenzionali come Charlie Kauffman (“Essere John Malkovich”), Alejandro González Iñárritu (“Birdman”), Spike Jonze (“Her”), Sofia Coppola (“Lost in Translation”)

Questo per ”portare fin da subito al limite la comprensione linguistica dell’algoritmo” mi spiega Mateusz. La sceneggiatura è stata generata sequenzialmente, scena dopo scena, dialogo dopo dialogo. Il risultato è stato accettabile, anche se rappresentava solo un primo passo nell’esplorazione del paesaggio creativo-cinematografico dell’IA.

Quando è arrivato il momento di girare, come parte integrante della performance artistica e del progetto scientifico, a cast e troupe non è stato detto che l’autore dello script era un “intelligenza alternativa”, non biologica. Il mistero è stato svelato solo nella proiezione privata, generando reazioni di spiazzamento e di curiosità.

La propensione a utilizzare strumenti e servizi di frontiera li ha portati a collaborare, per questo primo corto, con Paus, piattaforma inglese blockchain-based che permette il finanziamento di opere audiovisive tramite vendita di NFT.

Mateusz ha poi voluto continuare le sperimentazioni. Questa volta utilizzando GPT-J, versione open di GPT-3, per scrivere le sceneggiature di due corti, uno dei quali, ”Fehlleistung”, è stato co-sceneggiato dallo stesso Mateusz: lui scriveva delle parti e le lasciava completare all’algoritmo.

Acquisite competenze tecniche e “relazionali” con queste tipologie di IA, Mateusz e Stefano hanno deciso di realizzare un lungometraggio (anche per una sana ambizione di essere i primi a farlo). Vista la rapida evoluzione degli algoritmi, è stato stavolta utilizzato GPT NeoX, molto vicino a GPT-3 in quanto a performance e ampiezza dei dataset di training.

Il procedimento di creazione dello script è stato diverso rispetto agli altri lavori. Innanzitutto sono stati dati dei vincoli al modello: il tipo di location (il Friuli in questo caso), il budget a disposizione, le tipologie di attori del cast ecc. E già questo apre scenari enormi per le produzioni cinematografiche. A questo punto è stata generata una sinossi. Questa è diventata l’input per far generare un proto-soggetto con un’architettura di base della storia. Questo a sua volta è diventato l’input per la generazione di una sequenza di scene. Infine, per ciascuna scena, si è chiesto al modello di generare i dialoghi. Un metodo per raffinamenti successivi che ha portato, secondo Mateusz, un livello di coerenza della storia decisamente più alto.

Il risultato è stata la sceneggiatura di sessantaquattro pagine de “Il diario di Sisifo“, meno dello standard per un lungometraggio, ma comunque in grado di produrre un film di circa un’ora e cinquanta minuti.

Una riflessione nasce dal fatto che, essendo la sceneggiatura in inglese, ne è stata fatta una traduzione in italiano. Anche i film stranieri vengono tradotti ma in quel caso c’è un contesto linguistico e culturale che agevola l’opera di traslazione da una lingua all’altra. Qui il contesto non c’è, o, perlomeno, è privo di appigli immediatamente riconoscibili, con sfumature nascoste o deformate negli immensi dataset di addestramento del modello. Un’esperienza interessante sarebbe vedere il film con i sottotitoli in inglese, come suggerisce Mateusz.

Un quesito che mi è sorto riascoltando la nostra chiacchierata: Sapendo che una sceneggiatura è scritta da un’IA, si hanno più tentazioni di prendersi “libertà” registiche? Mateusz risponde con acute osservazioni che riporto quasi integralmente perché investono temi centrali nel rapporto di cooperazione tra umano e intelligenza artificiale (in qualsiasi campo, ancor più in quelli creativi).

“Per propria natura la sceneggiatura cinematografica si presenta al tempo stesso molto specifica e incredibilmente generale. Anche in questo caso moltissime cose, alcune che potremmo definire sciocchezze (l’inquadratura specifica di una tazza, la pausa tra dialoghi in un dato momento, etc.), sono iniziative dell’IA, altre, immancabilmente, finiscono per essere scelte, per estetica o semplice necessità di produzione, dal regista. Diverte molto ripensare quante volte, specialmente nel rapporto con gli attori, mi sia sentito nell’obbligo di rispondere con frasi del tipo: “siamo sicuri che GPT-NeoX approverebbe questa iniziativa?”.

Detto ciò, sebbene alcune situazioni siano particolarmente affini con la mia visione, riguardando il film non posso che restare convinto che quest’ultimo non è un mio film. Immagino che registi diversi avrebbero prodotto film molto diversi, ma resto ugualmente sicuro sul fatto che l’atmosfera generale, che supera il semplice surreale, sia di una matrice specifica attribuibile a GPT-NeoX, magari non inteso come entità cosciente indipendente, ma sicuramente come agglomerato di “frammenti di umanità”, manifestati nella semplice forma del testo.

In sintesi, in questo specifico caso, con chiare intenzioni sperimentali, non mi sono sentito di prendermi troppe libertà, per mantenere un metodo il più possibile scientifico e poter contare sulla purezza del risultato.”

Ora il giudizio passa al pubblico (nonché ai critici e agli addetti ai lavori, ai festival). Le prime reazioni sono state sospese tra incredulità, rifiuto, curiosità. Il film e i cortometraggi stanno per transitare nei festival. Nel frattempo, “Frammenti di anime meccaniche” è candidato ai David di Donatello 2023. Stefano, Mateusz e NeoX ne sono felici.

Chi avrebbe immaginato il mondo digitale di là a venti, trenta, quarant’anni? Neanche gli esperti più temerari sono riusciti a prevedere, nella sua complessa interconnessione e pervasività, la traiettoria evolutiva che ha portato a Internet, al Web, al GPS, agli smartphone, all’ IoT, al machine learning, alla stampa 3D. E ai social media.

Partendo da questa considerazione solo provare a definire il Metaverso — il non luogo digitale che da cui entreremo e usciremo senza soluzione di continuità — diventa una prova ardua. Figuriamoci prefigurare quali saranno le sue forme, le modalità di fruizione, le implicazioni sociali ed economiche che quest’altra realtà produrrà.

Matthew Ball è un profondo conoscitore dell’attuale ecosistema digitale, grazie, tra l’altro, alle sue esperienze come manager in Accenture e negli Amazon Studios. “The Metaverse, And How It Will Revolutionize Everything” è il suo atteso libro (uscito in versione italiana per Garzanti il 20 settembre), preceduto da decine di post scritti negli ultimi due anni sul suo blog.

Ball parte da una mole impressionante di dati, informazioni ed excursus storici per darci la possibilità di formulare le nostre tesi, ipotesi e speculazioni sul Metaverso, pungolandoci con tante domande le cui risposte stanno prendendo forma, più o meno velocemente, in questi anni.

Non c’è dubbio che già frequentiamo un proto-metaverso: ogni volta che facciamo una call, che giochiamo a qualche videogame online, che lavoriamo in remote working, acquistiamo NFT o qualsiasi altra cosa su Amazon, quando cerchiamo l’anima gemella su Tinder, interagiamo sui social o anche solo quando messaggiamo su Whatsapp siamo assorbiti in uno spazio digitale che pervade il nostro quotidiano.

Ma la verità è che la nostra idea di Metaverso si è formata attraverso libri, film, serie tv e videogiochi: quel che ci aspettiamo è un insieme di mondi virtuali in 3D immersivi, interconnessi, persistenti, in cui tramite i nostri avatar ci immergiamo per divertirci, lavorare, socializzare, imparare, assistere a eventi, fare acquisti e sesso in tempo reale. E questa, più o meno, può essere la sintesi della definizione di Ball di Metaverso. E per chi lo ha frequentato, sì, assomiglia a un Second Life elevato a un esponente superiore a due. A tre. A quattro.

Ball lo dice chiaramente: occorre un salto quantico nell’hardware, nel software, nelle velocità di connessione, nella ridefinizione di standard e protocolli per avere esperienze “fluide” e meta-reali in mondi digitali popolati contemporaneamente da decine o centinaia di milioni di utenti.

Non si tratta solo di realizzare occhiali AR, visori VR, tute aptiche comode e performanti.

La latenza (il ritardo nell’arrivo dei dati) e la larghezza di banda (la velocità dei dati), per esempio, influiscono pesantemente sulla qualità di quelle esperienze interattive.

Ancora, renderizzare, cioè riprodurre digitalmente un mondo con elevatissima definizione, richiede un’incredibile quantità di dati da processare velocemente con sterminate batterie di schede grafiche molto più performanti di quelle attuali.

Chi sta già lavorando per risolvere questo tipo di problemi? Soprattutto i creatori di videogiochi online che si svolgono all’interno di universi virtuali popolati da migliaia di giocatori, come Roblox, Fortnite, Minecraft. Ma ancor più importanti sono le aziende che sviluppano i “game engines”, i motori software che permettono a questi universi di esistere, o quelle che producono i chip grafici come Nvidia: realtà come Unity o Unreal sono tra i candidati al momento più credibili nel diventare i Google, Microsoft, Apple, Facebook del Metaverso.

Ball evidenzia — con molti dati ed esempi storici — come i cambi di paradigma tecnologici vedono entrare in scena nuovi protagonisti che prendono il posto dei vecchi unicorni impantanati nel proprio successo (e che comunque provano a evitare l’estinzione con investimenti miliardari).

In ballo c’è un mercato da trilioni di dollari, con un’economia che probabilmente supererà, in valore, quella tradizionale.

Dato per scontato che il Metaverso sarà un ensemble di mondi virtuali interconnessi, viene da chiedersi se l’architettura dominante sarà centralizzata o decentralizzata. La questione fondamentale è se i dati degli utenti e i loro beni digitali (terreni, avatar, abiti, opere d’arte e un’infinità di altri) saranno realmente di loro proprietà o, come oggi, principalmente nelle mani delle grandi aziende meta-tecnologiche.

Blockchain, NFT, web3, sono tecnologie e architetture volte a rendere i modelli di business più aperti e più favorevoli a utenti, sviluppatori, creativi. Ball ritiene possibile che l’utilizzo delle blockchain possa diventare, se non dominante, estremamente utile nel metaverso, facendo da “cassaforte” per i dati personali e da autostrada per le transazioni tra mondi interoperabili.

Inoltre le blockchain

“forniscono un meccanismo attraverso il quale risorse significative e diversificate, dalla ricchezza alle infrastrutture e al tempo, possono essere facilmente aggregate e su una scala che compete con le più potenti aziende private […] l’unico modo per combattere i giganti aziendali da trilioni di dollari che perseguono opportunità da trilioni di dollari è che miliardi di persone contribuiscano con migliaia di miliardi di dollari in più.”

Il libro di Ball, così “denso”, così prodigo di argomenti da approfondire, a volte ostico ma in grado di diradare almeno un po’ la nebbia del prossimo futuro tecno-sociale ricorda un po’ “Essere digitali”, il bestseller di Nicholas Negroponte che a metà degli anni ’90 ci disvelò quello che ora è già il nostro passato digitale. Nel risvolto di copertina di quel libro leggiamo: “Fra vent’anni, guardando fuori dalla finestra, potrete vedere qualcosa distante da voi 10.000 km e sei fusi orari. […]. Socializzeremo infatti in un vicinato digitale, dove lo spazio fisico sarà irrilevante e il tempo avrà un ruolo differente.” Tra vent’anni, nel Metaverso.

Originariamente pubblicato su “Osservatorio Metaverso”

Gary Marcus, Luis Lamb, Fei-fei Li (ImageNet), Key Stanley (OpenAI), Richard Sutton, Judea Pearl, Yejin Choi e altri hanno espresso la loro visione sui prossimi passi nel campo dell’Intelligenza Artificiale.

In sintesi:

• necessità dell’approccio ibrido che combini algoritmi di apprendimento con software “rules-based“.
• Identificare gli elementi costitutivi dell’AI e  renderla più affidabile, spiegabile e interpretabile.
• Ispirarsi all’evoluzione: l’intelligenza negli esseri umani e negli animali emerge dalla percezione attiva e dall’interazione con il mondo, una proprietà che è manca negli attuali sistemi di intelligenza artificiale, che si basano su dati curati ed etichettati dagli esseri umani.
• L’apprendimento per rinforzo è la prima teoria computazionale dell’intelligenza. Ma soffre degli stessi problemi del deep learning, come la grande quantità di dati necessari per il training e la notevole potenza computazionale richiesta.

Choi fa un’affermazione che trovo significativa:” lo spazio del ragionamento è infinito e il ragionamento stesso è un compito generativo e molto diverso dai compiti di categorizzazione per cui sono adatti gli algoritmi di apprendimento profondo e i benchmark di valutazione di oggi. Non enumeriamo mai molto. Ragioniamo al volo e questa sarà una delle principali sfide intellettuali fondamentali a cui possiamo pensare in futuro.

Fonte: Leading computer scientists debate the next steps for AI in 2021 (venturebeat.com)

Il database di immagini che ha allenato una generazione di intelligenze artificiali

La storia di ImageNet, il dataset su cui la maggior parte dei progetti di AI / object recognition addestrano le loro reti neurali per il deep learning.
Per comprendere un sistema di intelligenza artificiale / machine learning occorre partire dall’insieme di dati che sono stati usati per addestrarlo. Da qui si possono scoprire molte cose, a partire dai “pregiudizi” che possono essere involontariamente trasferiti all’ AI.
Un articolo molto istruttivo (e una rivista online molto interessante che non conoscevo).

Fonte: Lines of Sight (Logic)

Le nuove leggi della robotica

La seconda nuova legge della robotica – secondo Frank Pasquale, docente alla Brooklyn Law School ed esperto di tecnologie: i sistemi robotici e l’AI non dovrebbero spacciarsi per umani. Quando intervengono negli affari umani (medicina, finanza, marketing, politiche sociali, ecc.) dobbiamo sapere cosa sono.
Il nuovo libro di Pasquale è New Laws of Robotics: Defending Human Expertise in the Age of AI (Harvard University Press, 2020)

Fonte: What Robots Can’t Do (Commonweal)

Dal testo all’imagine con il deep learning

Dall-E è una rete neurale di OpenAI che partendo da un testo restituisce un’immagine.
Realizzata con GPT-3 (versione con 12 miliardi di parametri) secondo i creatori “ha una serie diversificata di funzionalità, inclusa la creazione di versioni antropomorfizzate di animali e oggetti, la combinazione di concetti non correlati in modi plausibili, il rendering del testo e l’applicazione di trasformazioni alle immagini esistenti.”

In quell’anno, tuttavia, era uno dei bot più avanzati. Aveva vinto il Loebner Prize Contest, una competizione tra software che si svolgeva nell’ambito dei tentativi di superare il test di Turing. Per questo “astrobot Ella” fu scelta per essere inviata, dopo essere stata trasformata in una trasmissione ad alta frequenza, dal radiotelescopio Evpatoria, in Ucraina. La trasmissione durò più di un’ora, durante i quali i 119 MB della “Cosmic call” lasciarono il pianeta Terra alla velocità della luce, bit dopo bit.

Se mai qualcuno, nel 2036, capterà la trasmissione (HIP 4872 è distante 32.8 anni luce) e riuscirà a far girare il programma su qualche strano computer alieno si troverà di fronte un’intelligenza artificiale. Certo, magari agli abitanti di quel sistema stellare apparirà un’intelligenza approssimativa (per essere benevoli) ma sicuramente si divertiranno a giocare a blackjack, ascoltare barzellette terrestri e sentirsi predire il futuro.

Però ho qualche timore per il 2069, quando riceveremo l’eventuale messaggio di risposta: e se, al massimo, ci invitassero a giocare a tris?

Fonti

Daniel Oberhaus, “Extraterrestrial Languages“, The MIT press, 2019

Epstein, Robert, Roberts, Gary, Beber, Grace, “Parsing the Turing Test.Philosophical and Methodological Issues in the Quest for the Thinking Computer“, Springer, 2009

Come essere ragionevolmente sicuri che le Intelligenze Artificiali facciano quello che desideriamo? In primo luogo, dobbiamo essere noi a capire cosa vogliamo. Quindi le macchine, “osservandoci”, devono dedurre quali siano le nostre preferenze.

Per l’informatico Stuart Russell i “tre principi delle macchine benevoli” dovrebbero essere:

• L’unico obiettivo della macchina è massimizzare la realizzazione delle preferenze umane.
• Inizialmente la macchina non è sicura di quali siano queste preferenze.
  
• L’ultima fonte di informazioni sulle preferenze umane è il comportamento umano.

Ma le preferenze umane possono essere irrazionali e cambiare nel tempo. Le AI dovrebbero porsi obbiettivi a breve, medio e lungo termine, esplorando le contraddittorie e volubili intenzioni umane. Inoltre potrebbero apprendere ciò che Russell chiama le nostre meta-preferenze: “le preferenze su quali tipi di processi di modifica delle preferenze potrebbero essere accettabili o inaccettabili”.

Fonte: quanta magazine

I giapponesi amano i robot

Noi della generazione X lo avevamo capito guardando Goldrake, Mazinga, Daitarn III ecc.

Lo scintoismo insegna che una frazione di anima è presente in tutte le cose, animali, vegetali e oggetti. Questo predispone i giapponesi a rapportarsi con maggiore empatia con robot e Intelligenze Artificiali.

Inoltre dopo la seconda guerra mondiale, a partire dagli anni ’60, sono stati i robot industriali a favorire la rinascita economica del paese del Sol Levante; da qui, dalle ricerche sui robot antropomorfi e dai manga (a partire da Astro Boy), si sviluppato una visione ottimistica del rapporto uomo-macchina.

Noi occidentali siamo stati condizionati da Hal 9000, Terminator e Matrix…

Fonte: bbc.com

Per Luciano Floridi

“I successi dell’AI si basano sul divorzio tra la capacità di risolvere un problema e la necessità di essere intelligenti nel farlo.”

Fonte: D- la Repubblica

Per la copertura delle elezioni britanniche la BBC si è avvalsa di un sistema di giornalismo “automatizzato” che è stato in grado di redarre, a partire dai risultati, quasi 700 articoli (in inglese e gallese), uno per ognuna delle circoscrizioni elettorali del Regno Unito.

Fonte: bbc.com

Oltre il deep learning

Alla conferenza sull’Intelligenza Artificiale di Vancuver NeurIPS 13.000 esperti hanno fatto il punto della situazione.

Il deep learning si è dimostrato estremamente efficace su alcune categorie di problemi, ma ha bisogno di grandi quantità di dati per l’addestramento (e comunque compie ancora errori banali). Per progredire occorre studiare più a fondo le radici biologiche dell’intelligenza. Un altro approccio promettente è quello del “metalearning” ovvero “un settore emergente interessato alla creazione di algoritmi di apprendimento in grado di elaborare i propri algoritmi di apprendimento”.

Fonte: ars technica

Alla ricerca delle umanità digitali. Cronache di un’insurrezione

Méta-Media, il blog collettivo di France Télévisions, pubblica il suo periodico quaderno che raccoglie analisi, riflessioni e critiche del mondo digitale.

Partendo da una lunga recensione del libro “The Game” di Baricco uscito qualche tempo fa anche in Francia, gli articoli spaziano dall’etica nell’era degli algoritmi alle sfide tecnologiche e di contenuti del giornalismo e dei media (non più) tradizionali. Qui il pdf scaricabile gratuitamente.

Se da un lato quindi l’AI può aiutare a “rileggere” dati, scoprendo schemi nascosti agli occhi umani, dall’altro sorge il problema di capire i “ragionamenti” che sono dietro l’individuazione di questi pattern. Semplici forme di machine learning usano algoritmi trasparenti, come alberi di decisione o classificatori bayesani. Ma altre, come le reti neurali, sacrificano trasparenza e comprensibilità per potenza, velocità e accuratezza.

Oggi si pensa che la “scatola nera” di una rete neurale e di tutti i sistemi di AI dovrebbe essere resa più trasparente. Insieme all’output si dovrebbe avere una spiegazione di come tali dati sono stati generati. L’AI dovrebbe essere in grado di spiegare le proprie ragioni per far sì che gli utenti umani possano fidarsi, riconoscendo capacità e limiti del sistema.

La Explainable AI (XAI) è un campo di ricerca relativamente nuovo che si propone di sviluppare tecniche e metodi per rendere i risultati ottenuti da tecnologie di Intelligenza Artificiale comprensibili dagli umani.

Pensiamo ai sistemi di guida autonoma, alle applicazioni di AI utilizzate in medicina, nel comparto finanziario, legale o in quello militare. In questi casi è facile capire che per fidarsi delle decisioni e dei dati ottenuti occorre capire come il partner artificiale abbia “ragionato”.

È necessario sapere perché è stata fatta una scelta invece che un’altra e se il sistema è in grado di riconoscere un suo errore (magari ponendovi rimedio). Sapere, in definitiva, quando potersi fidare completamente delle decisioni dell’AI.

Il tema è importante per diverse ragioni. Far adottare tecnologie AI nelle aziende è più facile se si possono tradurre in linguaggio umano i passi compiuti da un algoritmo per giungere a un risultato.

In molte attività la trasparenza può essere un obbligo legale, fiscale o etico. Meno un sistema appare “magico”, più saranno le possibilità che venga adottato.

Un altro problema legato alla necessità di avere intelligenze digitali “spiegabili” è legato alla delicata questione dei “bias”, dei pregiudizi (di genere, di razza o di altro tipo) che possono contagiarle: i cattivi dati di training nel machine learning sono una delle cause di questi effetti collaterali. Come ultimo esempio di una lista sempre più lunga si può citare quello dei pazienti di colore discriminati da sistemi decision-making negli ospedali americani. Con l’utilizzo di tecniche XAI queste anomalie potrebbero essere individuate o prevenute più facilmente.

Esiste poi il diritto sociale alla trasparenza e alla spiegazione degli algoritmi, riconosciuto in maniera esplicita dall’Unione Europea nel General Data Protection Right (GDPR): “L’esistenza di un processo decisionale automatizzato, compresa la profilazione di cui all’articolo 22, paragrafi 1 e 4, richiede informazioni significative sulla logica utilizzata, nonché l’importanza e le conseguenze previste di tale trattamento per l’interessato.”

Ci sono due considerazioni da fare a questo punto.

In primo luogo è importante sapere a chi sono destinate le spiegazioni. Possono essere richieste spiegazioni tecniche per gli esperti, spiegazioni di altro genere per le autorità di controllo oppure, in generale, spiegazioni semplici per tutti (che dovrebbero essere evidenziate e adattate al contesto).

Inoltre, in generale, si dovrebbe ragionare su diversi livelli di trasparenza. Le scelte di un sistema di raccomandazione come quello di Netflix possono essere proposte all’utente senza troppe spiegazioni. Maggiori spiegazioni potrebbe richiedere un sistema di domotica basato su IoT. Sistemi per la concessione di crediti e prestiti necessitano di un livello ancora più elevato di trasparenza. Nel settore delle diagnosi mediche il livello dovrebbe essere massimo.

Vista l’importanza del tema aziende, organizzazioni e ricercatori ne stanno approfondendo lo studio e proponendo soluzioni.

La DARPA, l’agenzia governativa del Dipartimento della Difesa degli Stati Uniti, ha aperto un programma dedicato alla XAI. Il suo scopo è arrivare a “nuovi sistemi di machine learning che avranno la capacità di spiegare le loro motivazioni, caratterizzarne i punti di forza e di debolezza e trasmettere una comprensione di come si comporteranno in futuro”.

Molte grandi compagnie (tra cui IBM, Accenture e Microsoft) e startup ICT stanno sperimentando e già promuovendo strumenti e sistemi di XAI. Alcuni esperti sono scettici e sostengono che allo stato attuale parlare di sistemi XAI sia solo un espediente di marketing non esente da rischi, come quello di alimentare una falsa sensazione di sicurezza in contesti delicati.

I ricercatori, dal canto loro, stanno studiando a fondo l’argomento, focalizzandosi sui vari aspetti e sulle difficoltà che sorgono nel rendere trasparenti gli ora opachi sistemi di AI e ML. Si sono riuniti in una comunità globale, la FAT/ML, che organizza incontri annuali sullo stato dell’arte della nascente disciplina.

In Italia il Knowledge Discovery and Data Mining Laboratory (KDD Lab), gruppo di ricerca congiunto tra l’ ISTI del CNR e il Dipartimento di Informatica dell’ Università di Pisa, ha appena avviato un progetto quinquennale finanziato dalla Commissione Europea.

Il progetto si compone di tre linee di ricerca. La prima vuole creare un framework “local-to-global” (dal caso particolare al caso generale) per la spiegazione di ciò che avviene in una scatola nera AI, con algoritmi in grado di ottimizzare qualità e comprensibilità di questo processo di generalizzazione. La seconda intende creare modelli per spiegazioni causali, indagando sia le relazioni tra variabili (interne ed esterne) e decisioni sia modelli che catturino il comportamento dettagliato della generazione di dati in reti di deep learning. Infine si intende creare un sistema di valutazione di questi e altri metodi di XAI da parte degli utenti oltre che un contesto etico-legale per conformare i metodi agli standard legali come il GDPR.

Queste e altri studi in giro per il mondo fanno della XAI un campo di ricerca non solo stimolante ma imprescindibile; come spiega Dino Predeschi del KDD Lab “senza una tecnologia in grado di spiegare la logica delle black box, però, il diritto alla spiegazione è destinato a rimanere lettera morta, oppure a mettere fuorilegge molte applicazioni del machine learning opaco.”

Originariamente pubblicato su Medium

Riferimenti

Costabello L., Giannotti. F. et al. On Explainable AI:
From Theory to Motivation, Applications and Limitations (una corposa serie di slides che entrano nel dettaglio tecnico delle ricerche sulla XAI)

Ron Schmelzer, Understanding Explainable AI

Mark Stefik, Explainable AI: An Overview of PARC’s COGLE Project with DARPA

Hubert Guillaud, De l’explicabilité des systèmes : les enjeux de l’explication des décisions automatisées

Jeremy Kahn, Artificial Intelligence Has Some Explaining to Do

Cade Metz, We Teach A.I. Systems Everything, Including Our Biases

“Se l’Internet contemporaneo è una città, Wikipedia è il parco pubblico solitario; tutto il resto dei nostri luoghi pubblici sono centri commerciali, aperti al pubblico in generale, ma soggetti alle regole e alla logica del commercio.”

La Rete al momento ha un modello vincente: il capitalismo basato sui dati e sull’attenzione degli utenti (con l’aggravante della sorveglianza e del controllo in paesi come la Cina o la Russia). Il modello “servizio pubblico” è marginale, con Wikipedia che ne rappresenta uno dei pochi esempi.

Diversi sono stati i tentativi di creare modelli alternativi, “commons” digitali come motori di ricerca o social media. Sono falliti sia perché non autosostenibili economicamente, sia perché non hanno mai raggiunto la massa critica necessaria.

Come ricorda Ethan Zuckerman, direttore del Center for Civic Media al MIT, in realtà la storia di radio e televisione ha visto spesso coesistere modelli di business liberalisti con altri legati al concetto di servizio pubblico, come in Italia e in Gran Bretagna. L’esigenza di contraltari alle piattaforme e ai servizi puramente commerciali non è cessata, anzi. Non si deve quindi smettere di cercare un web che sia anche servizio pubblico, ovvero “un tipo di servizio reso alla collettività, oggettivamente non economico, ma suscettibile di essere organizzato in forma d’impresa“.

Che possa essere l’Europa la più indicata a realizzare un public service web?

Luciano Floridi, direttore del Digital Ethics Lab all’Università di Oxford, usa anche lui la metafora del parco pubblico nella sua rubrica su D ma è pessimista.

“Avremmo potuto trattare Internet come un luogo pubblico, alla stregua di un parco, con un modello ecologico in cui la libertà di espressione fa i conti con la convivenza civile, ed evitare il modello pubblicitario, basato sulla gestione dell’attenzione e favorevole alle notizie urlate e scandalistiche, alla profilazione degli utenti, al trattamento dei dati degli utenti come risorsa primaria e alla creazione di bolle mediatiche. Quel treno lo abbiamo perso e la storia non si fa con i se e con i ma. Pensare di nazionalizzare la rete o creare una rete di tipo pubblico è anacronistico.”

Invita però a non ripetere gli errori anche con l’AI.

Il Go è un gioco di strategia di origine cinese, il più antico tra quelli ancora giocati. Nella Cina imperiale era considerato più un’arte che un passatempo ed era compreso nelle quattro arti essenziali insieme a pittura, calligrafia e musica.

Il campo di gioco è una scacchiera (“goban”) formata da 19 linee orizzontali e 19 verticali per 361 intersezioni. I giocatori hanno un certo numero di pedine (“pietre”), bianche o nere, da posizionare a turno sulle intersezioni vuote. Scopo del gioco è quello di circondare con le proprie pietre più spazio (intersezioni vuote) del proprio avversario.

A differenza degli scacchi, che sono un gioco “distruttivo”, in cui cioè la complessità diminuisce a ogni mossa, per il Go vale il contrario: questo fa sì che il numero di possibili posizioni è nell’ordine di 10¹⁷⁰, molto, molto più alto del numero di atomi in tutto l’universo, 10⁸⁰. Il Go è più intuitivo degli scacchi: questi possono rappresentarsi come un enorme albero pieno di biforcazioni, il Go come un paesaggio astratto in cui è però possibile riconoscere schemi e strutture.

Navigare in questo oceano di possibilità rende il gioco un’esperienza senza fine, una tela in perenne tessitura in cui si intrecciano intuito e logica, poesia e matematica. Come in quest’ultima, semplici regole danno origine a “bellissime complessità”. Non per nulla Go è amato da molti matematici che considerano la posizione finale di una partita come una congettura matematica e il gioco come i passi logici necessari per dimostrare quella congettura.

Fino a pochi anni fa gli stessi matematici, esperti giocatori e programmatori erano d’accordo nel sostenere che fosse estremamente difficile scrivere un software che giocasse in maniera soddisfacente a Go: la loro previsione era che ci sarebbero voluti decenni per emulare la “bravura” dei migliori programmi di scacchi in grado oggi di battere anche campioni del mondo (senza essere DeepBlue).

Si sbagliavano.

Demis Hassabis è stato un enfant prodige dell’informatica, reclutato a soli 16 anni dall’Università di Cambridge. Nei corsi di AI che seguì i professori insistevano nel sottolineare l’impossibilità di far giocare decentemente Go a un computer. Lui la prese come una sfida.

La sua idea era semplice: invece di scrivere un programma che potesse giocare a Go, scrivere un meta-programma. Un programma che apprendesse da solo quel che era necessario, come un neonato.

Per far questo si rese conto di dover approfondire le sue conoscenze sul cervello umano e si prese un dottorato in Neuroscienze all’University College di Londra.

A questo punto — siamo nel 2010 — insieme a due soci fondò la società DeepMind.

Naturalmente cominciarono con qualcosa di semplice. Presero un vecchio gioco Atari, Breakout (sì, quello del muro di mattoncini da abbattere) e scrissero un programma che riceveva come input lo stato dei pixels dello schermo, il punteggio corrente e l’obbiettivo di massimizzarlo. Un tipico esempio di reinforcement learning (apprendimento con rinforzo), una tecnica di apprendimento automatico in cui un algoritmo impara interagendo con il suo ambiente. Il processo avviene senza l’intervento di un essere umano: il programma riceve premi svolgendo compiti correttamente e penalità in caso contrario. L’apprendimento con rinforzo è una classica tecnica che deriva dalla psicologia comportamentista: una ricompensa positiva aumenta la tendenza a fare di nuovo una certa cosa e viceversa.

Il programma iniziò a giocare con mosse casuali, poi queste diventarono sempre più efficaci. Piuttosto velocemente individuò il trucco che tutti i ragazzini degli anni ’80, dopo centinaia di partite, scoprivano: aprire un varco nel muro e far sì che la pallina vi entrasse e dall’interno demolisse il muro.

Nel 2014 i programmi “incubati” da DeepMind riuscirono a superare le abilità umane in 49 giochi Atari. Venne anche pubblicata una ricerca sulla prestigiosa rivista scientifica Nature.

La società — un ibrido tra startup e accademia — contava in quel momento 400 tra ingegneri e neuroscienziati. Google la acquistò per 500 milioni di dollari.

Comprensibilmente soddisfatto Hassabis si concentrò sulla sua sfida a Go.

Il progetto per creare un maestro digitale assunse il nome di AlphaGo.

Il programma si basa sulle reti neurali. Si è partiti da un database di 30 milioni di posizioni derivanti da partite giocate tra umani.

Una rete neurale profonda è stata addestrata con un supervised learning (apprendimento supervisionato) per calcolare, a partire da ogni posizione, quali fossero le mosse più promettenti. Questa prima fase è durata tre settimane. A questo punto il programma aveva l’abilità di un giocatore amatoriale.

Nella seconda fase (reinforcement learning) — durata un giorno — il programma ha cominciato a giocare contro sé stesso, migliorandosi. Una seconda rete neurale venne affiancata alla prima. Il suo compito era dare un valore alla situazione attuale sulla scacchiera: più alto il valore, maggiori le possibilità di vincere. Per calcolare questo valore si devono simulare le mosse successive. Si è ricorso a una “vecchia” tecnica dell’AI: un’esplorazione dell’albero delle possibilità con un algoritmo Monte Carlo tree search. La ricerca è stata resa fattibile e meno onerosa grazie ai risultati delle due reti neurali.

Ancora una fase di training di una settimana e AlphaGo era pronto per essere messo alla prova con un maestro umano.

Nel 2015, in un test segreto, AlphaGo sconfisse 5–0 il campione europeo di origini cinesi Fan Hui. Il programma continuò a imparare.

Nel marzo 2016 è il turno del pluricampione del mondo coreano Lee Sedol, tra i più grandi maestri viventi. Stavolta la sfida fu pubblicizzata e mandata in onda in diretta streaming da Seul. Il vincitore avrebbe guadagnato un milione di dollari.

Fan Hui era diventato nel frattempo una sorta di “allenatore” di AlphaGo, scovando le debolezze nel suo gioco e contribuendo a migliorare le sue performance. Sì, sembra di rivivere l’epopea di Rocky e Apollo Creed…

Nella prima partita della sfida AlphaGo vinse. Lee Sedol affermò che non si sarebbe aspettato di perdere una partita. Ma il peggio, per lui, doveva ancora arrivare. Nella seconda partita AlphaGo effettuò una mossa del tutto inaspettata, non ortodossa, “aliena” come ha rivelato un maestro occidentale, Michael Redmond. Lo shock del mondo dei giocatori di Go è grande. Millenni di sfide tra umani non avevano prodotto una tale strategia. Fan Hui perde la seconda partita e, alla fine, perderà la sfida per 4–1.

AlphaGo rimase imperturbabile. Neanche un “bip” di soddisfazione. Ma dimostrò di possedere intuizione e creatività.

La storia non finisce qui.

AlphaGo ha ancora un retaggio umano, avendo iniziato il suo processo di apprendimento da partite giocate da esseri in carne e ossa.

Alla DeepMind vogliono andare oltre.

Viene creata una nuova versione del programma, AlphaGo Zero. Paradossalmente è più semplice della precedente, con una sola rete neurale che ingloba le due esistenti. Stavolta nessuna “contaminazione” umana: AlphaGo Zero viene istruito con le regole del Go e fatto giocare solo con sé stesso. Dopo 40 giorni e 29 milioni di partite giocate è pronto per sfidare il suo predecessore.

100 volte più veloce e 10 volte più efficiente, AlphaGo Zero batte AlphaGo per 100 a 0.

Senza pregiudizi biologici e con la capacità di “guardare oltre,” AlphaGo Zero è libero di esprimere le sue potenzialità.

Come è stata vissuta questa vicenda dal mondo del Go? Come uno smacco insopportabile? Come una frustrazione insuperabile? Tutt’altro. I giocatori — primo tra tutti Fan Hui, la prima “vittima” — hanno imparato a loro volta dall’avversario digitale, migliorando il loro gioco e sfruttando nuove strategie prima “bloccate” dalla forza della tradizione.

L’eredità del progetto AlphaGo va oltre i programmi di gioco; diverse caratteristiche lo rendono un passo importante verso le AGI (Artificial General Intelligence), intelligenze digitali in grado di competere con gli esseri umani in molteplici campi e non solo in domini ristretti. Più specificatamente, comunque, il progetto ha dimostrato che in settori in cui le strategie sono importanti, come quello degli investimenti, quello politico e quello militare le AI sono quasi pronte a sfidare (o aiutare) i migliori strateghi umani.

A proposito di strategie — geopolitiche in questo caso — c’è da notare che il successo di AlphaGo ha avuto una enorme eco in Cina, patria del Go, tanto da spingere il governo cinese a varare un grande piano di investimenti per diventare entro il 2030 il principale centro di innovazione al mondo in AI.

Riferimenti

John Brockman (a cura di), Possible Minds: Twenty-Five Ways of Looking at AI, Penguin Press, 2019

Marcus Du Sautoy, The Creativity Code: How AI is learning to write, paint and think, Fourth Estate, 2019

Terrence J. Sejnowski, The Deep Learning Revolution, The MIT Press, 2018

Max Tegmark, Vita 3.0: Essere umani nell’era dell’intelligenza artificiale, Raffaello Cortina Editore, 2018

Dawn Chan, The AI That Has Nothing to Learn From Humans

Jonathan Hui, AlphaGo: How it works technically? (Una sintetica ma chiara guida tecnica al funzionamento di AlphaGo…)

Jonathan Hui, AlphaGo Zero — a game changer. (How it works?) (…e di AphaGo Zero)

David Silver, Demis Hassabis, AlphaGo Zero: Starting from scratch

David Silver et al., Mastering the game of Go without human knowledge, Nature, 2017/10/18/online, Macmillan Publishers Limited, part of Springer. (L’articolo pubblicato su Nature relative ad AlphaGo Zero)