Sono incuriosito ma anche sospettoso. Quando c’è euforia intorno a qualche tecnologia spuntano anche molti “dilettanti allo sbaraglio” che tentano di cavalcare l’onda. Mi lascia il link a un teaser. Il video mi intriga (è professionale). Vado a controllare il suo profilo e scopro che Mateusz Miroslaw Lis è anche studente di Ingegneria dell’Informazione all’Università di Padova. Ah. Ok, ora sono davvero curioso.

Gli chiedo se vogliamo fare una call. Accetta. Un pomeriggio di sabato mi siedo davanti al computer. Mateusz e Stefano Pellizzari, studente di Lettere, Comunicazione e Spettacolo all’Università di Trieste, insieme co-produttori del film “Il diario di Sisifo” (e soci nella società di produzione Briefcase Films), mi raccontano genesi e obbiettivi del loro progetto audiovisivo.

La loro è una propensione innata alla sperimentazione. Mateusz mi racconta che, fin dall’inizio della sua carriera universitaria, ha coniugato l’amore per il cinema con l’interesse per il settore dell’Intelligenza Artificiale. Uno dei primi cortometraggi realizzati con Stefano è stato “Frammenti di anime meccaniche”, circa un anno e mezzo fa. L’ispirazione per questo progetto è venuta, tra l’altro, da “Sunspring”, un corto del regista Oscar Sharp scritto nel 2016 da un’intelligenza artificiale chiamata Benjamin (più precisamente un algoritmo basato su una LSTM recurrent neural network).

La sceneggiatura di “Frammenti di anime meccaniche” è stata invece scritta grazie a GPT-2, l’IA open source creata da OpenAI progenitrice dell’attuale ChatGPT. Le sono state date in pasto, per un’operazione di “fine tuning”, sceneggiature di vari autori non convenzionali come Charlie Kauffman (“Essere John Malkovich”), Alejandro González Iñárritu (“Birdman”), Spike Jonze (“Her”), Sofia Coppola (“Lost in Translation”)

Questo per ”portare fin da subito al limite la comprensione linguistica dell’algoritmo” mi spiega Mateusz. La sceneggiatura è stata generata sequenzialmente, scena dopo scena, dialogo dopo dialogo. Il risultato è stato accettabile, anche se rappresentava solo un primo passo nell’esplorazione del paesaggio creativo-cinematografico dell’IA.

Quando è arrivato il momento di girare, come parte integrante della performance artistica e del progetto scientifico, a cast e troupe non è stato detto che l’autore dello script era un “intelligenza alternativa”, non biologica. Il mistero è stato svelato solo nella proiezione privata, generando reazioni di spiazzamento e di curiosità.

La propensione a utilizzare strumenti e servizi di frontiera li ha portati a collaborare, per questo primo corto, con Paus, piattaforma inglese blockchain-based che permette il finanziamento di opere audiovisive tramite vendita di NFT.

Mateusz ha poi voluto continuare le sperimentazioni. Questa volta utilizzando GPT-J, versione open di GPT-3, per scrivere le sceneggiature di due corti, uno dei quali, ”Fehlleistung”, è stato co-sceneggiato dallo stesso Mateusz: lui scriveva delle parti e le lasciava completare all’algoritmo.

Acquisite competenze tecniche e “relazionali” con queste tipologie di IA, Mateusz e Stefano hanno deciso di realizzare un lungometraggio (anche per una sana ambizione di essere i primi a farlo). Vista la rapida evoluzione degli algoritmi, è stato stavolta utilizzato GPT NeoX, molto vicino a GPT-3 in quanto a performance e ampiezza dei dataset di training.

Il procedimento di creazione dello script è stato diverso rispetto agli altri lavori. Innanzitutto sono stati dati dei vincoli al modello: il tipo di location (il Friuli in questo caso), il budget a disposizione, le tipologie di attori del cast ecc. E già questo apre scenari enormi per le produzioni cinematografiche. A questo punto è stata generata una sinossi. Questa è diventata l’input per far generare un proto-soggetto con un’architettura di base della storia. Questo a sua volta è diventato l’input per la generazione di una sequenza di scene. Infine, per ciascuna scena, si è chiesto al modello di generare i dialoghi. Un metodo per raffinamenti successivi che ha portato, secondo Mateusz, un livello di coerenza della storia decisamente più alto.

Il risultato è stata la sceneggiatura di sessantaquattro pagine de “Il diario di Sisifo“, meno dello standard per un lungometraggio, ma comunque in grado di produrre un film di circa un’ora e cinquanta minuti.

Una riflessione nasce dal fatto che, essendo la sceneggiatura in inglese, ne è stata fatta una traduzione in italiano. Anche i film stranieri vengono tradotti ma in quel caso c’è un contesto linguistico e culturale che agevola l’opera di traslazione da una lingua all’altra. Qui il contesto non c’è, o, perlomeno, è privo di appigli immediatamente riconoscibili, con sfumature nascoste o deformate negli immensi dataset di addestramento del modello. Un’esperienza interessante sarebbe vedere il film con i sottotitoli in inglese, come suggerisce Mateusz.

Un quesito che mi è sorto riascoltando la nostra chiacchierata: Sapendo che una sceneggiatura è scritta da un’IA, si hanno più tentazioni di prendersi “libertà” registiche? Mateusz risponde con acute osservazioni che riporto quasi integralmente perché investono temi centrali nel rapporto di cooperazione tra umano e intelligenza artificiale (in qualsiasi campo, ancor più in quelli creativi).

“Per propria natura la sceneggiatura cinematografica si presenta al tempo stesso molto specifica e incredibilmente generale. Anche in questo caso moltissime cose, alcune che potremmo definire sciocchezze (l’inquadratura specifica di una tazza, la pausa tra dialoghi in un dato momento, etc.), sono iniziative dell’IA, altre, immancabilmente, finiscono per essere scelte, per estetica o semplice necessità di produzione, dal regista. Diverte molto ripensare quante volte, specialmente nel rapporto con gli attori, mi sia sentito nell’obbligo di rispondere con frasi del tipo: “siamo sicuri che GPT-NeoX approverebbe questa iniziativa?”.

Detto ciò, sebbene alcune situazioni siano particolarmente affini con la mia visione, riguardando il film non posso che restare convinto che quest’ultimo non è un mio film. Immagino che registi diversi avrebbero prodotto film molto diversi, ma resto ugualmente sicuro sul fatto che l’atmosfera generale, che supera il semplice surreale, sia di una matrice specifica attribuibile a GPT-NeoX, magari non inteso come entità cosciente indipendente, ma sicuramente come agglomerato di “frammenti di umanità”, manifestati nella semplice forma del testo.

In sintesi, in questo specifico caso, con chiare intenzioni sperimentali, non mi sono sentito di prendermi troppe libertà, per mantenere un metodo il più possibile scientifico e poter contare sulla purezza del risultato.”

Ora il giudizio passa al pubblico (nonché ai critici e agli addetti ai lavori, ai festival). Le prime reazioni sono state sospese tra incredulità, rifiuto, curiosità. Il film e i cortometraggi stanno per transitare nei festival. Nel frattempo, “Frammenti di anime meccaniche” è candidato ai David di Donatello 2023. Stefano, Mateusz e NeoX ne sono felici.

Gary Marcus, Luis Lamb, Fei-fei Li (ImageNet), Key Stanley (OpenAI), Richard Sutton, Judea Pearl, Yejin Choi e altri hanno espresso la loro visione sui prossimi passi nel campo dell’Intelligenza Artificiale.

In sintesi:

• necessità dell’approccio ibrido che combini algoritmi di apprendimento con software “rules-based“.
• Identificare gli elementi costitutivi dell’AI e  renderla più affidabile, spiegabile e interpretabile.
• Ispirarsi all’evoluzione: l’intelligenza negli esseri umani e negli animali emerge dalla percezione attiva e dall’interazione con il mondo, una proprietà che è manca negli attuali sistemi di intelligenza artificiale, che si basano su dati curati ed etichettati dagli esseri umani.
• L’apprendimento per rinforzo è la prima teoria computazionale dell’intelligenza. Ma soffre degli stessi problemi del deep learning, come la grande quantità di dati necessari per il training e la notevole potenza computazionale richiesta.

Choi fa un’affermazione che trovo significativa:” lo spazio del ragionamento è infinito e il ragionamento stesso è un compito generativo e molto diverso dai compiti di categorizzazione per cui sono adatti gli algoritmi di apprendimento profondo e i benchmark di valutazione di oggi. Non enumeriamo mai molto. Ragioniamo al volo e questa sarà una delle principali sfide intellettuali fondamentali a cui possiamo pensare in futuro.

Fonte: Leading computer scientists debate the next steps for AI in 2021 (venturebeat.com)

Il database di immagini che ha allenato una generazione di intelligenze artificiali

La storia di ImageNet, il dataset su cui la maggior parte dei progetti di AI / object recognition addestrano le loro reti neurali per il deep learning.
Per comprendere un sistema di intelligenza artificiale / machine learning occorre partire dall’insieme di dati che sono stati usati per addestrarlo. Da qui si possono scoprire molte cose, a partire dai “pregiudizi” che possono essere involontariamente trasferiti all’ AI.
Un articolo molto istruttivo (e una rivista online molto interessante che non conoscevo).

Fonte: Lines of Sight (Logic)

Le nuove leggi della robotica

La seconda nuova legge della robotica – secondo Frank Pasquale, docente alla Brooklyn Law School ed esperto di tecnologie: i sistemi robotici e l’AI non dovrebbero spacciarsi per umani. Quando intervengono negli affari umani (medicina, finanza, marketing, politiche sociali, ecc.) dobbiamo sapere cosa sono.
Il nuovo libro di Pasquale è New Laws of Robotics: Defending Human Expertise in the Age of AI (Harvard University Press, 2020)

Fonte: What Robots Can’t Do (Commonweal)

Dal testo all’imagine con il deep learning

Dall-E è una rete neurale di OpenAI che partendo da un testo restituisce un’immagine.
Realizzata con GPT-3 (versione con 12 miliardi di parametri) secondo i creatori “ha una serie diversificata di funzionalità, inclusa la creazione di versioni antropomorfizzate di animali e oggetti, la combinazione di concetti non correlati in modi plausibili, il rendering del testo e l’applicazione di trasformazioni alle immagini esistenti.”

Come essere ragionevolmente sicuri che le Intelligenze Artificiali facciano quello che desideriamo? In primo luogo, dobbiamo essere noi a capire cosa vogliamo. Quindi le macchine, “osservandoci”, devono dedurre quali siano le nostre preferenze.

Per l’informatico Stuart Russell i “tre principi delle macchine benevoli” dovrebbero essere:

• L’unico obiettivo della macchina è massimizzare la realizzazione delle preferenze umane.
• Inizialmente la macchina non è sicura di quali siano queste preferenze.
  
• L’ultima fonte di informazioni sulle preferenze umane è il comportamento umano.

Ma le preferenze umane possono essere irrazionali e cambiare nel tempo. Le AI dovrebbero porsi obbiettivi a breve, medio e lungo termine, esplorando le contraddittorie e volubili intenzioni umane. Inoltre potrebbero apprendere ciò che Russell chiama le nostre meta-preferenze: “le preferenze su quali tipi di processi di modifica delle preferenze potrebbero essere accettabili o inaccettabili”.

Fonte: quanta magazine

I giapponesi amano i robot

Noi della generazione X lo avevamo capito guardando Goldrake, Mazinga, Daitarn III ecc.

Lo scintoismo insegna che una frazione di anima è presente in tutte le cose, animali, vegetali e oggetti. Questo predispone i giapponesi a rapportarsi con maggiore empatia con robot e Intelligenze Artificiali.

Inoltre dopo la seconda guerra mondiale, a partire dagli anni ’60, sono stati i robot industriali a favorire la rinascita economica del paese del Sol Levante; da qui, dalle ricerche sui robot antropomorfi e dai manga (a partire da Astro Boy), si sviluppato una visione ottimistica del rapporto uomo-macchina.

Noi occidentali siamo stati condizionati da Hal 9000, Terminator e Matrix…

Fonte: bbc.com

Per Luciano Floridi

“I successi dell’AI si basano sul divorzio tra la capacità di risolvere un problema e la necessità di essere intelligenti nel farlo.”

Fonte: D- la Repubblica

Se da un lato quindi l’AI può aiutare a “rileggere” dati, scoprendo schemi nascosti agli occhi umani, dall’altro sorge il problema di capire i “ragionamenti” che sono dietro l’individuazione di questi pattern. Semplici forme di machine learning usano algoritmi trasparenti, come alberi di decisione o classificatori bayesani. Ma altre, come le reti neurali, sacrificano trasparenza e comprensibilità per potenza, velocità e accuratezza.

Oggi si pensa che la “scatola nera” di una rete neurale e di tutti i sistemi di AI dovrebbe essere resa più trasparente. Insieme all’output si dovrebbe avere una spiegazione di come tali dati sono stati generati. L’AI dovrebbe essere in grado di spiegare le proprie ragioni per far sì che gli utenti umani possano fidarsi, riconoscendo capacità e limiti del sistema.

La Explainable AI (XAI) è un campo di ricerca relativamente nuovo che si propone di sviluppare tecniche e metodi per rendere i risultati ottenuti da tecnologie di Intelligenza Artificiale comprensibili dagli umani.

Pensiamo ai sistemi di guida autonoma, alle applicazioni di AI utilizzate in medicina, nel comparto finanziario, legale o in quello militare. In questi casi è facile capire che per fidarsi delle decisioni e dei dati ottenuti occorre capire come il partner artificiale abbia “ragionato”.

È necessario sapere perché è stata fatta una scelta invece che un’altra e se il sistema è in grado di riconoscere un suo errore (magari ponendovi rimedio). Sapere, in definitiva, quando potersi fidare completamente delle decisioni dell’AI.

Il tema è importante per diverse ragioni. Far adottare tecnologie AI nelle aziende è più facile se si possono tradurre in linguaggio umano i passi compiuti da un algoritmo per giungere a un risultato.

In molte attività la trasparenza può essere un obbligo legale, fiscale o etico. Meno un sistema appare “magico”, più saranno le possibilità che venga adottato.

Un altro problema legato alla necessità di avere intelligenze digitali “spiegabili” è legato alla delicata questione dei “bias”, dei pregiudizi (di genere, di razza o di altro tipo) che possono contagiarle: i cattivi dati di training nel machine learning sono una delle cause di questi effetti collaterali. Come ultimo esempio di una lista sempre più lunga si può citare quello dei pazienti di colore discriminati da sistemi decision-making negli ospedali americani. Con l’utilizzo di tecniche XAI queste anomalie potrebbero essere individuate o prevenute più facilmente.

Esiste poi il diritto sociale alla trasparenza e alla spiegazione degli algoritmi, riconosciuto in maniera esplicita dall’Unione Europea nel General Data Protection Right (GDPR): “L’esistenza di un processo decisionale automatizzato, compresa la profilazione di cui all’articolo 22, paragrafi 1 e 4, richiede informazioni significative sulla logica utilizzata, nonché l’importanza e le conseguenze previste di tale trattamento per l’interessato.”

Ci sono due considerazioni da fare a questo punto.

In primo luogo è importante sapere a chi sono destinate le spiegazioni. Possono essere richieste spiegazioni tecniche per gli esperti, spiegazioni di altro genere per le autorità di controllo oppure, in generale, spiegazioni semplici per tutti (che dovrebbero essere evidenziate e adattate al contesto).

Inoltre, in generale, si dovrebbe ragionare su diversi livelli di trasparenza. Le scelte di un sistema di raccomandazione come quello di Netflix possono essere proposte all’utente senza troppe spiegazioni. Maggiori spiegazioni potrebbe richiedere un sistema di domotica basato su IoT. Sistemi per la concessione di crediti e prestiti necessitano di un livello ancora più elevato di trasparenza. Nel settore delle diagnosi mediche il livello dovrebbe essere massimo.

Vista l’importanza del tema aziende, organizzazioni e ricercatori ne stanno approfondendo lo studio e proponendo soluzioni.

La DARPA, l’agenzia governativa del Dipartimento della Difesa degli Stati Uniti, ha aperto un programma dedicato alla XAI. Il suo scopo è arrivare a “nuovi sistemi di machine learning che avranno la capacità di spiegare le loro motivazioni, caratterizzarne i punti di forza e di debolezza e trasmettere una comprensione di come si comporteranno in futuro”.

Molte grandi compagnie (tra cui IBM, Accenture e Microsoft) e startup ICT stanno sperimentando e già promuovendo strumenti e sistemi di XAI. Alcuni esperti sono scettici e sostengono che allo stato attuale parlare di sistemi XAI sia solo un espediente di marketing non esente da rischi, come quello di alimentare una falsa sensazione di sicurezza in contesti delicati.

I ricercatori, dal canto loro, stanno studiando a fondo l’argomento, focalizzandosi sui vari aspetti e sulle difficoltà che sorgono nel rendere trasparenti gli ora opachi sistemi di AI e ML. Si sono riuniti in una comunità globale, la FAT/ML, che organizza incontri annuali sullo stato dell’arte della nascente disciplina.

In Italia il Knowledge Discovery and Data Mining Laboratory (KDD Lab), gruppo di ricerca congiunto tra l’ ISTI del CNR e il Dipartimento di Informatica dell’ Università di Pisa, ha appena avviato un progetto quinquennale finanziato dalla Commissione Europea.

Il progetto si compone di tre linee di ricerca. La prima vuole creare un framework “local-to-global” (dal caso particolare al caso generale) per la spiegazione di ciò che avviene in una scatola nera AI, con algoritmi in grado di ottimizzare qualità e comprensibilità di questo processo di generalizzazione. La seconda intende creare modelli per spiegazioni causali, indagando sia le relazioni tra variabili (interne ed esterne) e decisioni sia modelli che catturino il comportamento dettagliato della generazione di dati in reti di deep learning. Infine si intende creare un sistema di valutazione di questi e altri metodi di XAI da parte degli utenti oltre che un contesto etico-legale per conformare i metodi agli standard legali come il GDPR.

Queste e altri studi in giro per il mondo fanno della XAI un campo di ricerca non solo stimolante ma imprescindibile; come spiega Dino Predeschi del KDD Lab “senza una tecnologia in grado di spiegare la logica delle black box, però, il diritto alla spiegazione è destinato a rimanere lettera morta, oppure a mettere fuorilegge molte applicazioni del machine learning opaco.”

Originariamente pubblicato su Medium

Riferimenti

Costabello L., Giannotti. F. et al. On Explainable AI:
From Theory to Motivation, Applications and Limitations (una corposa serie di slides che entrano nel dettaglio tecnico delle ricerche sulla XAI)

Ron Schmelzer, Understanding Explainable AI

Mark Stefik, Explainable AI: An Overview of PARC’s COGLE Project with DARPA

Hubert Guillaud, De l’explicabilité des systèmes : les enjeux de l’explication des décisions automatisées

Jeremy Kahn, Artificial Intelligence Has Some Explaining to Do

Cade Metz, We Teach A.I. Systems Everything, Including Our Biases

Il Go è un gioco di strategia di origine cinese, il più antico tra quelli ancora giocati. Nella Cina imperiale era considerato più un’arte che un passatempo ed era compreso nelle quattro arti essenziali insieme a pittura, calligrafia e musica.

Il campo di gioco è una scacchiera (“goban”) formata da 19 linee orizzontali e 19 verticali per 361 intersezioni. I giocatori hanno un certo numero di pedine (“pietre”), bianche o nere, da posizionare a turno sulle intersezioni vuote. Scopo del gioco è quello di circondare con le proprie pietre più spazio (intersezioni vuote) del proprio avversario.

A differenza degli scacchi, che sono un gioco “distruttivo”, in cui cioè la complessità diminuisce a ogni mossa, per il Go vale il contrario: questo fa sì che il numero di possibili posizioni è nell’ordine di 10¹⁷⁰, molto, molto più alto del numero di atomi in tutto l’universo, 10⁸⁰. Il Go è più intuitivo degli scacchi: questi possono rappresentarsi come un enorme albero pieno di biforcazioni, il Go come un paesaggio astratto in cui è però possibile riconoscere schemi e strutture.

Navigare in questo oceano di possibilità rende il gioco un’esperienza senza fine, una tela in perenne tessitura in cui si intrecciano intuito e logica, poesia e matematica. Come in quest’ultima, semplici regole danno origine a “bellissime complessità”. Non per nulla Go è amato da molti matematici che considerano la posizione finale di una partita come una congettura matematica e il gioco come i passi logici necessari per dimostrare quella congettura.

Fino a pochi anni fa gli stessi matematici, esperti giocatori e programmatori erano d’accordo nel sostenere che fosse estremamente difficile scrivere un software che giocasse in maniera soddisfacente a Go: la loro previsione era che ci sarebbero voluti decenni per emulare la “bravura” dei migliori programmi di scacchi in grado oggi di battere anche campioni del mondo (senza essere DeepBlue).

Si sbagliavano.

Demis Hassabis è stato un enfant prodige dell’informatica, reclutato a soli 16 anni dall’Università di Cambridge. Nei corsi di AI che seguì i professori insistevano nel sottolineare l’impossibilità di far giocare decentemente Go a un computer. Lui la prese come una sfida.

La sua idea era semplice: invece di scrivere un programma che potesse giocare a Go, scrivere un meta-programma. Un programma che apprendesse da solo quel che era necessario, come un neonato.

Per far questo si rese conto di dover approfondire le sue conoscenze sul cervello umano e si prese un dottorato in Neuroscienze all’University College di Londra.

A questo punto — siamo nel 2010 — insieme a due soci fondò la società DeepMind.

Naturalmente cominciarono con qualcosa di semplice. Presero un vecchio gioco Atari, Breakout (sì, quello del muro di mattoncini da abbattere) e scrissero un programma che riceveva come input lo stato dei pixels dello schermo, il punteggio corrente e l’obbiettivo di massimizzarlo. Un tipico esempio di reinforcement learning (apprendimento con rinforzo), una tecnica di apprendimento automatico in cui un algoritmo impara interagendo con il suo ambiente. Il processo avviene senza l’intervento di un essere umano: il programma riceve premi svolgendo compiti correttamente e penalità in caso contrario. L’apprendimento con rinforzo è una classica tecnica che deriva dalla psicologia comportamentista: una ricompensa positiva aumenta la tendenza a fare di nuovo una certa cosa e viceversa.

Il programma iniziò a giocare con mosse casuali, poi queste diventarono sempre più efficaci. Piuttosto velocemente individuò il trucco che tutti i ragazzini degli anni ’80, dopo centinaia di partite, scoprivano: aprire un varco nel muro e far sì che la pallina vi entrasse e dall’interno demolisse il muro.

Nel 2014 i programmi “incubati” da DeepMind riuscirono a superare le abilità umane in 49 giochi Atari. Venne anche pubblicata una ricerca sulla prestigiosa rivista scientifica Nature.

La società — un ibrido tra startup e accademia — contava in quel momento 400 tra ingegneri e neuroscienziati. Google la acquistò per 500 milioni di dollari.

Comprensibilmente soddisfatto Hassabis si concentrò sulla sua sfida a Go.

Il progetto per creare un maestro digitale assunse il nome di AlphaGo.

Il programma si basa sulle reti neurali. Si è partiti da un database di 30 milioni di posizioni derivanti da partite giocate tra umani.

Una rete neurale profonda è stata addestrata con un supervised learning (apprendimento supervisionato) per calcolare, a partire da ogni posizione, quali fossero le mosse più promettenti. Questa prima fase è durata tre settimane. A questo punto il programma aveva l’abilità di un giocatore amatoriale.

Nella seconda fase (reinforcement learning) — durata un giorno — il programma ha cominciato a giocare contro sé stesso, migliorandosi. Una seconda rete neurale venne affiancata alla prima. Il suo compito era dare un valore alla situazione attuale sulla scacchiera: più alto il valore, maggiori le possibilità di vincere. Per calcolare questo valore si devono simulare le mosse successive. Si è ricorso a una “vecchia” tecnica dell’AI: un’esplorazione dell’albero delle possibilità con un algoritmo Monte Carlo tree search. La ricerca è stata resa fattibile e meno onerosa grazie ai risultati delle due reti neurali.

Ancora una fase di training di una settimana e AlphaGo era pronto per essere messo alla prova con un maestro umano.

Nel 2015, in un test segreto, AlphaGo sconfisse 5–0 il campione europeo di origini cinesi Fan Hui. Il programma continuò a imparare.

Nel marzo 2016 è il turno del pluricampione del mondo coreano Lee Sedol, tra i più grandi maestri viventi. Stavolta la sfida fu pubblicizzata e mandata in onda in diretta streaming da Seul. Il vincitore avrebbe guadagnato un milione di dollari.

Fan Hui era diventato nel frattempo una sorta di “allenatore” di AlphaGo, scovando le debolezze nel suo gioco e contribuendo a migliorare le sue performance. Sì, sembra di rivivere l’epopea di Rocky e Apollo Creed…

Nella prima partita della sfida AlphaGo vinse. Lee Sedol affermò che non si sarebbe aspettato di perdere una partita. Ma il peggio, per lui, doveva ancora arrivare. Nella seconda partita AlphaGo effettuò una mossa del tutto inaspettata, non ortodossa, “aliena” come ha rivelato un maestro occidentale, Michael Redmond. Lo shock del mondo dei giocatori di Go è grande. Millenni di sfide tra umani non avevano prodotto una tale strategia. Fan Hui perde la seconda partita e, alla fine, perderà la sfida per 4–1.

AlphaGo rimase imperturbabile. Neanche un “bip” di soddisfazione. Ma dimostrò di possedere intuizione e creatività.

La storia non finisce qui.

AlphaGo ha ancora un retaggio umano, avendo iniziato il suo processo di apprendimento da partite giocate da esseri in carne e ossa.

Alla DeepMind vogliono andare oltre.

Viene creata una nuova versione del programma, AlphaGo Zero. Paradossalmente è più semplice della precedente, con una sola rete neurale che ingloba le due esistenti. Stavolta nessuna “contaminazione” umana: AlphaGo Zero viene istruito con le regole del Go e fatto giocare solo con sé stesso. Dopo 40 giorni e 29 milioni di partite giocate è pronto per sfidare il suo predecessore.

100 volte più veloce e 10 volte più efficiente, AlphaGo Zero batte AlphaGo per 100 a 0.

Senza pregiudizi biologici e con la capacità di “guardare oltre,” AlphaGo Zero è libero di esprimere le sue potenzialità.

Come è stata vissuta questa vicenda dal mondo del Go? Come uno smacco insopportabile? Come una frustrazione insuperabile? Tutt’altro. I giocatori — primo tra tutti Fan Hui, la prima “vittima” — hanno imparato a loro volta dall’avversario digitale, migliorando il loro gioco e sfruttando nuove strategie prima “bloccate” dalla forza della tradizione.

L’eredità del progetto AlphaGo va oltre i programmi di gioco; diverse caratteristiche lo rendono un passo importante verso le AGI (Artificial General Intelligence), intelligenze digitali in grado di competere con gli esseri umani in molteplici campi e non solo in domini ristretti. Più specificatamente, comunque, il progetto ha dimostrato che in settori in cui le strategie sono importanti, come quello degli investimenti, quello politico e quello militare le AI sono quasi pronte a sfidare (o aiutare) i migliori strateghi umani.

A proposito di strategie — geopolitiche in questo caso — c’è da notare che il successo di AlphaGo ha avuto una enorme eco in Cina, patria del Go, tanto da spingere il governo cinese a varare un grande piano di investimenti per diventare entro il 2030 il principale centro di innovazione al mondo in AI.

Riferimenti

John Brockman (a cura di), Possible Minds: Twenty-Five Ways of Looking at AI, Penguin Press, 2019

Marcus Du Sautoy, The Creativity Code: How AI is learning to write, paint and think, Fourth Estate, 2019

Terrence J. Sejnowski, The Deep Learning Revolution, The MIT Press, 2018

Max Tegmark, Vita 3.0: Essere umani nell’era dell’intelligenza artificiale, Raffaello Cortina Editore, 2018

Dawn Chan, The AI That Has Nothing to Learn From Humans

Jonathan Hui, AlphaGo: How it works technically? (Una sintetica ma chiara guida tecnica al funzionamento di AlphaGo…)

Jonathan Hui, AlphaGo Zero — a game changer. (How it works?) (…e di AphaGo Zero)

David Silver, Demis Hassabis, AlphaGo Zero: Starting from scratch

David Silver et al., Mastering the game of Go without human knowledge, Nature, 2017/10/18/online, Macmillan Publishers Limited, part of Springer. (L’articolo pubblicato su Nature relative ad AlphaGo Zero)

È sul nostro rapporto con questo linguaggio al contempo tecnico e magico che indaga Ed Finn, fondatore del “Center for Science and the Imagination” alla Arizona State University, nel suo libro “ Che cosa vogliono gli algoritmi? L’immaginazione nell’era dei computer.”

Gli algoritmi sono costrutti funzionali che esistono da secoli, almeno da quando il matematico arabo al-Khwarizmi li ha formalizzati. Ma è con l’avvento dell’informatica che hanno cominciato il loro viaggio di “rielaborazione” della realtà. Inizialmente il computazionalismo assegnava loro un compito limitato, quello di risolvere specifici problemi tecnici. Con l’aumento delle capacità computazionali dei nostri dispositivi digitali e soprattutto con l’aumento esponenziale dei dati disponibili, gli algoritmi hanno cominciato la loro trasformazione: sono diventati presenze immateriali ma dirimenti, famigliari ma misteriose. Alimentati dai nostri big data, manipolano simboli e influenzano il nostro mondo, il nostro comportamento, il nostro futuro, immediato e remoto.

Finn afferma che gli algoritmi operano

all’intersezione fra lo spazio computazionale e quello culturale, devono trovare un compromesso, una mediazione, tra i modelli matematici e quelli pragmatici della ragione […] e sono un tentativo ambizioso per rendere «effettivamente calcolabili» ampie zone della cultura.

Il punto è che questi agenti intelligenti che ci circondano e ci seducono con loro utilità sono creati, direttamente o indirettamente, per una sola ragione: produrre utili. Google, Amazon, Netflix, Facebook aggiungono uno strato algoritmico al nostro quotidiano per renderci appagati paganti, in un modo o nell’altro, dei loro servizi e delle loro merci.

L’autore non esprime una condanna esplicita di queste pratiche, vuole però avvisarci che questa rielaborazione utilitaristica e commerciale esiste: siamo inevitabilmente una fonte dati preziosa per chi ne riesce a trarre profitto.

L’algoritmo semplifica, astrae, ripulisce la realtà dai fastidi della complessità.

Evochiamo questi algoritmi attraverso l’interfaccia, il cavallo di Troia attraverso cui li accogliamo nelle nostre vite. La stessa interfaccia, amichevole ed efficiente, che adempie a un’altra funzione, più nascosta e meno gentile di quelle esplicite che siamo abituati a utilizzare; pensando ad esempio ai pickers (magazzinieri, perché anche i termini inglesi possono edulcorare la realtà) di Amazon o ai riders dei servizi di food delivery Finn scrive:

(il sistema) risucchia tutto l’imbarazzo e il fastidio del mondo reale, scaricandolo come altrettanti rifiuti tossici addosso ai lavoratori della cloud, che devono organizzare le proprie vite intorno a strutture algoritmiche astratte di impiego e valore.

Il capitalismo ha condotto negli ultimi decenni all’accumulazione di merci, al quasi compulsivo acquisto di beni che, per lo più, sono utilizzati molto poco. Ormai classico è l’esempio dell’automobile che per il 95% del tempo rimane parcheggiata. L’ auto-immobile. L’economia del matching –o più carezzevolmente la sharing economy –resa possibile dagli algoritmi ha fatto diventare anche i tempi morti e gli oggetti dormienti profittevoli:

lo «strato di interfaccia» è una colonizzazione dei tranquilli stagni del capitalismo contemporaneo.

In questo quadro vagamente distopico c’è da chiedersi cosa c’entri l’immaginazione evocata dal titolo. Il fatto è che anche la componente creativa e artistica, finora esclusiva umana, comincia ad essere replicata (termine non casuale…) dalle macchine e dalla loro mente algoritmica.

Solo un esempio, che mi ha colpito. La famosa serie “House of Cards” è stata da Netflix attentamente scelta (da una precedente miniserie della BBC) e ri-elaborata da algoritmi sofisticati che prendevano in considerazione moltissimi parametri:l’obbiettivo, naturalmente, era quello di farne un prodotto di successo, avvincente e remunerativo. Fin qui niente di sorprendente per chi conosce i moderni meccanismi dell’ entertainment nell’era digitale. Quel che sorprende è che una volta che l’algoritmo ha suggerito (imposto?) come regista David Fincher e come protagonista Kevin Spacey, ai due artisti è stata data carta bianca: l’interazione creativa che ne sarebbe risultata era già stata messa in conto, quantificata e computata.

Con il machine learning si sta andando molto oltre: abbiamo algoritmi che creano algoritmi. Questa tendenza non porta solo all’affacciarsi dell’Intelligenza Artificiale, discussa, auspicata e temuta da decenni, ma anche di “uno spazio computazionale dell’immaginazione” con cui occorrerà confrontarsi.

Il libro di Finn è un lungo ragionamento, tra filosofia, ontologie in discussione, semiotica “artificiale”, tecnologia. La seduzione degli algoritmi deriva, forse, dall’intuizione che essi potranno spiegarci qualcosa di noi stessi finalmente “dal di fuori”, creando uno specchio, anzi, un’interfaccia attraverso cui riconoscersi e cominciare a intravvedere qualcosa di “altro”.

Originariamente pubblicato su Medium.

Sembra di sì, perché già ora

la tecnologia dell’informazione digitale in rete è diventata la modalità dominante attraverso la quale facciamo esperienza del quotidiano.

Questa risposta pone altre interrogativi, di natura economica, politica, sociale.

Sensori raccogli-dati, processi che elaborano queste informazioni e algoritmi che individuano modelli suggerendo o prendendo decisioni stanno operando una colonizzazione sempre più pervasiva del nostro spazio; questo implica che noi deleghiamo scelte e responsabilità non tanto alle macchine o ai software ma a chi le controlla, grandi aziende, unicorni e corporazioni sovranazionali.

Lo sguardo di Greenfield è preoccupato ma non prevenuto.

Il suo non è un attacco generalizzato al mondo tecnologico ma un ragionamento critico sui percorsi intrapresi dalla società sotto la spinta delle innovazioni digitali.

Prendiamo la realtà aumentata. Si prefigura un’abbandono della stessa idea di spazio pubblico condiviso. Greenfield scrive, da buon urbanista:

sostituire questo spazio condiviso con milioni di frammenti di realtà aumentate individuali e reciprocamente incompatibili significa rinunciare in toto al presupposto secondo cui abitiamo pur sempre il medesimo mondo — rinuncia che trovo estremamente dannosa per qualsiasi progetto urbano piú generale.

La prevalenza dell’automazione può produrre regole che al momento possono sembrare assurde, se non ci si sofferma a riflettere. Mi ha colpito in particolare la previsione che tra qualche anno guidare manualmente un’auto diventerà probabilmente illegale: non così assurdo, sicuramente più sicuro.

Le prospettive legata allo sviluppo delle blockchain sembrano ancora più fosche. Questa tecnologia — la più difficile da comprendere secondo l’autore – è nata in un contesto anarco-capitalista e funzionalità come gli smart contracts sembrano configurare

la possibilità di fondare un’economia transumana nella quale persone, macchine, organizzazioni e altre entità potessero concludere accordi altrettanto vincolanti quanto quelli fatti a partire dal corpus legislativo di uno stato, o anche di piú. […] la garanzia di un contratto capace di auto-eseguirsi, pubblico e verificabile, potrebbe tutelare il lavoro precario in questi tempi di flessibilità compulsiva. Ma in realtà gli smart contracts sono stati concepiti per operare proprio nel quadro di un mercato libero, globale, in rete, nel quale ogni singolo lavoratore atomizzato deve fare la propria offerta per ottenere un lavoro, come in un’asta o una gara di appalto.

Ma si intravedono anche possibili utilizzi meno distopici, per esempio utilizzando le blockchain e il modello DAO ( Decentralized Autonomous Organization) in una cooperativa, “senza fare troppa violenza concettuale ai principî sui quali è fondata”.

Controllo, modelli di business, passività: gli output che provengono da dati e strumenti possono creare distorsioni a quello che, finora, è considerata la natura umana al suo meglio, attiva, creativa, libera.

Greenfield si chiede alla fine:

possiamo praticare una politica diversa con queste tecnologie? Possiamo usarle in modi che non si limitino a riprodurre organizzazioni di potere fin troppo familiari?

Libro intriso di pensiero critico (che non significa negativo), non adatto ai tecno-entusiasti acritici; leggendolo si impara, si riflette, si confronta il pensiero dell’autore con il proprio e, anche quando non si è d’accordo con le sue tesi, si apprezza l’onestà intellettuale. Questa la differenza con i Morozov, i Carr e alcuni epigoni nostrani.

Incuriosito, sono andato sul sito di Exosphere per capire di cosa si trattasse; una veloce lettura mi ha rivelato la natura del progetto, un’”accademia”/comunità non convenzionale con sede a Florianopolis (Brasile), transdisciplinare, internazionale, con nuovo approccio all’insegnamento centrato sulle persone e non sulle nozioni.

Il mio interesse è andato crescendo. Durante la call, Antonio mi ha parlato con passione ed entusiasmo di questa esperienza iniziata qualche anno fa, dopo una vita dedicata a dar forma concreta all’innovazione superando ostacoli e vicissitudini (potete leggere questo bel post di Walter Litty e i link proposti per conoscere la storia di Antonio e questo articolo su Medium per scoprire la sua idea dell’”essere imprenditori”).

Exosphere è stata fondata nel 2012 da imprenditori in vari campi provenienti da diversi paesi ed è costituita da tre “colonne”, l’Academy, la Fondazione e gli Exosphere Labs.

Il fulcro di questo ecosistema è il fattore umano; traendo spunto da una frase di Ralph Waldo Emerson viene affermato che:

Our central doctrine is the belief in the infinitude of private man.

La crescita costante dell’essere umano, sia personale che professionale, è dunque l’obbiettivo primario.

Viene posta particolare attenzione allo sviluppo dello spirito critico e della resilienza, a far tesoro degli errori e a relazionarsi con gli altri, tutte qualità necessarie soprattutto per i futuri imprenditori.

Una constatazione inoltre contribuisce a delineare il programma: i modelli tradizionali che governano l’istruzione prima e il mondo del lavoro e dell’impresa dopo sono obsoleti. Un sistema di apprendimento sequenziale, legato a programmi rigidi e tappe obbligate nato in contesti molto diversi da quelli attuali non garantisce e non permette ai singoli individui di far emergere le loro potenzialità e di coltivare i loro talenti, tendendo piuttosto a metterli in (malsana) competizione tra di loro.

Exosphere si propone – ambiziosamente – di rivoluzionare questo modello statico e competitivo con un approccio fluido, centrato sugli individui e sulle loro capacità in cui scienza, tecnologia e cultura umanistica si ibridino, dosando opportunamente insegnamenti “generalisti” e “specialistici”.

“Imparare ad imparare” è il mantra che Antonio mi ripete, convinto dell’importanza di fornire agli studenti gli strumenti e le metodologie per creare i propri percorsi di studio.

La tecnologia evolve rapidamente, così come il suo impatto sulla società; non si può più confinare agli anni giovanili la fase di apprendimento ma deve essere estesa, in una sorta di percorso di studi permanente. Del resto Kevin Kelly, esperto di cultura digitale, afferma nel suo ultimo libro “The Inevitable” (Viking, 2016):

Endless Newbie is the new default for everyone, no matter your age or experience.

Per questo l’accademia apre le sue porte a studenti di ogni età: ai giovani ricchi di entusiasmo, passione e ambizione e ai meno giovani, portatori anche di esperienze, positive o negative.

Ora, tutti questi propositi potrebbero rivelarsi l’ennesimo bouquet di parole fumose e di obbiettivi irrealistici che, soprattutto in Italia, identificano i promotori di un cambiamento superficiale e senza sostanza anche nel campo dell’innovazione e delle startup.

Ma basta porre l’attenzione su tre punti per intuire la serietà del progetto.

I fondatori, i membri del team e dell’advisor network hanno curriculum ed esperienze di alto profilo nel mondo dell’imprenditoria, della finanza, della comunicazione e della ricerca a livello internazionale.

Stessa cosa si può affermare dei vari curatori e docenti che coordinano e insegnano nelle varie sessioni annuali.

E, ancor più significativi, ci sono i numeri, le statistiche e le storie riguardanti chi ha già frequentato i corsi (237 studenti del campus di Florianopolis) e i workshop (più di 1.000 in giro per il mondo). Per esempio, l’82% di loro, dopo l’esperienza Exosphere, ha fondato startup o comunque intrapreso nuovi progetti.

È interessante e illuminante leggere, sempre dal blog di Walter Litty, l’intervista a due studenti italiani che ultimamente hanno frequentato l’Academy, uno dei quali, Felice Rocchitelli ha fondato una startup legata alla tecnologia blockchain. Ma in giro per il mondo vi sono numerosi esempi di ex alunni che hanno creato nuove imprese di ogni tipo dall’agenzia turistica virtuale in 3D, all’agenzia di lusso in Colombia, alla residenza per libertari in Cile, al portale per scrittori in Brasile.

L’evoluzione di Exosphere prevede, tramite Exosphere Labs, di diventare essa stessa un “incubatore di startup” (termine non amato da Antonio) perché coltivare talenti e aspiranti imprenditori in situ ne permette una conoscenza e una valutazione approfondita, impossibile per un tradizionali venture capitalist.

Diamo una rapida occhiata a come si sviluppano le sessioni, invitando chi fosse interessato a visitare il sito per ogni approfondimento.

Ogni sessione (la prossima dal 3 luglio all’11 agosto) prevede quattro aree di interesse:

• Intelligenza artificiale e machine learning
• Blockchain
• Biohacking
• Cultura imprenditoriale

Di ognuna di esse è responsabile un docente che organizza liberamente i corsi; sono previsti prestigiosi docenti in visita.

La didattica è incentrata sul modello dell’autovalutazione e sul “project-based learning” con una full immersion nelle tecnologie emergenti.

Il costo per la sessione è di 2.950 dollari. Il team di Exosphere aiuta gli studenti a trovare una sistemazione (es. via AirBnb) possibilmente insieme ad altri studenti; considerando che Florianopolis è una meta turistica con bellissime spiagge non vi sono problemi a trovare un alloggio adatto alle proprie esigenze.

Se non avessi dei vincoli personali sarei partito per affrontare questa esperienza e per verificare di persona l’efficacia di questo modello psico-socio-didattico; aspetterò che arrivino anche in Italia (o almeno in Europa) nuovi centri, visto che l’obbiettivo a medio termine di Exosphere è quello di creare una rete distribuita di accademie in tutto il mondo. In questo modo, a mio parere, si potrà arricchire l’interazione creativa globale con le specificità del territorio, con quella “location awareness” che il sociologo Frédéric Martel individua come un elemento determinante per gli hub dell’innovazione.