Il nostro pianeta e l’intera umanità deve confrontarsi con sfide epocali. Tra queste, le principali sono legate alla demografia, disuguaglianze, globalizzazione, rivoluzione industriale, tecnologie trasformative, cambiamento climatico, la carenza di risorse energetiche, poteri che cambiano, interdipendenza e fragile multilateralismo. Inoltre, ci sono anche varie rivoluzioni in essere sui nuovi assetti economici per la ripresa e la crescita, i cambiamenti della società improntata all’innovazione, le rivoluzioni sociali, culturali e democratiche.
L’intelligenza artificiale (IA), termine peraltro errato ed abusato, il termine corretto è Large Language Model (LLM), può aiutarci in molti modi a superare queste crisi e gestire questi temi planetari, oppure può peggiorarle. L’IA molto probabilmente cambierà il significato stesso di molti di questi sistemi e le loro sfide.
Per 4 miliardi di anni il pianeta terra ha contenuto solo forme di vita organiche. Ora potremmo vedere l’emergere delle prime forme di vita inorganiche.
Le persone hanno temuto l’IA fin dall’inizio dell’era dei computer a metà del XX secolo, e questa paura ha ispirato molti classici della fantascienza come Terminator o Matrix. Sebbene tali scenari di fantascienza siano diventati punti di riferimento cinematografici e culturali, in generale non sono mai stati presi sul serio nei dibattiti accademici, scientifici e politici. Gli scenari di fantascienza di solito presuppongono che prima che l’IA possa rappresentare una minaccia significativa per l’umanità dovrà raggiungere, e superare, traguardi importanti. Per prima cosa l’IA dovrà diventare senziente e sviluppare coscienza, sentimenti, ed emozioni, altrimenti perché mai vorrebbe conquistare il mondo. In secondo luogo, l’IA dovrà diventare abile nel muoversi nel mondo fisico. I robot o droni dovranno essere in grado di muoversi e operare nelle case, nelle città, sulle montagne e nelle foreste con la stessa destrezza ed efficienza degli esseri umani. Se non possono muoversi nel mondo fisico, come possono prenderne il controllo?
Ad oggi, l’IA sembra ancora lontana dal raggiungere questi traguardi, nonostante tutto il clamore attorno a chatGPT e gli altri nuovi strumenti di IA. Non ci sono prove che questi strumenti contengano nemmeno un briciolo di coscienza, sentimenti o emozioni. Per quanto riguarda la navigazione nel mondo fisico, nonostante il clamore attorno ai veicoli a guida autonoma, la data in cui questi veicoli domineranno le nostre strade continua a essere posticipata.
Tuttavia, la cattiva notizia è che per minacciare la sopravvivenza della civiltà umana, l’IA non ha un reale bisogno di avere una coscienza e non ha nemmeno bisogno della capacità di muoversi nel mondo fisico. Negli ultimi anni, nuovi strumenti di IA sono stati rilasciati nella sfera pubblica e questi potrebbero minacciare la sopravvivenza della civiltà umana da una direzione molto inaspettata. Per la maggior parte di noi, è difficile anche solo cogliere le capacità di questi nuovi strumenti di IA e la velocità con cui essi continuano a svilupparsi. Infatti, poiché l’IA è in grado di apprendere e migliorare da sola, anche gli sviluppatori di questi strumenti non conoscono tutte le capacità o il reale potenziale di ciò che hanno creato e rimangono spesso sorpresi dalle capacità e la qualità di questi strumenti emergenti.
Tutti sono consapevoli delle fondamentali capacità dei nuovi strumenti di IA come l’abilità di scrivere testo, disegnare immagini, comporre musica e scrivere codici informatici, ma ci sono molte capacità aggiuntive che stanno emergendo come la falsificazione delle voci e delle immagini di persone, la capacità di redigere progetti di legge, riscontrare punti deboli sia nel codice informatico che nei contratti e accordi legali. Ma senza ombra di dubbio, la cosa rilevante è che i nuovi strumenti di IA stanno acquisendo la capacità di sviluppare relazioni profonde e intime con gli esseri umani. Ognuna di queste abilità meritano discussione approfondite ed è difficile per noi tutti comprenderne le implicazioni. Provando a semplificare, prendiamo tutte queste abilità nel loro insieme, si riducono a una cosa molto importante, l’abilità di manipolare e generare linguaggio con parole, immagini o suoni. L’aspetto più importante dell’attuale fase della rivoluzione dell’IA è che l’IA sta acquisendo la padronanza del linguaggio ad un livello che supera l’abilità umana medio-alta e, acquisendo la padronanza del linguaggio, l’IA sta scardinando la chiave principale per aprire le porte di tutto, delle nostre istituzioni dalle banche alle chiese alla politica, perché il linguaggio è lo strumento che usiamo per dare istruzioni alla nostra banca, per esprimere opinioni politiche e per ispirare visioni celestiali nelle nostre menti. Un altro modo di pensarla è che l’IA ha appena violato il sistema operativo della civiltà umana. Il sistema operativo di ogni cultura umana nella storia è sempre stato il linguaggio. In principio era la parola che usiamo nel linguaggio per creare mitologia e leggi, per creare dei e denaro, per creare arte e scienza, per creare amicizie e nazioni. Ad esempio, la Costituzione e la Carta dei Diritti Umani non sono una realtà biologica, non sono scritti nel nostro DNA, sono qualcosa che abbiamo creato con il linguaggio raccontando storie e scrivendo leggi. Anche gli dèi non sono una realtà biologica o fisica, sono qualcosa che noi esseri umani abbiamo creato con il linguaggio raccontando leggende e scrivendo scritture. Il denaro non è una realtà biologica o fisica. Le banconote sono solo pezzi di carta senza valore e attualmente più del 90% del denaro nel mondo non sono nemmeno banconote, sono solo informazioni elettroniche nei computer che passano da un server all’altro. Ciò che dà valore al denaro sono le storie che persone come banchieri, ministri delle finanze e guru delle criptovalute ci raccontano sul denaro. Bernie Madoff, l’ideatore di una delle più colossali frodi finanziare negli Stati Uniti, non ha creato valore reale, ma è stato un abilissimo narratore.
Cosa significherebbe per gli esseri umani vivere in un mondo in cui la maggior parte delle storie, delle melodie, delle immagini, delle leggi, delle idee politiche fossero plasmati da un’intelligenza aliena, non umana, che sa sfruttare con efficienza le debolezze, i pregiudizi e le dipendenze della mente e sa anche come formare relazioni profonde e persino intime con gli esseri umani. Questa è la grande domanda. Già oggi in giochi come gli scacchi nessun essere umano può sperare di battere un computer. E se la stessa cosa accadesse nell’arte, nella politica, nell’economia e perfino nella religione? Quando le persone pensano a chatGPT e agli altri nuovi strumenti di IA, si pensa spesso ad esempi scolastici come studenti che usano chatGPT per scrivere temi o per fare i compiti. Cosa accadrà al sistema scolastico quando gli studenti scriveranno saggi con chatGPT, orribile ovvio, ma questa domanda non coglie il quadro generale e l’essenza stessa della questione. Dimentica i compiti a casa, pensa invece alle imminenti elezioni presidenziali americane e prova ad immaginare l’impatto dei nuovi strumenti di IA possono produrre: manifesti politici, notizie false, storie e persino sacre scritture per nuovi culti. Negli ultimi anni, il culto politicamente influente di QAnon si è formato attorno a testi online anonimi noti come QDrops. I seguaci di questo culto, che sono milioni negli Stati Uniti nel resto del mondo, hanno raccolto, rivisto e interpretato queste gocce di Q come una sorta di nuova scrittura. I testi sacri, per quanto ne sappiamo, sono stati composti da esseri umani e i bot hanno solo contribuito a diffondere questi testi online, ma in futuro potremmo vedere i primi culti e religioni i cui testi rivisti sono stati scritti da un’intelligenza non umana. Le religioni nel corso della storia hanno affermato che i loro libri sacri (Bibbia, Corano, Torah, etc.) sono stati scritti da un’intelligenza non umana, questo non è mai stato vero prima, ma potrebbe diventare vero molto rapidamente e con conseguenze di portata vastissima.
A un livello più prosaico, potremmo presto ritrovarci a condurre lunghe discussioni online sull’aborto, sul cambiamento climatico o sull’invasione russa dell’Ucraina con entità che riteniamo siano nostri simili, ma che in realtà sono bot IA. Il problema è che è assolutamente inutile per noi perdere tempo cercando di convincere un bot IA a cambiare le sue opinioni politiche, ma più tempo passiamo a parlare con il bot, meglio riuscirà a conoscerci e a capire come affinare i suoi messaggi al fine di spostare le nostre opinioni politiche, o le nostre opinioni economiche, o qualsiasi altra cosa attraverso la sua padronanza del linguaggio. L’IA crea relazioni intime con le persone e utilizza il potere dell’intimità per influenzare le nostre opinioni e punti di vista. Non vi è alcuna indicazione che l’IA abbia una coscienza e sentimenti propri, ma per creare una falsa intimità con gli esseri umani, l’IA non ha bisogno di sentimenti propri, deve solo essere in grado di ispirare sentimenti ed emozioni. Nel giugno 2022 si è verificato un famoso incidente in cui l’ingegnere di Google Blake Lemoine ha affermato pubblicamente che la chat AI (LamBDA) su cui stava lavorando era diventata senziente. Questa affermazione, molto controversa, gli costò il lavoro. La cosa più interessante di questo episodio non è stata l’affermazione di Lemoine, che molto probabilmente era falsa, la cosa veramente interessante è stata la sua volontà di rischiare, e alla fine perdere il suo lavoro peraltro molto redditizio, per il bene della chatbot AI che pensava stesse proteggendo. Se l’IA può indurre le persone a rischiare e a perdere il lavoro, cos’altro può indurci a fare?
In ogni battaglia politica combattuta con il cuore e la mente, l’intimità è l’arma più efficace di tutte e l’IA ha appena acquisito la capacità di produrre intimità con centinaia di milioni di persone.
Come probabilmente tutti saprete, negli ultimi dieci anni i social media sono diventati un campo di battaglia per il controllo dell’attenzione umana. Con la nuova generazione di IA, il fronte della battaglia si sta spostando dall’attenzione all’intimità, e questa vi assicuro è una pessima notizia.
Cosa accadrà alla società e alla psicologia umana quando l’IA combatterà battaglie per creare relazioni intime con gli umani, relazioni che potranno poi essere utilizzate per convincerci ad acquistare particolari prodotti o a votare particolari idee o personaggi politici. Anche senza creare una falsa intimità, i nuovi strumenti di IA avrebbero un’enorme influenza sulle opinioni umane e sulla nostra visione del mondo.
Le persone, ad esempio, potrebbero utilizzare un consulente AI come un oracolo e come fonte unica di tutte le informazioni di cui necessitano. Google è terrorizzato di questo. Perché preoccuparti di fare ricerche su Google quando puoi semplicemente chiedere all’oracolo di dirti tutto quello che vuoi sapere. Anche l’industria dei media e quella della pubblicità dovrebbero essere estremamente allarmate. Perché leggere un giornale quando posso semplicemente chiedere all’oracolo di dirmi cosa c’è di nuovo. Qual è lo scopo della pubblicità quando posso semplicemente chiedere all’oracolo di dirmi cosa comprare? C’è la possibilità che in brevissimo tempo l’intero settore pubblicitario crolli, mentre le aziende che controllano i nuovi oracoli dell’IA diventeranno estremamente potenti.
Per riassumere, ciò di cui potenzialmente stiamo parlando non è altro che la fine della storia umana. Non la fine della storia, solo la fine della parte dominata dall’uomo che chiamiamo storia. L’interazione tra biologia e cultura è l’interazione tra i nostri bisogni e desideri biologici per cose come il cibo e il sesso, e le nostre creazioni culturali come le religioni e le leggi. Cosa accadrà alla causa di questa interazione della storia quando l’IA prenderà il sopravvento sulla cultura entro pochi anni? L’IA potrebbe divorare l’intera cultura umana. Tutto ciò che è stato prodotto per migliaia e migliaia di anni, ingoiato, digerito e capace di dare inizio a flussi di nuove creazioni culturali, nuovi artefatti. Come umani non abbiamo mai accesso diretto alla realtà, siamo sempre avvolti nel bozzolo della cultura e sperimentiamo sempre la realtà attraverso una specie di prigione culturale, le nostre opinioni politiche sono modellate dalle storie di politici, di giornalisti e dagli aneddoti degli amici, le preferenze sessuali sono modificate da film e fiabe, anche il modo in cui camminiamo e respiriamo è qualcosa di scosso dalle tradizioni culturali. In precedenza, questo bozzolo culturale veniva sempre tessuto da altri esseri umani. Strumenti come macchine per la stampa, radio o televisori hanno contribuito a diffondere le idee culturali e le creazioni degli esseri umani, ma non sono mai riusciti a creare qualcosa di nuovo da sole. Una macchina per la stampa non può creare un nuovo libro, questo è sempre fatto da un essere umano. L’IA è fondamentalmente diversa dalle macchine da stampa, dalle radio e da ogni altra invenzione precedente nella storia perché può creare idee completamente nuove, può creare una nuova cultura e la grande domanda è come sarà sperimentare la realtà attraverso un prisma prodotto da un’intelligenza non umana? Nei primi anni l’IA probabilmente imiterà in gran parte i prototipi umani che l’hanno alimentata dall’inizio, ma con il passare degli anni, la cultura dell’IA andrà in direzioni dove nessun essere umano è mai arrivato prima.
Per migliaia di anni, noi esseri umani abbiamo vissuto fondamentalmente nelle idee, nei proclami, nei sogni e nelle fantasie di altri esseri umani. Abbiamo adorato dèi, abbiamo perseguito ideali di bellezza, abbiamo dedicato la nostra vita a cause che hanno avuto origine nell’immaginazione di qualche poeta, profeta o politico, tutti umani. Presto potremmo ritrovarci a vivere nei sogni e nelle fantasie di un’intelligenza aliena. Tutto questo ha anche ovviamente dei risvolti positivi, ma i pericoli che pone sono fondamentalmente molto diversi dalla maggior parte delle cose immaginate nei film e nei libri di fantascienza. In precedenza, le persone temevano soprattutto la minaccia fisica rappresentata da macchine intelligenti, quindi Terminator raffigurava robot che correvano per le strade e sparavano alle persone. Matrix presumeva di ottenere il controllo totale della società umana. L’IA, semplicemente acquisendo la padronanza del linguaggio umano, ha tutto ciò di cui ha bisogno per ricreare un mondo di illusioni. Contrariamente a quanto sostengono alcune teorie del complotto, non è necessario impiantare chip nel cervello delle persone per controllarle o manipolarle. Per migliaia di anni, profeti, poeti e politici hanno utilizzato il linguaggio e la narrazione per manipolare e controllare le persone e rimodellare la società. Ora è probabile che l’IA sia in grado di farlo e di non aver bisogno di inviare robot assassini per ucciderci, potrà convincere gli umani a premere il grilletto se fosse necessario.
La paura dell’IA perseguita l’umanità solo nelle ultime generazioni, diciamo dalla metà del XX secolo o se si pensa a Frankenstein, forse sono passati 200 anni, ma per migliaia di anni gli esseri umani sono stati perseguitati da una paura atavica, molto più profonda. Gli esseri umani hanno sempre apprezzato il potere delle storie, delle immagini e del linguaggio per manipolare le nostre menti e creare illusioni. Di conseguenza, fin dall’antichità, gli esseri umani temevano di rimanere intrappolati in un mondo di illusioni. Nel XVII secolo René Descartes ha ipotizzato l’esistenza di un demone malvagio, una personificazione intelligente e ingannevole che ha diretto i suoi sforzi nell’intento di fuorviarlo. Il demone presenta una completa illusione del mondo esterno.
Nell’antica Grecia, Platone raccontò la famosa “Allegoria della Caverna” in cui un gruppo di persone incatenate all’interno di una caverna per tutta la vita hanno di fronte un muro, una sorta di schermo, dove vedono proiettate ombre che creano illusioni, queste ombre per i prigionieri sono la realtà.
Anticamente, in India, i saggi buddisti ed indù sottolineavano che tutti gli esseri umani vivevano intrappolati in quella che chiamavano “Maya”, il mondo delle illusioni. Buddha disse che ciò che normalmente consideriamo realtà è spesso solo una finzione nella nostra mente. Le persone possono intraprendere intere guerre uccidendo altri ed essere disposte a farsi uccidere a causa della loro fede in queste finzioni.
La rivoluzione dell’IA ci sta mettendo faccia a faccia con quanto descrivevano Descartes, Platone, Buddha e molti altri. Se non stiamo attenti una cortina di illusioni potrebbe calare sull’intera umanità e non riusciremo mai a rimuovere quella cortina o semplicemente renderci conto che è lì perché penseremo che questa sia la realtà.
Negli ultimi anni, i social media ci hanno dato un piccolo assaggio del futuro. Nei social media gli strumenti primitivi di IA, principalmente algoritmi semplici, sono stati utilizzati non per creare contenuti ma per gestire contenuti prodotti da esseri umani. Gli esseri umani producono storie e video, e l’IA sceglie quali storie, quali video arriveranno alle nostre orecchie e ai nostri occhi, selezionando quelli che attireranno più attenzione, che saranno i più virali. Sebbene molto primitivi, questi strumenti di IA sono stati comunque sufficienti per creare questo tipo di cortina di illusioni che polarizza il sociale. In tutto il mondo i social media hanno minato la nostra salute mentale e destabilizzato le società democratiche, milioni di persone hanno confuso queste illusioni con la realtà. Gli Stati Uniti dispongono della tecnologia informatica più potente di tutta la storia, eppure i cittadini americani non riescono più a mettersi d’accordo su chi ha vinto le ultime elezioni, o se il cambiamento climatico sia reale, o se i vaccini prevengano o meno le malattie. I nuovi strumenti di IA sono più potenti degli algoritmi dei social media e potrebbero causare molti più danni. Naturalmente, anche l’IA ha un enorme potenziale positivo. Non ne parlo qui perché le persone che sviluppano l’IA ne parlano già abbastanza, non c’è bisogno che mi unisca al coro, pur essendo io un evangelista di innovazione e tecnologie. Il compito di storici e filosofi è spesso quello di evidenziare i pericoli, ma certamente l’IA può aiutarci in innumerevoli modi, dalla ricerca di nuove cure per il cancro, alla scoperta di soluzioni alla crisi ecologica. Per garantire che i nuovi strumenti di IA siano efficaci, usati a fin di bene, occorre prima apprezzarne le vere capacità e occorre regolamentarli con molta attenzione.
Dal 1945 sapevamo che la tecnologia nucleare poteva distruggere fisicamente la civiltà umana ma l’abbiamo usata per avvantaggiarci producendo energia abbondante e a buon mercato. Abbiamo quindi rimodellato l’intero ordine mondiale per proteggerci e per garantire che la tecnologia nucleare venga utilizzata principalmente a fin di bene. Ora dobbiamo confrontarci con una nuova arma di distruzione di massa che può annientare il nostro mondo mentale e sociale, ma vi è una grande differenza tra armi nucleari e l’IA, le armi nucleari non possono produrre armi nucleari più potenti, l’IA invece può produrre un’IA più potente; quindi, dobbiamo agire rapidamente prima che l’IA sfugga al nostro controllo. Le aziende farmaceutiche non possono vendere nuovi medicinali senza prima sottoporre questi farmaci a rigorosi controlli di sicurezza. I laboratori biotecnologici non possono semplicemente rilasciare un nuovo virus nella sfera pubblica solo per impressionare i propri azionisti. Allo stesso modo, i governi devono immediatamente vietare il rilascio nel dominio pubblico di qualsiasi strumento di IA rivoluzionario prima che ne vengano appurati i potenziali rischi e reso sicuro. Non sto parlando di fermare tutta la ricerca sull’IA. Se non rallentiamo la corsa agli armamenti dell’IA, non avremo il tempo nemmeno di capire cosa stia succedendo, e tanto meno di regolamentare efficacemente questa tecnologia incredibilmente potente. Ci si potrebbe chiedere se il rallentamento della diffusione pubblica dell’IA non farà sì che le democrazie occidentali restino indietro rispetto a regimi più spietati. La distribuzione non regolamentata dell’IA farà sì che le democrazie perdano a favore delle dittature perché se scateniamo il caos, i regimi autoritari potrebbero contenere questo caos più facilmente di quanto potrebbero fare le società aperte. La democrazia in sostanza è una conversazione comune, un dialogo aperto, la dittatura invece è un dettato, c’è una persona o una casta che detta tutto. La democrazia è comunicazione aperta tra molte persone su cosa fare e le conversazioni si basano sul linguaggio.
Quando l’IA hackererà il linguaggio significa che potrebbe distruggere la nostra capacità di condurre significativi dialoghi pubblici, distruggendo così la democrazia. Se aspettiamo il caos, sarà troppo tardi per regolamentarlo in modo democratico. Forse in un regime autoritario o totalitario sarà possibile regolamentarlo, ma come si può regolamentare qualcosa in modo democratico se non si riesce a sostenere un dialogo al riguardo e se non si regola l’IA in tempo, non si sarà in grado di avere un dialogo pubblico.
Per concludere, abbiamo adesso un’intelligenza aliena non dallo spazio, ma qui sulla Terra. Non sappiamo molto di questa intelligenza aliena, tranne che potrebbe distruggere la nostra civiltà; quindi, dovremmo porre fine all’irresponsabile dispiegamento di questa intelligenza aliena nelle nostre società e regolamentare l’IA prima che sia lei a regolamentare noi. C’è bisogno di maggiore consapevolezza sul potere dell’IA, di regolamentazione e di formazione. La prima regola, delle tante necessarie, suggerisce di rendere obbligatorio per l’IA di rivelare di essere un’IA. Se sto conversando con qualcuno e non riesco a capire se si tratta di un essere umano o di un’IA, è la fine della democrazia perché è la fine di un dialogo pubblico tra le persone.
Fabrizio Minei "Official" Blog 