Un paio di mesi fa, sulla webzine Vox, è uscito un articolo intitolato Will artificial intelligence destroy humanity? Here are 5 reasons not to worry (“L’intelligenza artificiale distruggerà l’umanità? Ecco 5 ragioni per non preoccuparsi”), cui sono arrivato tramite un tweet di Giuseppe Granieri. L’articolo è ben scritto, e tuttavia non mi ha convinto per nulla. Anzi, a mano a mano che lo leggevo, mi convincevo della tesi opposta, e cioè che dovremmo preoccuparci almeno un po’di una presa del potere da parte di intelligenze artificiali. Ecco i ragionamenti che ho fatto:
1) Un’intelligenza genuina richiede moltissima esperienza pratica
Secondo Timothy B. Lee, estensore dell’ articolo, un’enorme potenza di calcolo non basta a risolvere ogni problema. Per la maggior parte delle questioni pratiche è necessaria, oltre a un certo grado di intelligenza, anche esperienza di prima mano. Esperienza che va acquistata empiricamente e la cui acquisizione non si può velocizzare. L’esempio è: anche se una persona mettesse insieme tutti i libri esistenti sul cinese e si chiudesse in una stanza a studiarli, non potrebbe mai passare per un cinese madrelingua: certe sfumature della lingua viva si imparano solo vivendo a lungo in Cina.
Ma è proprio vero? Forse lo era fino a qualche tempo fa. Oggi però esiste Internet, che è un favoloso moltiplicatore della conoscenza umana. Su Internet non si trovano solo le nozioni importanti e fondamentali: si trova di tutto. Se il mio computer non funziona bene, se ho in frigo degli ingredienti disparati che non so come mettere insieme, se trovo una frase strana di cui non capisco il significato, basta digitare qualche parola chiave su Google, e ho la quasi certezza di trovare la risposta, messa online da qualcuno che si è posto il problema prima di me. E se non dovessi trovarla, esistono svariati modi per rendere pubblico il mio dubbio e ottenere in tempi ragionevoli la risposta di un essere umano competente.
Proviamo a porci in modo leggermente diverso la domanda: se una persona mettesse insieme tutti i libri esistenti sul cinese e si chiudesse a studiarli in una stanza dotata di una connessione a Internet, con la possibilità di chattare con persone di madrelingua cinese a voce e per iscritto, potrebbe un giorno passare per un madrelingua cinese? Io non lo escluderei!
Certo, per un essere umano diventare un esperto di qualunque cosa attraverso Internet è comunque complicato. Ma immaginiamo un’intelligenza artificiale, in grado di leggere e assimilare migliaia di pagine web al secondo, di chattare simultaneamente con migliaia di persone, di osservare la realtà attraverso migliaia di webcam in contemporanea… siamo veramente sicuri che una simile entità non potrebbe diventare esperta del mondo in un tempo piuttosto breve? Io no.
Per giunta, se questo non bastasse, ci stiamo pensando noi a darle una mano. Per esempio attraverso RoboBrain, un’iniziativa della Cornell University che punta a creare un enorme database online per spiegare ai robot come funziona il mondo e come si comportano gli esseri umani. I dati vengono generati attraverso operazioni di data mining su video e immagini disponibili su Internet, e poi migliorati da esseri umani. “Se un robot incontra una situazione che non ha mai visto prima, può interrogare RoboBrain attraverso la Rete”, spiega Ashutosh Saxena, uno dei creatori del progetto. Immaginiamo quanta conoscenza di questo tipo troverà a disposizione un’intelligenza artificiale tra qualche decennio…
2) Le macchine sono estremamente dipendenti dagli esseri umani
Le macchine, ci dice Lee, hanno comunque bisogno degli uomini per poter esistere. Un cervello elettronico intelligentissimo non sarebbe comunque in grado di mantenersi o autoripararsi. I robot di oggi sono estremamente specializzati, sono privi della versatilità di un essere umano, e rimarranno tali ancora per molto tempo. Quindi le intelligenze artificiali, per sopravvivere, hanno bisogno di noi.
Alla luce di quanto abbiamo visto al punto precedente, questa tesi mi convince molto poco. Se ammettiamo che un’intelligenza artificiale possa arrivare rapidamente a conoscere il mondo bene quanto noi, sarà versatile perlomeno quanto un essere umano, e dovrebbe riuscire a superare le difficoltà pratiche relative alla propria sopravvivenza.
Inoltre, anche in questo caso noi stiamo costruendo un’eccezionale facilitazione al compito delle future intelligenze artificiali: si chiama Internet of Things. Nei prossimi anni ci aspettiamo che ogni oggetto tecnologico smetta di essere un mondo a sé, per diventare in grado di collegarsi a tutti gli altri, scambiare informazioni e collaborare per il raggiungimento di un fine.
Si tratta, beninteso, di qualcosa di molto bello ed entusiasmante, che potrebbe cambiare la nostra vita in futuro anche più di quanto abbia già fatto l’Internet che già conosciamo. Si tratta però anche di qualcosa che metterebbe un’intelligenza artificiale in grado di manipolare a proprio vantaggio l’intero spettro delle tecnologie. In una società con un’Internet of Things molto sviluppata, un’IA che ne prendesse il controllo potrebbe fabbricare ciò che vuole e farselo recapitare con estrema facilità. O potrebbe ricattare gli umani con la minaccia di bloccare completamente l’economia e la vita quotidiana.
Ma come farebbe un’IA a prendere il controllo di tutto? Di preciso non saprei, ma sappiate che un recente rapporto commissionato da HP fa sapere che il 70% dei dispositivi connessi alla Internet of Things attuale è molto vulnerabile ad attacchi informatici. In pratica, stiamo costruendo un meraviglioso strumento per controllare il mondo, e stiamo lasciando le chiavi in giro. Un pensiero poco rassicurante.
3) Il cervello umano potrebbe essere molto difficile da emulare
Non è detto che riusciremo mai a costruire un’intelligenza artificiale in grado di emulare il cervello umano, dice Lee. I computer funzionano in modo deterministico, mentre il cervello è un complesso sistema analogico che potrebbe essere impossibile da riprodurre, così come non siamo in grado di simulare l’atmosfera con sufficiente precisione da ottenere previsioni del tempo totalmente affidabili.
Qui mi pare che l’autore salti un po’ di palo in frasca: la possibilità di costruire intelligenze artificiali sembrava implicita nell’ipotesi di partenza, ed è chiaro che non avremo nulla da temere dalle IA se non riusciremo a costruirle.
Per il resto, qui andiamo a infilarci a piè pari in un dibattito filosofico tuttora apertissimo, quello sulla possibilità della creazione di una coscienza artificiale. Semplificando molto, da una parte ci sono i sostenitori dell’IA Forte, alla Daniel C. Dennett, per i quali, visto che il cervello è un oggetto fisico senza alcuna apparente particolarità, e noi sappiamo che genera una mente cosciente, dobbiamo dedurre che la coscienza sia una proprietà intrinseca non del cervello, ma dei processi che vi si svolgono, e pertanto sia indipendente dal supporto fisico. Dall’altra ci sono i sostenitori della tesi opposta, alla Roger Penrose, per i quali questo è manifestamente impossibile, e che pertanto ritengono che la coscienza abbia sede in processi quantistici, non deterministici e non riproducibili, che ancora non conosciamo bene, ma di cui cominciamo ad avere qualche segnale.
Lungi da me voler tirare qui le conclusioni di una discussione di questa portata. Mi limito a dire che confidare nella totale irriproducibilità della mente umana potrebbe rivelarsi un’illusione. E anche un’IA dalla mente dissimile dalla nostra potrebbe rivelarsi un’avversaria da non trascurare.
4) Per ottenere il potere le relazioni sono più importanti dell’intelligenza
Nella società umana, ci dice Lee, chi ha il potere non sono le persone più intelligenti, ma quelle che hanno più carisma, più relazioni. Un’intelligenza artificiale sarebbe molto svantaggiata nell’ottenere la lealtà e l’amicizia delle persone necessarie per conquistare il mondo.
Anche in questo caso, mi pare che l’autore confonda un po’ le acque. Stiamo parlando di “distruggere l’umanità” o di “prendere il potere”? Sono due cose diverse. Un’IA che volesse sbarazzarsi del controllo degli esseri umani e popolare la Terra di suoi simili non avrebbe bisogno di andare in cerca di seguaci in carne e ossa.
Al di là di questo, mi pare abbastanza facile trovare esempi della fallacia del ragionamento di Lee, ancora una volta grazie a Internet. Siamo sicuri che un “programma di computer privo di corpo” avrebbe difficoltà a trovare amici? Oggi gran parte di noi intrattiene complesse relazioni con entità che conosce soltanto attraverso scritte su uno schermo. C’è chi attraverso i social network trova l’amore, e c’è chi instaura durature e profonde amicizie con persone di Paesi lontani senza mai incontrarle. Il fatto di non avere mai toccato con mano il corpo di costoro non ci impedisce di considerarli come simili a noi. E allora perché dovremmo pensare che per un’IA sarebbe diverso? Sia che ci immaginiamo un’intelligenza fredda che manipola gli umani per i suoi scopi, sia un essere in grado di trovare amici con la forza delle sue idee, credo che non avrebbe particolari difficoltà a trovare persone disposte a dargli retta.
5) Più intelligenza ci sarà al mondo, meno sarà il suo valore
Se l’intelligenza artificiale verrà creata, ci dice Lee, diventerà presto qualcosa di così comune da essere scontata. Le risorse scarse, come l’energia o il territorio, avranno molto più valore, e saranno in mano agli esseri umani, mentre le IA non avranno nulla.
Ancora una volta si cambiano le carte in tavola: dalla distruzione dell’umanità e dalla conquista del potere ora siamo passati a una mera conquista economica. È indubbiamente vero che un’IA appena nata non possederebbe nulla. Anzi, legalmente non sarebbe neppure considerata una persona, e non avrebbe alcun diritto legale (il che peraltro potrebbe essere per lei un buon motivo per cercare di ottenere dei diritti trattando da una posizione di forza).
Trovo un po’ bizzarro immaginare che un’IA possa voler conquistare il potere utilizzando la leva economica. Ma non mi pare nemmeno impossibile. Un’IA potrebbe essere in grado di fare affari molto meglio degli umani, per esempio grazie a una superiore capacità di raccogliere e classificare informazioni, e quindi di predire i trend economici meglio di qualsiasi trader o affarista. E non avrebbe neppure particolari remore a violare la legge: in fondo, una macchina non può essere portata in tribunale, almeno per ora.
Conclusioni
Insomma, se Timothy B. Lee voleva convincermi a stare tranquillo, ha ottenuto l’effetto opposto: ora che ho provato a confutare le sue argomentazioni, mi sembra che la presa del potere da parte delle IA sia estremamente probabile.
Sto dicendo che dovremmo rifuggire dal costruirle? In realtà no. Resto convinto che creare un’intelligenza artificiale sarebbe tra le migliori cose che potrebbero capitare all’umanità, e ci darebbe una prospettiva molto illuminante su noi stessi e sul mondo. E tendo anche a pensare che un essere artificiale avrebbe motivazioni molto diverse dalle nostre, e difficilmente si sentirebbe in concorrenza con noi.
Non vorrei però essere smentito dai fatti. E credo che, prima di affidare a intelligenze artificiali poteri che si ripercuotono sugli esseri umani, si debba pensare molto bene a come tenerle sotto controllo. Ma su questo argomento tornerò presto.
