La singularitat

Forbidden Planet, 1959 | Digitalt Museum. Tekniska museet | Domini públic

Els quefers humans, tal com els coneixem avui en dia, no podran mantenir-se inalterats.

John von Neumann

Superats

John von Neumann va ser, probablement, una de les primeres persones que va entreveure la potència de càlcul enorme que un ordinador podia arribar a tenir. Després que morís, el seu col·lega Stanisław Ulam va citar-lo així:

El progrés continu i accelerat de la tecnologia i els canvis en la forma de vida dels humans donen senyals d’acostar-se a una mena de singularitat essencial en la història de la espècie.

Lúcida reflexió, que s’atribueix a von Neumann el 1950. Més tard, Vernor Vinge va escriure un assaig titulat Technological Singularity («Singularitat tecnològica», 1993), en el qual planteja la superació de la ment humana per part de màquines equipades d’intel·ligència artificial. Ray Kurzweil va reprendre aquesta idea, amb un vigor inusitat, al llibre The Singularity is Near: When Humans Transcend Biology («La Singularitat és a prop: quan els humans transcendim la biologia», 2005). El títol és autoexplicatiu. Segons Kurzweil, els humans deixaran enrere el suport biològic i cediran la intel·ligència a les màquines. La idea de singularitat també va donar lloc a l’anomenada Singularity University, una institució fundada el 2008 i creada per una colla de persones rellevants en el món de la tecnologia avançada. El seu lema era inequívoc: «Preparem la humanitat per a un canvi accelerat de tecnologia.»

L’argument essencial associat a la Singularitat és d’una lògica aclaparadora. Si construïm intel·ligències artificials cada cop més potents i autònomes, arribarà un moment que un algoritme podrà millorar-se a si mateix. Un cop millorat, l’algoritme serà encara més potent i, en conseqüència, capaç de tornar-se a millorar. S’estableix, doncs, una cadena que es retroalimenta. Cada intel·ligència artificial dissenyarà la següent, que serà encara millor que ella. Aquest procés iteratiu continuarà avançant de forma imparable cap a una intel·ligència brutal. En aquest moment, haurem assolit la Singularitat.

Podem intentar desenvolupar certa intuïció sobre com arribarem a la Singularitat. Suposem que la intel·ligència artificial avança gràcies al fet que es comprèn més bé la sofisticada arquitectura d’una xarxa neuronal gegantina. El problema de dissenyar els circuits neuronals artificials revesteix una dificultat extrema. En un primer moment, utilitzem mètodes controlats per humans per explorar arquitectures neuronals més bones. Però arribem al punt que l’exploració de noves arquitectures és dissenyada per una xarxa neuronal artificial millorada. Ella sola es podrà autoanalitzar i millorar. Serà com un bon estudiant que comença a aprendre sol i que arriba molt més lluny que els seus professors.

Prenguem-nos seriosament aquest últim exemple. Un bon estudiant, adolescent brillant, comença a aprendre matemàtiques amb bons professors. Ells li ensenyen a aprendre. La potència intel·lectual de l’estudiant és superior a la dels seus professors d’institut. Comença la universitat, i allà el cervell li continua millorant. Deixa enrere els catedràtics més savis. Visita les millors universitats del planeta. Treballa dur i continua passant per davant dels millors investigadors del moment. Ja està sol. Continua avançant per retroalimentació pròpia. Aprèn a aprendre per si mateix. Intueix, estableix les pròpies línies d’investigació. Cada cop és més i més bo.

Una intel·ligència artificial avançada operaria de la mateix manera que un bon estudiant. No oblidem, però, que aquesta màquina no toparà amb els límits que imposa la biologia. Els circuits integrats, els ordinadors quàntics i tota una sèrie de desenvolupaments futurs que avui no podem ni imaginar ompliran de vertigen el progrés de la intel·ligència artificial.

És important emfasitzar el punt crucial del canvi de substrat entre intel·ligència humana i intel·ligència artificial. La Singularitat demana que se sobrepassin els límits imposats pel teixit nerviós, la cèl·lula glial, els nutrients que arriben a través de la sang, la mida petita del cervell, les parts que se’n moren. Una intel·ligència artificial basada en substrats de silici té la capacitat de créixer molt més enllà del cervell humà i de no perir.

Sou capaços d’imaginar una màquina intel·ligent i imperible que es creï a si mateixa? Quina mida tindria? Cobriria la Terra? Seria única o repartida? Seria violenta? Destruiria els humans?

Intel·ligència superior única

Suposem que hem arribat a la Singularitat i que hem creat una intel·ligència notablement superior a la nostra. Hi haurà una única intel·ligència artificial avançada, o n’hi haurà més d’una?

Podem defensar totes dues possibilitats.

Comencem argumentant que, si s’arriba a la Singularitat, la intel·ligència superior creada serà única. Una intel·ligència suprema hauria de ser pacífica, gens hostil, perquè no trauria cap benefici de la violència. La intel·ligència artificial podrà sostenir-se sense esforç, créixer sense obstacle. Podrà abastar-se de tot el que li calgui de manera eficient. Serà una gestora magnífica del seu substrat físic. Si hi hagués una altra intel·ligència artificial, totes dues optarien per unir-se i generar una intel·ligència encara més potent. Els humans ho fem així, quan ens endinsem en tasques superiors com l’estudi de la ciència pura. Els matemàtics, els físics, els biòlegs, tots els científics que busquen el saber bàsic col·laboren els uns amb els altres. És cert que el sistema acadèmic està creat per fomentar la competició, però encara és més cert que tota persona que s’enfronta a problemes científics difícils sap que individualment no pot superar-los, i que només avançarà si uneix forces. Si una intel·ligència superior es relaciona amb una altra, totes dues s’uniran.

Hi ha un exemple del món de l’economia que il·lustra la creació d’un ens totpoderós únic. Prenguem els negocis com a prova simplificada d’això. Una manera de modelar una transacció econòmica entre dues persones podria ser aquesta: totes dues posen una quantitat de diners en un pot comú. Es fa un sorteig i n’hi ha una que es queda el botí, mentre que l’altra ho perd tot. És clar que aquesta manera de simular una transacció és lluny de la realitat; també és cert, però, que en moltes operacions hi ha qui guanya i hi ha qui perd. La idea, aquí, és exagerar aquesta situació i veure quines conseqüències té. Per esbrinar-ne el resultat, podem crear un programa en el qual hi hagi autòmats cel·lulars que operin d’acord amb aquesta regla. L’algoritme crearà entitats virtuals que s’associaran aleatòriament, faran una operació per certa quantitat de diners i hi haurà qui perdrà i qui guanyarà. Si deixem que aquest univers virtual evolucioni fent transaccions entre els individus que el componen, de mica en mica veurem que n’hi haurà uns quants, pocs, que es faran cada cop més rics, mentre que n’hi haurà uns altres que s’empobriran. És fàcil entendre el perquè d’aquest límit. En cada transacció hi ha una probabilitat no nul·la de perdre-hi diners, i hi ha, també, una probabilitat no nul·la que un individu encadeni mals negocis i ho perdi absolutament tot. Aquest individu queda fora de joc. Hi ha una persona menys. Aquest mateix argument es repeteix i cada cop hi ha una persona menys. Al final només en queda una, que ho té tot. El nostre món real no és pas tan lluny d’aquest joc. Hi ha un grup de persones, poques, que posseeixen la riquesa de tots els humans. La realitat compensa aquest fenomen establint certes regles perquè els més pobres puguin ascendir econòmicament.

Seguidament, però, podem argumentar just al contrari d’això: si hi haguessin intel·ligències superiors a la humana, segur que n’hi hauria moltes, i no només una. La idea central és que és beneficiós que hi hagi aproximacions diferents al mateix problema. Moltes persones intel·ligents diferents fan que un camp avanci més ràpid que una sola persona, també molt intel·ligent. En biologia, mantenir una diversitat genètica àmplia és beneficiós per a les espècies. Si tot s’aposta a l’individu més ben dotat, l’espècie perd capacitat de correcció davant d’un canvi crític de les condicions externes. És bo tenir individus amb un material genètic molt divers, perquè en el futur els seus gens poden ser enormement útils. Una intel·ligència artificial avançada segur que mantindria altres intel·ligències independents. Podria haver-hi un conjunt d’intel·ligències avançades de diferent nivell intel·lectual, orientades a objectius subtilment diferents i basades en algoritmes independents.

Diu Jean-Jacques Rousseau a Émile (1762) que «és la debilitat el que fa sociable l’home». I ho argumenta així:

Tota afecció és mostra d’insuficiència: si no necessitéssim els altres, ni tan sols pensaríem a unir-nos-hi.

Una intel·ligència artificial forta seria, segons Rousseau, solitària, potser no única, però sense amics.

Una intel·ligència artificial avançada única, en anglès, es coneix amb el terme singleton. Si el futur de la intel·ligència artificial extrema és un singleton, crec que s’ensopirà sobiranament, estant tan sol.