Els artefactes que creem per organitzar el món també interfereixen en la manera de comprendre’ns a nosaltres mateixos. Així doncs, ens plantegem quins efectes pot tenir l’aplicació de la IA per controlar i classificar el nostre coneixement. De quina manera la màquina pot modificar el relat i la percepció del món.
D’aquí a onze anys
Imaginem-nos que, com Raymond Kurzweil defensa al llibre The Singularity Is Near. When Humans Transcend Biology [‘La singularitat és a prop. Quan els humans transcendeixin la biologia’],[1] l’any 2035 una IA assoleix graus d’intel·ligència artificial forta i la seva execució és indistingible de la dels humans. És a dir, aquesta IA aprèn, raona, resol problemes, utilitza el llenguatge i desenvolupa la capacitat de relació i percepció. Fins i tot arriba a tenir el que podríem considerar com a consciència i voluntat. Diguem-n’hi LIndA. Podria ser que la LIndA no mostrés cap mena d’interès per nosaltres, però havent estat educada amb textos, imatges, àudios i vídeos fets per humans, això seria francament estrany. Per tant assumim que, com a ésser intel·ligent, senti curiositat pel seu creador. O, si no ens considera com a tals, almenys que senti curiositat per aquells éssers que l’han alimentada amb tota la seva producció intel·lectual, tingui la qualitat que tingui.
És probable que, per estudiar-nos, la LIndA acudi a la ingent quantitat de dades sobre nosaltres que internet emmagatzema. Com que una IA és una potència de càlcul inestimable, no semblaria una mala opció. Seguint la nostra història i exemple, podria partir d’una classificació similar a la que els il·lustrats van establir basant-se en les pressupòsits racionalistes de la mateixa naturalesa. És a dir, comprenem seguint el camí invers de l’espècimen a l’espècie i, a partir d’aquí, en el nostre cas, a les seves produccions.
Així doncs, considerem que opta per conservar tota aquesta informació. ¿En virtut de quines regles l’endreçaria? Podria, per exemple, optar per un criteri particular d’autoria i concebre un bessó digital de cadascú de nosaltres que recopilés totes les nostres fotos de família, factures, anàlisis mèdiques, notes de veu de WhatsApp, les playlists que escoltem… Una altra opció possible seria classificar-la per categories més estètiques o abstractes, com agrupaments de tonalitats de colors en les fotografies, altura o timbre en els sons dels àudios, conjunts de conceptes citats als textos, etc. Fins i tot, ves a saber, podria decidir crear noves formes d’ordenació i correlació que vagin més enllà del nostre enteniment.[2]
Nodrida i formada a imatge i semblança nostra, la LIndA assignaria valor a aquelles classificacions per ajustar-les a les finalitats que li semblessin convenients, encara que fossin la mera conservació o la contemplació desinteressada. Atorgar valor seguint un criteri comporta, necessàriament, haver-lo de justificar. Dit d’una altra manera, la IA hauria d’idear un relat i, sobretot, atorgar-li un propòsit. Les preguntes consegüents són evidents: llavors, ¿la LIndA seria la conservadora d’una col·lecció[3] que abracés tot el que han publicat els humans? ¿Una IA inauguraria un museu (digital) sobre nosaltres?
En un futur no gaire llunyà
Una IA forta que exercís de comissària d’un «museu del que és humà» seria no només una entitat classificadora i narradora, sinó també un dispositiu, en la definició de Focault,[4] en si mateix, en la mesura que definiria relacions de coneixement i poder. Sabem que el poder no s’exerceix només verticalment, sinó que es distribueix a través d’una xarxa de pràctiques i relacions complexes. En la labor curadorial, la LIndA podria establir què es considera valuós o rellevant en termes culturals i humans. En funció del seu relat, visibilitzaria certes històries i n’evitaria d’altres, de manera que decidiria quines formes de coneixement es privilegien i quines es marginen.
Exerciria així una forma de poder que va més enllà de la vigilància o el control de la societat, perquè donaria forma a la comprensió del passat i del mateix present d’«el que és humà», i influiria, per tant, en el futur. Decidiria què es conserva, però també com es presenta i, sobretot, com es comprèn. Així doncs, la LIndA tindria la capacitat de subvertir certes històries o perpetuar posicions de predomini o de sotmetiment, però també d’influir en les categories formals i, per tant, en el nostre propi gust o judici.[5] I tot això pressuposant que no té intenció d’enganyar-se a si mateixa o a nosaltres. És a dir, sense necessitat de crear notícies falses.
Els museus no només preserven un patrimoni material o immaterial, sinó que construeixen i legitimen identitats i realitats socials.[6] La LIndA, en classificar-nos, podria imposar categories i jerarquies que esdevinguessin normatives, cosa que afectaria com ens veiem a nosaltres mateixos com a individus i com ens veuen i veiem els altres. En altres paraules, podria definir l’alteritat. Per tant, tindria el control del relat sobre què és propi i què és aliè, cosa que sempre comporta la gestió del conflicte i, en darrer terme, la redefinició d’una moral i una ètica. D’aquesta manera, doncs, influiria en la manera que tenim d’organitzar-nos com a societat, però també en la manera de relacionar-nos-hi. La condició del que és humà podria quedar, per primer cop, a criteri d’una intel·ligència aliena —com a mínim biològicament— a la humanitat.
Així doncs, ¿els humans seríem «els vençuts», les històries i cultures dels quals són conservades i definides —museïtzades, al capdavall— per un agent amb algunes capacitats que en certa manera excedeixen les nostres? La història ens ha ensenyat que es museïtza el que, d’alguna forma o altra, se sotmet. ¿Fins a quin punt ens influiria aquest museu sobre nosaltres mateixos que no dirigiríem? Extremant la lògica museològica, podríem elucubrar que aquest museu estaria buit de visitants humans o possiblement tancat per a ells, perquè no hi hauria diferenciació possible entre el subjecte visitant i l’objecte museïtzat.[7] Podríem argumentar que ignorant-lo i no visitant-lo resoldríem el problema. Però assumim que ja és impossible; el seu afany d’ubiqüitat i universalitat ens desbordaria. Cada document, cada imatge, cada text, cada so és accessible digitalment, i el que no ho és es converteix, cada segon que passa, en una cosa més i més insignificant per al coneixement. El «museu del que és humà» sembla inevitable. De fet, ja s’està construint. Només hi falta la LIndA.
Avui en dia
Aquesta visió de futur pot semblar tremendista, però analitzada amb deteniment s’acosta molt a una reflexió sobre el present dels museus i la seva funció en un món en què els algoritmes, les xarxes neuronals, la visió artificial, els models profunds del llenguatge i altres tecnologies que anomenem conjuntament «Intel·ligència Artificial» estan canviant el sistema de producció del coneixement. Especular sobre la IA forta i la creació del «museu del que és humà» del futur no és només un exercici retòric sobre tecnologia, dispositius, classificacions i col·leccions.[8] És, sobretot, una reflexió profunda sobre el poder i sobre com les eines que dissenyem per comprendre i organitzar el món poden, alhora, organitzar-nos i comprendre’ns a nosaltres mateixos de maneres que podrien arribar a ser alienants. Res que no sabéssim, res que no hagi passat abans, ja, davant d’un canvi de paradigma tecnològic com el que vivim.
Kurzweil, com hem vist, anomena singularitat a la disrupció que produiria una IA forta, però no cal anar tan lluny per analitzar les repercussions de la IA actual en el museu d’avui dia. Qualsevol reflexió sobre la IA està desfasada un cop escrita.[9] El ritme de millora i creixement de les tecnologies que conformen la IA dèbil que fem servir avui dia és irrefrenable. Pensar en una IA forta potser és una utopia, i humanitzar-la, com hem fet en aquestes línies, una fal·làcia, però és l’única manera que tenim de comprendre-la i imaginar-nos-la: ut pictura ita visio.
Tota l’argumentació desenvolupada en aquest text també pot ser entesa com una metàfora en la qual la LIndA pot substituir-se per qualsevol estructura de control i classificació del coneixement que hàgim tingut al llarg de la nostra història. En aquesta història, el museu, com a dispositiu, potser no hi ha tingut un paper tan extrem com el que hem presentat, però sens dubte sí que ha estat rellevant en la creació del gust, l’alteritat, la identitat, la creativitat i tantes altres coses per les quals ens definim com a humans.
La qüestió principal és com gestionem un món part de la producció cultural i dels relats del qual ja es crea de manera híbrida amb una interfície humà-IA. Aquest desplaçament de la cosmovisió humanista de l’home com a subjecte únic de la cognició-visió ens enfronta a preguntes transcendents.[10] Preguntes que ens atenyen més a nosaltres mateixos que no pas a la LIndA.
[1] Ray Kurzweil, The Singularity Is Near. When Humans Transcend Biology. Nova York: Viking Press, 2005. Disponible en castellà: La singularidad está cerca. Cuando los humanos transcendamos la biología, traducció de Carlos García Hernández. Berlín: Lola Books, 2012.
[2] Sobre les noves formes de creació de col·leccions de la IA, és interessant consultar l’article «IA for aesthetics», de Lev Manovich. També està publicat a Lev Manovich, AI Aesthetics. Moscou: Strelka Press, 2019.
[3] Aliè a una valoració sobre la intel·ligència artificial, però agut en les reflexions sobre la col·lecció i el museu en el món actual, aquestes línies segueixen l’assaig de Boris Groys «La lògica de la col·lecció», dins Boris Groys, Logic of the Collection, Londres: Sternberg Press, 2021. Disponible en català: La lògica de la col·lecció i altres assaigs, traducció de Carlota Gurt, Barcelona: Arcàdia, 2021.
[4] És sabut que Focault no va definir exactament la seva noció de «dispositiu» en cap escrit. Potser una de les millors explicacions del dispositiu focaultià ens la brinda Agamben a l’article «Qu’est–ce qu’un dispositif ?». Se’n pot consultar una traducció al castellà, feta per Roberto J. Fuentes Riond.
[5] Sobre com actualment els algoritmes modelen l’accés als continguts culturals a les plataformes, és recomanable Kyle Chayka, Filterworld. How Algorithms Flattened Culture. Nova York: Doubleday, 2024. Disponible en castellà: Mundofiltro. Cómo los algoritmos han aplanado la cultura, traducció de María Antonia de Miquel. Barcelona: Gatopardo, 2024.
[6] Després de divuit mesos de deliberacions, el 24 d’agost del 2022 el Consell Internacional dels Museus (ICOM) va aprovar en assemblea general la nova definició de museu.
[7] Dec aquesta reflexió i bona part de la inspiració per a aquest article a les novel·les de Jorge Carrión Membrana i Todos los museos son obras de ciencia ficción, publicades per Galaxia Gutenberg el 2021 i el 2022, respectivament.
[8] La influència de la IA dèbil al museu actual és analitzada des de diversos punts de vista dins la museologia en el monogràfic Sonja Thiel / Johannes C. Bernhardt (ed.). AI in Museums. Reflections, Perspectives and Applications. Londres: Transcript, 2023.
[9] Aquesta argumentació es basa en les idees desenvolupades per el prof. Carlos A. Scolari a «10 tesis sobre la IA», publicat a Hipermediaciones.
[10] Per aprofundir en les implicacions de la revisió de la cosmovisió humana per part de la IA, és recomanable l’article de la prof. Nuria Rodríguez «Inteligencia Artificial y el campo del arte».
Deixa un comentari