Sobre el coneixement material

Túnel d’entrada a la Central Elèctrica de Mangahao. Shannon, New Zealand, 1921 | Leslie Adkin, Te Papa | Sense restriccions d’ús conegudes

>¿Que tens set, ChatGPT?

Els dits se m’aturen sobre l’Enter. Dedicar-me a la recerca sobre la infraestructura material i l’impacte ambiental de la computació m’ha avesat a l’absurditat d’usar aquests sistemes tècnics gegantins, energèticament intensos i pràcticament invisibles per a uns usos tan aparentment frívols com aquest. A més, l’article que acabo de llegir, «Making AI Less “Thirsty”», de Li Pengfei i altres, suggereix que una interacció d’entre vint i cinquanta preguntes amb el ChatGPT consumeix uns 500 ml d’aigua potable, cosa que m’ha dut a la pregunta que acabo d’escriure i a l’ambivalència mental consegüent. Els meus hàbits, però, aconsegueixen anivellar-se amb els meus dubtes conscients, com bé prova el llarguíssim historial de xats previs amb el ChatGPT que m’apareixen llistats a la barra lateral. Demanar-li la primera cosa que et passa pel barret és, diria, massa fàcil i tot. Premo la tecla.

«Com a IA que soc, no tinc sentiments, ni sensacions físiques, ni necessitats, i per tant no experimento la set ni altres condicions humanes. Però soc aquí per ajudar-te amb qualsevol pregunta o tasca que se t’acudi!»

La idea que el ChatGPT és un recurs abundant, immaterial, sense existència física però sempre disponible per a qualsevol qüestió que em sorgeixi ja ha arrelat en els meus incipients hàbits d’ús i en la funcionalitat mateixa amb què el xat ha estat dissenyat; la resposta que em dona, a més, no fa sinó confirmar-ho. Teclejo més:

>¿De què ets fet, ChatGPT?

«De codi i de dades! Soc bàsicament un algoritme complex que processa i genera text a partir de patrons i d’informació apresa d’una quantitat ingent de textos d’internet. El meu “cervell” és fet de diverses tècniques d’aprenentatge de màquines i de xarxes neurals que m’ajuden a entendre el llenguatge i a fornir respostes.»

>¿On ets, ChatGPT?

«Existeixo al reialme digital, i resideixo en servidors i ordinadors des d’on puc accedir a informació i interactuar amb usuaris com tu. Però, en un sentit més abstracte, podríem dir que soc allà on tu accedeixes a mi: una pàgina web, una app o qualsevol servidor!»

M’adono que, en cada interacció, el ChatGPT insisteix en el seu caràcter immaterial, mentre que, alhora, llegeixo estudis empírics que posen clarament de manifest els diversos suports del ChatGPT com a tecnologia (i les conseqüències materials que se’n deriven). Això em sembla rellevant per dues raons.

La primera és que sospito que tot plegat no és estricament accidental. A l’article recent «The uncontroversial “thing-ness” of AI», Lucy Suchman, antropòloga de la tecnologia i una de les fundadores de la disciplina que estudia la interacció persona-ordinador, apunta que el fet que el terme Intel·ligència Artificial funcioni com un «significant flotant» reforça el poder de suggestió que li atribuïm: la suposada immaterialitat de la IA és un factor determinant en l’autoritat que donem als seus coneixements.

La segona és que, comparant les afirmacions del mateix ChatGPT amb la investigació de Li Pengfei i de molts altres autors que donen compte de la petjada material de la IA, topem de cap amb una controvèrsia: per una banda, la insistència que les IA com el ChatGPT no tenen existència material, per l’altra, l’afirmació que la seva realitat física i les conseqüències que se’n deriven són considerables, i de considerable importància. I les controvèrsies, com ens ensenya el professor d’estudis científics i tecnològics Tommaso Venturini, ofereixen una oportunitat per aprendre –són «les millors ocasions que tenim per observar el món i com és fet». La presència d’una controvèrsia, aleshores, ens ofereix una oportunitat per entendre més bé els aspectes sociomaterials d’aquesta suposada cosa, el ChatGPT, que es presenta (i s’autodescriu) com una cosa incorpòria i etèria, si bé tenim evidència de les conseqüències a què mena el seu suport material.

Considerades alhora, aquestes dues oportunitats assenyalen el doble propòsit d’aquesta mena d’investigacions: la forma en què la materialitat dels sistemes d’IA es relliga amb les seves qualitats epistèmiques i epistemològiques, és a dir, què i com «coneix» la màquina; i les formes com hi accedim nosaltres. El tipus específic d’intel·ligència que és la IA i les creences que tenim sobre això es basen en la seva materialitat, que ens permet investigar tant els límits del que en sabem nosaltres com el coneixement que ella té del món a través de l’estudi de la seva infraestructura material.

Podríem dir que aquesta aproximació a l’estudi de la IA és ecològica, en dos sentits. En primer lloc, perquè ens interessa l’ecologia de la IA quant a l’impacte material que té en l’ambient; en segon lloc, perquè també la concebem més com un sistema ecològic per se (en paraules de Matthew Fuller, com una «interrelació massiva i dinàmica de processos i objectes, d’éssers i coses, de patrons i sentit», cosa que n’inclou els aspectes materials, epistèmics i fenomenològics) que com una entitat discreta, material o d’altra.

Així doncs, ¿quina mena de coses s’inclouen en aquesta ecologia material del ChatGPT? Això és el que jo i els altres participants del workshop «Ments, mentides i materials» intentàvem descobrir una tarda de dissabte de gener, establint les diverses bases materials del ChatGPT i reflexionant sobre les controvèrsies que aixequen. Investigant i contrastant des de múltiples perspectives (la nostra pròpia recerca, servint-nos d’eines tècniques i mètodes d’intel·ligència de fonts obertes, juntament amb altres investigacions independents publicades, amb publicacions oficials d’OpenAI i amb les mateixes produccions textuals del ChatGPT), vam acabar centrant-nos en les fonts d’energia, aigua, dades, mà d’obra i minerals sobre les quals es basteix la suposada «intel·ligència incorpòria» del ChatGPT. Això ens va permetre establir-ne les fonts, les relacions i els moviments, inspirats pel projecte Cartografias da Internet i per l’Atlas of AI de Kate Crawford, i assistits al llarg de tot el procés pels mètodes que Anne Pasek aplica a Getting into Fights with Data Centers.

Taller: Ments, mentides i materials. CCCB, 2024 | CC BY-NC-SA Pau Fabregat

Es tractava d’un exercici provisional i especulatiu: no esperàvem resoldre aquestes controvèrsies en cap sentit, sinó que més aviat preteníem connectar entre nosaltres a través d’aquest procés inconclús d’investigació dels diversos aspectes materials de la IA, servint-nos d’una cosa semblant al Rubber-Boots methods pel que fa a la curiositat, la col·laboració i la descripció crítica (encara que, en aquesta ocasió, no vam treure els peus del terra encatifat del CCCB).

Vam acabar creant un mapa, o més aviat tres mapes superposats. El primer provenia de la nostra pròpia recerca: una densa xarxa hídrica d’una reserva que abasteix un suburbi populós de Dublín (de la qual els centres de dades han fet un ús abusiu, cosa que ja ha aixecat certa polèmica); la labor infrapagada dels recol·lectors de dades a Kènia; la xarxa elèctrica irlandesa, que fa gala de tenir dues centrals hidroelèctriques, però que Microsoft vol augmentar amb una planta de gas. Dades espigolades d’internet, suposadament globals, però en realitat notablement esbiaixades en favor de les zones anglòfones del nord global. La resta del món hi contribuïa d’una manera més tangible: el níquel d’Indonèsia, el cobalt de la República Democràtica del Congo i el liti de Xile, que s’uneixen en fàbriques de GPU (unitat de processament de gràfics) de Taiwan i acaben essent residus electrònics a la Xina, l’Índia o Nigèria. Sobreposat a aquest, un segon mapa: l’autopresentació d’OpenAI com una oficina central repleta de científics enginyosos i innovadors i situada a San Francisco, juntament amb un centre de dades ple de servidors d’alta tecnologia localitzat a Des Moines, Iowa. El tercer «mapa» planava amb dificultat fora del marc dels altres dos: la insistència del ChatGPT a descriure’s com a incorpori i eteri.

Aquest mètode, però, no estava exempt de problemes. Volíem «obrir la caixa negra» del ChatGPT, però a dins vam trobar-hi encara més caixes negres –parts del sistema opaques i incognoscibles des de la nostra perspectiva i amb les eines i els mètodes de què disposàvem. Tanmateix, haver escollit de contrastar el nostre punt de vista amb el del mateix ChatGPT i el que OpenAI ha revelat públicament va fer que aquests topalls en el coneixement esdevinguessin resultats per si sols. Identificar les diferències entre el tipus i la profunditat de coneixement que ens oferia cadascuna de les diferents fonts identificades va fer-nos conscients dels límits que aquestes imposaven.

Això també va menar-nos a constatar que no era només que estudiéssim aquesta controvèrsia, sinó que, de fet, en formàvem part: la nostra investigació se situava en una perspectiva concreta i parcialment informada. Aquest fet ens menava a confrontar-nos a situacions en què la nostra experiència de primera mà contradeia les afirmacions d’una altra font informativa –encara que l’altra font tingués, almenys en aparença, més autoritat.

Un bon exemple d’això: fent servir traceroute i altres tècniques informatives parcialment ocultes a la web de ChatGPT que suggerien que ens comunicàvem amb un servidor d’Europa, juntament amb altres inferències obtingudes a partir d’informacions públiques –com ara que OpenAI fa servir infraestructures propietat de Microsoft, els actuals centres de dades del qual estan situats a Dublín i Amsterdam–, vam fixar la possible localització per al nostre estudi a Microsoft Grange Castle, a Dublín. Més tard, però, vam descobrir que en una nota a peu de pàgina d’un document tècnic d’OpenAI s’hi afirmava que la seva infraestructura es troba als Estats Units (probablement a Iowa). Més que un simple error, però, això va ser el desencadenant d’una discussió interessant. A l’hora d’entendre un objecte d’estudi (això és, la forma material del ChatGPT) al qual no podíem accedir directament, ¿havíem de confiar en els mètodes parcials però de primera mà, o en les afirmacions opaques fetes per la mateixa empresa? Potser per als nostres propòsits immediats, però, en realitat això no era tan rellevant: al capdavall, les infraestructures digitals com ara ChatGPT es fabriquen per ser escalades, és a dir, es dissenyen per expandir-se uniformement, compostes d’unitats més petites, idèntiques entre si i modulars, com les peces de Lego o els contenidors d’enviament. Com a conseqüència d’aquesta uniformitat, el coneixement guanyat en un punt és més fàcil de transportar «per tant, el que aprenguéssim parant atenció a un centre de dades de Dublín ens podia donar informació rellevant sobre un altre centre de Des Moines, perquè tots dos estan dissenyats de manera uniforme. En aquest sentit, el nostre coneixement sobre els sistemes escalables potser podia convertir-se en una tècnica per «resistir-se al pensament escalar» –fent servir les semblances entre infraestructures en diferents llocs com a eina per comparar-les, contrastar-les i establir-hi relacions solidàries.

Al final del workshop, reflexionant sobre la xarxa complexa de minerals, aigua, energia, dades i mà d’obra que havíem descobert, així com sobre els angles morts, les ambigüitats i les contradiccions a què havíem arribat, vam debatre sobre com aquesta recerca havia de modelar les nostres actituds i interaccions amb el ChatGPT i altres tecnologies d’IA en el futur. Van emergir dos dubtes principals, fruit de la consciència que havíem pres de les nostres capacitats limitades per conèixer els efectes materials d’aquests sistemes, així com de la manera obliqua, selectiva i de vegades fins i tot deshonesta en què tant OpenAI com el ChatGPT es presenten a si mateixos. ¿Què podem fer per mitigar-ne els efectes ambientals? ¿Ens pertoca a nosaltres de fer-ho, és la nostra responsabilitat?

La discussió d’un tercer dubte ens va menar a una possible resposta a tot això: ¿aquest model de computació massiu, malgastador i centralitzat és estrictament necessari? Vam recordar intents previs de crear un sistema computacional distribuït, com ara SETI@Home, que emprava ordinadors domèstics inutilitzats d’arreu del món per resoldre tasques científiques complicades. I, des d’aquí, vam demanar-nos: ¿l’arquitectura massiva, centralitzada i malgastadora del ChatGPT és realment necessària per a la intel·ligència artificial? Vam concloure que potser en sentit estricte sí que ho és, perquè els models d’IA generativa com ChatGPT neixen d’innovacions particulars en el maquinari informàtic (el desenvolupament de la GPU) i de les condicions econòmiques i tecnològiques del capitalisme de vigilància, que permeten l’apropiació de dades a una escala prou gran per entrenar aquests models; tot això, en cert sentit, fa que la centralització sigui una condició necessària. Tanmateix, el fet de prendre consciència d’aquestes condicions materials va fer que ens adonéssim que potser el que cal és una ampliació o un reajustament de la nostra idea de la IA en si: seguint la crida de Yuk Hui per a una atenció renovada a la tecnodiversitat i imaginant-nos unes configuracions materials de la IA menys extractives, per poder concebre col·lectivament uns altres mitjans més agradables i alliberadors d’entendre les màquines com a entitats intel·ligents.