Repensar la IA: cognició distribuïda i corporalitat expandida

Lavery Electric Phrenometer, un dispositiu de mesura frenològica automatitzat, inventat i patentat per Henry C. Lavery. 1907 | Hulton Deutsch | Domini públic

Més que el perfeccionament dels algoritmes, el que ha propulsat el desenvolupament de les intel·ligències artificials (IA) ha estat la possibilitat de gestionar i analitzar més dades. Seguint la lògica que aquestes dades es produeixen de manera col·lectiva, cal repensar l’essència de la IA com a bé comú, així com la seva vinculació amb el nostre cos i els nostres processos cognitius.

Quan parlem d’intel·ligència artificial (en endavant, IA) sorgeixen molts problemes. El primer té relació amb la idea d’intel·ligència en sentit general: fins i tot abans d’atribuir-la a una entitat artificial, la mateixa noció ja resulta problemàtica a l’hora de referir-se als éssers humans. Podem dir que, com a mínim des de la tradició filosòfica occidental, la intel·ligència s’ha relacionat amb les nocions d’intel·lecte i d’enteniment, i, en la mesura que s’entenia així, amb l’activitat lògica i mental del coneixement conscient. Moltes de les discussions sobre el concepte han posat l’èmfasi en la crítica al dualisme ment-cos, i han assenyalat que l’activitat cognitiva no és només una dimensió purament psicologicomental, ni tampoc una dimensió necessàriament o exclusivament conscient, sinó que també involucra aspectes sensibles, emocionals, afectius i inconscients que integren processos corporals i somàtics. Aquesta visió dona lloc a una crítica del concepte d’intel·ligència que assenyala la necessitat d’atribuir cognició també a certs processos materials o a agents no humans, entre els quals hi ha els artefactes i els sistemes tècnics.

És en aquesta línia, que advoca per entendre la intel·ligència des de marcs més amplis, que se situen propostes com la de N. Katherine Hayles, que assenyala la continuïtat cognitiva que hi ha entre la dimensió conscient de l’ésser humà i parts d’ell mateix no conscients, com alguns processos cel·lulars, químics o digestius. Quan mengem, el nostre sistema digestiu opera des d’un coneixement que podríem denominar procedimental: és capaç de separar nutrients i eliminar elements que poden ser tòxics, i alhora sap distribuir perfectament l’energia que aquests nutrients aporten a les diferents parts del cos que ho requereixen. Tot això, a més, s’esdevé sense que nosaltres no en siguem ni remotament conscients. Tanmateix, és aquest coneixement somàtic el que fa possible que hi hagi qualsevol altre tipus d’activitat cognitiva conscient. Això, però, no només s’escau dins dels límits del cos humà, sinó que també podria atribuir-se a altres agents no humans, com ara les plantes i els sistemes tècnics. Al llibre Unthought, Hayles afirma que:

La consciència ocupa una posició central en el nostre pensament, no perquè sigui la totalitat de la cognició, sinó perquè crea narratives (de vegades fictícies) que donen sentit a les nostres vides i són el suport de suposicions bàsiques sobre la coherència del món. La cognició, però, és una capacitat molt més àmplia, que s’estén més enllà de la consciència a altres processos neurològics del cervell: també és present en altres formes de vida i en sistemes tècnics complexos.[1]

Convé subratllar que aquestes capes de «cognició no conscient» no són, però, alienes a la consciència: les seves relacions constitueixen acoblaments cognitius complexos, distribuïts a escales diferents i entre agents diferents. Aquests acoblaments inclouen interfícies, circuits de comunicació, sensors, agents, processadors, mitjans d’emmagatzematge, xarxes de distribució, components humans, biològics, tècnics i materials. I es troben en reorganització i reconfiguració constant: no són xarxes definides i estables, sinó processos en transició permanent, que afegeixen i eliminen elements i reorganitzen les connexions entre si.

Proposem pensar en la IA des d’aquesta perspectiva de cognició distribuïda, i evitar pensar-hi des d’imaginaris prometeics, antropocèntrics i grandiloqüents, que solen associar-la a un moment de gran revelació o singularitat tecnològica en el qual la màquina podria adquirir autoconsciència. En realitat, la IA és una cosa molt més prosaica, i forma part de la nostra quotidianitat: des dels assistents digitals com la Siri fins a sistemes de recomanació personalitzada. Per tant, en comptes de veure-la com una cosa analògica, superior o autònoma als éssers humans, pensar-la com un agent més entre els acoblaments de cognició distribuïda pot fer que, en comptes de cenyir-nos a les lògiques dicotòmiques, competitives o de substitució entre l’humà i la màquina, pensem en possibles formes d’articulació desitjades, que aprofitin el capital cognitiu diferencial de tots dos, en sinergies més complementàries que no pas excloents, més cooperatives que no pas competitives.

Per abordar la nostra relació amb els acoblaments cognitius tècnics des d’aquest paradigma potser abans hauríem d’ampliar l’espectre de la corporalitat, per entendre en quina mesura ja cooperem a fer que es desenvolupi. Hem eixamplat la idea d’intel·ligència, superant el dualisme ment-cos; en canvi, sembla que continuem concebent el cos únicament i exclusiva des d’un paradigma biologicosomàtic. La realitat corporal, però, també es pot imaginar des de marcs més amplis, que incloguin la complexitat amb què els cossos somàtics formen realitats corpòries amb altres dimensions no només orgàniques, sinó també tècniques. En aquest sentit, podem pensar en les dades com en un segon cos, un cos exosomàtic, que és fora del cos però que, tanmateix, manté una relació d’interdependència i coconstitució amb el que és somàtic. I resulta que els nostres «cossos de dades» són d’una importància extrema per a l’entrenament de les IA: com més dades tingui una IA per entrenar-se, més precises seran les generalitzacions que farà, i més complexos i sofisticats resultaran els patrons que identificarà.

De fet, els últims avenços en cognició tècnica es basen més en la quantitat de dades i en la capacitat d’emmagatzematge i processament que no pas en la destresa algorítmica –tal com volen fer creure les grans companyies tecnològiques. A l’article «The Steep Cost of Capture» [El cost elevat de la captura], Meredith Whittaker il·lustra aquesta realitat amb el cas d’AlexNet, un algoritme molt eficaç en el reconeixement predictiu de patrons que el 2012 va guanyar el concurs ImageNet Large Scale Visual Recognition Challenge i es va convertir en un referent de la història recent de la IA. Tanmateix, com afirma l’autora, «L’algoritme AlexNet es basava en tècniques d’aprenentatge automàtic de feia quasi dues dècades. No va ser l’algoritme el que va comportar un gran progrés: va ser el que l’algoritme podia fer en combinar-se amb dades a gran escala i recursos computacionals».[2] Per tant, és el potencial cognitiu implícit en l’agregació dels nostres cossos de dades el que dona lloc als últims avenços en IA.

Això implica que podem concebre les IA com un producte de la força col·lectiva que és objecte, ara mateix, d’«una captura comercialitzada del que abans era part del patrimoni comú», o d’«una privatització furtiva, una extracció del valor del coneixement dels béns públics»,[3] tal com suggereixen Kate Crawford o Matteo Pasquinelli, que parla d’un «règim d’extractivisme cognitiu»[4] per referir-se a la relació colonial entre la IA corporativa i la producció de coneixement com un bé comú. Per tant, en comptes d’atribuir el mèrit de desenvolupar tecnologies extraordinàries a les grans corporacions, hauríem de considerar la seva activitat com una forma de saqueig i espoli que impedeix que aquestes tecnologies assoleixin el seu potencial social ple, perquè privilegien els seus interessos privats. I això no només pels beneficis enormes que algunes aplicacions concretes els reporten, sinó perquè la IA s’ha convertit en part del que Marx va anomenar «condicions generals de producció»: les tecnologies, institucions i pràctiques que conformen l’entorn de la producció capitalista en un lloc i un temps determinats. Això mena experts com Nick Dyer-Whiteford a parlar d’«IA infraestructural»:

Si la IA es converteix en la nova electricitat, s’aplicarà no només com una forma intensificada d’automatització del lloc de treball, sinó també com a base per a una reorganització infraestructural profunda i àmplia de l’economia capitalista com a tal. La ubiqüitat de la IA implica que no prendria la forma d’una eina particular desplegada per capitalistes individuals, sinó que, com l’electricitat i les telecomunicacions, seria una infraestructura –els mitjans de cognició– pressuposada pels processos de producció de totes i cadascuna de les empreses capitalistes. Com a tal, seria una condició general de la producció.[5]

Amb el concepte de «mitjans de cognició» es pretén assenyalar la substitució de la percepció i la cognició humanes per una infraestructura tecnològica entrellaçada amb els mitjans de producció i els mitjans de transport i comunicació. Enfront d’això, la seva proposta és la d’una «IA comunista», que no consistiria en l’automatització dels processos productius seguida de la instauració d’una renda bàsica universal (com proposen els acceleracionistes), sinó en l’expropiació del capital-IA, el desenvolupament de noves formes de propietat col·lectiva de la IA i l’aplicació de la IA a la col·lectivització d’altres sectors. Considerem que això ens pot venir donat pel reconeixement de la IA com el resultat de l’agregació del potencial cognitiu dels nostres cossos de dades, i per tant com una utilitat pública computacional que hauria d’estar subjecta al control democràtic.

Abans hem proposat aplicar els principis de la justícia reproductiva a l’àmbit de la sobirania tecnològica, perquè, si acceptem el postulat de les dades com a segon cos, aleshores podem reclamar el dret a l’avortament d’una IA no desitjada, o denunciar els abusos de les grans corporacions que atempten contra la nostra autonomia corporal, però també garantir els mitjans perquè es despleguin d’acord amb els nostres interessos o les nostres necessitats col·lectives. Això passa per desvincular el desenvolupament tecnològic de la lògica del capital, en comptes de centrar-se únicament en possibles aplicacions socialment útils. Per alliberar-ne el potencial transformador, cal que la tecnologia serveixi el bé públic, en comptes del bé privat. A Abolish Silicon Valley [Abolir Silicon Valley],[6] Wendy Liu proposa algunes mesures orientades a aquest objectiu: reclamar l’emprenedoria com un servei públic per a fins no capitalistes; destinar fons d’inversió de titularitat pública per a empreses sense ànim de lucre (generant un accés ampli al finançament); desenvolupar noves formes de propietat de les empreses com a cooperatives de treballadors, amb control sobre la producció; millorar les condicions de treball a la indústria tecnològica i empoderar-ne els treballadors; establir un impost progressiu a la riquesa, i, en última instància, expropiar empreses amb excés de beneficis.

Aquestes mesures haurien de tenir com a objectiu recuperar l’autonomia i el control sobre la IA com a cos expandit (resultat de l’agregació dels nostres cossos de dades, que s’estenen més enllà dels límits de la pell) i com a part d’un acoblament de cognició distribuïda (és a dir, com un element constitutiu de la nostra ment que s’estén més enllà dels límits del nostre crani). Fer explícit aquest vincle pot contribuir a fer que deixem de considerar la IA només com una proesa tècnica vinculada al desenvolupament d’algoritmes i independent de nosaltres, i comencem a veure-la com un bé comú que cal gestionar col·lectivament i que hauria de servir per a propòsits més lloables que el reconeixement facial o la publicitat dirigida. Per tant, no es tracta de condemnar-la com una possible amenaça a la nostra espècie (ja sigui en forma de superintel·ligència malvada disposada a aniquilar-nos, ja sigui en forma de robots que ens prendran la feina), ni de celebrar-la acríticament com una tecnologia neutral capaç de solucionar-nos tots els problemes. Es tracta d’invertir en el desenvolupament, l’avaluació i la implementació de la IA com una extensió de la nostra realitat corporal i dels nostres processos cognitius.

[1] N. Katherine Hayles (2017), Unthought. The Power of Cognitive Nonconscious. Chicago: University of Chicago Press.

[2] Meredith Whittaker, «The Steep Cost of Capture». A: Interactions, XXVIII (6), desembre del 2021, p. 52. Disponible a: https://dl.acm.org/doi/pdf/10.1145/3498853.

[3] Kate Crawford (2021), Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Cumberland: Yale University Press.

[4] Matteo Pasquinelli i Vladan Joler, «The Nooscope Manifested: Artificial Intelligence as Instrument of Knowledge Extractivism». KIM Research Group (Karlsruhe University of Arts and Design) i Share Lab (Novi Sad), 1 de maig del 2020. Disponible a: https://nooscope.ai.

[5] Nick Dyer-Witheford, Atle Mikkola Kjøsen i James Steinhoff (2019), Inhuman Power: Artificial Intelligence and the Future of Capitalism. Londres: Pluto Press.

[6] Wendy Liu (2020). Abolish Silicon Valley: How to Liberate Technology from Capitalism. Londres: Penguin Random House.