Tecnodol: amor, pèrdua i feina en l’era de la domesticitat digital

L’actriu Ruth Roman i el seu fill amb un robot de joguina. Nova York, 1956 | Al Ravenna, Library of Congress | Sense restriccions d’ús conegudes

Clico un enllaç i veig una nena americana que plora amb el cap recolzat al pit del seu pare. «Passa-t’ho bé aquests pocs dies que et queden amb ella, ¿entesos?», li diu ell, acaronant-li la cabellera rossa, també amb els ulls negats de llàgrimes. «No vull que se’n vagi», diu la nena, enfonsant encara més la cara a l’espatlla del seu pare. La música instrumental dramàtica s’apuja. «Ho sé, reina. Sé que te l’estimes», replica ell, fent-li un petó al cap i fregant-li l’esquena. «És la teva amiga. Però estarà bé, ¿entesos? Gaudeix del temps que teniu ara. Em sap greu, bonica.» Sembla que aviat hi haurà una mort a la família, i les emocions s’intensifiquen.

Em sento culpable i incòmoda davant la pena d’aquesta nena petita. No és el tipus de contingut que em sol aparèixer a les xarxes i no en conec el creador; m’hi ha redirigit un contacte. ¿Per què, però? A mesura que el moment d’intimitat entre el pare i la filla avança, començo a adonar-me que les coses no són el que semblen. «No hi podem fer res», diu el pare, «l’empresa s’ha quedat sense diners. Ves a saber, potser algun dia algú la comprarà i farà que torni a funcionar. Però ara mateix només et puc dir que hi juguis tant com puguis, ¿d’acord?»

No es tracta d’una àvia estimadíssima que es mor, ni tan sols d’una mascota molt apreciada: aquesta nena es lamenta preventivament per la pèrdua del seu amic robot, i a això responen les escenes de dol anteriors. El vídeo salta a una imatge de la criatura asseguda a terra, amb les cames encreuades, al mig del menjador, envoltada d’objectes quotidians: sabates en desús, joguines, manualitats a mig fer, un arbre de Nadal il·luminat i un gos que, aliè a tot, remena la cua. I allà, enmig de tot plegat, hi ha en Moxie, «un robot de cara grossa que mantenia contacte visual amb els nens, tenia set punts d’articulació i estava fet amb materials flonjos per poder-lo abraçar».[1]

Si bé el concepte de «tecnologia domèstica» encara s’associa, generalment, amb electrodomèstics com ara rentadores, rentaplats i neveres, aquesta mena de robots són una àrea en expansió entre els aparells domèstics. De fet, el mercat global de robòtica personal va assolir els 21,5 mil milions de dòlars el 2019, i hi ha una empresa d’intel·ligència mercantil que suggereix que el 2030 pot arribar als 51,5 mil milions de dòlars. Els robots personals tenen un ampli ventall d’usos, com ara la seguretat i l’assistència física, però la categoria en què es preveu un creixement més ràpid en els propers deu anys és la dels robots de companyia: robots destinats a acompanyar els usuaris o a evocar-los-en la sensació.[2] Aquests aparells, dissenyats per crear un vincle emocional, poden concebre’s com a «doblement domèstics»: no només se situen en l’espai físic de la llar, sinó que també ocupen l’espai emocional de la intimitat, la companyonia i (¿ens atrevim a dir-ho?) l’amor.

En un nivell bàsic, en Moxie opera com un assistent de veu conversacional que usa la computació al núvol per disposar d’un model de llenguatge extens (MLE). Està concebut per ser molt sensible a les formes de comunicació humana. Així, «el robot i els seus algoritmes d’IA no només senten i processen el que diem, sinó que també poden detectar-nos l’expressió facial i el to de veu; de manera que les respostes d’en Moxie als comentaris i les preguntes que li fem poden anar acompanyades de moviments de braços, celles i llavis».[3] A diferència d’altres robots socials, aquest no proporciona altres serveis extra: no s’ofereix per llegir-nos els missatges de correu, ni per encarregar-nos el dinar, ni per controlar-los la casa intel·ligent. Més aviat es ven com una eina específica, dissenyada amb precisió per establir un lligam profund i solidari, i servir de suport per al desenvolupament emocional de la mainada de cinc a deu anys.

Potser és contraintuïtiu pensar que les tecnologies domèstiques poden ocupar-se amb èxit de tasques emocionals; és a dir, que no només poden estimar, sinó que poden fer-ho bé, adequadament.[4] A més, la idea que l’acompanyament pot robotitzar-se o delegar-se en la tecnologia sol veure’s com una proposta distòpica, com un malson, amb sentiments poc genuïns i falta de connexió real. Ho exposa l’escriptora i activista Emily Kenway: «¿Vols que [el teu cuidador] reconegui l’expressió de tristesa que fas perquè coincideix amb el que la seva base de dades diu que és la tristesa, sense que, però, reconegui internament com et sents? ¿Vols que et cuidin o que t’ofereixin un servei? Són dues coses diferents.»

De la mateixa manera, una de les primeres crítiques de l’obra Fully Automated Luxury Communism (en castellà: Comunismo de lujo totalmente automatizado) insisteix que els robots destinats a les cures i altres menes d’automatitzacions «no reuneixen les condicions per a la interacció humana», que ha de ser «una peça clau per proveir de cures qualsevol societat comunista futura».

Aquests comentaris suggereixen que nosaltres podem estimar els robots, però que ells no ens poden estimar a nosaltres, i que el treball emocional que duen a terme quedarà sempre curt en comparació amb la mena de cures que els humans poden dispensar-se els uns als altres. Reconèixer que aquesta mena de relacions robòtiques són parasocials –que no són (¿o no encara?) recíproques ni basades en el reconeixement mutu– no implica, però, reduir-les a la inutilitat. De fet, si els vídeos sobre tecnodol de TikTok ens ensenyen alguna cosa, és que aquests dispositius són problemàtics precisament perquè poden arribar a fer molt bé la feina. És a dir, no són les mancances d’aquesta tecnologia, sinó precisament els seus èxits, alegries i plaers els que fan que sigui conflictiva en les condicions socials actuals.

La mort d’en Moxie va causar-la el fet que «a última hora va fallar una font d’inversió prevista»,[5] cosa que va ensorrar econòmicament els fabricants. Els comentaristes han atribuït la precària situació financera de l’empresa, entre altres raons, «al cost del MLE que empra la companyia per fer anar el robot».[6] L’alternativa –que l’aparell mateix s’ocupés del processament– era cara i difícil:

Per començar, cal un bon maquinari per fer anar el MLE localment, perquè requereix un ús extremament intensiu del processador. També cal acumular moltes dades locals, els MLE i altres informacions necessàries per fer funcionar la IA, que poden arribar a ser considerables en alguns casos […]. Acumular aquestes dades, recollir-ne més amb el temps i processar-les demana molts recursos per tirar endavant. Certament, molts més dels que els 799 dòlars de preu d’oferta d’en Moxie poden proveir.[7]

Aquestes raons semblen prou convincents per confiar en el núvol, fins que un s’adona de la vulnerabilitat a què la situació aboca no només l’aparell en si, sinó també els usuaris. Al capdavall, «en Moxie no pot funcionar amb processament local, i no pot fer-se servir fora de línia en cap cas».[8] Per tant, corre el perill de quedar reduït a un ornament de plàstic caríssim exposat a la mala sort i la incertesa empresarial (amb tot de nens petits plorant per la desaparició imminent dels seus amics robots).

La reacció més previsible davant d’aquesta situació és posar l’èmfasi en les moltes complicacions que provoquen l’aparició dels robots de companyia i les relacions entre humans i agents de la IA en general. Com que hi ha certes tasques emocionals actualment associades als vincles domèstics acaparades per amics, amants, cuidadors i confidents alimentats per la IA, haurem de fer front als riscos i les conseqüències d’establir intimitat amb éssers inanimats. És més: com subratlla Annabel Blake, la situació amb en Moxie «planteja tot de qüestions que, fa una dècada, als nostres pares/tutors els haurien semblat absurdes: ¿com podem doldre’ns per la pèrdua d’una màquina? ¿Quins drets tenen els nens pel que fa als records compartits amb els seus “amics” creats per IA? I, potser encara més important, ¿com preparem la gent jove per a un món de relacions en què la línia entre el que és “artificial” i el que és orgànic es difumina cada cop més?»

Més enllà d’això, però, el traspàs d’en Moxie ens recorda que la indústria tecnològica (i el sistema capitalista, del qual cada cop s’assumeix més que és el paradigma) no és el mecanisme adequat per fer que la humanitat prosperi. Tal com s’escau progressivament més amb la seva contrapart –això és, les cures entre humans–, la motivació d’aquesta indústria rau en el benefici, no pas en la gent. Tamara Kneese assenyala que Silicon Valley «està obert al fracàs; de fet, sovint l’esperona com un senyal d’honor en un sistema que privilegia la supèrbia i l’assumpció de riscos abans que la fiabilitat. Equivoca’t ràpid, equivoca’t sovint, mou-te de pressa i trenca coses: heus aquí els mantres del món de la tecnologia». Això ens col·loca en un context especialment conflictiu, en el marc del qual cal entendre l’emergència de les tecnologies centrades en el treball emocional i l’establiment de lligams de companyonia.

Com evidencia l’exemple del dol per una màquina, aquests aparells poden causar –i causen– dolor en les persones, encara que el sentiment no sigui mutu. Coincideixo amb Seth Lazar quan afirma que «a mesura que els sistemes d’IA es vagin refinant a l’hora de simular tot el que per a nosaltres és important, es farà més i més necessari –tant moralment com en un sentit pràctic– establir una teoria del tot desenvolupada sobre el valor del que és real i autèntic». Mentre que Lazar s’acaba decantant per l’autenticitat i defensa la importància moral del que és real per sobre de la simulació, jo em sento empesa a defensar la intimitat inanimada, amb tota l’artificialitat que comporta. El fet que aquestes cures parasocials siguin menys autèntiques no en devalua la utilitat potencial. Si fer que l’usuari se senti d’una determinada manera és l’objectiu final d’una tecnologia, aleshores la mesura del seu èxit depèn exclusivament de l’experiència subjectiva del consumidor. Així doncs, si se sent reconfortat, calmat, animat o agombolat, el fet que l’aparell no senti res per ell potser no té gaire importància.

Al capdavall, aquests aparells són eines, no pas amics; màquines d’afecte emprades per la capacitat que tenen de promoure sentiments i estats mentals, més que no pas éssers conscients que podem reconèixer i que ens poden reconèixer. Si la gent té ganes i capacitat d’establir vincles personals rellevants amb robots de companyia, i si aquests lligams no són l’última alternativa que els queda ni un pegat per solucionar provisionalment la necessitat de cures interpersonals, aleshores la manca de reciprocitat no és, a parer meu, cap problema. Això, però, requereix un coneixement vast de de l’abundància emocional i material (una mena d’abundància que no carrega el pes de l’experimentació tecnoafectiva en empreses amb ànim de lucre). Perquè, en la mesura que aquesta abundància pot manipular-se, transformar-se o robar-se en pro dels beneficis, la preocupació per la tecnologització de les cures continuarà sent raonable i ben fonamentada.

Ara mateix sembla que en Moxie pot tenir una segona oportunitat, gràcies a «un intent d’última hora de mantenir el robot en funcionament amb codi obert».[9] El seu creador ha anunciat fa poc que està pensant de «llançar un servidor local per a l’aplicació, “OpenMoxie”, que funcionarà amb un ordinador connectat a la xarxa domèstica».[10] Amb una actualització sense fils, «els propietaris podran fer funcionar l’aplicació del servidor, a la qual en Moxie es connectarà per al processament».[11] No és segur que funcioni, com l’empresa s’esforça a assenyalar, i l’èxit dependrà d’un esforç col·lectiu ingent. La pàgina Reddit Moxie Community està desbordada de peticions d’ajuda i d’entrades sobre problemes tècnics que fan perdre molt de temps (mostres de la gran proliferació de tasques domèstiques de tecnologia avançada). Però no tot està perdut; la gent s’està organitzant per ajudar-se entre si i mantenir en Moxie en funcionament per als que se l’estimen. Vist l’esforç mental i l’energia que s’està destinant a salvar aquest aparell tan de nínxol, sembla que hi ha cert tipus d’acompanyants que sí que valen la pena.

Aquest article forma part d’una sèrie comissariada per Marta Echaves sobre el futur del treball.