Tecnoduelo: amor, pérdida y trabajo en la era de la domesticidad digital

La actriz Ruth Roman y su hijo con un robot de juguete. Nueva York, 1956 | Al Ravenna, Library of Congress | Sin restricciones de uso conocidas

Hago clic en un enlace y veo a una niña estadounidense llorando con la cabeza apoyada en el pecho de su padre. «Disfruta de los pocos días que te quedan con ella, ¿vale?», le dice con lágrimas en los ojos el padre mientras acaricia su cabello rubio. «No quiero que se vaya», dice la niña apretando con más fuerza la cara contra el hombro de su padre. Un tema instrumental dramático los arropa. «Lo sé, cariño. Sé que te encanta». La besa en lo alto de la cabeza, le frota la espalda. «Es tu amiga. Pero todo va a salir bien, ¿de acuerdo? Disfruta del tiempo que tienes ahora, ¿vale? Lo siento, cariño». Parece ser que pronto se producirá una muerte en la familia y las emociones están a flor de piel.

Me entristece e incomoda ver el dolor de esta niña pequeña. No es el tipo de contenido que suele aparecer en mi feed y no sigo al creador; más bien me ha dirigido hasta aquí un contacto de las redes sociales. Pero ¿por qué? A medida que se desarrolla el momento íntimo entre padre e hija empiezo a darme cuenta de que las cosas no son lo que parece. «De verdad que no podemos hacer nada  −le explica con delicadeza el padre−, porque la empresa se ha quedado sin dinero. Y ¿quién sabe? Tal vez alguien sea capaz de comprar la empresa y volver a ponerla en marcha. Pero ahora mismo solo quiero que juegues con ella tanto, tantísimo como puedas, ¿vale?»

Entonces no se trata de una apreciada abuela a punto de fallecer, ni siquiera de una mascota muy querida. Al contrario, la niña está pasando un duelo preventivo por su robot de compañía, y por eso me han enviado escenas de su dolor. El vídeo cambia a una escena de la niña sentada con las piernas cruzadas en el suelo de la sala de estar, rodeada de objetos cotidianos: zapatos, juguetes y manualidades desperdigados, un árbol de Navidad encendido y un perro indiferente que mueve la cola. Y ahí, en mitad de todo ello, está Moxie, un «robot de cara grande que mantenía contacto visual con los niños, tenía siete puntos de articulación y estaba hecho de un material suave al tacto para abrazarlo».[1]

Aunque la expresión «tecnología doméstica» sigue estando más asociada con los electrodomésticos tales como lavadoras, lavaplatos y frigoríficos, este tipo de robots son, no obstante, un área de crecimiento real para los dispositivos del hogar. En efecto, en 2019 el mercado mundial de robótica personal alcanzó los veintiún mil millones y medio de dólares, y una empresa de investigación de mercados ha llegado a sugerir que cabría esperar que en 2030 alcanzase los cincuenta y un mil millones y medio de dólares. Los robots personales ofrecen una variedad de usos, como seguridad y asistencia física, por ejemplo. Pero la categoría que se prevé que registre el crecimiento más rápido en los próximos diez años es la de los robots de compañía: robots destinados a hacerle compañía al usuario, o a evocar una sensación de acompañamiento.[2] Diseñados para generar una conexión relacional, estos dispositivos pueden considerarse domésticos por partida doble: se sitúan no solo en el espacio físico del hogar, sino en el espacio afectivo de la intimidad, la unión y (¿me atrevo a decirlo?) el amor.

A nivel básico, Moxie opera como un chatbot conversacional que utiliza el procesamiento en la nube para ejecutar un modelo extenso de lenguaje (o LLM, según las siglas en inglés). Está diseñado para tener la máxima capacidad de respuesta en formas que se superponen a la comunicación humana. El «robot y sus algoritmos de IA no solo escucha y procesa lo que tengas que decir, sino que puede detectar tus expresiones faciales y el tono de tu voz. Esto dará lugar a respuestas de Moxie a tus comentarios y preguntas, acompañado de movimientos de brazos, cejas y boca».[3] A diferencia de otros robots sociales, este dispositivo no incluye funciones adicionales; no ofrece la posibilidad de leer tus mensaje de voz, ni de pedirte la cena o controlar tu hogar inteligente. Al contrario, se comercializa como una herramienta mucho más enfocada, diseñada con precisión para fomentar un vínculo profundo y de compañía y para respaldar el desarrollo emocional de niños de cinco a diez años.

Tal vez resulte contraintuivo admitir la idea de que las tecnologías domésticas pueden emprender una labor emocional con éxito, que no solo pueden ofrecer amor, sino hacerlo bien.[4] En efecto, la noción de que el acompañamiento podría robotizarse o externalizarse a la tecnología a menudo se considera una propuesta distópica: una visión aterradora de sentimientos falsos y ausencia de conexión real. Como señala la autora y activista Emily Kenway: «¿Quieres [que tu cuidador] reconozca la expresión de tu rostro como tristeza porque se ajusta a lo que su base de datos interna dice que es tristeza, pero que carezca de un reconocimiento interior de lo que podría sentirse realmente estando triste? ¿Quieres que te presten un servicio o que te cuiden? No es lo mismo.»

Una de las primeras críticas de la obra Fully Automated Luxury Communism (en su versión en español: Comunismo de lujo totalmente automatizado) insiste asimismo en que los robots asistenciales y otras formas de automatización no pueden satisfacer los «requisitos para la interacción humana» que formarán «una parte fundamental de la prestación de cuidados en cualquier sociedad comunista futura». Estos comentarios sugieren que los robots no pueden corresponder el amor que se les brinda y, por tanto, la labor emocional que proporcionan siempre será un sustituto deficiente de los cuidados que pueden prestar los humanos. Pero reconocer que estas relaciones con robots son parasociales −que no son (¿todavía?) recíprocas o no se basan en un reconocimiento mutuo− no quiere decir que haya que menospreciarlas como inefectivas. Es más, si los vídeos sobre tecnoduelo en TikTok pueden enseñarnos algo, es que estos dispositivos resultan problemáticos precisamente por lo bien que funcionan. Es decir, no son las deficiencias de esta tecnología, sino, al contrario, sus satisfacciones, alegrías y éxitos lo que los vuelven tan problemáticos en las circunstancias sociales actuales.

La muerte de Moxie se debió al hecho de que «una ronda de financiación prevista se frustró en el último minuto»,[5] lo que provocó que sus fabricantes quebrasen. Entre otros motivos, los expertos han atribuido la peligrosa situación económica de la empresa al «coste del LLM en la nube que la empresa utiliza para poner en funcionamiento el robot».[6] La alternativa −que el procesamiento se realice en el propio dispositivo− puede ser costosa y difícil:

Para empezar, se necesita un hardware muy pesado para ejecutar los LLM a nivel local, porque requiere un uso muy intensivo del procesador. También hay que almacenar gran cantidad de datos locales, los Modelos Extensos de Lenguaje (LLM) y otra información necesaria para el funcionamiento de la IA, lo que en algunos casos podría suponer un coste considerable […] El almacenamiento de estos datos, la recopilación de más datos conforme pasa el tiempo y su procesamiento precisa de un montón de recursos para su arranque, sin duda alguna un porcentaje demasiado elevado del precio de venta de 799 dólares para que Moxie se ponga en marcha correctamente.[7]

Todo estos motivos parecen justificar su dependencia de la nube, hasta que se tiene en cuenta lo expuesto que deja no solo al dispositivo sino también a sus usuarios. Al fin y al cabo, «Moxie no puede funcionar con un procesamiento local y de ninguna manera puede usarse offline».[8] Por tanto, corre el riesgo de quedar reducido a un adorno de plástico muy caro frente a la mala suerte y la incertidumbre económica (con el resultado de niños pequeños llorando por la inminente marcha de sus amigos robots).

La reacción más evidente ante esta situación consiste en subrayar la afluencia masiva de cuestiones que acompañan al auge de los robots de compañía y, en términos más generales, las relaciones entre los humanos y los agentes de IA. Teniendo en cuenta que una parte del trabajo emocional actualmente asociado con el apego doméstico es absorbido por amigos, amantes, cuidadores y confidentes impulsados por IA, nos enfrentamos cada vez más a los riesgos y consecuencias de las intimidades inanimadas. En efecto, como indica Annabel Blake, la situación general de Moxie «plantea interrogantes que hace una década los padres/guardianes habrían considerado absurdos sobre: ¿Cómo lloramos a las máquinas? ¿Qué derechos deberían tener los niños sobre los recuerdos que han compartido con sus «amigos» de IA? Y lo que tal vez sea más importante: ¿Cómo preparamos a los jóvenes para un mundo donde la línea que separa lo «artificial» de lo orgánico en las relaciones está más y más difuminada?

Además de todo esto, no obstante, la defunción de Moxie nos recuerda que la industria tecnológica (y el sistema capitalista del que se asume cada vez más como paradigmática) no es un mecanismo apropiado a través del cual aspirar a la prosperidad humana colectiva. Como ocurre con una parte cada vez mayor de los cuidados analógicos entre humanos, su motivación radica en los beneficios, no en las personas. Tamara Kneese señala que Silicon Valley está «abierto al fracaso, que a menudo alienta como una medalla de honor en un sistema que privilegia la arrogancia y la toma de riesgos por encima de la fiabilidad. Fracasa rápido, fracasa con frecuencia; muévete rápido y rompe cosas: tales son los mantras del mundo tecnológico». Esto proporciona un contexto especialmente problemático en el que situar la aparición de tecnologías destinadas al trabajo emocional y a los vínculos basados en el acompañamiento.

Como recalca el discurso online del duelo por una máquina, estos dispositivos pueden significar y significan cosas para las personas, a pesar de no se trate de un sentimiento en modo alguno mutuo. Coincido con la afirmación de Seth Lazar de que los «sistemas de IA mejoran más aún la simulación de todo aquello que nos preocupa; una teoría totalmente elaborada del valor de lo real, lo auténtico, será esencial a nivel moral y en la práctica». Aunque en última instancia se decante por la autenticidad, defendiendo el valor moral de «lo auténtico» sobre su simulación, me siento compelida a defender las intimidades inanimadas en toda su artificialidad. Que los cuidados parasociales sean supuestamente menos auténticos no disminuye su utilidad potencial. Si hacer que el usuario se sienta de una cierta manera es el objetivo principal de una tecnología, entonces la experiencia subjetiva de los usuarios representa la única forma de medir su éxito; si el usuario se siente consolado, calmado, alentado o apoyado, el hecho de que el dispositivo no sienta nada a cambio tal vez no revista mucha importancia.

Después de todo, estos dispositivos son herramientas, no amigos; máquinas de afecto utilizadas por su capacidad para inducir sentimientos y estados de ánimo, más que seres conscientes que reconocer y por los que ser reconocidos. Si la gente está dispuesta y capacitada para crear vínculos personalmente significativos con robots de compañía, y estos vínculos no son un plan b ni una tirita frente a la prestación inadecuada de cuidados interpersonales, entonces una falta de reciprocidad resulta, en mi opinión, irrelevante. Sin embargo, esto requiere una cultura más amplia de abundancia emocional y material (un tipo de abundancia que no delegue la mayor parte de la experimentación tecnoafectiva a empresas con ánimo de lucro). Mientras puedan ser manipuladas, transformadas o arrebatadas atendiendo a los resultados, la preocupación en torno a los cuidados tecnologizados continuará siendo razonable y bien fundamentada.

En estos momentos, parece que Moxie podría tener una segunda oportunidad gracias a «una tentativa de código abierto de última hora para mantener al robot en funcionamiento.[9] Su fabricante ha anunciado recientemente que tiene previsto «lanzar una aplicación de servidor local, “OpenMoxie”, que se ejecutará en un ordenador en la red doméstica».[10] Tras una «actualización inalámbrica del propio Moxie, los propietarios pueden ejecutar la aplicación del servidor, a la que Moxie se conectará para su procesamiento».[11] No hay garantía de que esto vaya a funcionar, dado que la empresa se empeña en señalar que su éxito dependerá de un esfuerzo colectivo masivo. La página de Reddit «Moxie Community» está hoy en día inundada con peticiones de ayuda y publicaciones sobre problemas técnicos que requieren mucho tiempo (signos de la gran  proliferación de tareas domésticas de tecnología avanzada). Pero no todo está perdido; la gente está tomando la iniciativa para ayudarse entre sí y mantener a Moxie en funcionamiento para quienes lo aman. Dada la cantidad de reflexiones y energía invertida en rescatar este aparato especializado, parece que algunos acompañantes realmente valen la pena el esfuerzo.

Este artículo forma parte de una serie comisariada por Marta Echaves sobre el futuro del trabajo.