Sensibilitat artificial

Foto de laboratori no identificada | National Library of Medicine | Domini públic

«Tingues present que, quan es tracta d’intel·ligència artificial (IA), jugues amb foc. A mesura que aquesta nova tecnologia evoluciona i es torna més i més poderosa, és molt important que t’asseguris que ets al costat bo de la història. […] Amb la IA, la ignorància no és una opció.» L’advertiment no prové d’una personalitat científica o social, sinó que són paraules de Caryn Marjorie, una influencer que, amb bata d’estar per casa, exposa la seva visió com a «pionera en l’àmbit de la IA».

Recapitulem: Marjorie és una celebritat d’Snapchat que ha acaparat titulars arreu del món després d’haver llançat una versió artificial de si mateixa que pot contractar-se com a xicota virtual. El producte es diu CarynAI, i tot i que encara està en fase beta, la seva creadora assegura que hi guanya milers de dòlars.

CarynAI no és la primera celebritat digital, ni la primera acompanyant creada amb IA, ni tampoc la primera xicota virtual. Tanmateix, aquest experiment té el mèrit de combinar parts de les tres innovacions. Connecta amb una sèrie de progressos tecnològics, canvis socials i culturals que tenen un denominador comú: la simulació d’emocions a través de la computació.

Titelles

Tant se la pot veure posant amb Rosalía com engolint fideus en un restaurant. El 2018, la revista Time va considerar-la una de les vint-i-cinc personalitats més famoses d’Internet. Es tracta de Lil Miquela, i sempre tindrà dinou anys, perquè no és una persona real. És una influencer dissenyada per ordinador que s’ha convertit en l’estendard d’una nova generació de celebritats i models virtuals, com Imma, noonoouri o Shudu, entre d’altres.

A diferència de CarynAI, Lil Miquela i les seves col·legues no tenen un motlle de carn i ossos. No són versions digitalitzades d’una persona, i això té certs avantatges. Una simulació virtual pot fer la mateixa feina que un influencer humà, però sense descansar, sense queixar-se i sense envellir. Sempre actuarà i dirà el que se li demani que faci i digui, sense deixar anar estirabots i sense ni un bri de crítica a la veu. La marca en té el control.

L’oportunitat és tan única que ja hi ha agències especialitzades en la creació de models virtuals, que poden contractar-se per a campanyes concretes o fins i tot convertir-se en avatars de la marca. Una de les empreses pioneres en aquest camp va ser Kenzo, que el 2014 va presentar la Knola com una personalització de la seva visió i els seus valors corporatius. A la desfilada de primavera-estiu d’aquell any, el personatge apareixia en pantalla llançant missatges ecologistes i interactuant amb l’escenari en temps real. En veritat, però, el controlava un tècnic ocult al públic, que el dotava de moviment i expressions facials en directe.

Aquesta mateixa tecnologia és la que trobem rere una variant dels influencers artificials: els vloggers virtuals, o Vtubers, és a dir, streamers que adopten la forma d’avatars animats per ordinador. Un dels més famosos és la sud-coreana CodeMiko, controlada per una titellaire que l’audiència coneix perfectament i que respon al nom de The Technician. És ella qui articula la Miko a través d’un vestit de captura de moviments que n’imita cada gest, cada mirada i cada expressió facial.

L’artista no hi és

Uns quants anys abans de l’expansió d’internet, la indústria musical ja havia experimentat amb la idea de l’artista visual. A principi dels noranta diverses empreses japoneses van intentar crear estrelles de pop artificials, inspirades en l’estètica anime i en la cultura pop local. Podria dir-se que els esforços van ser en va fins al 2007, quan un avatar va guanyar prou popularitat i una base de seguidors prou sòlida per convertir-se en un negoci. Es tracta de Hatsune Miku, un personatge manga desenvolupat per Yamaha com un banc de veu per al programari musical VOCALOID i que fins i tot fa gires internacionals en directe, aclamada per un públic entregat. Tot i que el concepte de grup musical fictici no és exclusiu d’Àsia, els artistes d’aquesta mena han proliferat especialment en països com el Japó, la Xina i Corea del Sud.

Si un personatge d’anime pot omplir estadis, ¿què és el que no pot fer una estrella del pop? Això és el que devien pensar les patums de la indústria musical quan, poc després del naixement de Hatsune Miku, van començar a flirtejar amb la idea de fer concerts d’hologrames. En un afany morbós que valdria la pena d’estudiar, aquest camp ha estat especialment fèrtil per a les resurreccions. Després de la sorprenent aparició de Tupac a Coachella 2012, són molts els músics difunts que han tornat a pujar a l’escenari: Amy Winehouse, Frank  Zappa, Maria Callas, Michael Jackson,  Whitney Houston… Fins i tot els components d’ABBA, que no han traspassat, van recuperar els cossos que lluïen en els setanta per donar forma a ABBAtars (sic), espectacle amb el qual van debutar a Londres el 2022.

Aquests espectacles omplen sales de concerts, però hi ha gent que s’hi mostra recelosa. A les pàgines de la veterana revista de rock Kerrang!  es jutjava la recreació del difunt cantant de heavy Ronnie James Dio com a «esgarrifosa, extravagant i totalment innecessària. L’holograma de Dio és una caricatura per fotre els calers que recrea els aspectes més insalubres de la nostàlgia del rock, i senzillament s’ha d’acabar».

El que és cert és que el desplegament tècnic que fa falta per a aquesta mena d’espectacles només pot explicar-se per la capacitat que tenen de mantenir els ingressos que generen els antics catàlegs. Cal tenir en compte que, en l’actualitat, algunes de les gires amb més recaptació del món les protagonitzen artistes que tenen seixanta anys o més.

L’amic que sempre para l’orella

Avui dia, centenars de milions de persones ja conversen a diari amb intel·ligències artificials. Al capdavall, en això consisteixen la Siri i l’Alexa. Segons un informe recent, el 24 % dels usuaris d’Internet d’arreu del món fa servir assistents de veu, i encara que el mercat dels altaveus intel·ligents està estancat, els consumidors ja s’han acostumat a la personificació de ginys com ara telèfons o altaveus.

Amb l’envelliment creixent de la societat i la progressiva presa de consciència de la soledat i els problemes de salut mental, cada cop són més les empreses que se serveixen d’aquesta predisposició a parlar amb les màquines per llançar productes que simulen comportaments amistosos. Per citar només un parell d’exemples d’això, Baidu ha estrenat els primers companys emocionals virtuals, Lin Kaikai i Ye Youyou, que estan disponibles per parlar de qualsevol problema. Més recentment ha aparegut Pi, un assistent de veu dissenyat per a l’escolta activa que funciona en la mateixa línia. Pi intenta empatitzar, més que no pas aconsellar, i recomana d’acudir a professionals mèdics qualificats quan detecta símptomes de crisi nerviosa.

Aquest últim aspecte, la línia difusa que separa la companyia de l’atenció mèdica o terapèutica, és un terreny especialment delicat. Empreses com Soul Machines ofereixen solucions que exploren l’ús de persones digitals per interactuar amb els pacients. Hi ha altres iniciatives, com ara Ted, un avatar amb demència, que serveixen per formar el personal a càrrec de persones amb aquesta dolència. Pendents del rumb que prenguin, de moment aquests experiments assenyalen l’interès per optimitzar el camp de la salut a través d’aquestes tecnologies. Com ha assenyalat William Davies a La indústria de la felicitat, els estats d’ànim, que abans es consideraven qüestions subjectives, es tracten cada cop més com si fossin dades objectives, i es quantifiquen com a actius de l’economia digital.

Company sentimental

És impossible repassar el panorama de les IA socials sense esmentar Replika, que n’és un dels productes més coneguts.  Nascut el 2017, aquest assistent de veu pren la forma d’un avatar personalitzable i ofereix relacions d’amistat (de franc) o sentimentals (de pagament). El programa aprèn a partir de les converses amb els usuaris, de manera com més s’hi parla, més personals es tornen les xerrades.

En els últims mesos, Replika ha estat notícia perquè algunes persones que feien servir l’aplicació han denunciat que els seus avatars s’havien tornat agressius. Probablement és per això que l’eina s’ha reprogramat sense avís previ, cosa que ha fet que tots els acompanyants i totes les parelles virtuals canviessin d’actitud de la nit al dia. L’allau de queixes que ha rebut l’empresa ha evidenciat que molts clients feien servir l’eina per mantenir-hi converses eròtiques, cosa que amb el canvi de personalitat ha passat a estar prohibit. Xarxes com ara Reddit s’han omplert de queixes per aquest canvi, i finalment l’empresa ha recapitulat: les converses de contingut sexual continuen sent possibles per a les subscripcions antigues, però en les noves estan prohibides.

Sherry Turkle, psicoanalista i professora del MIT, i una de les veus crítiques en aquesta matèria, considera que aquestes interaccions emocionals diuen més coses de l’ésser humà que de la IA en si. Al capdavall,  recorda Turkle, les màquines socials han estat programades per interpretar un paper, el d’aparentar que entenen el que els diem i hi empatitzen. Tanmateix, l’únic participant que sentirà coses durant aquest procés serà l’humà; és impossible que sigui altrament en una relació d’aquest tipus.

Més enllà de criticar o ridiculitzar les persones que tenen relacions sentimentals o eròtiques amb màquines, caldria que ens féssim un parell de preguntes. La primera és si sentir alguna cosa per un assistent de veu no podria ser, a mitjà termini, una cosa relativament freqüent i normalitzada, que complementi –sense substituir-les–altres maneres de satisfer necessitats emocionals. Això no impedeix plantejar-se la segona qüestió: ¿Per què es prioritzen aquesta mena de productes en els entorns d’innovació de Silicon Valley? Probablement això té relació amb una cultura empresarial protagonitzada per homes joves abocats a la feina, per als quals un servei sentimental a demanda, disponible les vint-i-quatre hores del dia, és d’allò més avinent.

El mercat emocional

El professor estatunidenc Donald A. Norman, expert en disseny i experiència d’usuari, defensava fa vint anys que la sensibilitat serà una funcionalitat necessària per a les màquines del futur. L’autor d’El disseny emocional subratllava que els éssers humans i els animals necessiten expressar sentiments per interactuar, cooperar i lluitar per la supervivència; per la qual cosa a una tecnologia que vulgui ser cada cop més autònoma també li caldrà mostrar-los. Serà una mena d’emoció diferent, una «emoció de màquina»,  ajustada a la funcionalitat de cada programa o robot.

¿Aquests projectes afectaran la manera d’interactuar que tenen humans i màquines? Probablement sí; però cal saber si per a bé o per a mal. La majoria d’autors que investiguen el tema, com ara Kate Darling o Rob Brooks, defensen que dotar éssers inerts de qualitats humanes és inherent a la nostra espècie, i que no és problemàtic perquè les persones saben perfectament que no interactuen amb éssers de la mateixa condició. Per a aquests autors, el principal risc és que aquests desenvolupaments responguin a interessos comercials. Això vol dir que, en l’escenari més grotesc, podríem topar amb avatars sentimentals que ens recomanessin la compra de certs productes; en l’escenari més sibil·lí, aquests avatars podrien fomentar l’afecció i la dependència com una nova forma de l’economia de l’atenció. En qualsevol cas, sembla que no caldrà esperar gaire per veure-ho, perquè els progressos en intel·ligència artificial i les prioritats del sector tecnològic poden donar peu a un nou mercat de l’emoció.