Màquines i humans: hem de parlar

L’auge dels assistents personals virtuals fa necessari plantejar-se qui ajuda qui i fins on delegarem tasques a les màquines.

El robot George esmorzant amb el seu inventor, William Richards. Berlín, 1930

El robot George esmorzant amb el seu inventor, William Richards. Berlín, 1930 | German Federal Archives, Wikipedia | CC-BY-SA 3.0

Cada vegada hi ha més màquines que parlen. Els chatbots i assistents personals virtuals són l’avançada de l’ús de sistemes d’intel·ligència artificial per al consum massiu. La història de les tecnologies de consum és la història d’una creixent delegació de tasques d’humans a màquines, que en general té resultats positius però també suposa una transmissió de poder. Quan deleguem accions a les màquines, permetem a les empreses que les controlen que aprenguin de les nostres interaccions.

El Sr. Stevens ha dedicat tota la seva vida al servei incondicional a altres persones. És atent, fiable i discret: cordial però mai familiar. Organitza i gestiona les tasques de la llar i alhora es preocupa pel «senyor» i les seves persones properes: sempre està a punt per rebre les visites, donar un missatge, servir una copa o atendre algun convidat que no es troba bé. És un professional abnegat, impol·lut i diligent. La convivència i l’atenció fan que, amb el temps, el Sr. Stevens sàpiga anticipar-se a les necessitats i els gustos de les persones que serveix. Es deu a la seva feina de majordom i això és, com explica la pel·lícula The Remains of The Day (1993), un orgull al qual dedica tota la vida.

Al llarg de la història, les classes dominants s’han servit de les subalternes per alleugerir (i fer més agradables) les seves tasques del dia a dia. Avui, Google ens recorda quan hem de sortir de casa per agafar un vol, ens organitza les fotos de les vacances sense que l’hi demanem o ens avisa si podem trobar retencions. De vegades també ens pregunta què ens ha semblat aquell restaurant o aquell altre. A la seva manera, la màquina ens diu que hi és per «donar-nos un cop de mà».

La idea d’assistència està en el cor dels imaginaris que emmarquen les nostres concepcions sobre el que han estat, són i seran les tecnologies. A la fi del segle XIX, igual que ara, l’automatització de la força de treball alimentava la por de les classes treballadores. En aquest context, Oscar Wilde coquetejava amb el socialisme utòpic quan escrivia que «sota condicions favorables, la màquina s’encarregarà de tota feina no intel·lectual, tota tasca monòtona i avorrida que impliqui condicions desagradables». La tensió entre la narrativa de la màquina com a instrument opressor i simultàniament com a promesa alliberadora es feia present.

Xarxes fetes de carn, imaginació i cables

Quan les tecnologies impliquen un cert nivell de complexitat, necessiten una sèrie de condicions per passar de les especulacions (o deliris) de laboratoris de recerca i gabinets de comunicació corporativa a l’operativitat de les funcionalitats, usos i mercats. Entremig, acadèmics, productors de hardware, investigadors, fons d’inversió, programadors, governs i creadors de ficció en paper, cel·luloide o altres formats van ordint una trama sociotècnica on sintonitzen expectatives (visions de futur), interessos, lleis, significats, narratives o pors, que obren o tanquen la possibilitat al fet que determinades tecnologies traspassin el llindar entre ficció i realitat.

Il·lustració de Marta Handenawer

Il·lustració de Marta Handenawer | CC BY–NC

Una de les figures retòriques que ha fet de Caront entre aquests dos regnes és la de la màquina al servei de l’ésser humà. Present tant en el relat de les rentadores com en la de C3PO, la idea d’assistència tecnològica ha esperonat la indústria de la innovació des de fa dècades i finalment ha aconseguit, gràcies als avenços en algoritmes que aprenen amb les interaccions i relacionen informació per ells mateixos o sistemes de comprensió i processament de llenguatge natural, catalitzar en un ecosistema on els assistents personals intel·ligents han estat cridats a ser un nou estàndard d’interacció i, per tant, el nou Dorado.

Es diu en àmbits d’innovació i disseny que perquè una tecnologia disruptiva sigui acceptada ha de començar amb unes coordenades d’ús conegudes per després, de mica en mica, virar cap al que és desconegut. El fet que algunes de les aplicacions més utilitzades siguin de missatges de text (WhatsApp, Facebook Messenger, etc.) ha estat un argument més —juntament a un terreny ja abonat per un ambient cultural i tècnic favorable— per fer un pas de gegant en la normalització de la conversa com a interfície humà-màquina.

Bombolles tecnofíliques

En els últims tres anys, empreses com Amazon, Google, Apple i aviat Samsung han presentat objectes que donen cos, fan intel·ligibles i donen usos concrets en el mercat de consum a sistemes d’intel·ligència artificial (una llicència poètica molt útil als interessos del mercat ).

Encara que amb un funcionament molt més rudimentari que el del Sr. Stevens, aquestes tecnologies emergents són capaces (no sense limitacions) d’entendre el que l’usuari li diu i donar-hi una resposta autònoma. Simulen converses i comportaments humans per dur a terme tasques concretes com posar música, donar informació, organitzar el calendari o demanar un taxi, entre d’altres.

Cadascun és presentat sota una narrativa i una personalitat (el software que despleguen els dispositius) diferent: Amazon Echo es va donar a conèixer com un nou i servicial membre de la família; Google Home posa el focus en la seva capacitat d’ajudar en diferents circumstàncies i el HomePod d’Apple (que li va al darrere), es diferencia posant l’accent en la qualitat del so del seu altaveu. Les estratègies d’aquestes tres empreses són cosmèticament diferents, però tenen un objectiu comú: lluitar per posicionar el seu sistema d’intel·ligència artificial al centre de les llars, ja sigui per vendre més a través d’Internet, o simplement per fer de mitjancer en un dels grans espais encara no colonitzats per la perpetuïtat del servei (i la vigilància) maquínica corporativa.

Il·lustració de Marta Handenawer

Il·lustració de Marta Handenawer | CC BY–NC

Els estrategs de Facebook, d’altra banda, han preferit abordar la batalla del conversational computing per un altre flanc: els chatbots, sistemes d’interacció conversacional textual. El 2016, aquesta empresa va presentar una plataforma basada en el seu servei de missatges (d’instal·lació obligatòria si es vol xatejar amb el mòbil) orientada a obrir el pròsper mercat dels chatbots per a empreses. El seu moviment va ser intel·ligent: va comprar WhatsApp el 2014, va obligar tots els qui volguessin utilitzar l’aplicació de Facebook a baixar-se Messenger i, quan va tenir milers de milions d’usuaris capturats, va decidir obrir-se com una nova forma perquè les empreses arribin als seus clients. D’aquesta manera, ha aconseguit conquerir una porció molt important d’un mercat emergent en el qual éssers humans parlaran amb programes intel·ligents que oferiran serveis concrets (d’atenció psicològica, per exemple) o faran d’interfície (de venda, reclamació o assistència tècnica) per a empreses.

Qui assisteix qui?

No obstant això, per més que la premsa celebratòria i el màrqueting de la indústria ho afirmin, encara no ha arribat el moment en el qual puguem parlar normalment amb un ordinador i ens contesti fent una simulació perfecta de la parla humana. Un exemple que l’acoblament encara no està madur són aquests chatbots que han tingut comportaments no previstos o directament racistes, com és el cas de Tay, un dels bots d’intel·ligència artificial de Microsoft

Els assistents virtuals impliquen nous mercats i noves formes d’interacció, i previsiblement seran cada vegada més freqüents en àmbits relacionats amb els negocis, l’educació, l’automoció o la salut. Precisament perquè ara s’està estabilitzant aquesta tecnologia, és quan és més important poder incidir en el rumb que prendrà aquesta forma de relació màquina-humà. Perquè dissenyar una nova tecnologia implica dissenyar també una sèrie d’usos, hàbits i formes d’interacció.

De fet, la història de les tecnologies de consum és la història d’una delegació creixent de tasques d’humans a màquines, de noves coordenades de cooperació entre uns i altres que ha tingut, en general, resultats molt positius. Tanmateix, quan aquests artefactes estan connectats a la xarxa, la transferència de capacitat d’acció es fa també a corporacions tecnocràtiques que aprenen constantment de les nostres interaccions amb la màquina o l’entorn en què està situada.

Per això, usuaris, dissenyadors, desenvolupadors, legisladors i investigadors hem de prendre partit en la forma en què volem que aquest magma es consolidi a fi que no reprodueixin els nostres vicis; per imaginar de què serem capaços, màquines i humans, en aquest nou context, i sobretot, per poder triar què i com deixem que aquestes màquines facin per nosaltres, amb la transferència de poder que això implica.

L’autor d’aquest article se’n reserva tots els drets

Vegeu comentaris0

Deixa un comentari

Màquines i humans: hem de parlar