Máquinas y humanos: tenemos que hablar

El robot George desayunando con su inventor, William Richards. Berlín, 1930 | German Federal Archives, Wikipedia | CC-BY-SA 3.0

El Sr. Stevens ha dedicado toda su vida al servicio incondicional a otras personas. Es atento, confiable y discreto: cordial pero nunca familiar. Organiza y gestiona las tareas del hogar a la vez que se preocupa por el «señor» y sus allegados: siempre está listo para recibir a las visitas, dar un mensaje, servir una copa o atender a algún invitado indispuesto. Es un abnegado profesional, impoluto y diligente. La convivencia y la atención hacen que, con el tiempo, el Sr. Stevens sepa anticiparse a las necesidades y los gustos de las personas a las que sirve. Se debe a su trabajo de mayordomo y eso es, como narra la película The Remains of The Day (1993), un orgullo al que dedica toda su vida.

A lo largo de la historia, las clases dominantes se han servido de las subalternas para aligerar (y hacer más agradables) sus tareas del día a día. Hoy, Google nos recuerda cuándo tenemos que salir de casa para tomar un vuelo, nos organiza las fotos de las vacaciones sin que se lo pidamos o nos avisa si podemos encontrar retenciones. A veces también nos pregunta qué nos ha parecido tal o cual restaurante. A su manera, la máquina nos dice que está ahí para «echarnos un cable».

La idea de asistencia está en el corazón de los imaginarios que enmarcan nuestras concepciones sobre lo que han sido, son y serán las tecnologías. A finales del siglo XIX, igual que ahora, la automatización de la fuerza de trabajo alimentaba el miedo de las clases trabajadoras. En este contexto, Oscar Wilde coqueteaba con el socialismo utópico cuando escribía que «bajo condiciones favorables, la máquina se encargará de todo trabajo no intelectual, toda tarea monótona y aburrida que implique condiciones desagradables». La tensión entre la narrativa de la máquina como instrumento opresor y simultáneamente como promesa liberadora se hacía presente.

Redes hechas de carne, imaginación y cables

Cuando las tecnologías implican un cierto nivel de complejidad, necesitan una serie de condiciones para pasar de las especulaciones (o delirios) de laboratorios de investigación y gabinetes de comunicación corporativa a la operatividad de las funcionalidades, usos y mercados. Entre medio, académicos, productores de hardware, investigadores, fondos de inversión, programadores, gobiernos y creadores de ficción en papel, celuloide u otros formatos van urdiendo una trama sociotécnica donde sintonizan expectativas (visiones de futuro), intereses, leyes, significados, narrativas o miedos, que abren o cierran la posibilidad a que determinadas tecnologías crucen el umbral entre ficción y realidad.

Ilustración de Marta Handenawer | CC BY–NC

Una de las figuras retóricas que ha hecho de Caronte entre estos dos reinos es la de la máquina al servicio del ser humano. Presente tanto en el relato de las lavadoras como en la de C3PO, la idea de asistencia tecnológica ha espoleado la industria de la innovación desde hace décadas y finalmente ha logrado, gracias a los avances en algoritmos que aprenden con las interacciones y relacionan información por ellos mismos o sistemas de comprensión y procesamiento de lenguaje natural, catalizar en un ecosistema donde los asistentes personales inteligentes han sido llamados a ser un nuevo estándar de interacción y, por lo tanto, el nuevo Dorado.

Se dice en ámbitos de innovación y diseño que para que una tecnología disruptiva sea aceptada tiene que empezar con unas coordenadas de uso conocidas para luego, paulatinamente, virar hacia lo desconocido. El hecho de que algunas de las aplicaciones más utilizadas sean de mensajes de texto (WhatsApp, Facebook Messenger, etc.) ha sido un argumento más —junto a un terreno ya abonado por un ambiente cultural y técnico favorable— para dar un paso de gigante en la normalización de la conversación como interfaz humano-máquina.

Burbujas tecnofílicas

En los últimos tres años, empresas como Amazon, Google, Apple y pronto Samsung han presentado objetos que dan cuerpo, hacen inteligibles y dan usos concretos en el mercado de consumo a sistemas de inteligencia artificial (una licencia poética muy útil a los intereses del mercado).

Aunque con un funcionamiento mucho más rudimentario que el del Sr. Stevens, estas tecnologías emergentes son capaces (no sin limitaciones) de entender lo que el usuario le dice y dar una respuesta autónoma. Simulan conversaciones y comportamientos humanos para realizar tareas concretas como poner música, dar información, organizar el calendario o pedir un taxi, entre otras.

Cada cual es presentado bajo una narrativa y una personalidad (el software que despliegan los dispositivos) distinta: Amazon Echo se dio a conocer como un nuevo y servicial miembro de la familia; Google Home pone el foco en su capacidad de ayudar en distintas circunstancias y el HomePod de Apple (que va a la zaga), se diferencia poniendo el acento en la calidad del sonido de su altavoz. Las estrategias de estas tres empresas son cosméticamente distintas, pero tienen un objetivo común: luchar por posicionar su sistema de inteligencia artificial en el centro de los hogares, ya sea para vender más a través de Internet, o simplemente para mediar en uno de los grandes espacios todavía no colonizados por la perpetuidad del servicio (y la vigilancia) maquínica corporativa.

Ilustración de Marta Handenawer | CC BY–NC

Los estrategas de Facebook, por otro lado, han preferido abordar la batalla del conversational computing por otro flanco: los chatbots, sistemas de interacción conversacional textual. En 2016, esta empresa presentó una plataforma basada en su servicio de mensajes (de instalación obligatoria si se quiere chatear en el móvil) orientada a abrir el boyante mercado de los chatbots para empresas. Su movimiento fue sagaz: compró WhatsApp en 2014, obligó a todos quienes quisieran utilizar la aplicación de Facebook a bajarse Messenger y, cuando tuvo a miles de millones de usuarios capturados, decidió abrirse como una nueva forma para que las empresas lleguen a sus clientes. De este modo, ha logrado conquistar una porción muy importante de un mercado emergente donde seres humanos hablarán con programas inteligentes que ofrecerán servicios concretos (de atención psicológica, por ejemplo) o harán de interfaz (de venta, reclamación o asistencia técnica) para empresas.

¿Quién asiste a quién?

Sin embargo, por más que la prensa celebratoria y el marketing de la industria lo afirmen, todavía no ha llegado el momento en el que podamos hablar normalmente con un ordenador y nos responda haciendo una simulación perfecta del habla humana. Un ejemplo de que el ensamblaje no está todavía maduro son esos chatbots que han tenido comportamientos no previstos o directamente racistas, como es el caso de Tay, uno de los bots de inteligencia artificial de Microsoft

Los asistentes virtuales implican nuevos mercados y formas de interacción, y previsiblemente serán cada vez más frecuentes en ámbitos relacionados con los negocios, la educación, la automoción o la salud. Precisamente porque ahora se está estabilizando esta tecnología, es cuando más importante es poder incidir en el rumbo que tomará esta forma de relación máquina-humano. Porque diseñar una nueva tecnología implica diseñar también una serie de usos, hábitos y formas de interacción.

De hecho, la historia de las tecnologías de consumo es la historia de una creciente delegación de tareas de humanos a máquinas, de nuevas coordenadas de cooperación entre unos y otras que ha tenido, en general, resultados muy positivos. Sin embargo, cuando estos artefactos están conectados a la red, la transferencia de capacidad de acción se hace también a corporaciones tecnocráticas que constantemente aprenden de nuestras interacciones con la máquina o el entorno en el que está situada.

Por ello, usuarios, diseñadores, desarrolladores, legisladores e investigadores debemos tomar partido en la forma en la que queremos que este magma se consolide para que no reproduzcan nuestros vicios; para imaginar de qué seremos capaces, máquinas y humanos, en este nuevo contexto, y sobre todo, para poder elegir qué y cómo dejamos que estas máquinas hagan por nosotros, con la transferencia de poder que ello implica.