La reciente aparición de generadores de texto o imagen basados en inteligencia artificial abre de nuevo el debate sobre la incorporación de nuevas tecnologías en la sociedad. ¿Cómo será su adopción en contextos laborales o educativos? ¿Qué conflictos o tensiones puede generar? Sea como fuere, para afrontar estas cuestiones es necesario un debate colectivo donde no solo tengan voz las corporaciones propietarias de estas tecnologías.
Traduttore, traditore
En Dire quasi la stessa cosa (Decir casi lo mismo, Debolsillo, Barcelona, 2009), un libro recopilatorio de Umberto Eco publicado por primera vez en el año 2000, el semiólogo italiano explica su experiencia con uno de los primeros sistemas de traducción automática. Si bien hoy «pasar un texto» por Google Translate es un proceso cotidiano en ambientes laborales o educativos, a finales de los años 90 esos sistemas estaban dando sus primeros pasos y llamaban la atención de los intelectuales formados en la tradición del libro impreso. No sorprende que la curiosidad de Eco lo llevara a trastear un rato con Babel Fish, un servicio pionero de traducción automática integrado en los buscadores AltaVista y Yahoo: por esos años circulaba en Bolonia una imagen del gran semiólogo con un par de gafas de realidad virtual. Creado en 1997, Babel Fish se anticipó en casi una década a la llegada de Google Translate, un servicio abierto al público a partir de 2006. Pero sigamos los pasos de Eco:
Le he dado al sistema de traducción automática que ofrece AltaVista en Internet (denominado Babel Fish) una serie de expresiones inglesas, le he pedido la traducción a varias lenguas, y luego le he pedido que volviera a traducir la traducción al inglés (…) He aquí los resultados:
(1) The Works of Shakespeare → Gli impianti di Shakespeare → The systems of Shakespeare
Eco analiza la traducción:
Babel Fish seguramente tenía en «la mente» (si Babel Fish tiene una mente) definiciones de diccionario, porque es verdad que en inglés la palabra work puede traducirse al italiano con impianti (instalaciones) y el italiano impianti puede traducirse al inglés como plants o systems.
¿Cuál es el problema de Babel Fish? Según Eco:
Babel Fish no tiene un diccionario que contenga lo que en semántica denominamos «selecciones contextuales». Puede ser, también, que haya recibido la instrucción de que works en literatura significa una serie de textos mientras que en un contexto tecnológico significa planta, pero no es capaz de decidir si una frase en la que se menciona a Shakespeare remite a un contexto literario o tecnológico. En otros términos, le falta un diccionario onomástico que establezca que Shakespeare era un célebre poeta. Quizá la dificultad se debe al hecho de que ha sido «alimentado» con un diccionario (como los de los turistas) pero no con una enciclopedia.
El pasaje del diccionario a la enciclopedia es fundamental en la teoría interpretativa de Umberto Eco: no es suficiente conocer el significado de cada signo para comprender el sentido de una expresión. Las «selecciones contextuales» nos sitúan en una red semántica abierta, en permanente transformación, formada por una trama densa de reenvíos. Si el diccionario es unidireccional (A > B), la enciclopedia, por el contrario, funciona como una red rizomática, una especie de selva tropical que para ser explorada exige un enorme esfuerzo cognitivo que las primeras máquinas de traducir no estaban en grado de simular. En otras palabras: los primeros sistemas automáticos pensaban en «modo diccionario» y traducían palabra por palabra.
Después de un cuarto de siglo, millones de interacciones con los humanos y procesos de optimización computacional –a partir de 2016 Google Translate incorporó el Google Neural Machine Translation System (GNMT), un programa inspirado en las conexiones cerebrales– los traductores automáticos aprendieron a trabajar en «modo enciclopedia» y, si bien todavía están lejos de la precisión que todos desearíamos, son capaces de comprender cada vez más las sutilezas contextuales de los intercambios lingüísticos. Ahora mismo, Google Translate entiende que works se refiere a las obras de Shakespeare y no a los impianti (instalaciones):
¿Para qué traer a colación esos primeros sistemas de traducción automática? ¿Por qué apelar a discusiones semióticas de hace veinticinco años, cuando el tema de estos meses es la inteligencia artificial y su capacidad de generar textos e imágenes? Porque es probable que, en muy poco tiempo, y como ya pasó con los traductores automáticos, las aplicaciones de creación textual se encuentren instaladas en nuestros dispositivos e integradas en el software que utilizamos a diario. El acercamiento de Microsoft a OpenAi (más que un «acercamiento», un envite de 10.000 millones de dólares), la empresa que hay detrás del popularísimo generador de imágenes DALL·E y del chatbot conversacional ChatGPT, no es casual. Más allá de los debates teóricos, las atribuladas conversaciones en los pasillos de las instituciones educativas y el cacareo de las redes sociales, los sistemas de generación textual serán un icono más en la barra superior de MS Word o de Google Docs. Lo mismo podría suceder con los programas de creación de imágenes: no sería descartable que acaben integrándose en el software ya existente. Sistemas de generación de imágenes como DALL·E o Midjourney, o algún pariente cercano, no deberían tardar mucho en aparecer en el menú de Photoshop.
Un fantasma en la máquina educativa
La incorporación de este nuevo actor tecnológico disruptivo (ya sea ChatGPT, DALL·E o Midjourney, por mencionar los más populares) en los procesos educativos o laborales será traumática y su adopción estará llena de tensiones y conflictos. Hoy en día, el debate se plantea sobre todo en el terreno educativo, donde la presencia de estos actores tecnológicos obligará a rediseñar muchos procesos dentro y fuera del aula. Actividades clásicas como «leer un capítulo y sintetizar su contenido» o «escribir mil palabras sobre la Revolución Francesa» deberán ser rediseñadas para explotar la capacidad de la inteligencia artificial de procesar información y generar textos «en bruto». Algunos especialistas, como Alejandro Morduchowicz y Juan Manuel Suasnábar en su reciente artículo «ChatGPT y educación: ¿oportunidad, amenaza o desafío?», van más allá y se preguntan:
¿Tendrán sentido las tareas escolares? ¿Deberán los docentes convertirse en inspectores de originalidad buscando detectar si fue la inteligencia humana o la artificial quien resolvió las consignas? ¿Deberán plantear un modo diferente de definirlas? Son cuestiones legítimas que se suman a la larga lista que las innovaciones tecnológicas generan, en cada momento, sobre las escuelas. Como es usual, son inquietudes que deben considerarse dentro de un cuadro más general de reflexión sobre la relación (pasada, presente y futura) entre las tecnologías y la escuela.
Desde el punto de vista docente, los sistemas de generación textual son una herramienta fascinante para diseñar clases. Morduchowicz y Suasnábar pidieron a ChatGPT ideas sobre cómo enseñar fotosíntesis en el primer curso de la escuela secundaria desde una perspectiva ecológica y de género: «Todavía estamos boquiabiertos y sonriendo», confiesan estos dos expertos en educación ante la propuesta elaborada por una tecnología que, en términos evolutivos, está empezando a balbucear sus primeras palabras.
The dark side of the AI
Todas las tecnologías digitales vienen envueltas en un halo gaseoso que invita a considerarlas como una entidad etérea, casi inmaterial. El mismo concepto de «nube» es un buen ejemplo de este proceso de desmaterialización tecnológica. Como es bien sabido, la «nube» es un enjambre de cables, cadenas de procesadores, centrales de almacenamiento de datos, más cables e inmensos galpones llenos de máquinas hambrientas de energía eléctrica para poder funcionar y refrigerarse. Nada más lejos de una volátil «nube».
La inteligencia artificial no es ajena a este proceso de desmaterialización. En Atlas de inteligencia artificial. Poder, política y costos planetarios (Fondo de Cultura Económica, Buenos Aires, 2022), Kate Crawford apunta precisamente a esta dimensión material de la inteligencia artificial:
La IA es una idea, una infraestructura, una industria, una forma de ejercer el poder y una manera de ver; también es la manifestación de un capital muy organizado respaldado por vastos sistemas de extracción y logística, con cadenas de suministro que abarcan todo el planeta. Todas estas cosas formas parte de la IA: una frase de dos palabras sobre la cual se puede cartografiar un conjunto complejo de expectativas, ideologías, deseos y miedos.
Transmitiendo en la misma frecuencia de autores como Jussi Parikka (Una geología de los medios, Caja Negra, Buenos Aires, 2021), Jane Bennett (Materia vibrante, Caja Negra, Buenos Aires, 2022) o Grant Bollmer (Materialist Media Theory, Bloomsbury Academic, Nueva York, 2019), el atlas de Kate Crawford nos recuerda que cada segundo de procesamiento textual o de creación de imágenes tiene un impacto irreversible en el planeta.
Por otra parte, el funcionamiento de la inteligencia artificial exige una fuerza de trabajo humana tanto o más maltratada que los riders que pedalean para entregar una pizza a tiempo o las personas que empaquetan cajas en los centros de distribución de Amazon. Se trata de los llamados «trabajos fantasmas» (Gray, M. y Suri, S., Ghost Work. How to Stop Silicon Valley from Building a New Global Underclass, Houghton Mifflin Harcourt, Boston / Nueva York, 2019). Corporaciones tecnológicas supuestamente a la vanguardia dependen en gran medida de trabajadores temporales fuertemente controlados y mal pagados. Debido a la presión de los capitalistas de riesgo para incorporar la inteligencia artificial en sus productos, algunas empresas llegan incluso a contratar a personas que actúan como chatbots y se hacen pasar por sistemas inteligentes. En un artículo titulado «The Exploited Labor Behind Artificial Intelligence» (Noema Magazine, 2023), Adrienne Williams, Milagros Miceli y Timnit Gebru explican que:
Lejos de las máquinas inteligentes y sofisticadas retratadas en los medios y la cultura pop, los llamados sistemas de inteligencia artificial son alimentados por millones de trabajadores mal pagados en todo el mundo que realizan tareas repetitivas en condiciones laborales precarias.
Mientras escribo (lees) estas líneas, hay miles de trabajadores haciendo «etiquetado de datos» (data labeling) frente a una pantalla para categorizar o valorar una imagen, vídeo o archivo de audio. Así es como se van entrenando las máquinas inteligentes usando a los humanos como sparring cognitivo. Según Williams, Miceli y Gebru:
Las interfaces de etiquetado de datos han evolucionado para tratar a los trabajadores colaborativos como máquinas, a menudo prescribiéndoles tareas muy repetitivas, vigilando sus movimientos y castigando las desviaciones a través de herramientas automatizadas.
Al igual que la imprenta, el tren, los transistores o cualquier otra tecnología disruptiva, la inteligencia artificial abre muchos frentes de conflicto más allá de la explotación laboral, desde la cuestión de los derechos de autor de las fuentes originales hasta su uso para predecir comportamientos sociales. Las empresas que gestionan grandes archivos de imágenes como Getty Images ya están movilizando a sus abogados para no quedarse fuera del gran negocio que se avecina. ¿Quién defenderá los derechos de los autores de millones de contenidos compartidos en las redes sociales que la inteligencia artificial procesa para generar sus propias producciones? Muchos sistemas de reconocimiento facial se alimentan de imágenes provenientes de los archivos policiales. Los sesgos de género o raza están a la orden del día.
En su Atlas de inteligencia artificial Kate Crawford también menciona los deseos y miedos del Homo sapiens, que no son pocos. Por ejemplo, ese terror fruto de la modernidad a terminar siendo sustituidos por una satánica nueva tecnología.
Producción y creación en la era de las máquinas inteligentes
Los sistemas de traducción automática no causaron desempleo; por el contrario, algunos (subrayo lo de «algunos») profesionales los utilizan para una primera conversión rápida antes de ponerse las gafas y repasar el texto en detalle para captar las sutilezas y activar las mejores «selecciones contextuales». Otros profesionales de la traducción se niegan a abrir el URL https://translate.google.es/ y se mantienen fieles al método tradicional. Pero es innegable que para miles de ciudadanos que viajan por el mundo estos sistemas automatizados han servido para facilitar los intercambios lingüísticos en países no necesariamente remotos. En el ámbito científico, debo reconocer que nos han sacado de más de un apuro a la hora de acelerar la traducción de un abstract para un congreso cuya convocatoria cerraba en pocas horas. Pero la intervención humana sigue siendo imprescindible en todos estos casos, ya sea en fase de producción (hay que saber hacer buenas preguntas o, expresado de una manera más técnica, generar buenos inputs) como de interpretación (los ouputs textuales que producen las máquinas siempre necesitan ser editados y pulidos).
Además de acelerar la producción textual, en el caso de la educación Morduchowicz y Suasnábar creen que ChatGPT
es el eslabón que faltaba para conectar los repositorios de recursos didácticos que se vienen generando en internet desde hace algunas décadas con las necesidades específicas derivadas de la cotidianeidad y premura de la tarea docente (y que no siempre pueden responder los buscadores o portales educativos).
Más que hablar de «sustitución», deberíamos comenzar a razonar y a actuar en términos de integración crítica (en oposición a la exclusión acrítica que propone, por ejemplo, volver a las evaluaciones con bolígrafo y papel del siglo XX). El miedo a la sustitución laboral es comprensible, pero cuando se analizan en detalle las transiciones del pasado los procesos afloran en toda su complejidad. Por ejemplo, la aparición de la imprenta no produjo desempleo entre los copistas que manuscribían libros en un scriptorium. Tal como explico en La guerra de las plataformas. Del papiro al metaverso (Anagrama, Barcelona, 2022):
Sería erróneo hablar de una guerra entre escribas y prototipógrafos. Ni los documentos existentes ni las interpretaciones de los historiadores avalan un conflicto de ese tipo. Según el medievalista Uwe Neddermeyer, el pasaje del manuscrito a los tipos móviles fue un proceso «sin disturbios, protestas, pobreza ni desempleo». Eisenstein va en la misma línea en Divine Art, Infernal Machine: «Los artesanos del manuscrito se mantuvieron más ocupados que nunca», la demanda de libros de lujo copiados a mano persistió y «los primeros libros impresos fueron productos híbridos que requerían de escribas y de iluminadores para proporcionar los necesarios toques finales».
Más que desplazar a los humanos, hay quien sostiene que la inteligencia artificial podría sustituir a la Wikipedia o a la mismísima World Wide Web. Parece difícil que eso ocurra: sistemas como ChatGPT o Midjourney se alimentan precisamente de los contenidos que existen en la World Wide Web y otros repositorios digitales. La web es «la mayor reserva textual abierta del planeta», por lo que las inteligencias artificiales deberán recurrir a ella para extraer su materia prima textual y mantenerse actualizadas.
La inteligencia artificial es un potente tool que facilitará las tareas pero, como sostenía Marshall McLuhan, también modificará nuestra forma de pensar y percibir el mundo. Así como la televisión o la World Wide Web cambiaron nuestra concepción del tiempo y del espacio, la inteligencia artificial remodelará nuestra manera de abordar la resolución de problemas y la búsqueda de respuestas a todo tipo de interrogantes. Muchas actividades y procesos de la vida del Homo sapiens, no solo de matriz textual, se verán afectados de forma radical. Por ese motivo, lo segundo peor que podemos hacer es aplicar la estrategia del avestruz y hacer como si nada pasara; lo primero, empecinarnos en volver al pasado.
Finale
Uno de los memes más populares de Umberto Eco que circula por las redes dice así:
La computadora no es una máquina inteligente que ayuda a las personas estúpidas. Por el contrario, es una máquina estúpida que funciona solo en manos de las personas inteligentes.
Al igual que las máquinas de traducir, los Homo sapiens también debemos dejar de pensar en «modo diccionario» para razonar más y mejor en términos de «enciclopedia». Abandonar los planteamientos binarios (real versus virtual, analógico versus digital, utopía versus apocalipsis, etc.) y las causalidades lineales (if nueva tecnología, then paro masivo) es un primer paso en esa dirección. Comprender y afrontar la complejidad que conlleva la irrupción de un nuevo actor tecnológico implica un esfuerzo colectivo que bajo ningún concepto debería dejarse solo en manos de un puñado de corporaciones. Tenemos muy fresca la experiencia de la Web 2.0, ese espacio aparentemente abierto y colaborativo que terminó convirtiéndose en una despiadada maquinaria de extracción y monetización de datos personales, como para no encender las alarmas.
Si la vida digital fuera un videojuego, se podría decir que nuestra relación con la inteligencia artificial que genera textos y responde a nuestras preguntas se encuentra en estos momentos en un primer nivel. Llegará el día en que pasarán de moda los jueguitos de salón («¿Adivinen quién escribió este párrafo?») y entraremos a otro nivel, mucho más desafiante y entretenido, donde la creación automática de textos se integrará de manera definitiva en nuestras rutinas productivas y educativas hasta volverse invisible.
Anahí Mercedes Pochettino | 15 agosto 2023
¡Buenas tardes! Creo que lo se continuará empobreciendo es la lectura. ¿Para qué leer algo si la IA puede hacerlo? Sobre todo en textos ensayísticos.
Deja un comentario