Intel·ligència artificial, entre el desig i la por

L’operador de comunicacions inalàmbriques W.H. Hannam. Cape Denison, 1911-1914 | Frank Hurley, National Library of Australia | Domini públic

Traduttore, traditore

A Dire quasi la stessa cosa (disponible en castellà: Decir casi lo mismo, DeBolsillo, Barcelona, 2009), un llibre recopilatori d’Umberto Eco publicat per primer cop el 2000, el semiòleg italià explica la seva experiència amb un dels primers sistemes de traducció automàtica. Si bé és cert que, avui, «passar un text» per Google Translate és un procés quotidià en ambients laborals o educatius, a les acaballes dels anys noranta aquests sistemes tot just feien els primers passos, i cridaven l’atenció d’intel·lectuals formats en la tradició del llibre imprès. No sorprèn que la curiositat d’Eco el menés a jugar una mica amb Babel Fish, un servei pioner de traducció automàtica integrat als cercadors AltaVista i Yahoo: en aquella època, circulava per Bolonya una imatge del gran semiòleg guarnit amb unes ulleres de realitat virtual. Creat el 1997, Babel Fish va anticipar-se quasi una dècada a l’arribada de Google Translate, un servei obert al públic a partir del 2006. Però seguim els passos d’Eco:

He donat una colla d’expressions angleses al sistema de traducció automàtica que ofereix AltaVista a Internet (anomenat Babel Fish), i li he demanat que les tradueixi a llengües diverses. Després li he demanat que tornés a traduir la traducció a l’anglès, i heus aquí el resultat:

(1) The Works of Shakespeare → Gli impianti di Shakespeare → The systems of Shakespeare

Eco analitza la traducció:

Babel Fish segurament tenia «en ment» (si en tingués) definicions de diccionari, perquè és veritat que en anglès la paraula work pot traduir-se a l’italià com impianti (instal·lacions), i, alhora, l’italià impianti pot traduir-se a l’anglès com plants o systems.

¿Quin problema té Babel Fish? Segons Eco:

Babel Fish no té un diccionari que contingui el que en semàntica anomenem «seleccions contextuals». Pot ser, també, que hagi rebut la instrucció que works, en literatura, designa una sèrie de textos, mentre que en un context tecnològic significa planta, però no és capaç de decidir si una frase en què es menciona Shakespeare remet a un context literari o tecnològic. En altres paraules, li falta un diccionari onomàstic que estableixi que Shakespeare era un poeta cèlebre. Potser la dificultat es deu al fet que el traductor automàtic ha estat «alimentat» amb un diccionari (com el dels turistes), però no amb una enciclopèdia.

El pas del diccionari a l’enciclopèdia és fonamental en la teoria interpretativa d’Eco: no n’hi ha prou de conèixer el significat de cada signe per comprendre el sentit d’una expressió. Les «seleccions contextuals» ens situen en una xarxa semàntica oberta, en transformació constant, formada per una densa trama de reenviaments. Si el diccionari és unidireccional (A > B), l’enciclopèdia, en canvi, funciona com una xarxa rizomàtica, una mena de selva tropical que demana, per poder-se explorar, un esforç cognitiu enorme que les primeres màquines de traduir no estaven en condicions d’emular. Ras i curt: els primers sistemes automàtics pensaven en «mode diccionari» i traduïen els textos mot per mot.

Un quart de segle més tard, després de milions d’interaccions amb els humans i superats diversos processos d’optimització de computacions –a partir del 2016, Google Translate va incorporar Google Neural Machine Translation System (GNMT), un programa inspirat en les connexions cerebrals–, els traductors automàtics han après a treballar en «mode enciclopèdia» i, si bé encara són lluny de la precisió que desitjaríem, sí que són capaços de comprendre cada cop més les subtileses contextuals dels intercanvis lingüístics. Ara mateix Google Translate entén que works es refereix a les obres de Shakespeare i no als impianti (instal·lacions):

¿Per què hauríem de treure a col·lació aquests sistemes inicials de traducció automàtica? ¿Per què hauríem d’apel·lar a discussions semiòtiques de fa vint-i-cinc anys, si el tema d’aquests últims mesos és la intel·ligència artificial i la seva capacitat de crear textos i imatges? Perquè és probable que, en molt poc temps, i com ja va passar amb els traductors automàtics, les aplicacions de creació textuals siguin habituals en els nostres dispositius i passin a integrar-se al programari que fem servir quotidianament. L’acostament de Microsoft a OpenAI (més que «acostament», una empenta de 10.000 milions de dòlars), l’empresa que hi ha rere el popularíssim generador d’imatges DALL·E i del bot de conversa ChatGPT, no és casual. Més enllà dels debats teòrics, de les converses atribolades pels passadissos de les institucions educatives i de l’escataineig de les xarxes socials, els sistemes de generació textual seran una icona més a la barra superior de MS Word o de Google Docs. Podria passar el mateix amb els programes de creació d’imatges: no podem descartar que acabin integrant-se al programari ja existent. Sistemes de generació d’imatges com DALL·E o Midjourney, o algun parent proper, no haurien de trigar gaire a aparèixer al menú de Photoshop.

Un fantasma en la maquinària educativa

La incorporació d’aquest nou actor tecnològic disruptiu (ja sia ChatGPT, DALL·E o Midjourney, per esmentar-ne sols els més populars) en els processos educatius o laborals serà traumàtica, i adoptar-lo comportarà tensions i conflictes. Aquests dies el debat es planteja sobretot en el terreny educatiu, en el qual la presència d’aquests actors tecnològics obligarà a redissenyar molts processos dins i fora de l’aula. Activitats clàssiques, com ara «llegeix aquest capítol i sintetitza’n el contingut» o «escriu mil paraules sobre la Revolució Francesa» hauran de redissenyar-se per explotar la capacitat de la intel·ligència artificial de processar informació i crear textos «en brut». Alguns especialistes, com Alejandro Morduchowicz i Juan Manuel Suasnábar en el seu article de 2023 «ChatGPT y educación: ¿oportunidad, amenaza o desafío?»), van un pas més enllà i es demanen:

¿Les tasques escolars continuaran tenint sentit? ¿Els docents hauran de convertir-se en inspectors d’originalitat abocats a esbrinar si ha estat la intel·ligència humana o l’artificial la que ha resolt les consignes? ¿Hauran de plantejar noves formes de definir-les? Són qüestions legítimes que se sumen a la llarga llista de dubtes que les innovacions tecnològiques desperten a cada moment en relació amb les escoles. Com és habitual, són inquietuds que han de considerar-se en un marc més general de reflexió sobre la relació (passada, present i futura) entre les tecnologies i l’escola.

Des del punt de vista docent, els sistemes de generació textual són una eina fascinant per dissenyar classes. Morduchowicz i Suasnábar van demanar a ChatGPT que els donés idees sobre com podien ensenyar la fotosíntesi al primer curs de l’educació secundària des d’una perspectiva ecològica i de gènere: «Encara ara somriem bocabadats», confessen aquests experts en educació davant la proposta elaborada per una tecnologia que, en termes evolutius, tot just balbuceja les primeres paraules.

The dark side of the AI

Totes les tecnologies digitals ens arriben embolcallades d’una aurèola gasosa que convida a considerar-les com una entitat etèria, quasi immaterial. El mateix concepte de «núvol» és un bon exemple d’aquest procés de desmaterialització tecnològica. Com és sabut, però, el «núvol» és un eixam de cables, cadenes de processadors, centrals d’emmagatzemament de dades, més cables i hangars gegantins plens de màquines deleroses d’energia elèctrica per poder funcionar i refrigerar-se. Res més lluny d’un «nuvolet» volàtil.

La intel·ligència artificial no és aliena a aquest procés de desmaterialització. A Atlas of AI: Power, Politics and the Planetary Costs of Artificial Intelligence (Londres, Yale University Press, 2021; disponible en castellà: Atlas de inteligencia artificial. Poder, política y costos planetarios, Buenos Aires, Fondo de Cultura Económica, 2022), Kate Crawford apunta precisament cap a aquesta dimensió material de la intel·ligència artificial:

La IA és una idea, una infraestructura, una indústria, una forma d’exercir el poder i una manera de veure; també és la manifestació d’un capital molt organitzat suportat per vastos sistemes d’extracció i logística, amb cadenes de subministrament que abracen tot el planeta. Totes aquestes coses formen part de la IA: un sintagma de dues paraules sobre la qual es pot cartografia un conjunt complex d’expectatives, ideologies, pors i desitjos.

En sintonia amb autors com Jussi Parikka (A Geology of Media, University of Minnessota Press, Minneapolis, 2015; disponible en castellà: Una geología de los medios, Caja Negra, Buenos Aires, 2021), Jane Bennett (Vibrant Matter: A Political Ecology of Things; disponible en castellà: Materia vibrante. Una ecología política de las cosas, Caja Negra, Buenos Aires, 2022) o Grant Bollmer (Materialist Media Theory, Bloomsbury Academic, Nova York, 2019), l’atles de Kate Crawford ens recorda que cada segon de processament textual o de creació d’imatges té un impacte irreversible per al planeta.

D’altra banda, el funcionament de la intel·ligència artificial exigeix una força de treball humana tan maltractada o més que els repartidors que pedalen per la ciutat per lliurar una pizza a temps o les persones que empaqueten caixes als centres d’Amazon. Es tracta de les anomenades «feines fantasma» (Mary L. Gray i Siddharth Suri, Ghost Work. How to Stop Silicon Valley from Building a New Global Underclass, Houghton Mifflin Harcourt, Boston/Nova York, 2019). Corporacions tecnològiques suposadament a l’avantguarda depenen en bona mesura de treballadors temporals fortament controlats i mal pagats. A causa de la pressió dels capitalistes de risc perquè incorporin la intel·ligència artificial als seus productes, algunes empreses fins i tot contracten persones perquè actuïn com a xats de conversa i es facin passar per sistemes intel·ligents. A l’article «The Exploited Labor Behind Artificial Intelligence» (Noema Magazine, 2023), Adrienne Williams, Milagros Miceli i Timnit Gebru expliquen que:

Lluny de les màquines intel·ligents i sofisticades que els mitjans i la cultura pop retraten, els anomenats sistemes d’intel·ligència artificial són alimentats per milions de treballadors mal pagats d’arreu del món, que fan feines repetitives en condicions laborals precàries.

Mentre escric (i tu llegeixes) aquestes línies, hi ha milers de treballadors fent «etiquetatge de dades» (data labeling) davant d’una pantalla per classificar o valorar una imatge, un vídeo o un arxiu de so. D’aquesta manera s’entrenen les màquines intel·ligents: fent servir els humans a tall de sparring cognitiu. Segons Williams, Miceli i Gebru:

Les interfícies d’etiquetatge de dades han evolucionat per tractar els treballadors col·laboradors com si fossin màquines, sovint prescrivint-los tasques molt repetitives, vigilant-los els moviments i castigant-los les desviacions per mitjà d’eines automatitzades.

Igual que la impremta, el tren, els transistors i qualsevol altra tecnologia disruptiva, la intel·ligència artificial obre molts front de conflicte més enllà de l’explotació laboral: des de la qüestió dels drets d’autor de les fonts originals fins a l’ús que se’n fa per predir comportaments socials. Les empreses que gestionen grans arxius d’imatges, com Getty Images, a hores d’ara ja mobilitzen els seus advocats per no quedar-se al marge del gran negoci que s’acosta. ¿Qui defensarà els drets dels autors de milions de continguts compartits a les xarxes socials que la intel·ligència artificial processa per crear produccions pròpies? Molts sistemes de reconeixement facial s’alimenten d’imatges provinents dels arxius policials. Els biaixos de gènere i de raça són a l’ordre del dia.

A Atlas of AI, Kate Crawford també fa esment dels desitjos i les pors de l’Homo sapiens, que no són pas pocs. Com ara el terror, fill de la modernitat, que una nova tecnologia satànica ens substitueixi.

Producció i creació en l’era de les màquines intel·ligents

Els sistemes de traducció automàtica no van crear desocupació; al contrari, certs professionals (subratllo això de «certs») els utilitzen per fer una primera versió ràpida del text, abans de posar-se les ulleres i repassar-lo en profunditat per captar-ne les subtileses i activar les millors «seleccions contextuals». Altres professionals de la traducció es neguen a obrir l’URL https://translate.google.cat/ i es mantenen fidels al mètode tradicional. Però és innegable que aquests sistemes automatitzats han facilitat els intercanvis lingüístics a milers de ciutadans que viatgen pel món, i en països no necessàriament remots. En l’àmbit científic, he de reconèixer que ens han tret les castanyes del foc en més d’una ocasió, a l’hora d’accelerar la traducció d’un abstract per a un congrés la convocatòria del qual es tancava al cap d’un parell d’hores. Però la intervenció humana encara és imprescindible en tots aquests casos, ja sia en la fase de producció (cal saber fer bones preguntes, o, dit d’una manera més tècnica, generar bons inputs), ja sia en la fase d’interpretació (els outputs contextuals que produeixen les màquines sempre s’han d’editar i polir).

A més d’accelerar la producció textual, en el cas de l’educació, Morduchowicz i Suasnábar creuen que ChatGPT

és la baula que faltava per connectar els repositoris de recursos didàctics que es generen a internet de fa dècades amb les necessitats específiques derivades de la quotidianitat i la urgència de la tasca docent (que no sempre es poden satisfer amb cercadors o portals educatius).

Més que parlar de «substitució», doncs, hauríem de començar a raonar i a actuar en termes d’integració crítica (en oposició a l’exclusió acrítica, que proposa, per exemple, tornar a les avaluacions amb bolígraf i paper del segle xx). La por de la substitució laboral és comprensible, esclar, però quan s’analitzen amb deteniment les transicions del passat els processos afloren amb tota la complexitat. Per exemple, l’aparició de la impremta no va crear desocupació entre els copistes que escrivien llibres a mà en un scriptorium. Tal com explico a La guerra de las plataformas. Del papiro al metaverso (Anagrama, Barcelona, 2022):

Seria erroni parlar d’una guerra entre escribes i prototipògrafs. Ni els documents existents ni les interpretacions dels historiadors avalen un conflicte d’aquesta mena. Segons el medievalista Uwe Neddermeyer, el pas del manuscrit als tipus mòbils va ser un procés «sense disturbis, protestes, pobresa ni desocupació». Einstein apunta en aquesta direcció a Divine Art, Infernal Machine: «els artesans del manuscrit van estar més ocupats que mai», la demanda de llibres de luxe copiats va perdurar i «els primers llibres impresos van ser productes híbrids per als quals calien escribes i il·luminadors, que hi donaven els tocs finals necessaris».

Més que no pas desplaçar els humans, hi ha qui sosté que la intel·ligència artificial podria substituir Viquipèdia o la mateixa World Wide Web. Però sembla difícil que això passi: sistemes com ChatGPT o Midjourney s’alimenten precisament dels continguts que hi ha a la World Wide Web i en altres magatzems digitals. La web és «la reserva textual oberta més gran del planeta», i per això les intel·ligències artificials hi han de recórrer per extreure’n la matèria primera textual i mantenir-se actualitzades.

La intel·ligència artificial és una eina potent que ens facilitarà les tasques, però, com sostenia Marshall McLuhan, també modificarà la nostra manera de pensar i de percebre el món. Això com la televisió o la World Wide Web van canviar-nos la concepció del temps i de l’espai, la intel·ligència artificial ens remodelarà la manera de resoldre problemes i la recerca de respostes per a tot tipus d’interrogants. Moltes activitats i processos de la vida de l’Homo sapiens, no només de matriu textual, es veuran radicalment afectats per aquesta tecnologia. Per aquesta raó, doncs, la segona pitjor cosa que podem fer és aplicar l’estratègia de l’estruç i fer com si sentíssim ploure. La primera és entossudir-nos a tornar al passat.

Finale

Un dels mems més populars d’Umberto Eco que circula per les xarxes fa així: «Un ordinador no és una màquina intel·ligent que ajuda les persones estúpides. Al contrari: és una màquina estúpida que només funciona en mans de persones intel·ligents.»

Com les màquines de traduir, els Homo sapiens també hem de deixar de pensar en «mode diccionari» per raonar més i millor en termes d’«enciclopèdia». Abandonar els plantejaments binaris (real vs. virtual, analògic vs. digital, utopia vs. apocalipsi, etc.) i les causalitats lineals (if nova tecnologia, then atur massiu) és un primer pas en aquesta direcció. Comprendre i afrontar la complexitat que comporta la irrupció d’un nou actor tecnològic implica un esforç col·lectiu que de cap manera hauria de deixar-se només en mans d’un grapat de corporacions. Tenim fresca l’experiència de la Web 2.0, aquell espai aparentment obert i col·laborador que va acabar convertit en una màquina despietada d’extracció i monetarització de dades personals; això ens hauria de posar en estat d’alarma.

Si la vida digital fos un videojoc, es podria dir que la nostra relació amb la intel·ligència artificial que crea textos i ens contesta preguntes tot just es troba al primer nivell. Un dia passaran de moda els jocs naïfs de saló («¿Aviam si endevineu qui ha escrit aquest paràgraf?») i passarem a un altre nivell, molt més desafiador i entretingut, en el qual la creació automàtica de textos s’integrarà de manera definitiva en les nostres rutines productives i educatives fins a fer-se invisible.