El mal alumne

Des de la pràctica artística, el Taller Estampa reflexiona sobre els discursos al voltant de la intel·ligència artificial.

Alumnes en una aula escolar, 1931

Alumnes en una aula escolar, 1931 | Wikipedia | Domini públic

Cada vegada més, un percentatge de les nostres decisions està influït o directament determinat per algoritmes i mitjans informàtics. Encara que els resultats se’ns presenten com si fossin objectius i independents, és habitual que aquestes tecnologies siguin opaques i no ens permetin contrastar les operacions que fan. Des del Taller Estampa proposen projectes que ens ajudin a reapropiar-nos d’aquestes eines a partir d’una anàlisi reflexiva i utilitzant els seus propis mètodes matemàtics.

En els darrers anys assistim a un degoteig de notícies sobre intel·ligència artificial, aprenentatge maquínic i visió artificial. Se’ns diu que les màquines aprenen, hi veuen, creen… I tot això construeix un discurs basat en la novetat, en un futur possible i en una sèrie d’angoixes i esperances. És difícil, de vegades, distingir en aquest paisatge què són desenvolupaments reals i què són fantasies o advertències. I, sens dubte, aquesta boira que ho rodeja tot forma part del poder que atorguem, en present i a crèdit, a aquestes eines, així com també forma part de les inquietuds negatives i positives que ens desperten. Molts d’aquests discursos poden caure en el camp dels falsos debats o, com a mínim, del retorn de vells debats; així, en un camp artístic clàssic, associat al discurs sobre la creació i l’autoria, es discuteix l’entitat que s’ha de donar a les imatges creades amb aquestes eines. (Però l’argument en contra de la fotografia en l’art no era que era una imatge creada automàticament i sense participació humana? I això no era, també, l’argument a favor d’agafar-la i utilitzar-la per posar fi a una certa idea de l’art?)

Les metàfores són essencials en el discurs sobre totes les eines digitals i en el poder que tenen. Expressions com «intel·ligència», «visió», «aprenentatge», «neuronal» i tota la corrua de paraules similars són les més adequades per definir aquestes eines? Potser no, sobretot si se n’obvia el caràcter metafòric. No les entendríem igual si les designéssim com eines de classificació probabilística o si, en comptes de dir que una intel·ligència artificial «ha pintat» un Rembrandt, diguéssim que n’ha fet una reproducció estadística de l’estil (fet que no deixa de ser sorprenent i digne de celebració, és clar). Per a aquestes eines, aquesta mena de denominacions construeixen una entitat que les dota d’una suposada autonomia i independència, i en això es basa la seva futura autoritat.

Perquè en molts discursos es tracta d’això: de construir una caracterització que legitimi una capacitat objectiva o no humana en l’anàlisi de les dades. És a dir, un vell joc de prestidigitació del poder en el qual les coses escapen al nostre abast, i fins i tot –i això ja és cinisme, i no màgia– al seu, per encarnar-se en suposades operacions objectives i independents. L’exemple clàssic en el context anglosaxó és l’ús que se’n pot fer, per exemple, per al càlcul del cost d’una assegurança mèdica. Aquí, mentre no arribi també aquesta mesura neoliberal presentada com allò que ens cal –perquè volem ser una smart city, o la propera cosa que ens diguin que volem ser–, entenem perfectament la situació, que es planteja com un escenari en què cap diàleg o discussió no és possible, més enllà de la imposició del resultat de l’anàlisi de la xarxa. Com en tants i tants casos, potser això no és sinó fer evident el que ja passa: si aquesta despesa la calcula un treballador de l’empresa, dubtem que sigui gaire dialogant o que respongui a uns criteris que ens vulgui explicar i que accepti que siguin qüestionats. Però tant és si es fa per fórmules que apliquen els treballadors o si és l’output d’una xarxa neuronal fruit de les dades de l’empresa d’assegurances i les dades de qui sol·licita l’assegurança: en tots dos casos és així perquè algú ha acceptat que aquest mètode funciona, i és aquí on hi ha una responsabilitat que només és opaca perquè es vol –és a dir, el funcionament intern de la xarxa pot ser opac, però la decisió d’utilitzar-ne una i la manera com s’ha entrenat no ho haurien de ser. L’opacitat no és la característica principal de la intel·ligència artificial, sinó el caràcter del poder.

Si les metàfores són un dels camps de poder d’aquestes eines, tampoc no s’ha d’oblidar en cap cas quin és el context normatiu en el qual es desenvolupen. Són eines que es creen dins de la ideologia de les dades massives, i la celebren de ple. Amb això ens referim a la idea que tot ha de deixar rastre i ha de ser arxivat de manera automàtica i que, com es dedueix de l’expressió «mineria de dades», les dades es plantegen com un recurs natural disponible per a l’explotació. Aquesta metàfora és significativa com a expressió d’una fantasia capitalista: les dades serien un recurs natural que, al contrari dels que ja s’han exprimit, no s’esgotaria, sinó que, en un deliri propi de la fantasia, no faria sinó incrementar-se a mesura que acceptem gustosament conviure i adquirir més i més aparells que ens monitoren. És com si el sistema s’hagués construït el seu propi pou sense fons de conte de fades. Així, un dels usos de les eines de visió artificial de detecció d’objectes no és altre que l’anotació automàtica d’imatges; de manera que ja no només sigui la informació textual la que sigui susceptible de ser monitorada automàticament, sinó també la visual, fins ara paradoxalment opaca més enllà dels nostres ulls.

Llista de deteccions realitzades amb YOLO9000 a la pel·lícula A Trip Down Market Street (1906)

Llista de deteccions realitzades amb YOLO9000 a la pel·lícula A Trip Down Market Street (1906) | El mal alumne – Estampa

Ens trobem ara en el que és, probablement, el moment de la primera recepció cultural d’aquestes eines. Del seu desenvolupament en camps de recerca i de les aplicacions que ja se n’han derivat, passem ara a la seva presència en el discurs públic. És en aquesta situació i en aquest context, en el qual no acabem de saber l’amplitud i les característiques d’aquestes tecnologies (i en el qual, per tant, les pors són més abstractes i difuses i, doncs, més presents i poderoses), quan és especialment important entendre de què parlem, apropiar-se de les eines i intervenir en els discursos. Abans que les seves possibilitats es restringeixin i se solidifiquin fins a semblar incontestables, cal experimentar-hi i reflexionar-hi; cal aprofitar que encara les podem percebre fàcilment com si es trobessin en creació, mal·leables i obertes.

En els nostres projectes El mal alumne. Pedagogia crítica per a intel·ligències artificials i Espais latents. Imaginacions maquíniques hem volgut apropar-nos a aquestes eines i al seu imaginari. En la declaració d’intencions del primer expressàvem el nostre desig de, davant del context normatiu i la metàfora de l’aprenentatge maquínic, reivindicar el mal alumne com aquell que defuig la norma. I també expressàvem que, davant d’una intel·ligència artificial que busca replicar la humana a escales inhumanes, cal reivindicar-ne i construir-ne una de no mimètica que produeixi relacions i imatges inesperades.

Fragment de De zeven werken van barmhartigheid, Meester van Alkmaar, 1504 (Rijksmuseum, Amsterdam) analitzat amb YOLO9000 | El mal alumne - Estampa

Fragment de De zeven werken van barmhartigheid, Meester van Alkmaar, 1504 (Rijksmuseum, Amsterdam) analitzat amb YOLO9000 | El mal alumne – Estampa

Tots dos projectes són també intents d’apropiar-se d’aquestes eines, fet que vol dir, en primer lloc, defugir les barreres industrials i els seus estàndards. En aquest camp en què les dades massives són un bé a l’abast de grans empreses, utilitzar conjunts de dades pobres quantitativament i potències de càlcul no industrials és, no només una necessitat, sinó sobretot una reivindicació.

Entre les estratègies que guien la nostra pràctica, una de les principals és la reflexiva. Utilitzem les eines d’intel·ligència artificial per dirigir-hi l’atenció i fixar-nos en els seus processos. Quan se’ns diu que una xarxa de visió artificial «hi veu», s’obvia que veu allò que se l’ha entrenat a veure. És a dir, el vocabulari de la xarxa és bàsic perquè hi vegi i parli, i aquesta és una elecció de qui construeix la xarxa. Fer evident aquesta baula de la cadena va ser un dels nostres objectius, ja fos tafanejant vocabularis d’eines o conjunts de dades existents (si voleu saber quina pinta fa un «wagnerià», aneu a ImageNet i, quan us canseu de riure, fixeu-vos que han fet el mateix per a la categoria de «mala persona») o amb diversos détournements, en els quals hem substituït el vocabulari original per altres vocabularis que reflexionen sobre les mateixes taxonomies (per exemple, la cèlebre classificació imaginada per Borges d’una enciclopèdia xinesa).

Taxonomies: Emporio celestial de conocimientos benévolos | El mal alumne - Estampa
Taxonomies: Emporio celestial de conocimientos benévolos | El mal alumne - Estampa

Taxonomies: Improvised Explosive Device | El mal alumne - Estampa
Taxonomies: Improvised Explosive Device | El mal alumne - Estampa

Si de les xarxes neuronals se’ns diu que són expertes en allò que fan, no és menys cert que, si ho són, ho són de manera compulsiva, ja que no saben fer res més. Aquesta compulsió és una eina excel·lent per multiplicar classificacions i relacions fins al paroxisme. Així, una xarxa entrenada en estils artístics ho veu tot i s’hi refereix d’acord amb aquest vocabulari, i una altra d’entrenada a reconèixer Cindy Sherman o Joan Fontcuberta no fa sinó multiplicar-ne la presència arreu.

Experts compulsius: Xarxa de classificació d’estils artístics analitzant 'Super 8', de David Domingo | El mal alumne - Estampa
Experts compulsius: Xarxa de classificació d’estils artístics analitzant 'Super 8', de David Domingo | El mal alumne - Estampa

Experts compulsius: Sherman-Fontcuberta | El mal alumne - Estampa
Experts compulsius: Sherman-Fontcuberta | El mal alumne - Estampa

En el nostre darrer projecte, Espais latents. Imaginacions maquíniques, ens hem centrat en el camp de la generació d’imatges per mitjà de xarxes generatives adversàries o GAN (l’acrònim anglès). És a dir, en la capacitat d’aquestes xarxes de produir imatges similars al corpus d’exemples que li proporcionem. Aquest camp s’enfoca habitualment cap a una tendència fotorealista, però una pràctica i una estètica pobres d’aquestes eines (amb conjunts de dades quantitativament inferiors als industrials i amb menys potències de càlcul) ens porta cap a altres imaginaris i textures visuals. També aquí hem volgut aprofitar estratègies que ens semblen inherents a l’eina, com la de l’excés, ja sigui aplicada a la il·lustració científica (un món altament codificat, en el qual cada imatge ha de ser significativa), ja sigui per investigar imaginaris contemporanis (per exemple, construint un conjunt de dades d’exemples associats a La Gioconda, és a dir, a una imatge versionada mil cops i icònica de l’art i el turisme). Les mateixes metàfores tecnològiques també passen a primer pla. Així, per exemple, la denominació «espai latent» fa referència a la manera com es concep una xarxa GAN un cop entrenada: s’entén com un sistema de coordenades multidimensional que podríem explorar i en el qual cada imatge que pot generar es correspon amb un punt d’aquest sistema. Per aquest motiu, en diversos experiments hem treballat l’opció de desdoblar un espai real en un espai virtual, com, per exemple, els passadissos de The Shinning.

Entomologia: Espais latents. Imaginacions maquíniques - Estampa
Entomologia: Espais latents. Imaginacions maquíniques - Estampa

Laberint latent: Espais latents. Imaginacions maquíniques - Estampa
Laberint latent: Espais latents. Imaginacions maquíniques - Estampa

El que ens mou en aquests projectes és comprendre i emprar aquestes eines com una estratègia bàsica per escapar de la mistificació que les envolta. Obviar les barreres de discurs i industrials que ens les allunyen i ens les ofereixen ja predeterminades. També hem de poder riure’ns-en i utilitzar-les a contrapèl, és a dir, tenir-les al nostre abast i no a la inversa.

Vegeu comentaris0

Deixa un comentari