Confondre la màquina: art, màscares i reconeixement facial

El desenvolupament de la cirurgia plàstica reconstructiva durant la Primera Guerra Mundial | Horace Nicholls | © Imperial War Museums

A les acaballes del 2021, els aeroports de Madrid i Barcelona van començar les proves d’un sistema de reconeixement facial que permet facturar, passar controls de seguretat i pujar a un avió sense necessitat de mostrar ni el document d’identitat ni la targeta d’embarcament. El sistema, anunciaven alguns mitjans amb entusiasme, és tan precís que identifica rostres fins i tot amb mascareta. La influència del màrqueting corporatiu en el tractament de la notícia evidenciava que, com criticava Henry David Thoreau dels seus contemporanis, «hi ha persones que, si les lliguessin a un pal de flagel·lació i no tinguessin lliure sinó una mà, la farien servir per tocar les campanes i disparar canonades celebrant la seva llibertat».

Tothom s’adona que la tecnologia de reconeixement facial és una eina polèmica per naturalesa, atesa la capacitat que té d’automatitzar el control de la població a una escala i una velocitat inimaginables fins al moment. Se n’estén l’ús per iniciativa tant pública com privada, abanderada per governs autoritaris com el de la Xina i per grans empreses com Apple, Mastercard o Facebook, que fa anys que inclouen sistemes d’aquesta mena en funcions de seguretat o d’etiquetatge de fotografies.

Del laboratori a l’arxiu

Si bé la tecnologia de reconeixement facial és relativament nova, les implicacions filosòfiques i polítiques que té es remunten segles enrere. Previs a l’era digital, hi va haver diferents esforços que van intentar convertir el rostre humà en un objecte del qual es pogués extreure informació de manera sistemàtica. El més antic era la fisiognomia, els primers intents de la qual es remunten a la Grècia clàssica, però que va desenvolupar-se especialment durant la segona meitat del segle XVIII. Aquesta disciplina pretenia extreure conclusions sobre el caràcter i la personalitat a partir de les formes i les expressions de la cara. A cavall entre aquest segle i el principi del XIX va néixer la frenologia, que entenia que la forma del crani era un reflex del cervell i que podia estudiar-se per preveure conductes com ara la inclinació al matrimoni, a la poesia o a la bondat, però també al robatori i al crim.

Si hi ha, però, una disciplina que enllaci de manera directa amb la tecnologia de reconeixement facial contemporani, és la de l’arxiu policial. El primer sistema de fitxes d’identificació de criminals apareix a França el 1833, i en les dècades posteriors altres societats industrials s’interessen per analitzar el crim a escala regional. Com assenyala el teòric de la imatge Hans Belting, «les autoritats volien protegir-se de l’amenaça sense rostre que representaven els delinqüents, sobre els quals havien perdut el control a les grans ciutats; per això van treballar febrosament per desenvolupar mètodes apropiats de control facial». Aquesta necessitat va donar llum al projecte de crear un arxiu de rostres, amb la fotografia com a eina que permetia garantir la fiabilitat de l’inventari. L’objectiu era tenir un cens de totes les persones anònimes que es diluïen en la massa. La urgència va acréixer-se amb revoltes com la de la Comuna de París, durant la qual les autoritats van desfermar una onada de repressió que transcendia els delinqüents comuns per abraçar les persones condemnades per insurreccions polítiques.

Això no obstant, totes aquestes disciplines van revelar-se limitades. El mateix Alphonse Bertillon, artífex de la policia científica, reconeixia el 1885 que la fotografia no era una eina fiable per identificar criminals. Com que les detencions s’esqueien en llocs i èpoques diferents, i els retrats els feien agents de policia diferents, les imatges estaven subjectes a massa canvis per garantir-ne la veracitat.

Una tecnologia excloent

Els problemes de les tècniques de control del segle XIX van resoldre’s, paradoxalment, quan observar va deixar de ser necessari. La tecnologia de reconeixement facial extreu referències dels trets de la cara i comprova si són presents o no en una base de dades. Això vol dir que, tot i que fa servir les imatges com a matèria primera, la màquina no les interpreta, sinó que es limita a convertir-les en informació.

Aquest tractament sense una mirada humana que interpreti i entengui el context ha donat lloc a errors àmpliament reconeguts i denunciats. L’aprenentatge automàtic funciona buscant patrons en el món real, però per fer-ho abans ha emprat «dades d’entrenament», que en molts casos reflecteixen i perpetuen els biaixos de les persones que les han facilitades. Un estudi que ja ha esdevingut clàssic de l’MIT i Stanford va demostrar, el 2018, que el marge d’error dels sistemes de reconeixement facial era més gran en dones que en homes, i encara més en persones negres que en persones blanques. En una demostració del problema que parla per si sola, la investigadora afroamericana Joy Buolamwini va mostrar que alguns algoritmes no li reconeixien el rostre, i en canvi sí que reconeixien una màscara blanca sense cap expressió.

Tot i que hi ha empreses que han intentat corregir aquests biaixos, el problema no és fàcil de resoldre, especialment en el vessant predictiu d’alguns algoritmes. Quan han abordat el caràcter discriminatori dels seus sistemes, els centres d’investigació han topat amb el fet que la justícia i l’equitat són conceptes ambigus i difícils de traduir en fórmules matemàtiques, de manera que no sempre és fàcil aconseguir un programari que garanteixi l’equanimitat.

L’art del camuflatge

L’amenaça que el reconeixement facial comporta per a alguns drets ha despertat preocupació entre molts col·lectius activistes, però també entre artistes, que al llarg de l’última dècada han buscat maneres d’esquivar aquesta tecnologia. Entre els pioners, el més prolífic és Adam Harvey, que ha centrat la seva obra en la investigació i la crítica de la vigilància. Fa una dècada, l’estatunidenc establert a Berlín va guanyar certa notorietat amb CV Dazzle, un projecte a l’entorn de la moda com a eina per eludir els mecanismes de detecció de rostres. El concepte es basa en l’ús de maquillatge i d’altres elements com ara pentinats asimètrics, que, convenientment elaborats, confonen els algoritmes i els impedeixen de funcionar.

Des del 2010, la iniciativa s’ha ramificat en altres conceptes com Stealth Wear, una col·lecció inspirada en la indumentària tradicional islàmica i en l’ús de drons com a arma de guerra, i que fa servir tela reflectora per evitar la localització de sistemes de vigilància tèrmica. Un altre projecte que s’hi relaciona és HyperFace, un patró en estat de prototip que, en comptes de confondre l’algoritme negant-li la possibilitat de reconèixer el rostre, li proporciona cares falses per saciar-li la necessitat d’identificar.

Amb un enfocament diferent, l’artista Zach Blas estudia les conseqüències d’aquesta tecnologia en els col·lectius que pateixen més desigualtat i en els que no responen als cànons normatius des del punt de vista cultural. Un dels seus projectes més notoris és Facial Weaponization Suite, que consisteix en l’elaboració de «màscares col·lectives» a partir de dades facials agregades de persones que formen part de grups exclosos. Fag Face Mask, per exemple, va generar-se a partir de les imatges d’homes queer, i hi ha objectes similars elaborats per representar la invisibilització de la dona, la criminalització dels homes negres o la vigilància fronterera entre Mèxic i els Estats Units. Les carotes resultants intenten representar aquestes identitats en un únic cap amorf que els algoritmes no poden identificar.

Un altre projecte de Blas relacionat amb col·lectius discriminats és Face Cages, en el qual l’artista treballa a partir dels diagrames geomètrics que generen els programaris d’identificació facial. El projecte reuneix quatre artistes queer perquè generin gràfiques biomètriques dels seus rostres, que després es fabriquen com objectes metàl·lics tridimensionals. Un cop posades, les carotes fan pensar en gàbies o barrots, o evoquen alguna mena de tortura medieval. En l’entorn museístic, l’obra es mostra amb vídeos dels mateixos artistes portant aquesta mena d’armadura a la cara, però la vocació de les obres és performativa, i per això també es fan servir en accions i representacions públiques.

Una tercera aproximació al tema que val la pena de mencionar és la de l’estatunidenc Sterling Crispin, que entre el 2013 i el 2015 va desenvolupar Data Masks, una obra que no pretén anul·lar el reconeixement facial, sinó reflectir-lo. El projecte es basa en l’enginyeria inversa, que fa que els mateixos algoritmes creïn formes semblants a rostres. Amb els resultats del procés, l’artista crea una sèrie de màscares impreses en 3D que qualifica d’«ombres d’éssers humans vistes per l’ull de la ment de la màquina-organisme». Com detalla en la documentació del projecte, l’objectiu de les carotes no és confondre l’algoritme, sinó mostrar-li un mirall, de manera que la màquina treballi en funció de les seves regles i convencions.

En l’obra d’aquests tres artistes hi ha un nexe en comú: l’objectiu de les màscares no és amagar-se de la càmera, sinó confondre-la, enganyar-la. En aquest sentit, les seves obres poden entendre’s com eines reivindicatives, com armes de guerra. Aquesta característica les acosta al camuflatge, una tàctica militar –sovint desenvolupada en col·laboració amb artistes– que no sempre busca la desaparició del subjecte, sinó que també pretén dificultar l’observació a l’enemic. Un exemple clàssic d’això és la pintura de vaixells dazzle, que es va fer servir durant la Primera Guerra Mundial per decorar naus amb línies cridaneres i formes d’estil cubista, cosa que desconcertava la flota rival, que no podia endevinar ni la mida ni la direcció de les embarcacions. De la mateixa manera, les obres de Harvey, Blas i Crispin no busquen la desaparició de les persones que les porten. Pensades per fer-ne un ús públic en manifestacions, la funció que tenen és la de fer visible i llampant la denúncia de les formes dominants de vigilància i control.

Un moviment antireconeixement facial

El 2014, el periodista Joseph Cox escrivia que hi havia «un creixement del moviment antireconeixement facial». Mirant enrere, potser era prematur parlar de «moviment», però cal reconèixer que els experiments de disseny crític a l’entorn d’aquest tema no han parat d’augmentar. Hi ha projectes que segueixen el camí de les obres fetes amb màscares, però les tècniques ja s’estenen a les peces de joieria, les samarretes, els projectors de rostres, les ulleres amb llums LED, els passamuntanyes pixelats o els mocadors amb cares estampades, per citar alguns exemples.

No hi ha cap d’aquestes tècniques de camuflatge que sigui sempre efectiva. De fet, n’hi ha algunes que només serveixen per a algoritmes concrets o per a versions de programari vigents anys enrere. D’altra banda, caminar amb la cara tapada o amb artefactes extravagants no sembla ni còmode ni elegant, o sigui que la investigació sobre com es pot frustrar la tecnologia de reconeixement facial encara té camp per córrer. En qualsevol cas, les iniciatives d’aquests artistes serveixen per esperonar i despertar l’interès de la ciutadania, cosa que acaba tenint certa repercussió en el debat públic i legislatiu. Ja hi ha molts governs de diferents parts del món, i tant a escala local com a escala estatal, que proposen de regular aquests algoritmes. El destí d’aquestes decisions sumarà un altre pes a la balança, sempre fràgil, entre seguretat i llibertat.