Que ve el llop! L’alarma per la desinformació i el dividend del mentider

Els pastors llegeixen les estrelles per saber l’hora | Library of Congress | Sense restriccions d’ús conegudes

Hi ha un conte tradicional que parla d’un jove pastor que, per riure, enganya la gent del seu poble cridant que ve el llop. La moral de la història és que el pastor perd la credibilitat i, quan ve de veritat, ningú acudeix a ajudar-lo i el llop ataca les seves ovelles. Potser és un exemple clàssic de «fake news», tot i que les conseqüències de la desinformació en els nostres temps tenen poc a veure amb que surti perdent el mentider.

El terme «fake news», tot i que s’havia fet servir abans, es posa de moda després de les eleccions presidencials del 2016 als Estats Units. Amb la voluntat de cercar explicacions a la victòria de Donald Trump, moltes veus assenyalen la difusió de «notícies falses» a través de les xarxes socials. El terme es va disparar a les cerques de Google entre aquelles eleccions i el febrer del 2017. Va arribar a nous cims al gener del 2018, quan Trump va presentar els seus Fake News Awards contra els mitjans que no li eren afins, a l’octubre del mateix any, amb l’èxit de Jair Bolsonaro a les eleccions brasileres, i finalment el març del 2020 enmig de la pandèmia de la covid-19.

Les «fake news» s’han convertit en tema predominant sobre política i sobre comunicació, fins al punt d’esdevenir un pànic moral, segons planteja Matt Carlson. Un pànic moral, diu Carlson seguint Stanley Cohen, té lloc quan una condició, episodi, persona o grups de persones passen a ser definits com una amenaça als valors i interessos de la societat. Aquesta amenaces poden ser reals o no, però el que interessa als dos investigadors és com es construeix el pànic al seu voltant.

La irrupció del deepfake

A principi del 2018, aquestes preocupacions s’intensifiquen amb l’aparició d’un nou fenomen: els vídeos en què, gràcies a la intel·ligència artificial, se substitueix la cara d’una persona per una altra amb molt de realisme. El fenomen, conegut com a deepfake (falsificació profunda), crida l’atenció en un primer moment com un nou desenvolupament tecnològic de la violència sexual, incloent la cara de persones famoses o d’algú a qui es vol difamar en vídeos pornogràfics.

Aviat vam començar a veure altres usos de la tecnologia, tots impressionants. N’hi ha de més o menys inofensius, com per exemple, fer que Jim Carrey protagonitzi El Resplandor enlloc de Jack Nicholson, o ressuscitar Lola Flores perquè protagonitzi un anunci de cervesa. En canvi veure que es pot sintetitzar un vídeo del president dels Estats Units a partir d’una pista d’àudio va generar força més preocupació. Més recentment, hem pogut veure el seu ús –tot i que molt pobre a nivell tècnic– amb una falsa declaració del president ucraïnès Volodímir Zelenski en plena invasió russa.

Bobby Chesney i Danielle Citron, especialistes en dret en l’àmbit digital, són autors d’un article de referència en què analitzen els reptes que comporta aquesta nova tecnologia. Més enllà de la substitució de cares, entenen com a deepfake qualsevol forma de falsificació digital hiperrealista d’imatges, vídeos i àudio.

Les imatges manipulades no són una cosa nova ni estranya. La manipulació innòcua d’imatges –com ara retocs d’il·luminació o l’aplicació d’un filtre per millorar la qualitat de la imatge– és omnipresent. Eines com Photoshop permeten ajustar les imatges tant de manera superficial com de manera substantiva. Fa temps que el camp de la ciència forense lluita amb el repte de detectar alteracions digitals. En general, les tècniques forenses estan automatitzades i, per tant, depenen menys de l’ull humà per detectar discrepàncies. Tot i que la detecció d’àudio i vídeo manipulats havia estat força senzilla, l’aparició de la tecnologia generativa que capitalitza l’aprenentatge automàtic promet canviar aquest equilibri. Permetrà la producció d’imatges, vídeos i àudios alterats (o fins i tot totalment inventats) que siguin més realistes i més difícils de desmentir que en el passat.

Com a mostra d’això últim, podem veure el generador de cares aleatòries de persones inexistents del web This Person Does Not Exist, creat per l’enginyer Philip Wang amb la mateixa tecnologia amb què funcionen els deepfakes, una xarxa generativa antagònica. Chesney i Citron apunten que, amb una tecnologia com aquesta, on no hi ha grans barreres d’accés més enllà de l’aprenentatge, la creació de deepfakes està cada cop més a l’abast de qualsevol persona.

La credibilitat dels mitjans

L’estudi de Matt Carlson se centra en els discursos sobre la desinformació als mitjans tradicionals, i explica que, quan va esclatar el tema a final del 2016, assenyalaven les «fake news» com una amenaça a la democràcia, però alhora, amb la polèmica, definien quines eren les fonts d’informació que havien de ser valorades: els diaris i informatius tradicionals.

Segons els relats recollits per l’investigador, les culpables pel problema podien ser les persones que inventaven notícies amb objectius obscurs, les xarxes socials en què es compartien, els beneficis econòmics que es podien treure de generar audiència amb continguts falsos, o fins i tot la irresponsabilitat de la mateixa audiència amb el consum de notícies. La resposta, en tot cas, segons aquests discursos, són els mitjans tradicionals. Allà, defensen molts periodistes, és on es pot trobar la credibilitat, i quan diuen que ve el llop des d’altres altaveus, potser ens estan enganyant.

La diferència entre notícies falses i notícies reals, però, és espinosa. La investigadora Claire Wardle és una de les principals referents en la reflexió sobre com hem de pensar la desinformació a la nostra època, i en un informe escrit amb Hossein Derakhshan, assenyala els perills del terme «fake news»:

El terme «fake news» també ha començat a ser apropiat pels polítics de tot el món per descriure les organitzacions periodístiques la cobertura de les quals els resulta desagradable. D’aquesta manera, s’està convertint en un mecanisme pel qual els poderosos poden reprimir, restringir, soscavar i eludir la premsa lliure. També val la pena assenyalar que el terme i els seus derivats visuals (per exemple, el segell vermell «FAKE») han estat encara més àmpliament apropiats per llocs web, organitzacions i personatges polítics identificats com a poc fiables pels verificadors de fets per soscavar els reportatges i organitzacions periodístiques contraris.

Els Fake News Awards de Trump són un exemple clar. Li va donar la volta al terme per atacar justament aquells mitjans, com la CNN, The New York Times, o The Washington Post, que es reivindiquen com a mitjans de referència davant l’auge de la desinformació. El fet és que els premis del llavors president dels Estats Units assenyalaven notícies d’aquests mitjans que, efectivament, contenien informacions errònies. Totes havien estat corregides ràpidament, molt abans del «lliurament» de premis, i amb disculpes per part dels mitjans i periodistes que les havien publicat. Per tant, la seva intenció era molt diferent a la dels webs creats exclusivament per publicar notícies inventades contra una adversari polític. Tot i això, si del que estem parlant és únicament d’incloure informacions que no són certes, Trump ja en tenia prou per posar-hi el segell vermell de «FAKE» i atacar la credibilitat d’aquests mitjans.

Anunci dels Fake News Awards publicat al web del Partit Republicà dels Estats Units i posteriorment eliminat.

El dividend del mentider

En aquesta línia, Chesney i Citron identifiquen un perill molt destacable en el seu estudi sobre els deepfakes. No totes les mentides, diuen, impliquen afirmar uns fets que no han succeït, sinó que molt sovint les mentides passen per negar realitats. Els deepfakes faciliten justament que qui menteix pugui negar la realitat. D’una banda, poden utilitzar material audiovisual manipulat per contradir allò de què se’ls acusa, però, de l’altra, hi ha un perill encara més gran:

Irònicament, els mentiders que pretenen esquivar la responsabilitat per les seves paraules i accions reals seran més creïbles a mesura que el públic estigui més educat sobre les amenaces que suposen els deepfakes. Imagineu una situació en què una acusació estigui recolzada amb proves de vídeo o àudio genuïnes. A mesura que el públic adquireix més consciència de la idea que el vídeo i l’àudio es poden falsificar de manera convincent, alguns intentaran fugir de la responsabilitat de les seves accions denunciant el vídeo i l’àudio autèntics com a deepfakes. En poques paraules: un públic escèptic estarà disposat a dubtar de l’autenticitat de les proves reals en àudio i vídeo. Aquest escepticisme es pot invocar contra el contingut autèntic de la mateixa manera que contra el contingut adulterat.

El fruit d’aquest perill és que el que han anomenat el dividend del mentider, un benefici que «circula, de manera perversa, en proporció a l’èxit de l’educació del públic sobre els perills dels deepkafes».

Com a societat, tenim un repte per fer front a les noves formes de desinformació, però també ens hem de preocupar per com ho fem. Si el discurs dels mitjans tradicionals, com planteja Matt Carlson, va més en la línia de defensar el seu propi paper i alimentar el pànic que en la d’ajudar a entendre les dinàmiques de la desinformació, anem pel mal camí.

En aquest context s’han multiplicat les iniciatives de fact-checking, amb seccions o nous mitjans destinats exclusivament a verificar si determinades afirmacions són certes o falses, i aquesta pot ser una eina útil, però també té riscos. Per exemple, s’hauria de mesurar bé si s’estan amplificant informacions falses a través d’un desmentit o si realment tenen prou difusió com per merèixer atenció. També tenir clar quines afirmacions són verificables i quines són qüestions d’opinió.

D’altra banda, caldria que els mitjans vigilessin en no caure, buscant l’equilibri entre la diversitat d’opcions polítiques, en la lògica de «tots menteixen». És habitual que es busquin fer nombres equilibrats de desmentits entre diferents opcions polítiques, com quan The Washington Post va fer equivaldre Alexandria Ocasio-Cortez amb Donald Trump, comparant els errors de càlcul de la primera amb les mentides flagrants del segon. O també quan El País va «mig desmentir» durant un debat el llavors candidat de Podemos, Pablo Iglesias, per una qüestió més aviat terminològica, i va haver d’acabar rectificant. Aquest ideal d’equilibri del periodisme no fa més que reforçar la sensació general que no es pot confiar en res.

Chesney i Citron assenyalen que aquest ambient de desconfiança no fa més que alimentar l’autoritarisme:

La combinació de la decadència de la veritat i la decadència de la confiança crea, en conseqüència, un espai més gran per a l’autoritarisme. Els règims autoritaris i els líders amb tendències autoritàries es beneficien quan les veritats objectives perden la seva força. Si el públic perd la fe en allò que escolta i veu i la veritat es converteix en una qüestió d’opinió, el poder flueix cap a qui té les seves opinions més destacades –donant poder a les autoritats en aquest camí.

Si tornem en la història del pastor que crida «que ve el llop!», ens podem imaginar que també podria ser que un altre pastor, que mai hagués mentit, fos ignorat pels seus veïns quan cridés demanant ajuda després de les mentides de l’altre. Llavors la moral de la història, més enllà de la importància de preservar la nostra credibilitat, podria ser que quan ja no confiem en res guanya el llop i estem tots perduts.

Repensar la desinformació

Per Matt Carlson, tot el pànic al voltant de les anomenades «fake news»

també és un esdeveniment incòmode per a la indústria del periodisme amb ànim de lucre als Estats Units, que fa temps que ha confiat en atraure audiències a través d’una varietat de continguts –gran part dels quals queden fora dels ideals de servei públic de la informació seriosa. No es tracta d’equiparar el contingut de les «fake news» amb totes les notícies, sinó d’identificar les similituds estructurals que fomenten el contingut que crida l’atenció.

La resposta a tot aquest problema de la desinformació no hauria de ser una confiança cega en els mitjans tradicionals. Perquè també fan servir el clickbait, tenen els seus biaixos, a vegades s’equivoquen, i perquè moltes persones han estudiat i assenyalat com tendeixen a reproduir els valors imperants en la societat i a invisibilitzar determinades realitats. La resposta hauria de passar per entendre com funcionen els mitjans i com funciona la desinformació, més enllà de l’èxit de terme «fake news».

Wardle i Derakhshan plantegen un mapa per entendre els problemes associats amb allò que anomenen desordre de la informació. Entre allò que és fals i allò que vol fer mal, hem de poder identificar tres tipus de continguts:

• Informacions errònies. Inclouen informació falsa però no tenen intenció de fer, mal, com les «fake news» premiades per Trump o els errors de càlcul d’Ocasio-Cortez.
• Desinformació. Tot aquells continguts que inclouen falsedats –des d’un context modificat per una imatge real a un titular completament inventat– i tenen l’objectiu de causar un dany.
• Informació maliciosa. Continguts que no són falsos, però es difonen amb intenció de fer mal, com poden ser algunes filtracions o alguns continguts que es difonen com a forma d’assetjament.

Més enllà d’això, Wardle ha desenvolupat tota una terminologia per poder fer referències a diferents tipus d’informacions errònies o desinformacions sense haver de recórrer a parlar de «fake news».

CC-BY-SA 3.0 UNESCO

Si podem saber més clarament què és allò que critiquem de cada contingut, podrem tenir consensos més clars sobre de què parlem, anar més enllà de les qüestions d’opinió i construir un debat més productiu sobre els mitjans. Ens cal parlar amb propietat per fugir del pànic i la imprecisió, d’aquest «que ve el llop!» que és el terme «fake news».