Recorda l’humà

Reddit, frontera entre els nínxols digitals i el mainstream, és un dels camps de batalla dels debats sobre llibertat d’expressió i toxicitat en temps del gran algoritme.

Infants de Navy fent boxa | Harris & Edwing, Library of the Congress

Infants de Navy fent boxa | Harris & Edwing, Library of the Congress, Library of Congress | Sense restriccions conegudes de drets d’autor

A mesura que ha anat creixent, Reddit ha anat prenent decisions de moderació de contingut tòxic. Els primers intents de moderació mínima van causar reaccions d’hostilitat entre els usuaris, però amb els anys Reddit ha aconseguit un model de moderació alternatiu i descentralitzat. Es tracta d’un model més horitzontal, cooperatiu i humà que no pas el d’altres plataformes, i el resultat és el més semblant a un espai en el qual mantenir una conversa amb llibertat és possible.

L’experiment tenia unes normes molt clares. Una tela col·laborativa de 1.000 píxels per 1.000 píxels que durant 72 hores tots els usuaris de Reddit podien pintar lliurement, píxel a píxel, amb un canvi permès cada cinc minuts. En van dir Place, ‘Lloc’. Era l’abril del 2017 i, dels 250 milions de redditors, més d’un milió va participar-hi. Què podia sortir malament?

Reddit és una massiva xarxa de comunitats d’interès autogestionades pels usuaris, dedicades a centenars de milers de temes, idees, mems, llocs, ideologies, sensacions i debats. El 2017, quan l’equip que liderava Reddit va decidir provar l’experiment de Place, el dubte (i el motiu del nerviosisme corporatiu) era si el llenç s’ompliria d’esvàstiques i insults.





El resultat va ser una microcosmos mutant i dispers de faccions, aliances, creació i destrucció, comunitats lluitant les unes contra les altres pel mateix espai, incursions, contraincursions, trols tòxics, exèrcits de resistència… En diversos punts del llenç s’anaven formant esvàstiques. Al cap de pocs minuts, exèrcits d’usuaris les esborraven o les reconvertien en el logotip del Windows 95.

El resultat final és una metàfora visual del que Reddit vol ser. Una bandera fragmentada en mil bocins que conviuen. Place era la performance de la solució que Reddit ofereix per als problemes de l’internet fosc, corporatiu i algorítmic de l’era Trump. Un ecosistema viu, deia el llenç, és aquell en què tothom gaudeix d’igualtat de condicions i de llibertat d’expressió, i en què l’autocontrol comunitari frena l’odi.

Pot funcionar, realment, aquest model?

La fusió del hippy i el yuppie

Reddit és un producte de l’onada d’emprenedoria digital posterior a la crisi de les punt com. La idea d’un agregador de notícies va sorgir durant les primeres colònies emprenedores de Y Combinator, una incubadora d’empreses emergents promoguda pel guru tecnològic Paul Graham. La idea de Graham era oferir als joves emprenedors universitaris nord-americans els diners justos perquè desenvolupessin els seus projectes, protegint-los dels grans fons d’inversió que havien sobredimensionat i inflat molts projectes web durant la crisi dels 2000.

Les colònies emprenedores de Paul Graham es van fundar amb la idea d’oferir solucions pragmàtiques a problemes concrets d’una manera nova i fresca, més lleugera. D’aquestes colònies n’han sorgit empreses com Dropbox, Twitch o Airbnb. Aquests projectes digitals tenen en comú que combinen una imatge excèntrica, revolucionària i desenfadada amb una vocació decididament capitalista. Aquesta combinació ambigua i paradoxal és un subproducte cultural derivat directament del que els teòrics Richard Barbrook i Andy Cameron han anomenat «la ideologia californiana».

La ideologia californiana descriu l’ambient social i cultural en el qual es desplega el Silicon Valley que coneixem. Segons els autors del terme, s’hi combina l’esperit lliure i excèntric de la contracultura dels seixanta amb un determinisme tecnològic encarat a la producció capitalista i mercantil. L’encaix entre el hippy i el yuppie. Revolució i capitalisme. L’ecosistema digital és una promesa d’emancipació que assegura que tots els problemes es poden resoldre amb una app, i fer un món millor és sinònim de fer-se multimilionari, això sí: sense corbates. Tot gràcies a la ingenuïtat creativa… i a la ingenuïtat inversora!

Reddit és un prototip d’aquesta cultura d’emprenedoria cool. Els seus fundadors, Steve Huffman i Alexis Ohanian, van muntar-la el 2005, quan tot just sortien de la universitat, i van anar afegint-hi funcionalitats per fer-la més atractiva. La idea era senzilla: un web on tothom pogués penjar-hi enllaços interessants i valorar-los positivament o negativament. Com més vots positius tenia un enllaç, més visible era.

Reddit es va anar poblant d’usuaris amb perfils similars als dels seus fundadors: joves universitaris interessats en els mons dels videojocs, la programació, la ciència-ficció… i amb un humor nerdy i edgy, que agraïen un espai per trobar enllaços sobre allò que els interessava.

Huffman i Ohanian van decidir dividir la pàgina en subpàgines, que els usuaris podien crear per generar microcomunitats amb interessos particulars, sense límits. Així van néixer els subreddits. Sense pretendre-ho, havien inventat un sistema amb els ingredients necessaris per donar cabuda a centenars de milers de petites tribus digitals, amb referents, tradicions i llenguatges propis. Un espai per a qui té gustos peculiars, per a l’autenticitat i els interessos de nínxol. Un lloc heterogeni, caòtic i brut en temps d’homogeneïtzació diàfana.

I això és Reddit avui dia. Un lloc que són moltíssims llocs. Un espai difícil d’explicar o definir.

Si t’agraden els animalets entranyables, pots formar part de r/aww; si ets d’Ontario, tens r/Ontario; si la teva addicció és mortificar-te amb la vergonya aliena pots passar per r/Cringetopia; si les teves idees de venjança sempre arriben massa tard, pots recrear-te amb les venjances dels usuaris de r/PettyRevenge; si estàs molt enganxat a l’últim Call Of Duty, hi ha, evidentment, el r/CODWarzone. A r/AskParents hi pots trobar pares i mares que comparteixen consells sobre paternitat; a r/EarthPorn tens fotografies de racons increïbles del planeta; si vols coses lleugerament interessants, doncs bé, tens r/MildlyInteresting. A r/nonononoyes hi ha escenes que pintaven fatal però al final acaben bé. A r/Transpassing, una comunitat de persones es donen consells i trucs per amagar que han fet una transició de gènere. r/jazz, r/Catalonia, r/mademesmile. r/nextfuckinglevel, r/oldpeoplefacebook, r/wholesomememes. La llista no és infinita, però ho podria semblar.

A Reddit també s’hi han generat molts espais tòxics, com r/Jailbait, on es compartien imatges eròtiques d’adolescents, r/FatPeopleHate, una comunitat dedicada a humiliar persones amb sobrepès, o r/incels, una comunitat d’homes misògins que incitaven a la violència contra les dones. Desenes de comunitats racistes, antisemites, masclistes i d’ultradreta han trobat lloc i un altaveu a Reddit.

Per intentar protegir i justificar la plataforma, el fundador Steve Huffman la descrivia com un lloc per a converses «obertes i honestes, cosa que significa converses autèntiques, caòtiques, el millor i el pitjor, el més real i el més estrany de què la humanitat és capaç».

Llibertat per assetjar?

A mesura que ha anat creixent, Reddit ha anat prenent decisions de moderació de contingut tòxic. Ha esborrat algunes comunitats d’odi en diverses ocasions, però la seva perspectiva sobre què cal fer amb els trols, les teories de la conspiració o l’assetjament han anat virant segons el vent dels temps.

Quan el 2011 Reddit va decidir tancar r/Jailbait, el que aleshores era CEO de l’empresa, Yishan Wong, va justificar la decisió com si fos un pecat, aclarint que només l’eliminaven perquè s’hi compartia contingut que segons la llei dels Estats Units podia ser il·legal. «Defensem la llibertat d’expressió», deia llavors, «no prohibirem els subreddits desagradables». Aquesta idea de la llibertat d’expressió absoluta era, a principis de la dècada, una idea forta i compartida per totes les xarxes socials, en expansió. Era l’època de les grans revoltes digitals, l’era Obama, en la qual la idea general era que, efectivament, el 2.0 democratitzava el món. El director general de Twitter deia: «Som l’ala de la llibertat d’expressió del partit de la llibertat d’expressió.»

Les xarxes havien de ser «neutrals», que en aquell moment era sinònim d’estructures passives davant qualsevol comportament dels usuaris. Quan el 2012 Reddit va anunciar que prohibia la compartició de contingut suggeridor o sexual de menors a la plataforma, el comentari amb més vots positius a la notícia deia així: «Bona feina. Us heu obert a les influències externes sobre què es pot o no es pot publicar a Reddit.»

Dos anys més tard, quan Ellen Pao va prendre la decisió de tancar els cinc subreddits més tòxics, entre els quals hi havia r/FatPeopleHate i r/shitniggerssay, la reacció d’una bona part dels usuaris de la plataforma va ser indignar-se violentament contra Pao, compartint imatges d’esvàstiques vinculades al seu nom perquè apareguessin cada vegada que algú el cerqués a Google. Molts van amenaçar de marxar a una plataforma que no censurés.

Els usuaris reaccionaven amb hostilitat als primers intents de moderació mínima. Per què els irritava tant que es tanquessin fòrums dedicats a la vexació, a la misogínia i al racisme? Per què se sentien així d’atacats?

Les escorrialles de la ciberutopia

L’origen d’aquesta idea concreta de llibertat incondicional és herència dels discursos ciberutòpics de les primers albors d’internet.





L’any 1996, l’activista digital i membre de la banda Grateful Dead, John Perry Barlow, començava la seva «Declaració d’Independència del Ciberespai» així:

Governants del món industrialitzat, cansats gegants de carn i acer, vinc del Ciberespai, la nova llar de la ment. En nom del futur, a vosaltres, que sou del passat, us demano que ens deixeu en pau. No sou benvinguts entre nosaltres. No teniu cap autoritat on ens reunim.

En aquesta declaració, escrita com a resposta a l’aprovació de la Telecommunications Act als Estats Units, Perry Barlow declarava èpicament que els usuaris d’internet estaven creant un món lliure de privilegis i prejudicis generats per ètnia, poder econòmic, força militar o naixement… emulant el to fundacional de la declaració de Thomas Jefferson. En aquest nou món, deia, tothom podrà expressar les seves creences, sense por de ser silenciats, «per singulars que puguin semblar».

Aquest posicionament llibertari i poètic ha tingut una aplicació pragmàtica en molts projectes que han intentat fer d’internet una alternativa global al capitalisme. La ciberutopia s’ha desplegat en lluites per a la lliure circulació de continguts digitals, pel lliure accés a la informació, per la lliure comunicació entre persones, per la neutralitat digital, la digitalització de la democràcia o per una moneda digital autònoma, entre moltes altres.

Però tal com apunta el pensador crític Evgeny Morozov, el projecte de la ciberutopia és, en essència, un projecte capitalista d’arrel nord-americana que, en comptes d’oferir una alternativa real al capitalisme, no és més que la forma que el capitalisme pren en l’estadi més complet i desenvolupat.

Malgrat els límits, les idees ciberutòpiques han anat cristal·litzant en l’ètica de les comunitats digitals, que han pres consciència que cal defensar les parcel·les de llibertat d’expressió de les grans corporacions tradicionals i de l’establishment. Aquesta idea d’una llibertat amenaçada permanentment per forces externes ha calat en la cosmovisió d’espais com Reddit. Contra qui dirigeixen aquesta hostilitat? Qui pot eliminar-los l’espai?

Els enemics habituals són els mitjans tradicionals, que ridiculitzen i no entenen les dinàmiques d’internet, les corporacions que volen explotar econòmicament l’autenticitat comunitària… i els nous usuaris, que trepitgen el jardí i se salten els comportaments i costums comunitaris. Aquesta darrera amenaça és coneguda com a «setembre etern».

El concepte «setembre etern» s’origina durant l’onada massiva de nous usuaris que van aparèixer a la plataforma Usenet el setembre del 1993, en el moment en què el proveïdor AOL va obrir les comportes d’aquest espai de discussió a molts nous usuaris, cosa que va aclaparar la petita societat d’usuaris experimentats i va desestructurar les normes socials que havien generat com a comunitat. Des de llavors, el concepte fa referència a la por d’una invasió social de nous usuaris, sovint desinformats, que desvirtuen i trenquen la convivència d’espais digitals que ja tenen unes dinàmiques, uns llenguatges i un equilibri propis.

A mesura que l’internet de les grans plataformes es va desenvolupant, la por del control corporatiu i la por que el setembre etern escombri la filosofia col·lectiva fa que moltes comunitats de Reddit reaccionin amb hostilitat a la influència de l’establishment, renegant de qualsevol tipus d’intervenció externa.

Aquesta actitud anti-establishment i en defensa de la llibertat individual és la que, aprofitada per alguns col·lectius d’extrema dreta, ha servit de cantera per a un nou populisme conservador, que ha reciclat els vells conceptes de la ciberutopia per lluitar contra el que ells anomenen «la dictadura de la correcció política».

Però com és aquesta llibertat d’expressió absoluta que defensen amb ungles i dents? Quina mena de lloc seria internet, si no hi hagués cap tipus d’intervenció ni moderació humanes?

Llibertat, per a qui?

La confusió entre llibertat d’expressió i absència de normes es pot il·lustrar amb el cas d’Etika. Etika era un streamer afroamericà que jugava a tota mena de videojocs i emetia les partides per Youtube i Twitch. Algú va proposar-li que jugués al popular videojoc Minecraft, però en un dels seus «servidors anarquistes». Minecraft té centenars de milers de servidors públics, en els quals usuaris d’arreu del món juguen construint bases, explorant el mapa i fent i desfent comunitats. Els «servidors anarquistes» es caracteritzen perquè no tenen cap mena de sistema de moderació, ni normativa, ni equip d’administració. Tots els jugadors poden fer-hi el que desitgin sense por de ser-ne expulsats.

Pocs minuts després que Etika hi entrés, el xat del servidor es va començar a omplir d’insults racistes i desitjos de mort, i per tot arreu on passava els usuaris construïen monuments en forma d’esvàstica. Etika, que havia explicat en diverses ocasions que patia trastorns mentals i que es trobava en una situació vital complicada, es va suïcidar poques setmanes després d’haver entrat al servidor. Tot i això, el xat va continuar fent els mateixos acudits racistes, com si no hagués passat res.

A diferència del que afirmava John Perry Barlow, internet no ofereix una alternativa al món real, només n’és una ombra allargada i sovint caricaturitzada. Tots els problemes estructurals del món físic es reprodueixen i s’expandeixen en el món digital; el món digital no els resol per art de màgia.

Un exemple clar del fet que això passa de manera estructural és el que explica Safiya Umoja Noble a Algorithms of Oppresion, on argumenta que cercadors com el de Google reforcen idees socials preexistents





Explica que en buscar les paraules «black girls» a la recerca d’activitats entretingudes per fer amb les seves filles afroamericanes, una gran quantitat de resultats de la primera pàgina eren vídeos pornogràfics. De la mateixa manera, els suggeriments de cerca per a persones racialitzades oferien comentaris negatius i vexatoris, a diferència dels de persones blanques. Després de la publicació de les cerques, Google va decidir corregir-les manualment.

Tal com expliquen en una conversa al canal de psicologia per a streamers i gamers, Healthy Gamer GG, l’experiència diària de moltes noies streamers a Youtube i Twitch és treballar envoltades d’insults, menyspreu i, en algunes ocasions, amenaces de mort. Per a elles, la llibertat d’expressió passa per generar sistemes de moderació que vetllin per la seva seguretat en entorns masculinitzats, on sovint són rebudes com una amenaça, i que treballin constantment perquè es posi en valor la seva feina i no es normalitzin comentaris i reaccions masclistes.

Dit d’una altra manera: la llibertat d’expressió real a internet necessita normes clares, expulsió dels usuaris tòxics, prevenció i eliminació de contingut perniciós i una revisió constant de la salut de la comunitat. Però qui ha de fer aquesta feina?

Desplataformització social corporativa

Des de l’atac organitzat al Capitoli dels Estats Units, moltes grans plataformes com Twitter, Google van decidir expulsar Donald Trump dels seus espais corporatius i fer una gran declaració d’intencions. Els serveis web d’Amazon i Google també van desconnectar plataformes com ara Parler, des d’on s’organitzaven algunes comunitats d’odi.

«No permetrem que des de la nostra plataforma es despleguin actituds que promoguin la violència», deien. Després d’anys de fer els ulls grossos i de mirar cap a una altra banda quan Trump se saltava les normes d’ús de les plataformes i amenaçava o insultava altres usuaris, la desplataformització sincronitzada, quan Trump ja tenia mig peu fora de la presidència dels Estats Units, era més una operació de màrqueting i de control de danys que no pas una mostra de l’ètica corporativa constant.

El problema d’un mecanisme de moderació purament corporatiu és que és disfuncional i arbitrari per naturalesa. Els interessos corporatius, econòmics o polítics influeixen en quines decisions es prenen i quan. Sovint, a més, la feina de controlar l’activitat al detall es fa subcontractant treballadors explotats, traumatitzats per missatges i imatges violentes, que firmen clàusules de confidencialitat sobre els criteris reals de moderació.

La moderadocràcia de Reddit, un model alternatiu

El 2020 Reddit va sumar-s’hi i va canviar de política per fer-la més restrictiva, més inclusiva i més proactiva a l’hora de controlar la mena de converses que es generen entre els usuaris. Entre altres canvis, va decidir que no permetria l’existència de cap comunitat que promogués l’odi a persones per la identitat o la vulnerabilitat. Amb aquest anunci va tancar més de dues mil comunitats, entre les quals el subreddit que havia ajudat Trump a guanyar les eleccions el 2016 (r/the_donald) i el subreddit del podcast d’esquerres r/ChapoTrapHouse

Tot i això, amb els anys Reddit ha aconseguit un model de moderació alternatiu, en el qual intervenen les normes d’ús de la plataforma i les normes comunitàries de cada subreddit. Aquest model descentralitzat equilibra la feina de moderació entre els usuaris voluntaris, l’equip de Reddit i diversos sistemes democràtics i d’autocontrol social, com ara referèndums per actualitzar les normes d’ús d’un subreddit determinat o mecanismes d’informació i denúncia anònima.

Per complementar-ho, Reddit ofereix suport psicològic als moderadors i hi manté contacte directe. A més, moltes comunitats han organitzat subreddits que només fan la funció de detectar discursos d’odi i subreddits tòxics, per denunciar-los ràpidament abans que es facin massa grans.

El model Reddit no és perfecte. Pot generar petites oligarquies d’usuaris moderadors totpoderosos, i la feina voluntària dels moderadors pot ser utilitzada per la plataforma per fer-se menys responsable del que fan o diuen els usuaris. Però aquesta combinació de responsabilitat corporativa, moderació comunitària feta a partir de voluntaris i suport estructural és, si més no, un model més horitzontal, cooperatiu i humà que no pas el d’altres plataformes.

La primera norma d’ús de Reddit, com la de moltes altres pàgines i serveis d’avui en dia, és aquesta:

Recorda l’humà. Reddit és un lloc per crear comunitat i pertinença, no per atacar grups de persones marginades o vulnerables. Tothom té dret a utilitzar Reddit sense assetjament, bullying ni amenaces de violència. Es prohibiran les comunitats i els usuaris que incitin a la violència o que promoguin l’odi basat en la identitat o la vulnerabilitat.

Probablement és una crida menys sexi que el clam de llibertat dels ciberutòpics dels noranta, però, vista l’experiència dels darrers trenta anys, el resultat és més semblant a un espai en el qual mantenir una conversa amb llibertat de veritat és possible; on els usuaris, no algorismes ni plataformes opaques, esborren les esvàstiques, encara que sigui convertint-les en el logotip del Windows 95.

Aquest article té reservats tots els drets d’autoria

Vegeu comentaris0

Deixa un comentari