Recuerda lo humano

Niños de Navy boxeando | Harris & Edwing, Library of the Congress, Library of Congress | Sin restriccions conocidas de derechos de autor

El experimento tenía unas normas muy claras. Una tela colaborativa de 1.000 píxeles por 1.000 píxeles que todos los usuarios de Reddit podían pintar libremente durante 72 horas, píxel a píxel, con un cambio permitido cada cinco minutos. Lo llamaron Place, ‘Lugar’. Era abril de 2017 y de los 250 millones de redditors, participó más de un millón. ¿Qué podía salir mal?

Reddit es una red masiva de comunidades de interés autogestionadas por los usuarios y dedicadas a centenares de temáticas, ideas, memes, lugares, ideologías, sensaciones y debates. En 2017, cuando el equipo al mando de Reddit decidió probar el experimento de Place, la duda (y el motivo del nerviosismo corporativo) era si el lienzo terminaría llenándose de esvásticas e insultos.

El resultado fue un microcosmos mutante y disperso de facciones, alianzas, creación y destrucción, comunidades que luchaban unas contra otras otros por el mismo espacio, incursiones, contraincursiones, troles tóxicos, ejércitos de resistencia… En diversos puntos del lienzo se iban formando algunas esvásticas. A los pocos minutos, ejércitos de usuarios las borraban o las reconvertía en el logotipo de Windows 95.

El resultado final es una metáfora visual de lo que quiere ser Reddit. Una bandera fragmentada en mil pedazos que conviven. Place era la performance de la solución que Reddit ofrece para los problemas del internet oscuro, corporativo y algorítmico de la era Trump. Un ecosistema vivo, decía el lienzo, es aquel en el que todo el mundo disfruta de igualdad de condiciones, libertad de expresión, y en el que el autocontrol comunitario frena el odio.

¿Puede funcionar realmente este modelo?

La fusión del hippie y el yuppie

Reddit es un producto de la oleada de emprendeduría digital posterior a la crisis de las punto com. La idea de un agregador de noticias surgió durante los primeros campamentos emprendedores de Y Combinator, una incubadora de startups promovida por el gurú tecnológico Paul Graham. La idea de Graham era ofrecer a los jóvenes emprendedores universitarios norteamericanos el dinero justo para desarrollar sus proyectos, protegiéndolos de los grandes fondos de inversión que habían sobredimensionado e inflado muchos proyectos web durante la crisis de los 2000.

Los campamentos emprendedores de Paul Graham se fundaron con la idea de ofrecer soluciones pragmáticas a problemas concretos de una manera nueva y fresca, más ligera. De estos campamentos han surgido empresas como Dropbox, Twitch o Airbnb. Estos proyectos digitales tienen en común que combinan una imagen excéntrica, revolucionaria y desenfadada con una vocación decididamente capitalista. Este combo ambiguo y paradójico es un subproducto corporal directo de lo que los teóricos Richard Barbrook y Andy Cameron han denominado «la ideología californiana».

La ideología californiana describe el ambiente social y cultural bajo el cual se despliega el Silicon Valley que conocemos. Según los autores del término, combina el espíritu libre y excéntrico de la contracultura de los sesenta con un determinismo tecnológico dirigido a la producción capitalista y mercantil. El encaje entre el hippie y el yuppie. Revolución y capitalismo. El ecosistema digital es una promesa de emancipación que asegura que todos los problemas pueden resolverse con una app, y que construir un mundo mejor es sinónimo de hacerse multimillonario, eso sí: sin corbatas. Todo gracias a la ingenuidad creativa… ¡y a la ingenuidad inversora!

Reddit es un prototipo de esta cultura de emprendeduría cool. Sus fundadores, Steve Huffman y Alexis Ohanian, la crearon en 2005 nada más terminar la universidad y fueron añadiendo funcionalidades para hacerla más atractiva. La idea era sencilla: una web donde todo el mundo pudiera colgar enlaces interesantes y votarlos positiva o negativamente. Cuantos más votos positivos tenía un enlace, más visible era.

Reddit fue poblándose de usuarios con perfiles similares a los de sus fundadores: jóvenes universitarios interesados en los videojuegos, en la programación, en la ciencia ficción… y con un humor nerdy y edgy, que agradecían un espacio donde encontrar enlaces sobre aquello que les interesaba.

Huffman y Ohanian decidieron dividir la página en subpáginas que los usuarios podían crear para generar microcomunidades con sus intereses particulares, sin límites. Así nacieron los subreddits. Sin pretenderlo, habían inventado un sistema con los ingredientes necesarios para dar cabida a centenares de miles de pequeñas tribus digitales con sus referentes, lenguajes y tradiciones propias. Un espacio para quien tiene gustos peculiares, para la autenticidad y los intereses de nicho. Un lugar heterogéneo, caótico y sucio en tiempos de homogeneización diáfana.

Y esto es Reddit hoy en día. Un lugar que son muchísimos lugares. Un espacio difícil de explicar o definir.

Si te gustan los animalitos entrañables, puedes formar parte de r/aww; si eres de Ontario, tienes r/Ontario; si eres adicto a mortificarte con la vergüenza ajena, puedes pasarte por r/Cringetopia; si tus ideas de venganza siempre llegan demasiado tarde, puedes recrearte con las venganzas de los usuarios de r/PettyRevenge; si estás muy enganchado al último Call Of Duty, está, evidentemente, el r/CODWarzone; en r/AskParents encontrarás padres y madres que comparten consejos sobre paternidad, en r/EarthPorn tienes fotografías de rincones increíbles del planeta, si quieres cosas ligeramente interesantes, ningún problema, está r/MildlyInteresting. En r/nonononoyes hay escenas que pintaban fatal pero que al final acaban bien. En r/Transpassing, una comunidad de personas da consejos y trucos para esconder que han hecho una transición de género. r/jazz, r/Catalonia, r/mademesmile. r/nextfuckinglevel, r/oldpeoplefacebook, r/wholesomememes. La lista no es infinita, pero lo podría parecer.

En Reddit también se han generado muchos espacios tóxicos, como r/Jailbait, donde se comparten imágenes eróticas de adolescentes, r/FatPeopleHate, una comunidad dedicada a humillar a personas con sobrepeso o r/incels, una comunidad de hombres misóginos que incitaban a la violencia contras las mujeres. Decenas de comunidades racistas, antisemitas, machistas y de ultraderecha han encontrado un lugar y un altavoz en Reddit.

Para intentar proteger y justificar la plataforma, el fundador Steve Huffman la describía como un lugar para conversaciones «abiertas y honestas, y esto significa conversaciones auténticas, caóticas, lo mejor y lo peor, lo más real y lo más extraño de lo que es capaz la humanidad».

¿Libertad para acosar?

A medida que ha ido creciendo, Reddit ha ido tomando decisiones referentes a la moderación del contenido tóxico. Ha borrado algunas comunidades de odio en diversas ocasiones, pero su punto de vista sobre qué hacer con los troles, las teorías de la conspiración o el acoso han ido variando según soplaba el viento.

Cuando en 2011 Reddit decidió cerrar r/Jailbait, el entonces CEO de la empresa, Yishan Wong, excusó aquella decisión como si se tratase de un pecado, dejando claro que el único motivo por el que la eliminaban era porque compartía contenido que según las leyes estadounidenses podía ser ilegal. «Defendemos la libertad de expresión», decía entonces, «no prohibiremos los subreddits desagradables». Esta idea de la libertad de expresión absoluta era, a principios de la década, una idea fuerte que compartían todas las redes sociales, en gran expansión. Era la época de las grandes revueltas digitales, la era Obama, en la que el ambiente general era que, efectivamente, el 2.0 democratizaba el mundo. El director general de Twitter decía: «Somos el ala de la libertad de expresión del partido de la libertad de expresión».

Las redes tenían que ser «neutrales», lo que en aquel momento era sinónimo de estructuras pasivas ante cualquier comportamiento de los usuarios. Cuando en 2012 Reddit anunció que prohibía la compartición de contenido sugerente o sexual de menores en la plataforma, el comentario a la noticia con mayor número de votos positivos decía así: «Buen trabajo. Os habéis abierto a las influencias externas sobre lo que se puede o no publicar en Reddit».

Dos años más tarde, cuando Ellen Pao tomó la decisión de cerrar los cinco subreddits más tóxicos, entre los que se encontraban r/FatPeopleHate y r/shitniggerssay, la reacción de buena parte de los usuarios de la plataforma fue una violenta indignación contra Pao; compartieron imágenes de esvásticas vinculadas a su nombre para que apareciesen cada vez que alguien lo buscase en Google. Muchos amenazaron con marcharse a una plataforma donde no se censurara.

Los usuarios reaccionaban con hostilidad a los primeros intentos de moderación mínima. ¿Por qué les irritaba tanto que se cerrasen foros dedicados a la vejación, a la misoginia y al racismo? ¿Por qué se sentían así de atacados?

Las migajas de la ciberutopía

El origen de esta idea concreta de libertad incondicional es herencia de los discursos ciberutópicos de los albores de internet.

En 1996, el activista digital y miembro del grupo Grateful Dead John Perry Barlow comenzaba así su Declaración de Independencia del Ciberespacio:

Gobiernos del Mundo Industrial, vosotros, cansados gigantes de carne y acero, vengo del Ciberespacio, el nuevo hogar de la Mente. En nombre del futuro, os pido en el pasado que nos dejéis en paz. No sois bienvenidos entre nosotros. No ejercéis ninguna soberanía sobre el lugar donde nos reunimos.

En esta declaración, escrita como respuesta a la Telecommunications Act en Estados Unidos, un épico Perry Barlow declaraba que los usuarios de internet estaban creando un mundo libre de privilegios y prejuicios generados por cuestiones de etnia, poder económico, fuerza militar o nacimiento… emulando el tono fundacional de la declaración de Thomas Jefferson. En este mundo, afirmaba, todos podrán expresar sus creencias, sin miedo a ser silenciados, «sin importar lo singulares que sean».

Este posicionamiento libertario y poético ha tenido una aplicación pragmática en numerosos proyectos que han intentado hacer de internet una alternativa global al capitalismo. La ciberutopía se ha desplegado en luchas para la libre circulación de contenidos digitales, para el libre acceso a la información, para la libre comunicación entre personas, para la neutralidad digital, la digitalización de la democracia o por una moneda digital autónoma, entre muchas otras cuestiones.

Pero tal como apunta el pensador crítico Evgeny Morozov, el proyecto de la ciberutopía es, en esencia, un proyecto capitalista de raíz norteamericana que, en vez de ofrecer una alternativa real al capitalismo, no deja de ser la forma que adopta en su estadio más completo y desarrollado.

A pesar de sus límites, las ideas ciberutópicas han ido cristalizando en la ética de las comunidades digitales, que han tomado conciencia de que hay que defender sus parcelas de libertad de expresión de las grandes corporaciones tradicionales y del establishment. Esta idea de una libertad bajo la amenaza de fuerzas externas ha calado en la cosmovisión de espacios como Reddit. ¿Contra quién dirigen esta hostilidad? ¿Quién puede cargarse su espacio?

Los enemigos habituales son los medios tradicionales que ridiculizan y no entienden las dinámicas de internet, las corporaciones que quieren explotar económicamente la autenticidad comunitaria… y los nuevos usuarios, que pisan el jardín y se saltan los comportamientos y costumbres comunitarios. Esta última amenaza se conoce como un «septiembre eterno».

El concepto «septiembre eterno» se origina durante la oleada masiva de nuevos usuarios que aparecieron en la plataforma Usenet en septiembre de 1993, en el momento en que el proveedor AOL abrió las compuertas de este espacio de discusión a muchos nuevos usuarios, abrumando a la pequeña sociedad de usuarios experimentados y desestructurando las normas sociales que habían generado como comunidad. Desde entonces, el concepto hace referencia al miedo a una invasión social de nuevos usuarios, a menudo desinformados, que desvirtúen y rompan la convivencia de espacios digitales que ya disponen de sus dinámicas, sus lenguajes y su equilibrio.

A medida que se desarrolla el internet de las grandes plataformas, el miedo al control corporativo de internet y a que el septiembre eterno se lleve por delante su filosofía colectiva hace que muchas comunidades de Reddit reaccionen con hostilidad a la influencia del establishment, renegando de cualquier tipo de intervención externa.

Esta actitud antiestablishment y en defensa de la libertad individual es la que, aprovechada por algunos colectivos de extrema derecha, servirá de cantera para un nuevo populismo conservador, reciclando los viejos conceptos de la ciberutopía para luchar contra lo que ellos denominan dictadura de la corrección política.

Pero ¿cómo es esta libertad de expresión absoluta que defienden con uñas y dientes? ¿Qué tipo de lugar sería internet si no hubiese ningún tipo de intervención ni moderación humanas?

Libertad, ¿para quién?

La confusión entre libertad de expresión y ausencia de normas puede ilustrarse con el caso de Etika. Etika era un streamer afroamericano que jugaba a toda clase de videojuegos y lo emitía por Youtube y Twitch. Alguien le propuso que jugara al popular videojuego Minecraft, pero que lo hiciera en uno de sus «servidores anarquistas». Minecraft cuenta con centenares de miles de servidores públicos en los que juegan usuarios de todo el mundo construyendo bases, explorando el mapa y haciendo y deshaciendo comunidades. Sus «servidores anarquistas» se caracterizan por no tener ningún tipo de moderación, normativa o equipo de administración. Todos los jugadores pueden hacer lo que deseen sin miedo a ser expulsados.

A los pocos minutos de la entrada de Etika, el chat del servidor comenzó a llenarse de insultos racistas y deseos de muerte, y allí por donde pasaba los usuarios construían monumentos en forma de esvástica. Etika, que había explicado en diversas ocasiones que sufría trastornos mentales y que se encontraba en una situación vital complicada, se suicidó a las pocas semanas de entrar en el servidor. Después de muerto, en el chat seguían apareciendo los mismos chistes racistas, como si nada hubiese pasado.

A diferencia de lo que afirmaba John Perry Barlow, internet no ofrece una alternativa al mundo real, solo es una sombra alargada y, a menudo, caricaturizada. Todos los problemas estructurales del mundo físico se reproducen y expanden en el mundo digital, no los resuelve por arte de magia.

Un ejemplo claro de cómo esto pasa de manera estructural es lo que explica Safiya Umoja Noble en Algorithms of Oppresion, donde argumenta que buscadores como el de Google refuerzan ideas sociales preexistentes.

Explica que al buscar las palabras «black girls» esperando encontrar actividades entretenidas que hacer con sus hijas afroamericanas, gran cantidad de resultados de la primera página eran vídeos pornográficos. De la misma manera, las sugerencias de búsqueda para personas racializadas ofrecían comentarios negativos y vejatorios, a diferencia de las de personas blancas. Tras la publicación de las búsquedas, Google decidió corregirlas manualmente.

Tal y como explican en una conversación en el canal de psicología para streamers y gamers, Healthy Gamer GG, la experiencia diaria de muchas chicas streamers en Youtube y Twitch es trabajar rodeadas de insultos, menosprecio y, en algunas ocasiones, amenazas de muerte. Para ellas, la libertad de expresión pasa por generar sistemas de moderación que velen por su seguridad en entornos masculinizados, donde a menudo se las recibe como una amenaza, y por un trabajo constante para poner en valor su trabajo y no normalizar comentarios y reacciones machistas.

En otras palabras: la libertad de expresión real en internet necesita normas claras, la expulsión de los usuarios tóxicos, la prevención y eliminación del contenido pernicioso y una revisión constante de la salud de la comunidad, Pero ¿quién tiene que hacer este trabajo?

Desplataformización social corporativa

Desde el ataque organizado al capitolio de los Estados Unidos, muchas grandes plataformas como Twitter decidieron expulsar a Donald Trump y hacer una declaración de intenciones. Los servicios web de Amazon y Google también desconectaron plataformas como, por ejemplo, Parler, páginas desde donde se organizaban diversas comunidades de odio como.

«No permitiremos que desde nuestra plataforma se desplieguen actitudes que promuevan la violencia», decían. Después de llevar años haciendo la vista gorda y mirando hacia otro lado cuando Trump se saltaba las normas de uso y amenazaba o insultaba a otros usuarios, la desplataformización sincronizada en el momento en que Trump ya tenía medio pie fuera de la presidencia de los Estados Unidos tenía más de operación de márquetin y de control de daños que de ética corporativa constante.

El problema de un mecanismo de moderación puramente corporativo es que es disfuncional y arbitrario por naturaleza. Los intereses corporativos, económicos o políticos influyen en qué decisiones se toman y cuándo. A menudo, además, la labor de controlar la actividad al detalle se externaliza a trabajadores explotados, traumatizados por mensajes e imágenes violentas, que firman cláusulas de confidencialidad sobre los criterios reales de moderación.

La moderadocracia de Reddit, un modelo alternativo

En 2020 Reddit se sumó al carro y cambió su política para hacerla más restrictiva, más inclusiva y más proactiva a la hora de controlar el tipo de conversaciones que se generan. Entre otros cambios, decidió que no se permitiría la existencia de ninguna comunidad que promoviese el odio a personas por su identidad o vulnerabilidad. Con este anuncio cerró más de dos mil comunidades, entre ellas el subreddit que había ayudado a Trump a ganar las elecciones en 2016 (r/the_donald) y el subreddit del podcast de izquierdas r/ChapoTrapHouse.

Con todo, con los años Reddit ha conseguido un modelo alternativo de moderación en el que intervienen las normas de uso de la plataforma y las normas comunitarias de cada subreddit. Este modelo descentralizado equilibra el trabajo de moderación entre los usuarios voluntarios, el equipo de Reddit y diversos sistemas democráticos y de autocontrol social (por ejemplo, un referéndum), para actualizar las normas de uso de un subreddit determinado o mecanismos de reportaje y denuncia anónima.

Para complementarlo, Reddit ofrece apoyo psicológico a los moderadores y mantiene con ellos un contacto directo. Además, muchas comunidades han organizado subreddits cuya única función es detectar discursos de odio y subreddits tóxicos, a fin de reportarlos rápidamente antes de que se hagan muy grandes.

El modelo Reddit no es perfecto. Puede generar pequeñas oligarquías de usuarios moderadores todopoderosos, y la labor voluntaria de los moderadores puede ser utilizada por la plataforma para hacerse menos responsable de lo que hacen y dicen los usuarios. Pero esta combinación de responsabilidad corporativa, moderación comunitaria realizada a partir de voluntarios y apoyo estructural es, cuando menos, un modelo más horizontal, cooperativo y humano comparado con el de otras plataformas.

La primera norma de uso de Reddit, como la de muchas otras páginas y servicios hoy en día, es esta:

Recuerda lo humano. Reddit es un lugar para crear comunidad y pertenencia, no para atacar a grupos marginados o vulnerables. Todo el mundo tiene derecho a utilizar Reddit sin acoso, bullying y amenazas de violencia. Se prohibirán las comunidades y los usuarios que inciten a la violencia o que promuevan el odio basado en la identidad o la vulnerabilidad.

Probablemente sea un llamamiento menos sexi que el clamor de libertad de los ciberutópicos de los noventa, pero, vista la experiencia de los últimos treinta años, el resultado es más parecido a un espacio donde es posible mantener una conversación con libertad, donde los usuarios, en lugar de los algoritmos o las plataformas opacas, borran las esvásticas, aunque sea convirtiéndolas en el logotipo de Windows 95.