¿Soberanía tecnológica? Democracia, datos y gobernanza en la era digital

La soberanía tecnológica debe ser un pilar más sobre el que ir construyendo y asentando un nuevo paradigma tecnológico ético, responsable y cívico.

Sistema de dirección, 1966

Sistema de dirección, 1966 | San Diego Air & Space Museum Archive | Sin restricciones conocidas de derechos de autor

Con el cambio de gobierno en Barcelona ha tomado fuerza un discurso que hace hincapié en la soberanía tecnológica y habla de data commons, derechos digitales y software libre. Sin embargo, cuando hablamos de la capacidad de decidir de la ciudadanía, no podemos olvidar la dimensión colectiva de nuestros derechos en la red. Por ello se hace imprescindible vincular la soberanía a términos como equidad, justicia y reparación.

Hace meses que es habitual oír discursos que relacionan tecnología y soberanía, sobre todo en Barcelona. Desde un consistorio que llegó al gobierno con la promesa y responsabilidad de repensar la relación de la ciudad con la tecnología después de casos paradigmáticos de opacidad, corrupción y rechazo ciudadano, los nuevos principios quieren conformar una alternativa frente a la opción de las ciudades inteligentes dominadas por procesos de arriba abajo y con poca o ninguna consideración por el retorno social, el bien común o el impacto social y ético de la tecnología.

Esta definición de alternativas y nuevos paradigmas es urgentísima. El discurso sobre la tecnología bascula demasiado a menudo entre extremos, de un cierto ludismo reinventado y tecnofílico al tecnosolucionismo más absurdo e irracional, que asimila acríticamente los datos al petróleo o asume que más información es siempre sinónimo de mejores decisiones. El único matiz es que, mientras que las derechas tienden a confiar en el mercado y la desregulación, esperando que, como por arte de magia, la tecnología mejore la economía, nos haga más eficientes y oculte las desigualdades, la izquierda marca distancias con el mercado sin llegar a apostar por la iniciativa pública y la capacidad para imaginar futuros tecnológicos diferentes, y comparte con la derecha una infantil esperanza en que la tecnología nos acerque a sociedades mejores. Abracadabra.

Así, a diestro y siniestro, el discurso tecnológico se llena a menudo de cantos al Big Data, el Internet de las cosas, los artilugios «inteligentes», los algoritmos y Silicon Valley, como evidenciaba el líder del laborismo británico al referirse a la «cuarta revolución industrial» en estos términos. Y cuando alguien reclama un pensamiento por los impactos sociales de estos procesos, por los riesgos para la privacidad, por la necesidad de repensar derechos, valores y garantías en este nuevo escenario de datos, el tecnosolucionismo deja caer algún calificativo como «ético» o «responsable» y ya está.

En este contexto es importante el papel que quiera desempeñar la ciudad de Barcelona. ¿Podemos repensar la tecnología desde el bien común? De ser así, ¿cuáles son los términos y los contenidos de las nuevas propuestas? Para el primer teniente de alcalde de Barcelona, «en una ciudad democrática, la tecnología debería servir para empoderar digitalmente a la ciudadanía, para proteger su privacidad ante los abusos del poder público y privado, para luchar contra la corrupción y para avanzar hacia una economía más equitativa y sostenible. Esto tiene un nombre: conquistar soberanía tecnológica, digital, para el bien común.»[1] Los documentos del consistorio, por su parte, hacen distinciones entre soberanía tecnológica (romper dependencias de programas propietarios y fomentar el liderazgo público), soberanía de datos (salvaguardar la privacidad de los ciudadanos) y transparencia (la auditoría ciudadana). El paradigma propuesto por Barcelona, pues, se centra en el liderazgo y valor público, la privacidad y la transparencia.

Ser pioneros en la articulación de una definición propia del papel que debe tener la tecnología en los entornos y procesos urbanos, y atender los comprensibles equilibrios y legados de los sistemas y procesos existentes, supone un esfuerzo remarcable. Sin embargo, existen otros principios en que otras ciudades e iniciativas ya están trabajando que quedan fuera de los discursos actuales. Así, cuestiones clave vinculadas a la equidad y la justicia, la responsabilidad, la redistribución o la reparación (sí, las máquinas y los algoritmos se equivocan y sus víctimas caen en pozos infinitos de incomprensión legal y administrativa) no acaban de encontrar su lugar en los nuevos planes digitales de la ciudad.

Los límites de la soberanía de datos

Optar por la soberanía tecnológica como el elemento catalizador de un nuevo paradigma es estimulante, pero también arriesgado y potencialmente limitante. La soberanía es un término complejo y a menudo controvertido, que en su tradición rousseauniana hace referencia a poder republicano emergente del pueblo y bajo control del mismo. En el contexto de las disputas geopolíticas por el control de la comunicación transnacional, durante los últimos años la soberanía ha sido considerada como la construcción de una gobernanza –a diferentes niveles gubernamentales y politicoterritoriales– con mayor capacidad de coordinación y regulación de los intercambios digitales, que pueda incrementar tanto la seguridad colectiva como la competitividad.[2] En el caso de Barcelona se reivindica como sinónimo de la «capacidad para decidir» –la posibilidad de crear marcos de gobernanza y soluciones tecnológicas que no abusen de los datos de los ciudadanos, que les respeten la capacidad para saber qué pasa con su información, que trabajen para abordar problemas reales y no solo comerciales, y que se basen en códigos abiertos, auditables y customizables. Una especie de soberanía popular sobre los datos que se aleja de otras nociones vinculadas a la soberanía como el proteccionismo o el intento (absurdo) de desarrollar infraestructuras tecnológicas vinculadas a delimitaciones territoriales.

Technological Sovereignty and Cities | Evgeny Morozov | BITS

Además, si la elección del término soberanía para articular un nuevo discurso y prácticas tecnológicas busca basarse en la idea del control y la capacidad de decisión (siguiendo la analogía de la soberanía popular), los elementos vinculados al bien común, precisamente, pasan a un segundo plano. La soberanía permite la expresión de opciones individuales que, una vez agregadas, determinan futuros políticos. En el mundo de los datos y en la relación individual entre la ciudadanía y los dispositivos de captura de información, esta capacidad de decisión olvida la dimensión colectiva de los derechos que están en juego, como la privacidad, y abre la puerta a relaciones de datos terriblemente nocivas.

¿Puede un ciudadano decidir individualmente compartir sus datos, cuando estos contienen los de otros individuos? Si una persona decide libre y soberanamente instalarse una aplicación en su móvil que captura datos, ¿dónde queda la capacidad de decisión de las personas de su agenda de contactos, cuyos datos son inmediatamente transferidos a un tercero? Gestionar la vertiente colectiva del impacto social de la tecnología escapa a la noción de soberanía.

Hay otros aspectos clave que deben formar parte de cualquier nuevo discurso tecnológico, como la atención a la no discriminación y la brecha digital, términos vinculados a la equidad, la justicia y la reparación. La sociedad de los datos pivota sobre algoritmos que clasifican y toman pequeñas y grandes decisiones sobre la información que reciben y las personas de las que la reciben. Estos algoritmos a menudo reproducen dinámicas discriminatorias (machistas, racistas), como en los casos de sistemas de reconocimiento de voz que no identifican las voces de mujeres, los algoritmos policiales que recomiendan concentrar la actividad policial en barrios negros, o el sistema de publicidad de puestos de trabajo de Google que solo muestra las ofertas mejor pagadas a los hombres. ¿Son suficientes la capacidad de decidir o el software libre para abordar estos temas?

En la decisión de prestar banda ancha a barrios desfavorecidos, por ejemplo, ¿quién tiene en cuenta el impacto de esta política en las desigualdades existentes? ¿Quién vela por no vulnerar a estas poblaciones exponiéndolas a proveedores que abusen de la información que comparten por esta nueva infraestructura? ¿Cómo valorar el impacto social y ético, y construir mejores prácticas antes del establecimiento de la relación con el ciudadano?

Hacia una gestión ética de los datos

Desde hace unos años, diferentes actores han hablado de la necesidad de dar forma a un nuevo contrato social en torno al uso de la tecnología y los datos personales. Para estas voces, el abuso de los datos para crear nuevas formas de manipulación, explotación y control (público y privado) amenaza con erosionar valores fundamentales como la confianza y la propia democracia. Sentar las bases de este nuevo acuerdo marco requiere de la movilización de tres espacios fundamentales: la administración pública, el sector privado y la ciudadanía.

En los últimos años, la academia y partes significativas de la sociedad civil han ido rescatando y subrayando cuáles son los derechos y valores que están sufriendo bajo la bota asfixiante del tecnosolucionismo. Como mencionábamos antes, conceptos clave como la equidad y la justicia, la transparencia, la privacidad, la responsabilidad, la redistribución, la reparación y el liderazgo y valor público y ciudadano emergen como elementos a custodiar en los procesos de datos.

A month in the life of Barcelona | BCN Beats

¿Cómo hacerlo? La administración pública debe ser capaz de dar forma al futuro al tiempo que aborda los desbarajustes del pasado. Las organizaciones complejas llevan décadas incorporando sistemas sin planificación ni control, construyendo adendas tecnológicas sobre procesos caducos y perdiendo la oportunidad de repensarse desde cero. Para abordar estos desbarajustes del pasado, las administraciones necesitan dotarse de arquitecturas de datos, sistemas de gobernanza de los datos y roles específicos de supervisión y custodia de las buenas prácticas. Existen muy pocas organizaciones que hoy puedan soportar una auditoría de datos, y con la entrada en vigor del nuevo reglamento europeo de protección de datos y la exigencia ciudadana de responsabilidad y transparencia, este escenario es cada día más insostenible.

Para dar forma al futuro, las administraciones deben repensar la forma en que se presupuesta, licita y adquiere tecnología. Apostar por procesos innovadores y transparentes, software libre y contratos que establezcan claramente qué usos pueden y no pueden hacerse de los datos generados es imprescindible. Evitar la discriminación algorítmica, los ciberataques y la inversión sin retorno comienza en la redacción de pliegos y cláusulas de licitación y no puede terminar hasta la ejecución final de los proyectos. La administración también puede proporcionar datos valiosos para empresas, pero cualquier data commons público debe partir de rigurosos procesos de curaduría de los datos y velar por su anonimización y gestión responsable por parte de terceros.[3]

El sector privado tiene sus propios incentivos para no querer quedarse atrás en la carrera para incorporar prácticas éticas y responsables. Sin embargo, diferentes ciudades están experimentando con maneras de promover ecosistemas más diversos e innovadores en torno a la tecnología. Por un lado están las que asumen acríticamente los discursos tecnooptimistas y creen efectivamente que los datos son el nuevo petróleo.[4] Por el otro, están las que apuestan por las tecnologías cívicas y los ecosistemas responsables, y por el estudio riguroso del impacto de las políticas tecnológicas, como Nueva York.

Por último, la ciudadanía debe tener las herramientas para afirmar y defender sus derechos tanto en línea como fuera de línea, sobre la base de marcos reguladores claros y aplicables que permitan identificar abusos y discriminaciones y activar mecanismos de reparación. Poder utilizar la tecnología de una forma responsable y esperar un comportamiento legal, sin embargo, no puede depender de la capacidad de los usuarios de entender y defenderse. Si coger un avión no requiere el conocimiento de mecánica aeronáutica, dar los datos a cualquier administración, empresa o servicio no debería requerir el conocimiento del marco legal. Esta protección pasiva es la que deben fomentar y garantizar los entes públicos.

Un plan de acción a estos tres niveles (gobernanza del back-end de la administración pública, nuevas formas de licitación y control de la adquisición de tecnología, y protección de los derechos individuales y colectivos de los ciudadanos) recoge todo lo que sabemos acerca de las potencialidades y riesgos a corto, medio y largo plazo de la sociedad de los datos, y nos permite despertar del actual andar sonámbulo hacia futuros socialmente indeseables.

La articulación de un nuevo discurso vinculado a la tecnología, por lo tanto, debe incorporar elementos de control y empoderamiento de la ciudadanía, y la llamada soberanía tecnológica puede ser una pieza más del puzzle de retos que hay que abordar. Las ciudades, las relaciones laborales, las relaciones sociales, las formas de generar confianza y proximidad, la política, la transparencia, la movilidad, los derechos y un largo etcétera de fenómenos se están viendo sacudidos por las nuevas posibilidades tecnológicas y de los datos. Dar forma a un nuevo contrato social de los datos que permita establecer y restablecer nociones de justicia y redistribución en estas nuevas realidades sociotécnicas requiere control y capacidad de decisión, sí, pero también legalidad, ética, aceptabilidad, no discriminación y una apuesta decidida por las tecnologías cívicas, capaces de incorporar de maneras específicas esta preocupación por su impacto y las dinámicas que reproducen.

Bienvenida sea, pues, la soberanía tecnológica, como un pilar más sobre el que ir construyendo y estableciendo un nuevo paradigma tecnológico ético, responsable y cívico.


[1] Ciutats amb sobirania tecnològica, Gerardo Pisarello. El Periódico, 22 de juny de 2016.

[2] Ver: Reading, Viviane (2015). Digital Sovereignty: Europe at a Crossroads, EIB Institute, o A. Cattaruzza, D. Danet, S. Taillat and A. Laudrain, «Sovereignty in cyberspace: Balkanization or democratization», 2016 International Conference on Cyber Conflict (CyCon U.S.), Washington, DC, 2016, p. 1-9.

[3] Hay diferentes metodologías para ello. Una de las más prometedoras es la desarrollada por el Center for Urban Science and Progress de la New York University.

[4] No es este el lugar para abordar este tema en profundidad, pero la comparación entre datos y petróleo no se sostiene. El petróleo estimula economías a varias escalas, porque una pequeña cantidad de petróleo es suficiente para derivar valor a pequeña escala (un transportista no necesita tener un pozo, con unos litros puede generar negocio y valor). Los datos, en cambio, articulan un mercado que tiende al monopolio, y donde la propiedad de una pequeña cantidad de datos no genera valor. El mercado de los datos es un mercado monopolístico en el que el ganador se lo queda todo y con ello genera un valor decreciente para los actores que contribuyen a este proceso de acumulación.

El autor de este artículo se reserva todos sus derechos

Ver comentarios0

Deja un comentario

¿Soberanía tecnológica? Democracia, datos y gobernanza en la era digital