Sobirania tecnològica? Democràcia, dades i governança en l’era digital

Sistema de direcció | San Diego Air & Space Museum Archive | Sense restriccions conegudes de drets d’autor

Fa mesos que és habitual sentir discursos que relacionen tecnologia i sobirania, sobretot a Barcelona. Des d’un consistori que arribà al govern amb la promesa i responsabilitat de repensar la relació de la ciutat amb la tecnologia després de casos paradigmàtics d’opacitat, corrupció i rebuig ciutadà, els nous principis volen conformar una alternativa davant de l’opció de les ciutats intel·ligents dominades per processos de dalt a baix i amb poca o gens consideració pel retorn social, el bé comú o l’impacte social i ètic de la tecnologia.

Aquesta definició d’alternatives i nous paradigmes és urgentíssima. El discurs sobre la tecnologia bascula massa sovint entre extrems, d’un cert ludisme reinventat i tecnofílic al tecnosolucionisme més absurd i irracional, que assimila acríticament les dades al petroli o assumeix que més informació és sempre sinònim de més bones decisions. L’únic matís és que, mentre que les dretes tendeixen a confiar en el mercat i la desregulació, esperant que, com per art de màgia, la tecnologia millori l’economia, ens faci més eficients i amagui les desigualtats, l’esquerra marca distàncies amb el mercat sense arribar a apostar per la iniciativa pública i la capacitat per imaginar futurs tecnològics diferents, i comparteix amb la dreta una infantil esperança en què la tecnologia ens acosti a societats millors. Abracadabra.

Així, a tort i a dret, el discurs tecnològic s’omple sovint de cants al Big Data, l’Internet de les coses, els artefactes «intel·ligents», els algoritmes i Silicon Valley, com evidenciava el líder del laborisme britànic en referir-se a la «quarta revolució industrial» en aquests termes. I quan algú reclama un pensament pels impactes socials d’aquests processos, pels riscos per a la privacitat, per la necessitat de repensar drets, valors i garanties en aquest nou escenari de dades, el tecnosolucionisme deixa caure algun qualificatiu com «ètic» o «responsable» i avall.

En aquest context és important el paper que vulgui tenir la ciutat de Barcelona. Podem repensar la tecnologia des del bé comú? Si és així, quins són els termes i els continguts de les noves propostes? Per al primer tinent d’alcalde de Barcelona, «en una ciutat democràtica, la tecnologia hauria de servir per apoderar digitalment la ciutadania, per protegir-ne la privacitat davant dels abusos del poder públic i privat, per lluitar contra la corrupció i per avançar cap a una economia més equitativa i sostenible. Això té un nom: conquistar sobirania tecnològica, digital, per al bé comú.»[1] Els documents del consistori, per la seva banda, fan distincions entre sobirania tecnològica (trencar dependències de programes propietaris i fomentar el lideratge públic), sobirania de dades (salvaguardar la privacitat dels ciutadans) i transparència (l’auditoria ciutadana). El paradigma proposat per Barcelona, doncs, se centra en el lideratge i valor públic, la privacitat i la transparència.

Ser pioners en l’articulació d’una definició pròpia del paper que ha de tenir la tecnologia en els entorns i processos urbans, i atendre els comprensibles equilibris i llegats dels sistemes i processos existents, suposa un esforç remarcable. Tanmateix, hi ha altres principis que altres ciutats i iniciatives ja estan treballant que queden fora dels discursos actuals. Així, qüestions clau vinculades a l’equitat i la justícia, la responsabilitat, la redistribució o la reparació (sí, les màquines i els algoritmes s’equivoquen i les seves víctimes cauen en pous infinits d’incomprensió legal i administrativa) no acaben de trobar el seu lloc en els nous plans digitals de la ciutat.

Els límits de la sobirania de dades

Optar per la sobirania tecnològica com l’element catalitzador d’un nou paradigma és estimulant, però també arriscat i potencialment limitant. La sobirania és un terme complex i sovint controvertit, que en la seva tradició rousseauniana fa referència a poder republicà emergent del poble i sota control d’aquest. En el context de les disputes geopolítiques pel control de la comunicació transnacional, durant els últims anys la sobirania ha estat considerada la construcció d’una governança –a diferents nivells governamentals i politicoterritorials– amb major capacitat de coordinació i regulació dels intercanvis digitals, que pugui incrementar tant la seguretat col·lectiva com la competitivitat.[2] En el cas de Barcelona es reivindica com a sinònim de la «capacitat per decidir» –la possibilitat de crear marcs de governança i solucions tecnològiques que no abusin de les dades dels ciutadans, que els respectin la capacitat per saber què passa amb la seva informació, que treballin per abordar problemes reals i no només comercials, i que es basin en codis oberts, auditables i customitzables. Una mena de sobirania popular sobre les dades que s’allunya d’altres nocions vinculades a la sobirania com el proteccionisme o l’intent (absurd) de desenvolupar infraestructures tecnològiques vinculades a delimitacions territorials.

A més, si l’elecció del terme sobirania per articular un nou discurs i pràctiques tecnològiques busca basar-se en la idea del control i la capacitat de decisió (seguint l’analogia de la sobirania popular), els elements vinculats al bé comú, precisament, passen a un segon pla. La sobirania permet l’expressió d’opcions individuals que, un cop agregades, determinen futurs polítics. En el món de les dades i en la relació individual entre la ciutadania i els dispositius de captura d’informació, aquesta capacitat de decisió oblida la dimensió col·lectiva dels drets que estan en joc, com la privacitat, i obre la porta a relacions de dades terriblement nocives.

Pot un ciutadà decidir individualment compartir les seves dades, quan aquestes contenen les d’altres individus? Si una persona decideix lliurement i sobiranament instal·lar-se una aplicació al mòbil que captura dades, on queda la capacitat de decisió de les persones de la seva agenda de contactes, les dades de les quals són immediatament transferides a un tercer? Gestionar el vessant col·lectiu de l’impacte social de la tecnologia escapa a la noció de sobirania.

Hi ha altres aspectes clau que han de formar part de qualsevol nou discurs tecnològic, com l’atenció a la no-discriminació i la bretxa digital, termes vinculats a l’equitat, la justícia i la reparació. La societat de les dades pivota sobre algoritmes que classifiquen i prenen petites i grans decisions sobre la informació que reben i les persones de les quals la reben. Aquests algoritmes sovint reprodueixen dinàmiques discriminatòries (masclistes, racistes), com en els casos de sistemes de reconeixement de veu que no identifiquen les veus de dones, els algoritmes policials que recomanen concentrar l’activitat policial en barris negres, o el sistema de publicitat de llocs de treball de Google que només mostra les ofertes més ben pagades als homes. Són suficients la capacitat de decidir o el programari lliure per abordar aquests temes?

En la decisió de prestar banda ampla a barris desfavorits, per exemple, qui té en compte l’impacte d’aquesta política en les desigualtats existents? Qui vetlla per no vulnerar aquestes poblacions exposant-les a proveïdors que abusin de la informació que comparteixen per aquesta nova infraestructura? Com valorar l’impacte social i ètic, i construir més bones pràctiques abans de l’establiment de la relació amb el ciutadà?

Vers una gestió ètica de les dades

Des de fa uns anys, diferents actors han parlat de la necessitat de donar forma a un nou contracte social a l’entorn de l’ús de la tecnologia i les dades personals. Per a aquestes veus, l’abús de les dades per crear noves formes de manipulació, explotació i control (públic i privat) amenaça d’erosionar valors fonamentals com la confiança i la democràcia mateixa. Posar les bases d’aquest nou acord marc requereix la mobilització de tres espais fonamentals: l’administració pública, el sector privat i la ciutadania.

En els darrers anys, l’acadèmia i parts significatives de la societat civil han anat rescatant i subratllant quins son els drets i valors que estan patint sota la bota asfixiant del tecnosolucionisme. Com esmentàvem abans, conceptes clau com l’equitat i la justícia, la transparència, la privacitat, la responsabilitat, la redistribució, la reparació i el lideratge i valor públic i ciutadà emergeixen com a elements a custodiar en els processos de dades.

Com fer-ho? L’administració pública ha de ser capaç de donar forma al futur al mateix temps que aborda els desgavells del passat. Les organitzacions complexes fa dècades que incorporen sistemes sense planificació ni control, construint addendes tecnològiques sobre processos caducs i perdent l’oportunitat de repensar-se des de zero. Per abordar aquests desgavells del passat, les administracions necessiten dotar-se d’arquitectures de dades, sistemes de governança de les dades i rols específics de supervisió i custòdia de les bones pràctiques. Hi ha molt poques organitzacions que avui puguin suportar una auditoria de dades, i amb l’entrada en vigor del nou reglament europeu de protecció de dades i l’exigència ciutadana de responsabilitat i transparència, aquest escenari és cada dia més insostenible.

Per tal de donar forma al futur, les administracions han de repensar la manera com es pressuposta, licita i adquireix tecnologia. Apostar per processos innovadors i transparents, programari lliure i contractes que estableixin clarament quins usos poden i no poden fer-se de les dades generades és imprescindible. Evitar la discriminació algorítmica, els ciberatacs i la inversió sense retorn comença en la redacció de plecs i clàusules de licitació i no pot acabar fins a l’execució final dels projectes. L’administració també pot proporcionar dades valuoses per a empreses, però qualsevol data commons públic ha de partir de rigorosos processos de curadoria de les dades i vetllar per la seva anonimització i gestió responsable per part de tercers.[3]

El sector privat té els seus propis incentius per no voler-se quedar enrere en la carrera per incorporar pràctiques ètiques i responsables. Tanmateix, diferents ciutats estan experimentant amb maneres de promoure ecosistemes més diversos i innovadors al voltant de la tecnologia. D’una banda hi ha les que assumeixen acríticament els discursos tecnooptimistes i creuen efectivament que les dades són el nou petroli.[4] De l’altra, hi ha les que aposten per les tecnologies cíviques i els ecosistemes responsables, i per l’estudi rigorós de l’impacte de les polítiques tecnològiques, com Nova York.

Finalment, la ciutadania ha de tenir les eines per afirmar i defensar els seus drets tant en línia com fora de línia, sobre la base de marcs reguladors clars i aplicables que permetin identificar abusos i discriminacions i activar mecanismes de reparació. Poder utilitzar la tecnologia d’una manera responsable i esperar-ne un comportament legal, però, no pot dependre de la capacitat dels usuaris d’entendre i defensar-se. Si agafar un avió no requereix el coneixement de mecànica aeronàutica, donar les dades a qualsevol administració, empresa o servei no hauria de requerir el coneixement del marc legal. Aquesta protecció passiva és la que han de fomentar i garantir els ens públics.

Un pla d’acció a aquests tres nivells (governança del back-end de l’administració pública, noves formes de licitació i control de l’adquisició de tecnologia, i protecció dels drets individuals i col·lectius dels ciutadans) recull tot allò que sabem sobre les potencialitats i riscos a curt, mitjà i llarg termini de la societat de les dades, i ens permet despertar de l’actual caminar somnàmbul vers futurs socialment indesitjables.

L’articulació d’un nou discurs vinculat a la tecnologia, per tant, ha d’incorporar elements de control i apoderament de la ciutadania, i l’anomenada sobirania tecnològica pot ser una peça més del puzle de reptes que cal abordar. Les ciutats, les relacions laborals, les relacions socials, les formes de generar confiança i proximitat, la política, la transparència, la mobilitat, els drets i un llarg etcètera de fenòmens s’estan veient sacsejats per les noves possibilitats tecnològiques i de les dades. Donar forma a un nou contracte social de les dades que permeti establir i restablir nocions de justícia i redistribució en aquestes noves realitats sociotècniques requereix control i capacitat de decisió, sí, però també legalitat, ètica, acceptabilitat, no-discriminació i una aposta decidida per les tecnologies cíviques, capaces d’incorporar de maneres específiques aquesta preocupació pel seu impacte i les dinàmiques que reprodueixen.

Benvinguda sigui, doncs, la sobirania tecnològica, com un pilar més sobre el qual anar construint i establint un nou paradigma tecnològic ètic, responsable i cívic.