Feia temps que Antonio Balmón, vicepresident executiu de l’Àrea Metropolitana de Barcelona (AMB) i alcalde de Cornellà de Llobregat (PSC), volia desplegar un sistema tecnològic i social de seguretat per al territori que conformen la capital catalana i els 35 municipis que l’envolten. El socialista, que ocupa el consistori llobregatí des de fa dues dècades i, de facto, és la primera autoritat de l’AMB, havia anunciat en diversos fòrums la seva intenció d’oferir una aplicació mòbil a la ciutadania metropolitana, que permetés, entre altres coses, contactar amb la policia municipal o els Mossos d’Esquadra o rebre avisos de seguretat al telèfon mòbil.
El passat 12 de novembre, a la fi, el Consell Metropolità de l’AMB va signar un acord per tirar endavant el projecte. Segons la documentació a la qual ha tingut accés la Directa la idea tan reiterada per Balmón ha estat batejada com Servei Públic d’Innovació Comunitària. Així s’anuncia el projecte que té com a suposats objectius “prevenir l’incivisme i reforçar la vigilància a l’espai públic”. “Aquest sistema tecnològic social es basa en la integració de múltiples tecnologies i algoritmes, de contacte ràpid entre la ciutadania i la seva administració local a través de les policies municipals, en què l’anàlisi de les dades, els sistemes intel·ligents, la integració de dispositius i la interoperabilitat amb els sistemes actuals dels diferents ajuntaments metropolitans permetin millorar l’eficàcia, l’eficiència i la rendició de comptes de les polítiques públiques”, reblen.
El Servei Públic d’Innovació Comunitària de l’AMB pretén “generar models predictius amb algoritmes, per anticipar escenaris i determinar possibles situacions de risc”
Més enllà de la visió securitària dels socialistes, el nou servei deixa algunes qüestions sense respondre, la més preocupant de les quals té a veure amb el sistema de policia predictiva que l’AMB vol tirar endavant.
Tal com s’indica en la documentació, es pretén “generar models predictius amb algoritmes, per anticipar escenaris, i determinar possibles situacions de risc”. Dit d’una altra manera i com si d’una pel·lícula de ciència-ficció es tractés, el que vol l’AMB és crear un model que permeti, per exemple, predir on hi ha més probabilitat que es produeixi un delicte, mitjançant la gran quantitat de dades que aportaran les mateixes usuàries de l’aplicació, per una banda, i les dades que tenen les administracions públiques gràcies a les càmeres de videovigilància o els sensors de soroll o de calor, per l’altra. Alhora, indica la documentació, caldrà aplicar “intel·ligència artificial per al desenvolupament d’algoritmes d’aprenentatge automàtic per anticipar patrons, tendències i esdeveniments futurs”.
Així mateix, l’organisme supramunicipal, justifica el desplegament del servei pel context social que, assegura, hi ha al territori. “L’increment de les desigualtats i la preocupació creixent per la seguretat”, diu l’AMB. Aquesta situació, afegeix el govern dels 36 municipis, s’ha produït per la “revifada de conflictes armats i guerres regionals com l’atac de Rússia a Ucraïna o el conflicte armat a l’Orient Mitjà amb el risc d’una escalada global”, que se suma a “la crisi econòmica sistèmica del 2008-2014, la crisi climàtica i la crisi sanitària provocada pel virus SARS-CoV-2”.
Una tecnologia estesa i al punt de mira
Els sistemes de policia predictiva no són una cosa nova. Des de fa pocs anys s’apliquen a ciutats de tot el món i són coneguts a la geografia estatal. L’empresa EuroCop, que té presència en una cinquantena d’ajuntaments peninsulars, ofereix als seus clients el sistema EuroCop PRED-CRIME que permet la “predicció i prevenció del delicte”. La companyia, segons indica al seu web, té presència als consistoris de Vic, la Seu d’Urgell, Premià de Dalt, Reus, Ripollet, Salou, Valls, Eivissa, Palma, Maó, Castelló, Borriana, Benicàssim, Dénia, Vila-real, Altea, Calp, Santa Pola, Torrent, el Campell, Catarroja i Paiporta. A més, impulsa la Càtedra EuroCop, una iniciativa de la Universitat Jaume I de Castelló, la Policia Local i l’Ajuntament de Castelló que té com a objectiu desenvolupar projectes i sistemes per a la predicció del delicte.
Crida l’atenció com d’esteses estan les tecnologies policials operades per empreses privades, quan es tracta de serveis que acumulen fortes crítiques. Un informe de l’ONG Fair Trails titulat Automatització Injusta alerta que cada vegada més forces policials i autoritats a Europa usen sistemes automatitzats i basats en dades, per elaborar perfils de persones i intentar predir el seu risc de cometre un delicte en el futur, així com perfils de zones per predir si s’hi cometran delictes en el futur.
Un informe de l’ONG Fair Trails alerta que cada vegada més forces policials i autoritats a Europa usen sistemes automatitzats i basats en dades, per elaborar perfils de zones per predir si s’hi cometran delictes en el futur
Tot fent referència a aquest informe, Youssef M. Ouled, de la plataforma que lluita per unes tecnologies antiracistes AlgoRace, afirma en un article que els sistemes de policia predictiva “es creen i funcionen amb dades discriminatòries, cosa que reforça les desigualtats estructurals i institucionals en tota la societat i condueix a resultats injustos i racistes”. “A la vida real, si una persona encaixa només amb algunes de les dades, pot ser suficient per ser marcada com de risc, i de la mateixa manera, si les dades sobre una zona o un barri s’ajusten a un perfil similar, es pot marcar com un lloc on es cometran delictes en el futur”, afegeix per concloure que “s’ha demostrat que els sistemes predictius utilitzen dades i perfils discriminatoris i erronis per fer aquestes avaluacions i prediccions”.
Conscient d’aquestes crítiques, la mateixa AMB esmenta que per combatre el “biaix cultural” que és “deriva de la societat, de la llengua i el registre que fa servir cadascú per expressar-se de tot el que s’ha après al llarg de la vida”, el reglament del servei “haurà de contenir uns principis i uns mecanismes de control i assessorament extern de l’aplicació de l’algoritme”. És, amb tot, l’única especificitat que es fa a un tema tan espinós.
La mateixa Unió Europea a la IA Act considera que l’ús de la intel·ligència artificial per a fins de control és perillosa i inclús il·legal. “Alguns usos de la intel·ligència artificial comporten riscos que es consideren inacceptables, per la qual cosa el seu ús a la UE quedarà prohibit”, afirma l’organisme. “Es prohibeix, per exemple, la manipulació cognitiva conductual, el rastreig indiscriminat d’imatges facials tretes d’internet o de circuits tancats de televisió, el reconeixement d’emocions als llocs de treball i a les institucions d’ensenyament, la puntuació ciutadana, la categorització biomètrica per deduir dades delicades, com l’orientació sexual o les creences religioses, i alguns casos de vigilància policial predictiva de persones”, afegeix.
Recopilant dades
Els algoritmes predictius de seguretat, segons queda palès en la documentació de l’AMB, necessiten una gran quantitat de dades per poder funcionar. En aquest sentit, la informació que aportin els usuaris de forma voluntària es creuaran amb aquelles que s’extreguin dels sistemes de vigilància amb els quals compten les administracions locals.
En el nou sistema policial la informació que aportin els usuaris de forma voluntària es creuarà amb aquella que s’extregui dels sistemes de vigilància amb els quals compten les administracions locals
“El sistema ha de permetre la geolocalització dels usuaris que tinguin instal·lada l’aplicació”, diuen els documents. Aquestes dades, com ja s’ha dit, se sumaran a les de “dispositius externs com càmeres o sensors”. “Gran part del potencial del servei es basa en els avantatges de la ciutat intel·ligent i de la sensòrica —principalment càmeres de seguretat, lectors de matrícules, sensors de soroll, de llum, de fum i infrarojos o detectors de calor i de moviment, que poden ser fixos o mòbils—, i la seva aplicació a les polítiques públiques”, afirmen des de l’AMB.
El tema de les dades i de com s’obtenen no és menor, ja que, com es pregunta Laia Serra en l’informe Vigilància hi-tech en temps de la Covid-19, de l’Observatori de Drets Humans i Empreses a la Mediterrània (ODHE), no acaba d’estar massa clar “per què els ajuntaments volen càmeres amb sistemes de reconeixement tan avançats si la seva única missió és, en teoria, prevenir o evitar incidents”.
Qui s’encarregarà de gestionar el servei?
La darrera qüestió que no està determinada a la documentació del projecte és qui s’encarregarà de gestionar aquest complex servei de seguretat tecnològica que tindrà un cost de 13 milions d’euros.
En gran part, la documentació consultada intenta argumentar que la millor manera de posar en marxa un projecte com aquest és mitjançant la gestió indirecta amb una societat d’economia mixta. “És una forma de gestió col·laborativa publicoprivada, per prestar serveis públics de rellevància especial en l’àmbit local”, explica l’AMB.
L’empresa que podria situar-se en una posició avantatjada a l’hora de convertir-se en prestadora d’aquest servei és Einsmer, amb seu a Cornellà de Llobregat, que en l’actualitat ofereix l’aplicació de seguretat M7 a diversos municipis metropolitans. Malgrat això, des de la firma asseguren que no tenen “cap tipus d’informació ni contacte amb l’AMB”.
Des de 2012, Cornellà compta amb aquesta aplicació, que també han incorporat els ajuntaments de L’Hospitalet, Sant Boi de Llobregat, Castelldefels, Sant Vicenç dels Horts, Santa Coloma de Gramenet, el Prat de Llobregat, Esplugues, Gavà, Sant Just Desvern i Sant Feliu de Llobregat. Fora del territori metropolità Vic, Olot, Manlleu i Palafrugell també l’ofereixen. Antonio Balmón afirmava el març de 2022 en una trobada a la patronal d’empresaris Foment del Treball, que l’àrea metropolitana “en benefici de la cohesió social i territorial” preveia impulsar “polítiques en matèria de convivència ciutadana” i ja aplaudia el sistema intel·ligent de seguretat i prevenció M7, que es fa servir al municipi on és alcalde.
El servei que ofereix a aquestes localitats és similar al que oferirà l’AMB a tots els seus municipis i que s’espera que estigui implantat el 2030. Amb tot, des d’Einsmer diuen que no coneixen qui s’encarregarà del servei. Sigui com sigui, aquesta mateixa empresa té una aliança amb Siemens, una firma que, segons el Don’t Buy into Occupation Report 2024, col·labora amb l’estat d’Israel en la seva ocupació de Cisjordània.
