La polarització i la segregació que fomenten els algoritmes poden acabar donant forma a la ciutat. La IA s’alimenta de si mateixa i, com si es tractés d’un mirall infinit, s’entesta a mostrar-nos el que ja coneix, però no proposa models alternatius. Com a ciutadans hem d’aprendre a fer-la servir, per evitar que s’apoderi de les nostres decisions.
A la ciutat del present, els cotxes no volen ni els hologrames envaeixen els carrers. Les nostres cases són majoritàriament de maons, cartó, guix i, en el millor dels casos, de fusta. Això no impedeix que les tecnologies avançades ja estiguin imbricades en els nostres teixits urbans, encara que no les percebem ni hi estiguin presents de manera evident. La ciutat que veiem i toquem és producte d’un llarg procés històric en què la pedra infereix la velocitat de la lenta transformació física, mentre la ciutat que practiquem (feta de relacions i fílies) es transforma ràpidament al ritme de la tecnologia. En aquesta ciutat hi transcorre, avui, l’anàlisi massiva de dades generades amb eines d’intel·ligència artificial (IA), que es nodreixen d’un món paral·lel anomenat internet, en el qual no existeixen els pactes socials de l’espai públic i els consensos del qual són definits per les grans corporacions.
En aquesta ciutat, enamorar-se al pas de vianants ja no és una casualitat del destí atzarós. És conseqüència inevitable del microtargeting que orienta les nostres decisions, una estratègia que disposa de manera pròxima els comerços i altres llocs afins a públics similars, als quals també assisteixen altres ciutadans (que han rebut anuncis o recomanacions de followers de xarxes socials), com a resultat de l’anàlisi del rastre de dades que deixem constantment i que altres van capturar sense que nosaltres ho notéssim. Així és com la dansa urbana de vianants que circulen pels carrers no només és predictible, sinó que també és, alhora, induïda pel pla digital que precedeix les nostres decisions. En aquesta ciutat, l’única deriva urbana possible és la d’un turista sense roaming que mira de trobar el camí a Google Maps.
Si Richard Sennett[1] explica la ciutat com el lloc on és més probable trobar-se amb estranys, podem afirmar que la ciutat tal com ell l’entén està en crisi. El que és casual, espontani, improbable i desendreçat desapareix a poc a poc, a mesura que el pla digital que facilita i orienta les nostres decisions es fusiona amb les nostres vides (el que alguns ja anomenen metavers). Així és com la polarització i la segregació existents a les xarxes socials que alimenten tants algoritmes d’IA poden acabar donant forma a la ciutat, organitzant l’espai públic, reduint la complexitat i la mixtura de diversos i contraris, minvant la mobilitat social i, finalment, reduint la capacitat de la mateixa ciutat com a instrument de redistribució de la riquesa.
Il·lustració © Romualdo FauraEstem convençuts que descriure amb precisió les nostres ciutats ens ha de facilitar i empènyer cap a una millor presa de decisions. Aquesta convicció ve acompanyada de l’increment de la capacitat d’emmagatzematge de la informació, de la facilitat per implantar sensors a qualsevol procés i de l’omnipresència de xarxes de telecomunicacions capaces de transferir tots aquests fluxos de dades. Això no obstant, davant del gran volum d’informació adquirit (i que ens hauria d’il·luminar), descobrim que aquest excés s’escapa de la nostra comprensió i que necessitem tècniques algorítmiques que ens ajudin a operar-hi.
La IA com a mirall infinit
Les tècniques basades en IA no desxifren les lògiques del fenomen urbà, sinó que s’alimenten del que se’ls ha mostrat i són capaces de reproduir-ho amb cert virtuosisme, la qual cosa crea la fantàstica il·lusió de prendre decisions amb un encert ajustat sobre sistemes altament complexos que no poden entendre. Qui se senti incòmode en capbussar-se en les aparents incoherències del caràcter urbà o busqui millorar de manera aïllada una part dels processos que el formen, sense mirar-ne la totalitat, pot trobar en aquestes eines un gran confort i una gran satisfacció.
Sota aquest marc operacional, la IA, capaç de reproduir i recombinar informacions sobre situacions precedents, presenta una clara habilitat per gestionar processos: optimitza rutes, redueix consums o minimitza impactes negatius. Tanmateix, malgrat que tot això és necessari, no proposa models alternatius. Per exemple, en un sistema de mobilitat gestionat mitjançant IA, es redueixen els embussos i es milloren els temps de trajecte i la satisfacció dels conductors. Això no obstant, no es redueix el trànsit, sinó que s’aconsegueix que, als carrers, hi càpiguen més cotxes. Per tant, no es transforma el sistema de mobilitat actual que té impactes tan clars sobre el canvi climàtic.
Davant la impossibilitat de definir un model alternatiu, la IA accentua el present. Moltes de les IA que ja operen amb regularitat s’alimenten dels resultats de les seves decisions. Com si es tractés d’una cambra d’eco o un mirall infinit, s’entesten a mostrar-nos el que saben, una vegada i una altra. Un exemple quotidià són els algoritmes de recomanació de restaurants, que fan que els més ben posicionats en el rànquing siguin els que obtinguin més visites i que així, dia rere dia, mantinguin el posicionament dominant, la qual cosa fa gairebé impossible alterar-lo si no és per una intervenció externa. I això, que pot semblar una anècdota, configura el carrer en què se situa aquest establiment, influeix en els preus dels locals adjacents i relega a l’oblit altres racons de la ciutat.
Els algoritmes de recomanació de restaurants configuren els carrers en què se situen, influeixen en els preus dels locals i releguen a l’oblit altres racons de la ciutat.
També hi ha altres IA més enllà dels algoritmes de recomanació de compra o dels xats que poden ajudar els més entremaliats a fer els deures de l’escola. Posem la mirada en investigacions com les que ara desenvolupa el Barcelona Supercomputing Center en el marc del projecte Impetus4Change[2] per millorar les prediccions d’episodis climàtics extrems associats al canvi climàtic. Gràcies a l’ús d’aquestes noves metodologies, és possible anticipar-se a onades de calor o inundacions, amb una antelació de setmanes i mesos, i amb una precisió més alta que l’obtinguda a través de les metodologies actuals (tant en la dimensió temporal com en la resolució espacial), que ens podran ajudar a adaptar-nos millor al canvi climàtic.
Un altre cas és el de l’experiment Mercè, emmarcat en el projecte Urban Citizen Learning,[3] en el qual els ciutadans entrenen conscientment un algoritme d’IA perquè ens ajudi a entendre com es combinen els paràmetres que descriuen el medi urbà per produir entorns habitables. L’objectiu del projecte és la quantificació de certes dimensions del món urbà, que fins ara s’escapaven d’una descripció objectiva però que, gràcies a la IA, podem mesurar amb vista a regular i avaluar en un futur.
Hackejar la IA
Al marge de la nostra capacitat per participar en aquests grans projectes, com a ciutadans hem d’aprendre a fer servir i a hackejar la IA de manera quotidiana. Hem d’aprendre a emprar-la perquè els beneficis que genera no siguin l’avantatge d’uns pocs i a hackejar-la per evitar que s’apoderi de les nostres decisions, per treure-li el poder de saber-ho tot i desactivar-la sense haver de prémer un botó.
Per exemple, uns joves streamers[4] a la Xina retransmeten des de l’espai públic de barris benestants sobre els quals habitualment els algoritmes d’IA de posicionament en xarxes socials ofereixen més visibilitat. Un altre cas és el de Simon Weckert[5], que passeja lentament pels carrers un carretó de telèfons mòbils per simular, als ulls de Google Maps, un embús que alliberi de cotxes la ciutat, i això indueix la IA de planificació de rutes a cercar recorreguts menys congestionats. Una altra manera popular de “prendre el pèl” a la IA pot ser fer servir estampats de roba creats amb les mateixes imatges que es van fer servir per entrenar-la. Això acaba provocant una confusió als algoritmes de reconeixement facial, que ens garanteix la invisibilitat davant les càmeres de videovigilància.
El bé comú davant el profit corporatiu
Hem creat un món difícil d’entendre, format per artefactes humans complexos (com és la ciutat mateixa), només operables per mitjà d’altres artefactes humans, com és la IA mateixa. Podem plantejar usos en què eines com el ChatGPT ens ajudin, per exemple, a interpretar[6] el complex galimaties de documents legals[7] necessaris per intervenir a la ciutat. Però també podem repensar tots aquests documents, simplificar-los, ajustar-los i cercar la manera de fer-los comprensibles sense intèrprets, sense cap més eina a part de les emprades per redactar-los.
Ni el futur està escrit ni és conseqüència inherent de la tecnologia. Per moltes decisions que deleguem en la IA, hem de ser nosaltres (els ciutadans) els qui definim el model de societat que volem que la tecnologia formi.
Ni el futur està escrit ni és conseqüència inherent de la tecnologia. Per moltes decisions que deleguem en la IA, hem de ser nosaltres (els ciutadans) els qui definim el model de societat que volem que la tecnologia formi. És a les nostres mans decidir si volem que la IA converteixi la ciutat en el camp de profit d’uns quants o si volem que s’utilitzi per sobreviure al canvi climàtic en una societat més igualitària. I per a aquest darrer fi no n’hi haurà prou amb l’extenuació del model urbà actual fins a l’extrem, sinó que haurem de repensar les lògiques que la IA no arriba a desembullar, per poder assemblar i pactar un nou model amb el qual puguem orientar-nos cap al futur.
Per això hem d’aprendre a assumir el control de la IA, hem de cooptar la IA (no us podeu perdre la sèrie de vídeos dirigits per Mona Sloane sobre aquest tema[8]). Des de l’àmbit públic, cal vigilar i definir els límits, cal construir-la, dissenyar-la i experimentar-la, produir èxits positius al costat del bé comú davant la ingent quantitat d’algoritmes d’IA orientats avui al profit corporatiu.
Haurem de pensar quin paper podem representar en un escenari en què les grans corporacions inverteixen més en R+D que els mateixos governs (Amazon supera la despesa pública i privada destinada a innovació a Espanya). I plantejar-nos si té sentit donar suport, des dels ens públics, a les investigacions que fan algunes grans empreses en aquesta matèria per lucrar-se. O com podem entrellaçar aquestes tecnologies amb les polítiques públiques que vindran.
Si tornem a la ciutat, els ecos de la IA poden acabar configurant-la i donar lloc a una organització social més uniforme, en què desapareguin els errors i tot allò que sigui insòlit, casual, espontani i estrany. Que el model econòmic i social al qual ens resistim —i del funcionament del qual formen part la misèria i l’opulència— acabi sense ser qüestionat, sinó precisament el contrari, optimitzat. Que l’espai urbà sigui un entorn per al microtargeting. Tot això són riscos que haurem d’abordar i per als quals haurem de restar alerta. Resistim-nos al plaer d’una ciutat amable, clara i neta. Cerquem què hi ha darrere d’ella. Que la ciutat ens incomodi, tant allò que hi veiem com la dificultat per entendre-la.
[1] Sennett, R. Construir i habitar. Ètica per a la ciutat. Editorial Arcàdia. Barcelona, 2019.
[2] https://impetus4change.eu/
[4] Amantegui, A. “Por qué las streamers chinas se juntan bajo el puente de un barrio rico para emitir sus directos”. La Vanguardia, 2023. https://ow.ly/1KxN50OQjgr
[5] Weckert, S. “Google Maps Hacks”. 2020. http://ow.ly/F4me50OoGfM
[6] Tilbe, A. “Complete ChatGPT Guide for Lawyers: Top 20 Essential Prompts”. Medium, 2023. http://ow.ly/WKkn50OoGgX
[7] Portal jurídic de l’Ajuntament de Barcelona. http://ow.ly/pWtT50OoGib
[8] “Announcing new event series. Co-Opting AI: Public Conversations About Design, Inequality, and Technology”. Institute for Public Knowledge. New York University, 2019. http://ow.ly/ZvB150OoGjm
El butlletí
Subscriu-te al nostre butlletí per estar informat de les novetats de Barcelona Metròpolis