La polarización y la segregación que fomentan los algoritmos pueden acabar dando forma a la ciudad. La IA se alimenta de sí misma y, como si se tratase de un espejo infinito, se empeña en mostrarnos aquello que ya conoce, pero no propone modelos alternativos. Como ciudadanos debemos aprender a utilizarla, para evitar que se apodere de nuestras decisiones.
En la ciudad del presente, los coches no vuelan ni los hologramas invaden las calles. Nuestras casas son mayormente de ladrillo, cartón, yeso y, en el mejor de los casos, de madera. Esto no quita que las tecnologías avanzadas estén ya imbricadas en nuestros tejidos urbanos, aunque no las percibamos ni se hagan presentes de forma obvia. La ciudad que vemos y tocamos es producto de un largo proceso histórico en el que la piedra infiere la velocidad de la lenta transformación física, mientras que la ciudad que practicamos (hecha de relaciones y filias) se transforma rápidamente al ritmo de la tecnología. Esta ciudad está mediada, hoy, por el análisis masivo de datos generados con herramientas de inteligencia artificial (IA), que se nutren de un mundo paralelo llamado internet, en el que no existen los pactos sociales del espacio público y cuyos consensos son definidos por las grandes corporaciones.
En esta ciudad, enamorarse en el paso de peatones ya no es una casualidad del destino azaroso. Es consecuencia inevitable del microtargeting que orienta nuestras decisiones, una estrategia que dispone de forma próxima los comercios y otros lugares afines a públicos similares, a los que también acuden otros ciudadanos (que recibieron anuncios o recomendaciones de followers de redes sociales), como resultado del análisis del rastro de datos que dejamos constantemente y que otros capturan sin nosotros notarlo. Así es como la danza urbana de transeúntes que circulan por las calles no solamente es predecible, sino que también es, a la vez, inducida por el plano digital que precede a nuestras decisiones. En esta ciudad, la única deriva urbana posible es la de un turista sin roaming tratando de hallar su camino en Google Maps.
Si Richard Sennett[1] explica la ciudad como el lugar en el que es más probable encontrarse con extraños, podemos afirmar que la ciudad tal y como él la entiende está en crisis. Lo casual, espontáneo, improbable y desordenado desaparece poco a poco, a medida que el plano digital que facilita y orienta nuestras decisiones se fusiona con nuestras vidas (a esto, algunos ya lo llaman metaverso). Así es como la misma polarización y segregación existente en las redes sociales que alimenta a tantos algoritmos de IA puede terminar dando forma a la ciudad, organizando el espacio público, reduciendo la complejidad y la mixtura de diversos y contrarios, menguando la movilidad social y, por último, reduciendo la capacidad de la misma ciudad como instrumento de redistribución de la riqueza.
Ilustración © Romualdo FauraEstamos convencidos de que describir con precisión nuestras ciudades debe facilitarnos y empujarnos hacia una mejor toma de decisiones. Esta convicción viene acompañada del incremento de la capacidad de almacenaje de la información, de la facilidad para implantar sensores a cualquier proceso y de la omnipresencia de redes de telecomunicaciones capaces de transferir todos estos flujos de datos. Sin embargo, frente al gran volumen de información adquirido (y que debería iluminarnos), descubrimos que tal exceso escapa a nuestra comprensión, y que requerimos de técnicas algorítmicas que nos ayuden a operar sobre esta.
La IA como espejo infinito
Las técnicas basadas en IA no desentrañan las lógicas del fenómeno urbano, sino que se alimentan de aquello que se les ha mostrado y son capaces de reproducirlo con cierto virtuosismo, creando la fantástica ilusión de tomar decisiones con ajustado acierto sobre sistemas altamente complejos que no son capaces de comprender. Quienes se sienten incómodos al zambullirse en las aparentes incoherencias de lo urbano o quienes buscan mejorar de forma aislada una parte de los procesos que lo conforman, sin mirar la totalidad, pueden encontrar en estas herramientas gran confort y satisfacción.
Bajo este marco operacional, la IA, en su capacidad de reproducir y recombinar informaciones sobre situaciones precedentes, presenta una clara habilidad para la gestión de procesos: optimiza rutas, reduce consumos o minimiza impactos negativos. Sin embargo, aunque todo ello es necesario, no propone modelos alternativos. Por ejemplo, en un sistema de movilidad gestionado mediante IA, se reducen los atascos y se mejoran los tiempos de trayecto y la satisfacción de los conductores. No obstante, eso no reduce el tráfico, sino que consigue que, en las calles, quepan más coches. Por lo tanto, no se transforma el sistema de movilidad actual que tan claros impactos tiene sobre el cambio climático.
Ante la imposibilidad de definir un modelo alternativo, la IA acentúa el presente. Muchas de las IA que operan ya con regularidad se alimentan de los resultados de sus propias decisiones. Como si se tratase de una cámara de eco o un espejo infinito, se empeñan en mostrarnos aquello que conocen, una y otra vez. Un ejemplo cotidiano son los algoritmos de recomendación de restaurantes, que hacen que los mejor posicionados en el ranking sean los que obtengan más visitas y que así, día tras día, mantengan su posicionamiento dominante, haciendo casi imposible alterarlo si no es por una intervención externa. Y esto, que puede parecer una anécdota, configura la calle en la que se sitúa este establecimiento, influye en los precios de los locales adyacentes y relega al olvido otros rincones de la ciudad.
Los algoritmos de recomendación de restaurantes configuran las calles en las que se sitúan, influyen en los precios de los locales adyacentes y relegan al olvido otros rincones de la ciudad.
También existen otras IA más allá de los algoritmos de recomendación de compra o de los chats que pueden ayudar a hacer los deberes del cole a los más pillos. Pongamos la mirada en investigaciones como las que ahora desarrolla el Barcelona Supercomputing Center en el marco del proyecto Impetus4Change[2] para mejorar las predicciones de episodios climáticos severos asociados al cambio climático. Gracias al empleo de estas nuevas metodologías, es posible anticiparse a olas de calor o inundaciones, con una antelación de semanas y meses, y con una precisión mayor a la obtenida mediante las metodologías actuales (tanto en la dimensión temporal como en su resolución espacial), que podrán ayudarnos a adaptarnos mejor al cambio climático.
Otro caso es el experimento Mercè, enmarcado en el proyecto Urban Citizen Learning,[3] en el cual los ciudadanos entrenan conscientemente un algoritmo de IA para que este ayude a comprender cómo se combinan los parámetros que describen el medio urbano para producir entornos habitables. El objetivo del proyecto es la cuantificación de ciertas dimensiones de lo urbano, que hasta ahora escapaban a una descripción objetiva pero que, gracias a la IA, podemos medir con vistas a regular y evaluar en un futuro.
Hackear la IA
Al margen de nuestra capacidad para participar en estos grandes proyectos, como ciudadanos debemos aprender a utilizar y hackear la IA de forma cotidiana. A utilizarla para que los provechos que esta genera no sean la ventaja de unos pocos y a hackearla para evitar que se apodere de nuestras decisiones, para quitarle el poder de conocerlo todo y desactivarla sin tener que apretar un botón.
Por ejemplo, unos jóvenes streamers[4] en China retransmiten desde el espacio público de barrios bienestantes sobre los que habitualmente los algoritmos de IA de posicionamiento en redes sociales dan mayor visibilidad. Otro caso es el de Simon Weckert[5], que pasea lentamente por las calles una carretilla de teléfonos móviles para simular, a ojos de Google Maps, un atasco que libere de coches la ciudad, induciendo a la IA de planificación de rutas a buscar recorridos menos congestionados. Otra forma popular de “tomarle el pelo” a la IA puede ser el empleo de estampados de ropa creados con las mismas imágenes que fueron empleadas para su entrenamiento. Esto termina provocando una confusión a los algoritmos de reconocimiento facial, que nos garantiza la invisibilidad ante las cámaras de videovigilancia.
El bien común frente al provecho corporativo
Hemos creado un mundo difícil de comprender, compuesto de complejos artefactos humanos (como es la propia ciudad), solamente operables mediante otros artefactos humanos, como es la propia IA. Podemos plantear usos en los que herramientas como ChatGPT nos ayuden, por ejemplo, a interpretar[6] la compleja maraña de documentos legales[7] necesarios para intervenir en la ciudad. Pero también podemos repensar todos estos documentos, simplificarlos, ajustarlos y buscar el modo de hacerlos comprensibles sin intérpretes, sin otras herramientas más allá de las empleadas en su misma redacción.
Ni el futuro está escrito ni este es consecuencia inherente de la tecnología. Por muchas decisiones que deleguemos a la IA, debemos ser nosotros (los ciudadanos) quienes definamos el modelo de sociedad que queremos que la tecnología conforme.
Ni el futuro está escrito ni este es consecuencia inherente de la tecnología. Por muchas decisiones que deleguemos a la IA, debemos ser nosotros (los ciudadanos) quienes definamos el modelo de sociedad que queremos que la tecnología conforme. Está en nuestras manos decidir si queremos que la IA convierta la ciudad en el campo de provecho de algunos pocos o si queremos que se emplee para sobrevivir al cambio climático en una sociedad más igualitaria. Y para este último fin no bastará con la extenuación del actual modelo urbano hasta el extremo, sino que deberemos repensar las lógicas que la IA no llega a desenmarañar, para poder reensamblar y pactar un nuevo modelo con el cual orientarnos hacia el futuro.
Por ello, hemos de aprender a tomar el control de la IA, debemos cooptar la IA (no hay que perderse la serie de vídeos dirigidos por Mona Sloane sobre el tema[8]). Desde lo público, hay que vigilar y definir los límites, hay que construirla, diseñarla y experimentarla, produciendo éxitos positivos del lado del bien común frente a la ingente cantidad de algoritmos de IA orientados hoy al provecho corporativo.
Deberemos pensar qué papel podemos desempeñar en un escenario en el cual las grandes corporaciones invierten más en I+D que los propios gobiernos (Amazon supera el gasto público y privado destinado a innovación en España). Y plantearnos si tiene sentido dar apoyo, desde los entes públicos, a las investigaciones que grandes empresas realizan en esta materia para su propio lucro. O cómo podemos entrelazar estas tecnologías con las políticas públicas venideras.
Volviendo a la ciudad, los ecos de la IA pueden terminar configurándola y dar lugar a una organización social más uniforme, en la que desaparezcan los errores, lo insólito, lo casual, lo espontáneo y lo extraño. Que el modelo económico y social al que nos resistimos —de cuyo funcionamiento forman parte la miseria y la opulencia— termine por no ser cuestionado, sino precisamente lo contrario, optimizado. Que el espacio urbano sea un entorno para el microtargeting. Todos ellos son riesgos que tendremos que abordar y para los que deberemos permanecer alerta. Resistamos al placer de una ciudad amable, clara y limpia. Busquemos detrás de ella. Que la ciudad nos incomode, tanto lo que vemos en ella como la dificultad para comprenderla.
[1] “Announcing new event series. Co-Opting AI: Public Conversations About Design, Inequality, and Technology”. Institute for Public Knowledge. New York University, 2019. http://ow.ly/ZvB150OoGjm
[1] Sennett, R. Construir i habitar. Ètica per a la ciutat. Editorial Arcàdia. Barcelona, 2019.
[2] https://impetus4change.eu/
[4] Amantegui, A. “Por qué las streamers chinas se juntan bajo el puente de un barrio rico para emitir sus directos”. La Vanguardia, 2023. https://ow.ly/1KxN50OQjgr
[5] Weckert, S. “Google Maps Hacks”. 2020. http://ow.ly/F4me50OoGfM
[6] Tilbe, A. “Complete ChatGPT Guide for Lawyers: Top 20 Essential Prompts”. Medium, 2023. http://ow.ly/WKkn50OoGgX
[7] Portal jurídic de l’Ajuntament de Barcelona. http://ow.ly/pWtT50OoGib
[8] “Announcing new event series. Co-Opting AI: Public Conversations About Design, Inequality, and Technology”. Institute for Public Knowledge. New York University, 2019. http://ow.ly/ZvB150OoGjm
El boletín
Suscríbete a nuestro boletín para estar informado de las novedades de Barcelona Metròpolis