Se pretenden evitar los riesgos tecnológicos que implica la inteligencia artificial, en especial con respecto a la recolección y el tratamiento de los datos sobre los que se basan las decisiones de los algoritmos, que no siempre son respetuosos con el derecho a la privacidad de la ciudadanía.

Objetivos del observatorio

El observatorio plantea hacer seguimiento de la regulación actual, impulsar la producción de estándares de políticas para regulaciones y aplicaciones éticas de la inteligencia artificial en las ciudades e identificar los obstáculos que hay para el despliegue de este uso justo, transparente y responsable.

El plan de acción se basará en lo siguiente:

• Informe sobre la gobernanza ética de los algoritmos en las ciudades.
• Atlas en línea de buenas prácticas en IA aplicada a políticas de movilidad, gestión de residuos, agua y saneamiento…
• Informe sobre el uso del reconocimiento facial en el espacio público.

Estrategia municipal para una sociedad digital democrática

El observatorio forma parte de la Estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial, presentada hace unos meses, que dota a la ciudad de un marco normativo basado en los derechos humanos y comprometido con una sociedad digital democrática.

Consta de una veintena de actuaciones que se desarrollarán hasta el 2023 para avanzar hacia un modelo de gobernanza inteligente, más eficaz y eficiente en la resolución de retos y en la gestión de las políticas públicas municipales.