Se trata de un documento pionero con respecto a la regulación y la gobernanza de la IA en un contexto local: combina el proceso de contratación pública, el ciclo de vida de un sistema algorítmico, los mecanismos existentes en el Consistorio respecto a la protección de datos y los estándares éticos definidos por distintas administraciones y organizaciones.

Este protocolo se basa en la propuesta de regulación de la Comisión Europea sobre la IA, que establece diferentes tipos de actuaciones de garantía de derechos según el nivel de riesgo del sistema algorítmico. Los de riesgo inaceptable son los que suponen una amenaza clara para la seguridad y los derechos de las personas y son rechazados automáticamente. Para los sistemas algorítmicos de alto riesgo, que tienen un impacto directo en los derechos fundamentales de las personas, el protocolo prevé una serie de mecanismos de garantía más estrictos que para los considerados de riesgo limitado o mínimo, como los estudios de impacto algorítmico elaborados por un consejo asesor externo o la creación de mecanismos de comunicación y transparencia, como los registros de algoritmos.

Activación del marco normativo

Por otra parte, el protocolo se enmarca en la medida de gobierno de la Estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial, que se aprobó en abril del 2021. La medida de gobierno preveía cerca de veinte actuaciones para afrontar el despliegue de la inteligencia artificial en los diferentes servicios municipales; concretamente, la actuación 6, que ahora se desarrolla con este protocolo interno, prevé la definición de metodologías de trabajo y protocolos.

Durante el 2023 se activarán otras actuaciones incluidas en la medida de gobierno: se pondrá en marcha la creación del registro público de algoritmos y se creará un consejo asesor externo que, entre otras tareas, elaborará los estudios de impacto algorítmico definidos en el documento.