Es tracta d’un document pioner pel que fa a la regulació i la governança de la IA en un context local: combina el procés de contractació pública, el cicle de vida d’un sistema algorítmic, els mecanismes existents al consistori pel que fa a la protecció de dades i els estàndards ètics definits per diverses administracions i organitzacions. 

Aquest protocol es basa en la proposta de regulació de la Comissió Europea sobre la IA, que estableix diferents tipus d’actuacions de garantia de drets segons el nivell de risc del sistema algorítmic. Els de risc inacceptable són els que suposen una amenaça clara per a la seguretat i els drets de les persones i són rebutjats automàticament. Per als sistemes algorítmics d’alt risc, que tenen un impacte directe en els drets fonamentals de les persones, el protocol preveu un seguit de mecanismes de garantia més estrictes que per als considerats de risc limitat o mínim, com els estudis d’impacte algorítmic elaborats per un consell assessor extern o la creació de mecanismes de comunicació i transparència, com els registres d’algoritmes.

Activació del marc normatiu

D’altra banda, el protocol s’emmarca en la mesura de govern de l’Estratègia municipal d’algoritmes i dades per a l’impuls ètic de la intel·ligència artificial, que es va aprovar l’abril del 2021. La mesura de govern preveia una vintena d’actuacions per afrontar el desplegament de la intel·ligència artificial en els diferents serveis municipals; concretament, l’actuació 6, que ara es desenvolupa amb aquest protocol intern, preveu la definició de metodologies de treball i protocols.

Durant el 2023 s’activaran altres actuacions incloses en la mesura de govern: es posarà en marxa la creació del registre públic d’algoritmes i es crearà un consell assessor extern que, entre d’altres tasques, elaborarà els estudis d’impacte algorítmic definits al document.