Barcelona Metropolis

Per tant, hem de garantir que els sistemes d’IA que tenen un impacte directe o indirecte en la vida de les persones respectin sempre l’autonomia humana. La lletra A també és rendició de comptes (accountability, en anglès), és a dir, claredat en l’atribució de responsabilitat relacionada amb les conseqüències de l’ús de mètodes d’IA. Finalment, la A també significa augmentar la intel·ligència, en comptes de reemplaçar-la: els sistemes d’IA s’han de fer servir per donar suport i complementar la presa de decisions humanes i no pas per substituir els humans.

T de confiança (trust) i transparència

La confiança és un pilar fonamental en les nostres relacions i sorgeix quan es compleixen tres condicions: competència, que és la capacitat de dur a terme amb èxit la tasca compromesa; fiabilitat, entesa com la competència sostinguda en el temps, i honestedat i transparència. Per tant, la T a FATEN també hi és per a la transparència. Un sistema de presa de decisions basat en dades és transparent quan els no experts poden observar-lo i entendre’l amb facilitat. Els models d’IA transparents, interpretables i explicables són especialment necessaris en els casos d’ús amb impacte social.

E de bEneficiència i equitat

El principi de la bEneficiència es refereix a maximitzar l’impacte positiu de la IA amb sostenibilitat, diversitat i veracitat. No podem ignorar el cost ambiental del desenvolupament tecnològic, especialment quan es tracta d’algoritmes d’aprenentatge profund, atesa la necessitat de grans quantitats de computació i dades de les quals poden aprendre.

La diversitat també és essencial. En primer lloc, en la composició dels equips que desenvolupen sistemes d’IA, per maximitzar la probabilitat de trobar solucions innovadores als reptes immensos als quals ens enfrontem[14] i desenvolupar solucions inclusives que siguin rellevants a les comunitats on s’implementaran. En segon lloc, cal incorporar criteris de diversitat en els algoritmes per minimitzar la prevalença dels filtres bombolla i els efectes de la càmera de ressonància, que contribueixen, almenys parcialment, a polaritzar l’opinió pública.

També hem de garantir la “veracitat” de les dades. Actualment podem generar algorítmicament textos, àudios, fotos i vídeos falsos mitjançant models generatius de xarxes neuronals profundes (coneguts com deep fakes) que són indistingibles, per als humans, del contingut real. Aquests continguts falsos, compartits per milions de persones, poden tenir impacte en la formació de l’opinió pública sobre temes de gran rellevància social, com ara les vacunes o els processos electorals.

E també significa equitat. Els principis de l’accés universal al coneixement i la democratització de la tecnologia estan en perill a causa del domini extrem dels gegants tecnològics dels Estats Units (Apple, Amazon, Microsoft, Facebook i Alphabet/Google) i la Xina (Tencent, Alibaba o Baidu). Aquest domini del mercat condueix al domini de les dades. De fet, la majoria d’aquests gegants tecnològics són empreses de dades que guanyen milers de milions de dòlars analitzant i monetitzant la informació que recopilen sobre els seus usuaris. Una part significativa d’aquestes dades tan valuoses sobre el comportament humà, que es podrien fer servir per al bé social, la generen i capturen aquestes empreses tecnològiques.

D’altra banda, en el segle XXI observem una polarització en la distribució de la riquesa. Segons el Global Wealth Report de Credit Suisse, les cent persones més riques del món acumulen més riquesa que els 4.000 milions de persones més pobres. Aquesta acumulació en mans de ben pocs s’ha atribuït, almenys de manera parcial, a la tecnologia i a la Quarta Revolució Industrial. Es podria argumentar que les dades, i especialment la capacitat d’aprofitar-les i donar-los sentit, són l’actiu que genera més riquesa (economia de dades). Per tant, si el nostre objectiu és maximitzar l’impacte positiu d’aquesta abundància de dades, hem de desenvolupar i promoure nous models de propietat, gestió, explotació i regulació d’aquestes.

N de no maleficiència

És a dir, minimitzar l’impacte negatiu que podria resultar de l’ús de mètodes d’IA. S’inclouen dins d’aquest principi la “prudència” en el desenvolupament de sistemes basats en IA; les garanties de fiabilitat, robustesa i reproductibilitat; la seguretat de les dades, i la preservació de la “privacitat”. És imprescindible verificar la seguretat i avaluar de manera exhaustiva els models d’IA abans de desplegar-los en el món real, particularment de xarxes neuronals profundes.

Com que els reptes són de naturalesa complexa, cal una combinació d’experts i expertes de diverses disciplines per tal que els projectes siguin un èxit. Aquesta naturalesa multidisciplinària ho fa encara més complex, però és necessària i particularment beneficiosa, ja que els equips inclourien especialistes en ètica.

Els òrgans de supervisió externa també són necessaris per garantir el compliment dels principis ètics. En els darrers anys, s’ha proposat crear la figura de l’administrador de dades (data stewards), responsable de la qualitat i governança de les dades en cada organització; comitès externs d’ètica de supervisió, i/o el nomenament d’un conseller/a amb responsabilitats de supervisió per garantir que els projectes amb impacte social estiguin alineats amb els principis de FATEN.

Una alternativa és exigir l’ús de processos, codis i sistemes oberts, a través del desplegament de regulacions que requereixin el seguiment de principis ètics i/o fomentant l’intercanvi de coneixement. A més, és imprescindible entendre les característiques culturals i socials de les societats en les quals es despleguen els projectes. Per tant, és absolutament necessari treballar amb les institucions locals i la societat civil dels països i les regions on es duran a terme els projectes.

És hora d’actuar com a societat, definint col·lectivament els horitzons ètics i polítics de la IA, perquè estem parlant de ciència i tecnologia, però també de drets, d’economia, de democràcia, d’igualtat, d’inclusió, de ciutadania, de pau i de poder.

És hora d’educar, de conèixer, de no caure en el sensacionalisme apocalíptic, de ser amos del nostre destí, de regular la IA amb intel·ligència i de centrar-nos a aturar les pràctiques abusives i els danys socials causats per les empreses que hi ha darrere dels avenços de la intel·ligència artificial, que en l’última dècada han acumulat un poder sense precedents i han contribuït a la desigualtat social.

És hora d’invertir en una intel·ligència artificial que contribueixi al progrés, sense deixar ningú enrere i sense destruir, durant el procés, el planeta. Com deia Theodore Roosevelt, “de vegades cal una revolució”. No tenim un planeta B, de manera que us convido a unir-vos a la revolució de la IA per i per a les persones i el planeta.

Referències bibliogràfiques

Oliver, N. “Artificial Intelligence for Social Good: The Way Forward”, capítol 11 del SRIP Report 2022. SRIP Report of the European Commission, 664-707. 2022.

Oliver, N. “Governance in the Era of Data-driven Decision-making Algorithms”. Women Shaping Global Economic Governance. Center for Economic Policy Research Press (CEPR), 2019.

Geschke, D., Lorenz, J., i Holtz, P. “The triple-filter bubble: Using agent-based modelling to test a meta-theoretical framework for the emergence of filter bubbles and echo chambers”. British Journal of Social Psychology, 58, 129-149. 2019.

Shorrocks, A. i Hechler-Fayd’herbe, N. Global Wealth Report 2019: Global wealth rises by 2.6% driven by US & China, despite trade tensions. Credit Suisse, Zúric, 2019.

Verhulst, S. G. “The Three Goals and Five Functions of Data Stewards. Data Stewards: a new Role and Responsibility for an AI and Data Age”. Medium i The Data Stewards Network, Nova York, 2018.