Barcelona Metropolis

Una línia de recerca molt interessant per dotar les màquines de coneixements per entendre el món és la que té com a objectiu la modelització matemàtica i l’aprenentatge de relacions causa-efecte. Els sistemes actuals basats en aprenentatge profund simplement poden aprendre funcions matemàtiques simètriques, en particular correlacions, però no poden aprendre relacions asimètriques i, per tant, no són capaços de diferenciar entre causes i efectes, com ara que la sortida del sol és la causa del cant del gall i no a l’inrevés.

Situació real de la IA

Quina és, doncs, la situació real de la IA? La realitat és que tenim intel·ligències artificials específiques, en el sentit que cadascuna sap fer bé una única tasca, tot i no entendre realment res del que fan. Focalitzem-nos en una tècnica d’IA, coneguda com a aprenentatge profund, que, durant els darrers deu anys, ha aconseguit uns resultats espectaculars d’acord amb la seva extraordinària capacitat per detectar patrons estadístics analitzant grans quantitats de dades. Segons aquesta tècnica, hi ha un programari anomenat AlphaFold[1] que és capaç de predir l’estructura 3D de les proteïnes, és a dir, com es plega una proteïna a l’espai tridimensional. Resoldre el problema del plegament de proteïnes és important per descobrir i dissenyar nous fàrmacs, perquè la funció de les proteïnes depèn de la seva estructura tridimensional. Un altre exemple molt recent d’èxit de l’aprenentatge profund, que combina xarxes neuronals i aprenentatge per reforç, és la ja esmentada IA generativa, que permet processar llenguatge natural i també música, imatges o vídeos a partir d’una descripció inicial. Malgrat la seva aparent intel·ligència, aquests sistemes són molt limitats. De fet, no aprenen res en el sentit humà que entenem per aprendre, ja que, contràriament a nosaltres, no aprenen de manera incremental, no poden relacionar el que aprenen novament amb el que havien après anteriorment i gairebé no tenen capacitat de generalitzar ni de raonar.

Quin és, doncs, el motiu pel qual molts creuen que la IA està a punt d’igualar la intel·ligència humana i, a partir d’aquesta premissa, fan prediccions sobre hipotètiques intel·ligències artificials superiors a la intel·ligència humana? Al meu entendre, l’excessiu antropomorfisme és el motiu principal que fa que la societat tingui una percepció errònia de l’estat real de la intel·ligència artificial. Quan ens informen d’èxits espectaculars d’una IA que resol una tasca molt concreta, tendim a generalitzar i li atribuïm la capacitat de fer pràcticament qualsevol cosa que fem els éssers humans i, fins i tot, de fer-la molt millor. En realitat, el que tenen els actuals sistemes d’IA no és intel·ligència sinó “habilitats sense comprensió” en el sentit que apunta Daniel Dennett en el seu llibre From Bacteria to Bach and Back: The Evolution of Minds[2]. És a dir, sistemes que poden arribar a ser molt hàbils duent a terme tasques específiques, com reconèixer un seguit d’elements en una imatge o generar text, però sense comprendre absolutament res sobre la naturalesa d’aquests elements ni de les propietats i relacions entre ells.

El problema és que els sistemes actuals d’IA no tenen accés als referents del món real que donen contingut a les paraules perquè, en ser intel·ligències artificials no corpòries, no poden interactuar amb el món. Aquesta incapacitat per entendre realment el món impossibilita que grans models de llenguatge com GPT-4 entenguin el significat dels textos que generen. De fet, als dissenyadors d’aquests sistemes l’absència de referents del món real no els importa. Només els importa el poder retòric, enganyant els oients i els lectors fent-los creure que entenen el llenguatge com els humans, encara que generin multitud de falsedats.

En general, com més sofisticats siguin els sistemes d’IA, més responsabilitat hauríem d’exigir als seus dissenyadors i programadors, per assegurar que compleixin principis legals i ètics. Les intel·ligències artificials no tenen, ni tindran mai, intencionalitat; són el reflex de les intencions i els biaixos dels equips de programadors i entitats implicats en la seva implementació i el seu desplegament. Els agents morals som nosaltres i no pas les màquines. És per això que molts experts assenyalem la necessitat de regular-ne el desenvolupament i, fins i tot, prohibir-ne l’ús en casos de risc extrem, com ara les armes letals. Però, a més de regular, és imprescindible educar els ciutadans, en particular els polítics, sobre els beneficis i riscos de les tecnologies intel·ligents. Necessitem futurs ciutadans més i millor informats, amb més capacitat per avaluar els riscos tecnològics, amb molt més sentit crític i capaços de fer valer els seus drets. Aquest procés de formació ha de començar a l’escola i tenir continuïtat a la universitat. En particular, cal que els estudiants de ciència i enginyeria rebin una formació ètica que els permeti comprendre millor les implicacions socials de les tecnologies que desenvoluparan. Només si invertim en educació aconseguirem una societat que pugui aprofitar els avantatges de les tecnologies intel·ligents minimitzant-ne els riscos. Així, la intel·ligència artificial servirà per fer un gran pas en el progrés de la humanitat.

[1] Jumper, J., Evans, R., Pritzel, A. et al. “Highly accurate protein structure prediction with AlphaFold”. Nature, 596, 583-589. 2021. http://ow.ly/XiVW50OnOjm

[2] Dennet, D. C. From Bacteria to Bach and Back: The Evolution of Minds. Penguin Books, 2017.

[3]  Bender, E. M., Gebru, T., McMillan-Major, A. i Shmitchell, S. “On the Danger of Stochastic Parrots: Can Language Models Be Too Big?”. ACM Conference on Fairness, Accountability, and Transparency, 610-623. 2021.