Barcelona Metropolis

La història arrenca el 2012. Aquell any es van conèixer uns resultats sorprenents al voltant de l’aprenentatge profund (deep learning, en anglès), una de les especialitats de la IA. Un grup d’investigadors canadencs va desenvolupar una xarxa neuronal artificial de moltes capes que podia reconèixer a gran velocitat objectes d’una base de dades d’imatges. ImageNet és una base de dades amb 14 milions d’objectes de categories diferents on cada imatge està etiquetada. Es va entrenar la xarxa neuronal amb 150.000 d’aquestes imatges, corresponents a mil categories d’objectes. Un cop entrenada, se li presentaven imatges que pertanyien a aquestes mil categories, però que eren diferents de les imatges d’entrenament, i les reconeixia amb un encert del 85%.

Més enllà de la gran exageració del titular, el fet és que en poc temps s’havia fet un gran salt en la capacitat de les xarxes neuronals de generalitzar, fer abstraccions i captar l’essència dels objectes que se’ls presentaven.

L’explica la gran quantitat de dades de la base ImageNet i també que els algoritmes es van implantar en màquines potentíssimes, d’altíssimes prestacions i amb una gran velocitat de càlcul. Una base de dades immensa i un hardware molt potent expliquen que un algoritme de dues dècades de vida agafés protagonisme global. Els primers en adonar-se de les possibilitats econòmiques d’aquest salt de la IA van ser els gegants tecnològics (Facebook, Google, Baidu...) i des d’aleshores aposten a fons per l’aprenentatge profund. Van tenir clar que disposaven de la matèria més valuosa —infinites dades per entrenar els algoritmes— i destinen molts recursos a la tasca investigadora capdavantera en aquest camp. Per exemple, Google va adquirir de seguida l’empresa DeepMind i va convertir en multimilionaris a un grup de joves emprenedors. L’entusiasme actual per la IA té fonaments sòlids.

L’interès actual per la IA suposa que hi hagi més recursos per la investigació, ja que ha passat a ser una àrea prioritària de recerca als Estats Units i a la Unió Europea. Però hem de procurar no donar falses expectatives i ser prudents sobre la capacitat de la IA de resoldre problemes socials complexos. El món acadèmic té moltes menys possibilitats de disposar de grans quantitats de dades i d’accedir a enormes capacitats de càlcul. No tenim els recursos ni els sous que ofereixen els gegants tecnològics a les ments més brillants de les universitats.

Tot i això, el món de la IA és molt ampli i queden nínxols per al tipus de recerca que no busca únicament el benefici econòmic. L’aprenentatge profund és una de les moltes branques de la IA. Hi ha molts altres àmbits de recerca que interessen poc a Google, Facebook, Baidu i altres empreses. La benzina de l’aprenentatge profund són les dades, però també hi ha aspectes que centren l’atenció en el coneixement. Per tant, tenim un espai per desenvolupar sistemes de raonament, crear híbrids entre coneixements i dades o desenvolupar sistemes multiagents que podrien ser útils en molts àmbits.

És fals. En l’actualitat, els sistemes de xarxes neuronals profundes, que alguns equiparen al funcionament del cervell humà, en realitat modelitzen un aspecte ínfim del processament de la informació en un cervell. Avui sabem que quan la neurona es dispara i emet un senyal, aquest no és només de naturalesa elèctrica. De fet, hi ha molta informació que processa el cervell que és de naturalesa química. La neurociència ha demostrat que les cèl·lules glials, que formen part del sistema nerviós, tenen un paper clau en el processament d’informació cerebral. I això no s’incorpora en cap model neuronal artificial. Per tant, afirmar que les xarxes neuronals artificials són semblants al cervell humà és inexacte. En realitat, fins avui, la IA ha aconseguit desenvolupar models matemàtics simples i poc precisos de la neurona biològica.

És una afirmació molt exagerada. En primer lloc, el software no té un objectiu ni una intencionalitat. No aprèn per si mateix sinó que es programa. I aquesta programació és molt costosa —quant a recursos, professionals qualificats, recopilació de dades i definició de la tasca específica del sistema— i requereix ajustar milions de paràmetres, i totes aquestes tasques són dutes a terme per programadors humans. Una intel·ligència artificial no deixa de ser un programa d’ordinador.

Clarament, no és així. Un sistema d’aquest tipus necessita exemples per ser entrenat; les decisions que ha de prendre (classificar una imatge, conduir un cotxe autònom) s’aprenen a partir de dades generades per humans. És el cas d’una màquina que fa diagnòstics mèdics: els metges generen dades sobre una malaltia que són les que condicionen els resultats. La realitat és que les dades poden ser esbiaixades. És el cas, per exemple, del sistema que es va implementar a Estats Units que aconsellava concedir o no la llibertat condicional a presos en funció de la probabilitat de reincidència. Darrere hi havia un algoritme que es va demostrar que discriminava els afroamericans. Per què? Perquè les dades que van entrenar al sistema tenien biaixos que discriminaven aquest col·lectiu. Un pres afroamericà no conforme amb la decisió va apel·lar i va demanar que li expliquessin els arguments de la denegació de llibertat condicional i no ho van poder fer. El jutge, per estalviar-se feina, no va anar més enllà del “consell” de la màquina. El pres va guanyar l’apel·lació i es va posar en qüestió tot el sistema. No sóc contrari a aquests sistemes per ajudar a prendre decisions, però abans s’ha de fer una anàlisi dels possibles biaixos, determinar quins són i si es poden corregir. Aquests sistemes no es poden treure al mercat de manera precipitada; abans haurien de passar una mena d’ITV per algoritmes.

No és ben bé així. Hi ha feines simples que no les pot dur a terme una màquina donat que requereixen destreses manuals inabastables per un aparell. Per exemple, algunes feines que fa un electricista o moltes feines domèstiques (netejar o posar una rentadora). Són tasques que semblen simples però que requereixen força destresa.

Ho pot fer. I fins i tot imitar un determinat estil periodístic, sempre que disposi de prou textos per construir patrons. Una màquina pot analitzar ràpidament un cos de dades extens. Però hem d’anar amb compte: més dades no equival a més intel·ligència. La clau està en la qualitat de les dades. Prendre bones o males decisions no depèn només de la quantitat sinó principalment de la qualitat de les dades. Les dades incoherents, que incorporen soroll, el que fan és empitjorar les decisions. La intel·ligència artificial pot substituir, per tant, la feina rutinària, tant si és manual com intel·lectual, més que la simple. Ara bé, si estem davant de situacions imprevistes, incertes, indeterminades i que no responen a patrons, les màquines no tenen gran cosa a fer. En canvi, els humans sí que sabem respondre, millor o pitjor, a les situacions imprevistes.

La intel·ligència artificial és molt horitzontal. Pensem en un empresari agrícola que hagi de gestionar molta informació i que faci servir drons per controlar la collita o tenir en compte dades del mercat, o fins i tot variables climàtiques per prendre millors decisions. De la IA no se n’escapa ni el món de l’art.

Ho poden ser, en certa mesura. La creativitat no és una activitat dual, sinó que té graus. Està clar que les màquines actuals no poden trencar regles i inventar-se un nou estil musical o pictòric com van fer els cubistes o els inventors de la música atonal. En canvi, a partir de l’anàlisi exhaustiva d’un estil musical o pictòric, els sistemes d’aprenentatge profund poden extreure els patrons de l’estil d’un pintor com Rembrandt, d’un músic com Bach o de qualsevol artista. Un cop la màquina ha captat el model, és capaç de generar quadres o composicions noves. Això ja s’ha fet. Es pot afirmar que això és creativitat? Moltes persones defensen que això no és creatiu, però realment són obres originals i valuoses. Jo crec que és indiscutible que tenen, si més no, un cert valor artístic.

En primer lloc, la prudència. Per exemple, no desplegar aplicacions abans de determinar els biaixos que té. En segon lloc, l’obligació de retre comptes. Els sistemes no poden ser caixes negres i els processos establerts per justificar les decisions haurien de ser transparents. I, sobretot, no oblidar-se de l’ésser humà, és a dir, no substituir una màquina per una persona basant-se únicament en criteris de rendibilitat. A més, s’ha demostrat que de la col·laboració persona-màquina sorgeixen millors decisions que d’una màquina sola. Això ho hem vist en el camp de la medicina. No obstant això, en altres àmbits, té tot el sentit fer una substitució radical. És el cas del cotxe autònom de nivell 5 que, quan sigui majoritari —encara trigarà— estalviarà milers de morts a la carretera. En aquest cas, el benefici pel conjunt de la societat és indiscutible.

No ho crec. Excepte en qüestions molt bàsiques, no podem parlar d’una ètica universal independent dels països i les cultures. Si tingués la solució al problema de l’ètica en la IA, seria portada de la revista Time. Hi ha propostes interessants, com la que fa el professor Stuart Russell, de la Universitat de Berkeley, en el seu llibre Human Compatible, tot i que la seva proposta per garantir el control de les futures màquines, per molt intel·ligents que siguin, ratlla la ciència-ficció.

Finalment, la responsabilitat és dels dissenyadors i dels programadors, i també dels usuaris. Aquí és on hem de posar l’èmfasi i el control. I, així mateix, caldria incorporar més continguts d’ètica en els estudis científics i d’enginyeria. De fet, l’ètica tindrà presència en els nous graus d’intel·ligència artificial que preparen les universitats catalanes. Seran graus tècnics en què els aspectes humanístics i ètics seran fonamentals. Fem tard, però finalment estem posant fil a l’agulla.

La intel·ligència artificial té un potencial extraordinari per millorar el benestar de les nostres societats. De fet, moltes aplicacions ja ajuden els metges a prendre decisions. Si anem per aquest camí o no dependrà de la voluntat política i d’invertir els recursos necessaris.

Aquest seria el perill. En principi, caldria rebre informació dels mòbils dels ciutadans. Ens diuen que hi ha sistemes que treballen en base a informació agregada i anonimitzada però, de fet, la informació agregada sobre grups de població s’obté a partir d’informació de cada dispositiu mòbil individual i inclou el lloc on es troben les persones. El problema deriva del fet que això es fa de manera centralitzada i té riscos, com ara que qui rebi la informació la faci servir amb finalitats de vigilància o comercials. L’alternativa seria crear un sistema descentralitzat que recollís la informació de tal manera que cada individu gestionés les seves dades. Aquest sistema podria monitoritzar si es presenta algun símptoma de la malaltia i, també, gràcies al Bluetooh, si ha estat a prop d’altres persones anb símptomes. Finalment, la persona decideix voluntàriament descarregar les seves dades i incorporar-les al sistema de seguiment de la propagació de l’epidèmia.

Un cop més, el potencial existeix però cal que hi hagi voluntat política i recursos. Es podrien dissenyar sistemes multiagents i agregadors d’opinions en base a arguments i contraarguments. El sistema d’IA es podria enganxar a un simulador que desplegués diferents escenaris en funció de les decisions preses. Seria una manera de fer més atractiva la participació vers els ciutadans; fins i tot es podria incentivar la participació a través de recompenses, com ara rebaixes impositives a les persones que participin activament.

No estem gens malament. Un estudi francès recent situa Espanya com el quart país europeu pel que fa a la creació de noves empreses centrades en IA. Estan sorgint un gran nombre de start-ups, sobretot a Catalunya. Esperem que moltes es consolidin.