Ciencia e Innovación

Entrevista de Toni Pou para Barcelona Ciencia y Universidades y Núvol.

Matemáticas, filosofía, informática, robótica y literatura. Son cinco de las áreas del conocimiento que cultiva Carme Torras. Comenzó moldeando el cerebro del cangrejo de río y, ahora, además de escribir novelas de ciencia ficción, dirige un grupo de investigación donde trabajan 65 personas en el Instituto de Robótica e Informática Industrial, un centro mixto de la Universidad Politécnica de Cataluña y el Consejo Superior de Investigaciones Científicas.

¿Qué fue primero, la ciencia o la ficción?

La ciencia, pero no porque la ficción no me interesara. Ya leía ciencia ficción de muy jovencita, a los nueve años, pero lo veía más como algo de lo que nutrirme, porque lo que me gustaba era las matemáticas y la física y, en definitiva, entender el mundo. Siempre escribía, eso sí, aunque no con intención de publicar. Cuando empecé a publicar ciencia ficción era ya una investigadora más o menos reconocida.

Esta pasión por entender el mundo te llevó a estudiar matemáticas.

Estudié matemáticas y al mismo tiempo me matriculé en filosofía. Escoger era un trauma. Creo que no deberíamos elegir tan pronto y que no debería estar todo tan separado. En las carreras tecnológicas ahora empieza a haber algún contenido de ética, pero antes no había nada. Y esto no puede ser.

¿Cómo llegaste a los robots?

Me interesaba mucho la inteligencia, cómo pensamos y cómo las máquinas pueden reproducir el pensamiento. En cierto momento, escribí una larguísima carta a Michael Arbib, un profesor de la Universidad de Massachusetts, donde le explicaba que había leído sus libros y que me interesaba mucho lo que hacía. ¡Me contestó! Fue una inflexión en mi vida. Porque terminé en Estados Unidos haciendo un máster en informática con una intensificación en teoría del cerebro.

¿Allí trabajaste con robots?

No, pero cuando volví no había ninguna posibilidad de realizar esa búsqueda aquí. Por un lado estaban los experimentalistas, que realizaban experimentos con animales pequeños y, por otro, los informáticos. No había forma de ligar ambas cosas. Incluso fui al Instituto Cajal, en Madrid, pero tenía un perfil demasiado técnico. Y esto era un problema. Un problema que todavía está ahí.

¿Cuál?

Todo el mundo se llena la boca diciendo que la multidisciplinariedad es muy importante, pero a la hora de la verdad realizar una tarea multidisciplinar es complicadísimo. Yo no pude seguir haciendo lo que hacía.

¿Y qué hiciste?

Gabriel Ferraté, que entonces era párroco de la UPC, me dijo que quería abrir una línea de robótica y que si me ponía podía contratarme.

Te pusiste y tu investigación evolucionó de los robots industriales a los asistenciales.

Al principio trabajábamos con brazos por cadenas de montaje y cosas así, pero con el paso de los años veía que los utensilios tecnológicos cada vez tenían más impacto en la vida de las personas y empecé a preocuparme por temas sociales. Y hace unos diez años, vi que existía una oportunidad en el ámbito de la manipulación de ropa en entornos asistenciales, tanto para ayudar a vestir a la gente que no puede hacerlo sola como para facilitar la logística hospitalaria a la hora de manipular toallas o sábanas.

También habéis desarrollado un robot que da de comer.

Empezamos con robots que manipulan ropa y hemos ido desarrollando otras aplicaciones. Cuando empezamos a ir a centros sociosanitarios, como Pere Virgili, nos dimos cuenta de que el 50% de las personas ingresadas necesitan que les den la comida. El personal sanitario no da abasto y pide a las familias que lo hagan.

¿En qué estado de desarrollo se encuentra ese robot?

Al principio pusimos una cámara para ver cuando la persona abría la boca y un sensor de fuerza para no hacerle daño. Después de la prueba piloto hemos visto que también es necesario que cambie de cuchara a tenedor, que seque con una servilleta y que dé de beber con una cañita. Y también que tenga una cara amable que diga, por ejemplo, si se ha comido lo suficiente o no. Esto lo hemos implementado en forma de cara expresiva con gafas. Ahora estamos a la espera de que alguien quiera dar el paso de la transferencia tecnológica para comercializarlo.

Esto ya es otro nivel de interacción. Una cosa es un brazo que da de comer y la otra una cara que habla. Porque este tipo de robot debe tener dos dimensiones éticas, ¿verdad? La física, por no hacer daño, y la emocional, por no generar vínculos con el usuario.

Claro, por eso lo primero que hace es decir algo como “Yo te hablaré pero si tú me hablas no te entiendo, no pienses que soy un ser vivo”. Esta interacción verbal y facial la querían a toda costa y por eso la hemos implementado.

Vosotros tenéis mucho cuidado, pero en el mercado hay robots que te escuchan, responden y tienen una cara que simula emociones. Y a muchos les venden como compañeros infantiles.

Y más que lo habrá. También se están haciendo compañeros sentimentales, por no hablar de los sexuales.

“El futuro ya está aquí”, decía el escritor de ciencia ficción William Gibson.

Y es muy peligroso. Por eso nosotros hacemos mucho énfasis en la dimensión ética. Una cosa es una persona muy mayor que no tiene compañía y le coge cariño a un robot, y otra muy diferente es un niño. Este tipo de interacción a según qué edades puede afectar mucho al desarrollo. El robot no tiene una experiencia de vida que pueda transmitirle y el niño puede desarrollar problemas de empatía, además de otros déficits.

¿Vuestros robots utilizan inteligencia artificial?

Sí, trabajamos en la frontera de la robótica social con la inteligencia artificial.

¿Te preocupa el estado actual de la inteligencia artificial y el rumbo que puede tomar?

Por supuesto, mucho más que la robótica. Porque el despliegue de la robótica requiere un tiempo. Un robot es una entidad física que no todo el mundo entiende, pero en cambio, con los móviles, en un segundo tienes todas las aplicaciones que desees. Con la inteligencia artificial el despliegue tecnológico ha ido mucho más rápido que la regulación ética, pero en robótica todavía estamos a tiempo. Hay mucho esfuerzo realizado, porque a partir de la inteligencia artificial, la comunidad de robótica se ha puesto las pilas. Ya se han hecho muchas regulaciones y, por tanto, pienso que vamos por mejor camino.

¿La inteligencia artificial no va por buen camino, pues?

Creo que se nos ha ido de las manos y ahora se está intentando reconducir. Pero es muy complicado, porque lo primero que debería hacerse es formar a la población. En Finlandia hace siete años realizaron un curso abierto a todo el mundo sobre los fundamentos de la inteligencia artificial y cómo utilizarla correctamente. Se ha traducido al inglés y todos los idiomas de la Comunidad Europea y ahora en Cataluña también se puede hacer.

¿Lo hace mucha gente?

En Finlandia lo hizo casi todo el mundo, pero aquí cuando hablo de esto veo que la gente no sabe que existe. Y es una lástima porque es un curso en catalán, abierto a todo el mundo, que no requiere mucho esfuerzo y que enseña cómo funciona esta tecnología. Creo que ayuda a ver que no hay ninguna magia detrás, que es una programación más sofisticada, sí, pero que puede entenderse. Hay unos conceptos clave asequibles y esto hace que se le pierda el miedo y que se aprecien mejor los riesgos, de forma que se vea cómo utilizarlo. ¿Verdad que todo el mundo conduce y la mayoría no sabe exactamente cómo funciona un coche?

Con el aprendizaje profundo y las capas de redes neuronales superpuestas, hay un momento en que se pierde la traza de lo que está haciendo aquella máquina y se deja de saber cómo ha aprendido a hacer lo que sabe hacer y cómo ha llegado a ser lo que es. Esto hace que, de algún modo, la máquina pueda ser impredecible. Ni siquiera los científicos que los diseñan pueden predecir las reacciones de los sistemas entrenados de ese modo.

¿Estamos hablando de algo que se asemeja a la creatividad humana y que se podría llamar creatividad artificial?

Yo creo que no. Porque, en el fondo, lo único que hace la máquina es estadística a partir de una gran cantidad de datos. Si, por ejemplo, debe diagnosticar tumores a partir de radiografías, puede haber visto millones, muchas más de las que un radiólogo puede ver en toda su vida. Hay un experimento que me gusta mucho, en el que se entrenó a una máquina a diagnosticar tumores y se dieron radiografías a la máquina ya radiólogos. Por separado, ambos realizaron un 5% de errores. Pero cuando los radiólogos analizaron los diagnósticos de la máquina, los fallos en conjunto se redujeron al 1%. Éste es el camino. Evidentemente, la máquina puede computar mucho más rápido y ver mucho más, pero el médico tiene experiencia y puede dar contexto. El problema es que el médico acepte lo que dice la máquina sin mirárselo. Algo parecido ocurre con la conducción automática: cuando hay una situación de peligro, el usuario debe asumir el control, pero quizás está distraído. El problema, en fin, siempre es humano.

Ya hace tiempo que las máquinas nos ganaron al ajedrez. En 1997 Deep Blue derrotó al campeón del mundo Garri Kasparov. Pero hasta hace poco se había dicho que nunca podrían ganarnos a go, un juego asiático de estrategia. En 2016 el sistema AlphaGo se enfrentó a Lee Sedol, un genio considerado el mejor jugador de la historia, y en la segunda partida, jugada el 10 de marzo, el movimiento 37 de la máquina dejó a todo el mundo boquiabierto. Parecía un error pero después se vio que era una maniobra absolutamente antiintuitiva que propició la victoria de AlphaGo en el movimiento 211. No sé si esto es creatividad pero parece que ese movimiento salía de todas las estadísticas y previsiones.

Estas máquinas funcionan con estadística de muchos datos pero también realizan exploración. Y como son muy rápidas, pueden mirar muchos más pasos adelante que nosotros. Aunque el go tiene un espacio de posibilidades mucho mayor que el ajedrez, también pueden mirar mucho más allá y descubrir caminos que racionalmente parecen muy extraños pero que, de hecho, existen dentro del universo de posibilidades del juego y llevan a una situación ganadora. Siempre digo que las máquinas trabajan en un universo cerrado. Nosotros, sin embargo, podemos descubrir cosas fuera de un universo cerrado. O, por lo menos, nos lo parece.

¿Estamos completamente seguros?

No.

¿Entonces los sistemas de inteligencia artificial que componen canciones y pintan lo hacen siempre dentro de un proceso limitado?

Creo que es un proceso combinatorio y de exploración en cierto universo. Hay unos puntos de partida conocidos y un espacio de caminos posibles que pueden tipificarse porque es el que está programado. De ahí no se sale.

¿Y nosotros no somos así?

No lo sabemos.

Además de los riesgos de aplicaciones concretas como las de los diagnósticos o la conducción automática, se ha dicho que la inteligencia artificial puede llegar a amenazarnos como civilización.

Es más probable que nos eliminemos nosotros mismos. El otro día lo decía Eudald Carbonell en un programa de televisión: no hace falta que la inteligencia artificial nos venga a exterminar, porque con la estupidez humana tenemos suficiente. Y es un poco verdad, porque, al final, las decisiones y la responsabilidad son humanas. Nos estamos cargando el planeta nosotros, sin ninguna fuerza externa, ningún extraterrestre.

¿La ciencia ficción tiene un papel a la hora de ayudar a reflexionar sobre estos temas?

Hace años escribí la novela, La mutación sentimental, y después hice unos materiales educativos que se están utilizando en muchos sitios. Ahora incluso me han invitado a un congreso internacional de políticas sociales para hablar de ello. Este tipo de material da pautas a la gente, y también a los expertos que desarrollan estas tecnologías, que son más comprensibles que los textos filosóficos. Poner a la gente en situaciones narrativas concretas ayuda mucho. En este sentido, creo que los escritores de ciencia ficción tenemos una responsabilidad: debemos construir más utopías. Porque con tanta distopía, la gente se lo cree y al final acabaremos con lo de la profecía autocumplida. Debemos hacer profecías más optimistas.

En tu caso, ¿cómo se realimentan la faceta de investigar y la de escribir ciencia ficción?

Son de inspiración mutua. Hacer y leer ficción me da ideas para desarrollar investigaciones y a la inversa. Escribí La mutación sentimental cuando realizaba esta transición de la robótica industrial a la robótica asistencial. Y fue porque empecé a pensar que los robots que hacíamos se comercializarían y la gente los utilizaría. Mientras escribía me planteé cómo quería que fueran y acabé diseñando los robots sociales que después se han materializado en todo lo que trabajamos en mi grupo de investigación. Por otro lado, el conocimiento científico me permite ver qué futuros son factibles y cuáles no, lo que me ayuda a ser verosímil en las novelas. ¡Me lo paso pipa!

¿Has leído algún libro interesante de ciencia ficción últimamente?

Leo mucho sobre robótica social y, en este sentido, me ha interesado mucho La Klara y el sol, de Kazuo Ishiguro, que plantea problemas de robótica social. Hay una niña que está enferma y, para que no esté siempre sola en casa, su madre le compra una asistente robótica, Klara. Tiene mucha gracia cómo se tratan mutuamente. Otro libro interesante es Máquinas como yo, de Ian McEwan, que tiene este título con doble sentido [Machines like me puede traducirse como Máquinas como yo o como Yo gusto a las máquinas]. Es un libro que trata los problemas éticos que pueden surgir de la relación con un robot, como si alguien tiene derecho a pegarle, quién debe configurarlo primero o cómo se gestiona la privacidad de cada miembro de la pareja.

¿Qué le dirías a una niña o una chica joven a la que le gusta la ciencia y que piensa que se puede dedicar a ello?

En primer lugar, que hay dos ideas preconcebidas erróneas que frenan a las chicas a la hora de escoger las ciencias y la tecnología. Una es que la gente que se dedica a estas disciplinas está encerrada en laboratorios y aislada del mundo. Y como las chicas tienden a pedir que su trabajo tenga implicación social, terminan pensando que esto no es para ellas. Pero la tecnología ahora está muy presente en la vida de todos y deben pensar que pueden tener mucha influencia social, ya sea con el desarrollo de aplicaciones para móviles o de tecnología robótica como la que hacemos nosotros. La otra idea preconcebida es que debemos escoger ciencias o letras, tecnología o humanidades. Pues no: se pueden hacer ambas cosas. Yo lo he hecho. Además, deben creer en su curiosidad y creatividad, deben soltarlas y entender que su futuro no tiene límites, que no se pongan de artificiales, que el planeta las necesita.