El riesgo de que los humanos nos volvamos robots

Carme Torras es profesora en el Instituto de Robótica, donde lidera una línea de investigación en el ámbito de la percepción y la manipulación. Junto a su carrera científica ha desarrollado una obra literaria singular: con la novela La mutació sentimental ganó en 2007 el Premio de Ciencia-Ficción Manuel de Pedrolo.

© Pere Virgili

Usted es una de las investigadoras más reconocidas de Europa en el campo de la robótica, un ámbito de investigación relativamente reciente. ¿Cómo se inició en esta disciplina?

Una vez acabada la carrera empecé a trabajar en una empresa multinacional, pero a mí me motivaba más la investigación y continuar aprendiendo. Gracias a una beca Fulbright pude estudiar en la Universidad de Massachusetts, Amherst. En aquel momento me interesaba sobre todo el cerebro, la inteligencia artificial. En Amherst me centré en temas de brain modeling, y fue cuando tuve al profesor Michael Arbib como director de tesis de máster.

¿Y cuál era el foco de esta tesis?

Investigaba la modelización neuronal. Trabajábamos con neurólogos del Hospital Ramón y Cajal de Madrid. En concreto, yo modelaba el sistema nervioso de un cangrejo de río. Con unas pocas neuronas puedes modelizar el aprendizaje, tanto a escala física como química. El objetivo de mi investigación entonces era saber cómo aprendemos, cómo adquiere conocimiento el cerebro.

No debió de ser fácil continuar en esa línea de investigación.

Era difícil, porque necesitaba un laboratorio que no teníamos. Pasé a estudiar inteligencia artificial y robótica. Entonces el Instituto de Robótica, que había sido fundado por Gabriel Ferraté, se llamaba Instituto de Cibernética, y ya era un centro compartido entre el Consejo Superior de Investigaciones Científicas (CSIC) y la Universidad Politécnica de Cataluña (UPC), las dos instituciones para las que trabajo.

El instituto tiene cuatro líneas de investigación. En primer lugar, la de cinemática y diseño de robots, la más próxima a la mecánica. En segundo lugar, la de robots móviles, centrada en robots urbanos exteriores. Después está la de control de procesos, que trata la distribución de agua, las redes eléctricas, las pilas de combustible, etcétera. Y, finalmente, la investigación en percepción y manipulación, que es la línea que dirijo. Inicialmente trabajé en cinemática y programación de robots industriales. Ahora, en cambio, me dedico a la robótica cognitiva con aplicaciones sociales.

¿En qué consiste exactamente la robótica cognitiva?

En la aplicación de técnicas de la inteligencia artificial a la robótica. Y se propone mecanizar en un robot las acciones que los humanos hacemos naturalmente, como la planificación de tareas o la percepción y manipulación de objetos.

¿Qué entendéis por percepción y manipulación?

Queremos decir que el robot debe poder hacerse una buena representación del entorno y del usuario. Trabajamos en un ámbito doméstico, en la robótica asistencial y de servicios. Esto tiene unos condicionantes muy diferentes a los de la robótica industrial. En primer lugar, los robots que se mueven en ámbitos humanos tienen que ser mucho más seguros, nunca pueden hacer movimientos bruscos que supongan un peligro para el usuario. En segundo lugar, tienen que ser programables por una persona no experta. Por ejemplo, la persona puede enseñar al robot a batir un huevo con una simple demostración, y el robot tiene que ser capaz, gracias a unas cámaras de profundidad, de adquirir esa información y aprender las destrezas básicas que se le piden.

¿Habéis creado ya un robot que nos prepare la comida?

El robot que cocina se encuentra todavía en fase de investigación. No hace mucho llevamos a cabo un proyecto europeo, llamado Paco-Plus, con el que conseguimos que un robot quitara la mesa y pusiera los platos en el lavavajillas. No estaba pensado para hacer transferencia a la empresa privada, pero se implicaron hasta nueve centros de investigación.

¿Era un proyecto internacional?

Sí, estamos bien integrados en la comunidad robótica internacional. Últimamente hemos participado en tres proyectos europeos dentro del ámbito de los sistemas cognitivos. En el proyecto Paco-Plus, liderado por la Universidad de Karlsruhe, participaban grupos de Dinamarca, Suecia, Holanda, Bélgica, Inglaterra y Eslovenia. El proyecto GARNICS, liderado también por un grupo alemán, tenía como objetivo hacer un robot jardinero capaz de tomar muestras en grandes plantaciones con el fin de optimizar el rendimiento. Y el proyecto vigente IntellAct, acrónimo de Intelligent Action, se plantea enseñar a los robots tareas de manipulación simplemente ejecutándolas ante ellos y corrigiéndolos cuando las reproducen por imitación y no lo hacen del todo bien, igual que haríamos con un aprendiz.

¿Los robots domésticos pueden llegar a tener sentimientos?

Hay quien trabaja para dotar de emociones a estos robots cognitivos, para hacerlos más sociables y amigables. Por ejemplo, en Japón ya se trabaja mucho en formar robots cuidadores para atender a las personas mayores o a los niños, hecho que yo cuestiono. Es bueno que los robots amplíen nuestras capacidades, pero no me gusta que se utilicen como canguros de los niños. A la larga podría ser perjudicial si los niños disponen de los robots como esclavos, y no se ven en la obligación de negociar como harían jugando con otros niños. ¿Cómo aprenderán la empatía si no tienen a alguien delante que responda de manera emocional?

¿Qué tipo de robots deberían tener los niños, entonces?

Un robot, en mayor o menor medida, puede afectar al desa­rrollo de las relaciones interpersonales del niño. Un chico que solo juegue con un robot no tendrá la retroalimentación emocional necesaria que genera la empatía. Aprendemos las emociones viéndolas en los demás. Al fin y al cabo, como dice Robert C. Solomon, son las relaciones que vamos construyendo las que a su vez nos modelan. También es cierto que los robots o los juegos pueden estimular el multitasking, una capacidad que las generaciones jóvenes tienen muy desarrollada, pero que va en detrimento de la capacidad de concentración, porque están pendientes de mil estímulos al mismo tiempo. Es una actitud vital que les entrena las capacidades sensoriomotoras, los reflejos en la conducción, el estímulo-respuesta, pero, en cambio, les disminuye la capacidad de entrar a fondo en un problema. Esto lo ves también en las nuevas generaciones de investigadores: las máquinas les generan unos gráficos tan precisos y los algoritmos les dan una respuesta tan automática que a menudo pierden el sentido físico de lo que están haciendo.

Todavía hoy son más peligrosas las personas que los robots.

El peligro no es que los robots se vuelvan muy humanos y nos ataquen, sino que los humanos se roboticen, que limiten sus acciones al mundo simulado en el que viven los robots. Los robots tienen que ampliar las capacidades de las personas y darnos más autonomía, en lugar de disminuírnosla.

En su novela La mutació sentimental aparece un robot con una prótesis de creatividad, pensada para cuestionar al usuario y estimularle el ingenio.

Nos tenemos que preguntar si queremos robots que nos hagan los trabajos y que dejen a los humanos arrinconados o, por el contrario, queremos robots que nos estimulen y nos hagan crecer como personas. “Los robots malcriadores hacen personas malcriadas, los robots esclavos hacen déspotas y los robots entretenedores privan del cerebro a sus propietarios ”, dice un personaje de la novela. Deberíamos tener una opinión sobre qué tipo de robots queremos; en caso contrario, no tendremos ningún control sobre qué nos venderán. Hay que empezar a pensar diferente sobre el uso y el sentido de los robots. Las máquinas nos van cambiando las capacidades cognitivas y es importante ser consciente para decidir qué capacidades queremos tener. No podemos controlar fácilmente nuestra reacción a los estímulos, pero sí seleccionar y escoger qué estímulos queremos recibir y por qué robots queremos ser modelados. Y aquí la sociedad tiene mucho que decir, porque las empresas irán a vender lo que les convenga y los usuarios tienen que saber discernir qué les conviene de verdad, tanto si hablamos de una muñeca como de un mayordomo.

Se necesitará hacer mucha pedagogía para despertar esta conciencia.

Yo empecé a escribir La mutació sentimental justo por este motivo. Hay científicos que todavía aspiran a crear el robot perfectamente autónomo, capaz de crear su propia organización y fijar sus objetivos; incluso se fabrican robots con cuerpos programados para crecer. No les veo sentido a  estos experimentos sin plantearnos las consecuencias. Dicho de otro modo, hay quien cree que no lograremos una inteligencia artificial desarrollada hasta que no creemos sistemas completamente autónomos. Yo, en cambio, creo que los robots tienen que estar al servicio de las personas. Para mí tiene mucho más sentido, por ejemplo, diseñar robots médicos capaces de ejecutar una operación de cirugía con más precisión que nosotros, que inventar un robot con metas propias.

Todo esto plantea cuestiones éticas fascinantes. Emerge la roboética…

Sí, cada vez hay más investigadores interesados en el tema, y los potenciales usuarios también van prestando más atención. En el último congreso mundial de robótica hubo una sesión abierta al público general dedicada a la confluencia con las humanidades. Fue una experiencia muy enriquecedora contrastar puntos de vista tan diversos.

¿Qué límites podemos imponer a la industria del entretenimiento en el desarrollo de robots y humanoides?

A menudo pongo como ejemplo los Tamagotchis, unos aparatos que durante una época hicieron furor entre los niños. Eran como seres vivos, que había que alimentar cada día para que no se murieran. Los Tamagotchis fueron un éxito y se vendieron mucho, pero para mí son un ejemplo clarísimo de artefacto que no aporta nada y crea una dependencia inútil. En cambio, ahora hay robots educativos que muchas escuelas han integrado en el currículum. Actualmente se celebra la First Lego League, por ejemplo, una competición mundial para niños de entre seis y nueve años y chicos de diez a dieciséis. Se compite en equipo. Unos crean el diseño, otros programan y otros cuidan de la parte sensorial. Con estos robots se pueden poner ejemplos para explicar física o matemáticas. El año pasado tres chicas catalanas formadas en nuestros talleres ganaron un premio internacional.

¿Quién formula los discursos que alimentan la roboética? ¿Es un debate abierto o está restringido a los ingenieros?

Al contrario, ahora es más necesario que nunca abrir este debate a otras disciplinas. Como decía antes, en el último congreso mundial de robótica, en Karlsruhe, se celebró un foro titulado “Robotics Meets the Humanities”. En la mesa había dos profesores de robótica, dos de humanidades, un filósofo, un cineasta de ciencia-ficción, estaba también Marcel·lí Antúnez como artista escénico que utiliza tecnología robótica, y yo misma, que moderaba la mesa. Ya se entrevé la necesidad de dibujar escenarios futuros que nos den ideas para investigar y que permitan valorar si son factibles y hacia dónde nos llevarán humanamente.

¿Cree que los sistemas autónomos deberían tener derechos?

No tiene mucho sentido concederles derechos si deben estar al servicio de las personas. Más bien han de tener deberes. Lo que sí que hay que legislar es, si un robot hace daño a alguien, ¿de quién es la responsabilidad? ¿Del ingeniero que lo ha diseñado? ¿De la empresa que lo vende? ¿Del usuario? Pongamos el caso de los drones, los robots militares.

 

¿Se puede hablar de roboética militar?

Un amigo de la NASA me contaba que ya tienen veteranos de la guerra de Afganistán o de Iraq que intervinieron en combates dirigiendo drones de forma remota. En combate no se implicaban emocionalmente con la misma intensidad, pero ahora sufren crisis de ansiedad y llegan a tener secuelas psicológicas tan graves como los veteranos de Vietnam. Si se confiara una ofensiva militar a los robots, sabiendo que se les podría imponer líneas rojas, probablemente se limitaría mucho el alcance de la destrucción, siempre que los dos bandos confiaran en los robots y que estos se atacaran entre ellos, claro. Hay mucho que discutir aquí…

¿Qué papel tendrá la robótica en la ciudad inteligente?

Los robots serán útiles para cubrir una gran cantidad de tareas. Tenemos sensores en contenedores de residuos que nos avisan de cuándo están llenos, por ejemplo. La recogida de basura se robotizará. A efectos prácticos, el contenedor será un electrodoméstico urbano. Muchas otras infraestructuras también funcionarán autónomamente. Hay un proyecto denominado Roboearth, que consiste en construir una internet para los robots, de manera que cada uno de ellos pueda invertir su pericia y sus conocimientos en un sistema central, en una nube de datos. Entonces cualquier robot tendrá acceso a toda la información modelizada. Por otra parte estamos en contacto con el Barcelona City Lab. Aquí tenemos The Humanoid Lab, un taller para iniciar a estudiantes universitarios en la programación de robots.

¿Cree que Barcelona está bien situada como smart city?

Sí, muy bien. Nuestro instituto participó en el proyecto URUS, pionero en el desarrollo de robots que guíen al usuario en entornos urbanos. Se llevó a cabo en paralelo con otro similar en la Universidad de Osaka, y las dos ciudades se hermanaron como impulsoras de los robots urbanos.

Barcelona ha firmado el Smart City Protocol y el Ayuntamiento trabaja para consolidar buenas prácticas como ciudad inteligente. ¿Cómo participáis en todo ello?

Justamente el URUS se puso a punto con un protocolo previo para definir todo lo que convenía estandarizar. Si hubiera que evacuar gente en un incendio, por ejemplo, y dispusiéramos de la ayuda de robots, sería bueno que su comportamiento fuera homologable en todo lugar, por razones de eficiencia y para que su actuación fuera comprensible por todos los usuarios. Si homologamos los protocolos podremos hacer a los robots más universales y, por lo tanto, rentabilizar la inversión requerida para fabricarlos.

Bernat Puigtobella

Director de Barcelona Metròpolis

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos necesarios están marcados *

*

Puedes usar las siguientes etiquetas y atributos HTML: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>