El risc que els humans ens tornem robots

Carme Torras és professora d’investigació del CSIC a l’Institut de Robòtica (CSIC-UPC), on lidera una línia de recerca en l’àmbit de la percepció i la manipulació. A banda de la seva carrera científica, Torras ha desenvolupat una obra literària singular. És autora de La mutació sentimental, una novel·la que aborda el món de la robòtica i que va obtenir el Premi de Narrativa de Ciència-Ficció Manuel de Pedrolo 2007.

Carme Torras

© Pere Virgili

Vostè és una de les investigadores més reconegudes d’Europa en el camp de la robòtica, un àmbit de recerca relativament recent. Com es va iniciar en aquesta disciplina?

Un cop acabada la carrera vaig començar a treballar en una empresa multinacional, però a mi em motivava més la recerca i continuar aprenent. Gràcies a una beca Fulbright vaig poder estudiar a la Universitat de Massachusetts Amherst. En aquell moment m’interessava sobretot el cervell, la intel·ligència artificial. A Amherst em vaig centrar en temes de brain modeling, i va ser quan vaig tenir el professor Michael Arbib com a director de tesi de màster.

I quin era el focus d’aquesta tesi?

Investigava la modelització neuronal. Treballàvem amb neuròlegs de l’hospital Ramón y Cajal de Madrid. En concret, jo modelava el sistema nerviós d’un cranc de riu. Amb ben poques neurones pots modelitzar l’aprenentatge, tant a escala física com química. L’objectiu de la meva recerca aleshores era saber com aprenem, com adquireix coneixement el cervell.

No devia ser fàcil continuar en aquesta línia de recerca.

Era difícil, perquè necessitava un laboratori que no teníem. Vaig passar a estudiar intel·ligència artificial i robòtica. Aleshores l’Institut de Robòtica –que havia fundat Gabriel Ferraté– es deia Institut de Cibernètica, i ja era un centre compartit entre el Consell Superior d’Investigacions Científiques (CSIC) i la Universitat Politècnica de Catalunya (UPC), les dues institucions per a les quals treballo.

Actualment l’institut té quatre línies d’investigació. En primer lloc, hi ha la de cinemàtica i disseny de robots, la més propera a la mecànica. En segon lloc, la de robots mòbils, centrada en robots urbans exteriors. Després hi ha la de control de processos, que tracta de la distribució d’aigua, les xarxes elèctriques, les piles de combustible, etcètera. I, finalment, la recerca en percepció i manipulació, que és la línia que dirigeixo. Inicialment vaig treballar en cinemàtica i programació de robots industrials. Ara, en canvi, em dedico a la robòtica cognitiva amb aplicacions socials.

En què consisteix exactament la robòtica cognitiva?

En l’aplicació de tècniques de la intel·ligència artificial a la robòtica. I es proposa mecanitzar en un robot les accions que els humans fem naturalment, com ara la planificació de tasques o la percepció i manipulació d’objectes.

Què enteneu per percepció i manipulació?

Volem dir que el robot s’ha de poder fer una bona representació de l’entorn i de l’usuari. Treballem en un àmbit domèstic, en la robòtica assistencial i de serveis. Això té uns condicionants molt diferents dels de la robòtica industrial. En primer lloc, els robots que es mouen en àmbits humans han de ser molt més segurs, mai no poden fer moviments bruscos que suposin un perill per a l’usuari. En segon lloc, una persona no experta els ha de poder programar. Per exemple, la persona pot ensenyar al robot a batre un ou amb una simple demostració, i el robot ha de ser capaç, gràcies a unes càmeres de profunditat, d’adquirir aquesta informació i aprendre les destreses bàsiques que se li demanen.

Heu creat ja un robot que ens pugui fer el dinar?

El robot que cuina es troba encara en fase d’investigació. No fa gaire vam portar a terme un projecte europeu, anomenat Paco-Plus, amb el qual vam aconseguir que un robot desparés taula i posés els plats al rentavaixella. No era pensat per fer transferència a l’empresa privada, però s’hi van implicar fins a nou centres de recerca.

Era un projecte internacional?

Sí, estem ben integrats en la comunitat robòtica internacional. Darrerament hem participat en tres projectes europeus dins l’àmbit dels sistemes cognitius. En el projecte Paco-Plus, liderat per la Universitat de Karlsruhe, hi participaven grups de Dinamarca, Suècia, Holanda, Bèlgica, Anglaterra i Eslovènia. El projecte GARNICS, liderat també per un grup alemany, tenia com a objectiu fer un robot jardiner capaç de prendre mostres en grans plantacions per tal d’optimitzar-ne el rendiment. I el projecte vigent IntellAct, acrònim d’Intelligent Action, té per objectiu ensenyar als robots a fer tasques de manipulació simplement fent-les davant seu i corregint-los quan les reprodueixen per imitació i no ho fan del tot bé, igual que faríem amb un aprenent.

Els robots domèstics poden arribar a tenir sentiments?

Hi ha qui treballa per dotar d’emocions aquests robots cognitius, per fer-los més sociables i amigables. Per exemple, al Japó ja es treballa molt a formar robots cuidadors per atendre la gent gran o els nens, fet que jo qüestiono. És bo que els robots ampliïn les nostres capacitats, però no m’agrada que s’utilitzin com a cangurs dels nens. A la llarga podria ser perjudicial si els nens disposen dels robots com a esclaus, i no es veuen en l’obligació de negociar com farien jugant amb altres nens. Com aprendran l’empatia si no tenen algú al davant que respongui d’una manera emocional?

Quina mena de robots haurien de tenir els nens, doncs?

Un robot, poc o molt, pot afectar el desenvolupament de les relacions interpersonals del nen. Un noi que només jugui amb un robot no tindrà la retroalimentació emocional necessària que genera l’empatia. Aprenem les emocions veient-les en els altres. Al capdavall, com diu Robert C. Solomon, són les relacions que anem construint les que al seu torn ens modelen.

Ara bé, també és cert que els robots o els jocs poden estimular el multitasking [capacitat d’executar diferents tasques simultàniament], una capacitat que les generacions joves tenen molt desenvolupada, però que va en detriment de la capacitat de concentració, perquè estan pendents de mil estímuls alhora. És una actitud vital que els entrena les capacitats sensoriomotores, els reflexos en la conducció, l’estímul-resposta, però en canvi els disminueix la capacitat d’entrar a fons en un problema. Això ho veus també en les noves generacions d’investigadors: les màquines els generen unes gràfiques tan precises i els algoritmes els donen una resposta tan automàtica que sovint perden el sentit físic del que estan fent.

Encara avui són més perilloses les persones que els robots.

El perill no és que els robots es tornin molt humans i ens ataquin, sinó que els humans es robotitzin, que limitin les seves accions al món simulat en què viuen els robots. Els robots han d’ampliar les capacitats de les persones i donar-nos més autonomia, en lloc de disminuir-nos-la.

A la seva novel·la, La mutació sentimental, ambientada al principi del segle xxii, hi surt un robot que té una pròtesi de creativitat, pensada per qüestionar l’usuari i estimular-ne l’enginy.

El que ens hem de preguntar és si volem robots que ens facin les feines i que deixin els humans arraconats o, per contra, volem robots que ens estimulin i ens facin créixer com a persones. “Els robots malcriadors fan persones malcriades, els robots esclaus fan dèspotes i els robots entretenidors lleven el cervell als seus propietaris”, diu un personatge de la novel·la. Hauríem de tenir una opinió sobre quina mena de robots volem, en cas contrari no tindrem cap control sobre què ens vendran. Hem de començar a pensar diferent sobre l’ús i el sentit dels robots.

Les màquines ens van canviant les capacitats cognitives i és important ser-ne conscients per decidir quines capacitats volem tenir. No podem controlar fàcilment la nostra reacció als estímuls, però sí seleccionar i triar quins estímuls volem rebre i per quins robots volem ser modelats. I aquí la societat hi té molt a dir… perquè les empreses aniran a vendre el que els convingui i els usuaris han de saber discernir què els convé de veritat, tant si parlem d’una nina com d’un majordom.

© Pere Virgili

Caldrà molta pedagogia per despertar aquesta consciència.

Bé, jo vaig començar a escriure La mutació sentimental justament per aquest motiu. Hi ha científics que encara aspiren a crear el robot perfectament autònom, que no depengui dels humans i que sigui capaç de crear la seva pròpia organització i fixar els seus objectius; fins i tot es fabriquen robots amb cossos programats perquè vagin creixent. Jo no veig gaire sentit a fomentar aquest tipus d’experiments sense plantejar-nos què passarà després. Dit d’una altra manera, hi ha qui creu que no tindrem una intel·ligència artificial plenament desenvolupada fins que no creem sistemes completament autònoms. Jo, en canvi, crec que els robots han d’estar al servei de les persones. Per mi té molt més sentit, per exemple, dissenyar robots mèdics capaços d’executar una operació de cirurgia amb més precisió que nosaltres, que no pas inventar-nos un robot dotat de les seves pròpies metes.

Tot això planteja qüestions ètiques fascinants. Així com la superació dels límits de la biologia ha donat lloc a la bioètica, en el vostre camp emergeix la roboètica…

Sí, cada vegada hi ha més investigadors interessats en el tema, i els usuaris potencials també hi van parant més atenció. En el darrer congrés mundial de robòtica hi va haver una sessió oberta al públic general dedicada a la confluència amb les humanitats. Va ser una experiència molt enriquidora contrastar punts de vista tan diversos.

Quins límits podem imposar a la indústria de l’entreteniment en el desenvolupament de robots i humanoides?

Sovint poso com a exemple els tamagotxis, uns aparells que durant una època van fer furor entre els nens. Eren com éssers vius, que calia alimentar cada dia perquè no es morissin. Els tamagotxis van ser un èxit i es van vendre molt, però per mi són un exemple claríssim d’artefacte que no aporta res i crea una dependència inútil. En canvi, ara hi ha robots educatius que moltes escoles han integrat al currículum. Actualment se celebra la First Lego League, per exemple, una competició mundial per a nens d’entre sis i nou anys i nois de deu a setze. S’hi competeix en equip. Uns fan el disseny, altres programen i altres s’encarreguen de la part sensorial. Amb aquests robots es poden posar exemples per explicar física o matemàtiques. L’any passat tres noies catalanes formades als nostres tallers van guanyar un premi internacional.

Qui formula els discursos que alimenten la roboètica? És un debat obert o està restringit als enginyers?

Al contrari, ara és més necessari que mai obrir aquest debat a altres disciplines. Com deia abans, a l’últim congrés mundial de robòtica, a Karlsruhe, es va celebrar un fòrum titulat “Robotics Meets the Humanities”. A la taula hi havia dos professors de robòtica, dos d’humanitats, un filòsof, un cineasta de ciència-ficció, hi havia també en Marcel·lí Antúnez com a artista escènic que utilitza tecnologia robòtica, i jo mateixa, que moderava la taula. Dins la comunitat de robòtica ja s’entreveu la necessitat de dibuixar possibles escenaris futurs, que ens donin idees per investigar i permetin valorar si són factibles i cap a on ens portaran humanament.

Creu que els sistemes autònoms haurien de tenir drets…?

No té gaire sentit concedir-los drets si han d’estar al servei de les persones. Més aviat han de tenir deures. El que sí que cal legislar és, si un robot fa mal a algú, de qui és la responsabilitat? De l’enginyer que l’ha dissenyat? De l’empresa que el ven? De l’usuari que el fa servir? Posem el cas dels drones, els robots militars.

Es pot parlar de roboètica militar?

Un amic de la NASA m’explicava que ja tenen veterans de la guerra de l’Afganistan o de l’Iraq que van intervenir en combats dirigint drones de manera remota. En combat no s’implicaven emocionalment amb la mateixa intensitat que si haguessin estat al camp de batalla, però ara pateixen crisis d’ansietat i arriben a tenir seqüeles psicològiques tan greus com els veterans del Vietnam. Si es confiés una ofensiva militar als robots, sabent que se’ls podria imposar línies vermelles, probablement es limitaria molt l’abast de la destrucció, sempre que els dos bàndols confiessin en els robots i que aquests s’ataquessin entre ells, és clar. Hi ha molt a discutir aquí…

Quin paper tindrà la robòtica en la ciutat intel·ligent del futur?

Els robots seran útils per cobrir un munt de tasques. Tenim sensors en contenidors de residus que ens avisen quan estan plens, per exemple. La recollida d’escombraries es robotitzarà. A efectes pràctics, el contenidor serà un electrodomèstic urbà. Moltes altres infraestructures també funcionaran autònomament. Hi ha un projecte anomenat Roboearth, que consisteix a construir una internet per als robots, de manera que cadascun d’ells pugui abocar la seva expertesa i els seus coneixements en un sistema central, en un núvol de dades. Llavors qualsevol robot podrà entrar en un lloc i saber on són tots els aparells que ha de fer servir encara que sigui la primera vegada que hi posa els peus, perquè tindrà accés a tota la informació que s’ha modelitzat. En l’àmbit acadèmic hi ha molts intents de fer possible aquesta estandardització, que permetrà intercanviar mòduls molt lliurement. A les empreses, en canvi, els costa més, però n’hi ha que ja treballen amb programari lliure.

D’altra banda, estem en contacte amb el Barcelona City Lab. Aquí tenim The Humanoid Lab, un taller de robots humanoides petits, per iniciar estudiants universitaris en la programació de robots.

Com veu Barcelona en l’àmbit de les smart cities? Creu que està ben situada?

Sí, molt. El nostre institut va participar en el projecte URUS, que va ser pioner en el desenvolupament de robots que guiïn l’usuari en entorns urbans. Es va dur a terme en paral·lel amb un altre de similar a la Universitat d’Osaka, i totes dues ciutats es van agermanar com a impulsores dels robots urbans. Se’n va fer una demostració al passeig de Sant Joan: dos robots mòbils i un cotxe automàtic. Gent anònima del carrer s’hi acostava i feia preguntes. Tant podies demanar als robots on era l’hospital com que t’acompanyessin fins al cotxe automàtic, que després et conduiria fins al destí sol·licitat. La informació es donava oralment i per escrit, mitjançant una pantalla incrustada al tors del robot.

Barcelona ha signat l’Smart City Protocol i l’Ajuntament treballa per consolidar bones pràctiques per fer de Barcelona una ciutat intel·ligent. Des de l’Institut de Robòtica com es veu tot això, i de quina manera hi participeu?

Bé, justament l’URUS s’ha fet amb un protocol previ per definir tot allò que calia estandarditzar a l’hora de definir accions i processos en llocs diferents. Si s’hagués d’evacuar gent enmig d’un incendi, per exemple, i disposéssim d’uns robots que assistissin els humans en aquesta emergència, seria bo que tinguessin un comportament homologable a tot arreu, tant per raons d’eficiència com perquè la seva actuació fos comprensible per tots els usuaris. Si homologuem els protocols, també podrem fer més universals aquests robots, i per tant fer més rendible la inversió que demana fabricar-los.

Bernat Puigtobella

Director de Barcelona Metròpolis

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps obligatoris estan marcats amb *

*

Podeu fer servir aquestes etiquetes i atributs HTML: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>