jueves, 18 de octubre de 2007

Ética para tornillos

Pocas cosas hay ya tan sorprendentes como las que nos pueden deparar los avances científicos, muchos esperanzadores, pero también inquietantes y, por desconocidos, desconcertantes.
Nos hemos acostumbrado a interactuar con toda clase de mecanismos que nos hacen la vida más fácil e incluso posible, por lo que bien puede decirse que sin ellos retrocederíamos varios siglos en el tiempo.
¿Pero qué pensaríamos y cómo reaccionaríamos si nos dijesen que los robots pueden llegar a tomar decisiones fundamentadas en un código ético? La primera pregunta surge de inmediato: ¿un código ético de quién? Esta es, a grandes rasgos, la cuestión que está planteando y desarrollando parte de la comunidad científica.
La “roboética”, un campo de la ciencia todavía en pañales, parte de la idea de otorgar a los robots un conjunto de reglas de comportamiento universal con el fin de que sus acciones no sean muy dispares de las normas humanas para que sea posible controlarlos. El fin último es que las máquinas se parezcan cada vez más a las personas para que puedan ayudarnos, pero también para que puedan sustituirnos de manera paulatinamente más eficaz y, quizá, para justificar acciones que los humanos consideramos injustificables.
La cadena de montaje de una fábrica puede ser ilustrativa de la capacidad de la robótica. Hasta ahí la cosa es comprensible, pero no tengo claro que, aplicando un código “ético”, y salvando mi ignorancia, un robot pueda discriminar una pieza por su color, por poner un ejemplo. Si eso es o llega a ser posible, discriminar robóticamente negros de blancos, hombres de mujeres, fuertes de débiles o individuos deseables de indeseables está servido porque quien tiene la facultad para manipular en positivo, también la tiene o puede tenerla para hacerlo en negativo.
Las dudas son numerosas y sombrías. ¿Llegará a determinar un robot quién es socialmente aceptable y quién no? Si así fuese, ¿al código de quién habrá de atenerse, al de su propietario, al de sus fabricantes o al de los gobernantes de turno? ¿Podrá decidir sobre mi vida un “robot ético” en caso de que “valore” que no soy “apto” para vivir en sociedad? ¿Será capaz un replicante de “dudar” ante las posibles “emociones” que pueda plantearle su “ética”? ¿Me dispararía si alguien pusiese una pistola a su disposición?
Francamente, no imagino ni quiero imaginar a un montón de chatarra tecnológicamente avanzada tomando decisiones que pueden afectar gravemente el futuro de las personas, pero el reto científico está ahí afuera. Y eso, para la ciencia, es muy tentador.

Vídeo: Escena de la muerte del replicante Roy Batty

4 comentarios:

Martín Bolívar dijo...

Una reflexión profunda sobre el devenir que nos depara la robótica, haciendo hincapié en las cuestiones éticas. Un comentario de candente actualidad después de la opinión racista de un científico que afirmó que los blancos son más inteligentes que los negros. Si los humanos no paran de generar guerras, ¿qué mundo nos puede esperar con las decisiones de los robots?, estimado amigo.

Desesperada dijo...

pues a medida que leía esta entrada, Guillermo, no podía dejar de pensar que, paradójicamente, quizá un robot tuviese sentimientos mejores que el ser humano, ya que carecería de crueldad, por ejemplo.

entrenomadas dijo...

Guillermo,
a mí hasta ayer me asustaban los humanos, ahora, después de leer este post me van a asustar los robost y sus padres. Yo mejor me quedo con mis animalicos que son de lo más pacíficos y tienen unos sentimientos nada robotizados.

Ahora en serio, lo que plantea este post es realmente interesante e inquietante.
Inevitablemente he recordado la novela "Sueñan los androides con ovejas eléctricas" de Philip k. Dick, más conocida por la peli Blade Runner.

Me quedo pensativa.

Bacci

Guillermo Pardo dijo...

Martín: el científico al que te refieres es, por paradójico que parezca, un hombre de pobreza intelectual supina. Ni un tonto se metería en semejante berenjenal, aunque quisiera.

Puede ser, Desesperada, que llegue a haber robots sensibles, pero dudo que lleguen a ser como las personas, aunque en algunos casos, bien es cierto, yo preferiría tratar con robots.

Bacci: Desde luego que da que pensar. Eso fue lo que me movió a comentarlo.

Besos y abrazos para todos.