lunes, 8 de junio de 2015

Las Tres Leyes de la Robótica de Isaac Asimov


Antes de 1940, prácticamente toda la ciencia ficción especulativa que incluía a robots seguía el modelo del Frankenstein de Mary Shelley: un robot tenía que ser constantemente instruido por una persona y en ausencia de control humano se volvía un destructor total, demoliendo todo a su paso.

Isaac Asimov se cansó de esta concepción y comenzó a escribir historias sobre robots más simpáticos y programados de tal manera que pudiera preverse la rebelión de las máquinas. Fue su editor (John Campbell) quien, en su momento, le brindó una mano para crear las famosas Tres Leyes de la Robótica que permitirían tener un salvavidas. Estas fueron:

1. Un robot no puede herir a un ser humano o, por inacción, permitir que un humano resulte herido.
2. Un robot debe obedecer cualquier orden dada por seres humanos, excepto cuando esa orden se contradiga con la Primera Ley.
3. Un robot debe proteger su propia existencia, siempre y cuando dicha protección no entre en conflicto con la Primera y Segunda Ley.

Campbell compuso las Tres Leyes simplemente desenredando conceptos que ya estaban presentes en las historias de Asimov. 

Las leyes cubren las situaciones más simples y obvias, pero están lejos de ser perfectas. De hecho gran cantidad de relatos del autor eran sobre diferentes formas en las que las leyes entraban en conflicto unas con otras, generando comportamientos inesperados.

Quienes no sean tan íntimos con la bibliografía de Asimov, seguramente recuerden estas leyes de la película “Yo, robot” (2004), con Will Smith, que es una buena adaptación de una de sus historias más populares. La realidad es que no fue la primera vez donde aparecieron estas leyes. Puntualmente, su origen puede rastrearse al relato “Runaround” (“Círculo vicioso”, 1942). Curiosamente, la historia de Runaround transcurre en el año 2015. El cuento está muy bueno y tiene una trama intrigante que se relaciona directamente con los conflictos entre las tres reglas.

Circulo vicioso” (1942) de Isaac Asimov en formato PDF: DESCARGAR.

Asimov no tenía nada contra la temática de “robots como una amenaza para el hombre” pero estaba más interesado en explorar la idea de robots volviéndose cada vez más conscientes y completamente independientes. Esto fue, por supuesto, absolutamente influyente para la forma en que comenzó a trabajarse la ciencia ficción. Hoy en día tenemos películas actuales como “Chappie” y “Ex Machina” que siguen investigando la naturaleza de los robots para terminar de comprender qué es lo que nos hace realmente humanos a nosotros y (no a ellos).

El autor eventualmente formalizó una Ley Cero, que era un corolario de la primera y estaba por encima de todas las demás:


Un robot no hará daño a la Humanidad o, por inacción, permitirá que la Humanidad sufra daño

Otros autores, por su parte, fueron extendiendo la cantidad de leyes creando variaciones de las tres primeras y un par de adicionales como la célebre Quinta Ley (“Un robot debe saber que es un robot”).

Ahora, aunque las leyes son ficción y no tienen ningún tipo de solvencia dentro del mundo real, los estudiosos de la robótica se las tomaron muy en serio (y Asimov vivió lo suficiente para poder comenzar a ver estos desarrollos). 

Sin embargo, las leyes –pensándolas exclusivamente dentro de la ficción– son ambiguas en sí mismas.

Un ejemplo sencillo es el de “herir a un ser humano”. Supongamos que un robot debe golpear a una persona... ¿Qué nivel de fuerza es el que verdaderamente lo hiere? 

La película Yo, Robot plantea otro dilema interesante: ¿Qué sucede cuando los robots tienen la posibilidad de salvar solo a una de dos personas? Cualquier elección que tomen generará conflicto con sus leyes internas.

La Segunda Ley es inherentemente problemática. ¿De qué humano debe seguir órdenes un robot? ¿Qué sucede si dos personas le piden cosas diametralmente opuestas? “Robot, abrime esta cerveza” “¡No, robot, no le abras la cerveza. Lucho ya tomó demasiado!”. (-.-)

Otra pregunta que surge a partir de las leyes es qué considerar como “humano”, bajo qué mirada se los categoriza. 

En una de las historias de Asimov, se crean robots que siguen estas reglas pero son enviados a realizar campañas de limpieza ética. Estas máquinas solo reconocen a ciertos grupos como “humanos”. Siguen las reglas, pero igual llevan a cabo el genocidio. Los mismos protagonistas de los relatos del autor muchas veces caían en la cuenta de que las leyes estaban atadas a los códigos morales de los humanos.

La verdad es que Asimov no creó las reglas para los robots, sino para los escritores. Son disparadores para mover una trama hacia adelante, para volverla más interesante y menos trillada. Más que un autor de ciencia ficción, Asimov estaba más interesado en los misterios. Él quería escribir relatos de intriga con robots como protagonistas, y las Tres Leyes eran la forma de darle condiciones de borde a la historia. 

Y gracias a esta necesidad de crear algo nuevo, de experimentar con la escritura, logró darle una nueva bocanada de aire fresco al género de la ciencia ficción.

……………………………………………………………………………………………….


………………………………………………………………………………………………….

Podés seguir las nuevas notas y novedades (además de humor y críticas de cine) en mi fan-page: http://www.facebook.com/sivoriluciano. Si te gustó, ¡compartilo o dejá un comentario!

8 comentarios:

  1. Muy interesante, tirás por ahí un par de datos que no conocía, como el de la quinta ley. Creo que el relato sobre los robots que consideran sólo grupos de humanos se llama "¿Qué es el hombre?", o algo así, y el final es muy perturbador. Lo que siempre me gustó del libro es que se plantea tres reglas para romperlas sistemáticamente, eso es ser un genio. Hay un cuento que no aparece ahí, que lo encontré suelto en Internet, que se llama "Primera ley", sobre un robot que rompió la primera ley, justamente.

    Asimov aparece en los créditos de Star Trek Next Generation como consultor, ¿sería por Data? Estoy pensando en un capítulo donde un tal Maddox (creo) lo quiere desarmar y hacen una especie juicio para determinar si hay que considerarlo humano o propiedad de la Flota.

    Por cierto (1): Justo me recomendaron Chappie y Ex Machina!!!!!!!!!!!!
    Por cierto (2): La película de Yo, Robot, me gustó, pero jamás les voy a perdonar lo que le hicieron al personaje de Susan Calvin.

    Saludos!

    ResponderEliminar
    Respuestas
    1. ¡Qué bueno verte de regreso! Así que se llama "¿Qué es el hombre?". Recordaba haberlo leído, pero no el título. "Primera ley" lo leí hace unos años, en esos momentos de aburrimiento en el trabajo donde uno, inevitablemente, se pone a leer relatos al azar en Internet.

      Posdata (1): Si querés date una vuelta por mi fan-page (http://www.facebook.com/sivoriluciano) subí las críticas cinéfilas de Chappie y Ex-Machina. Ambas trabajan un tema más o menos similar, pero son bien diferentes. Me gustó más Ex-Machina: es profundamente filosófica, llena de vueltas de tuerca y con un guión sólido. Creo que la vas a disfrutar mucho. Chappie está buena, pero es más acción que ciencia ficción pura.

      Eliminar
  2. Muy interesante!! A mi me gustó mucho "Los Robots del amanecer". Jander, un robot humaniforme mantiene una relación sexual con una mujer. Aunque pasan muchas más cosas, me centraré en el conflicto que se produce con respecto a la primera, segunda ley. No puede herir a la humana y debe obedecerla. Su mente entra en shock por intermediación de otro personaje, pero el origen del bloqueo, de la muerte de Jander guarda relación con el hecho de que Gladia y él estuviesen enamorados. Supongo que también se entraría en contradicción con la quinta ley, al tener Jander plena conciencia de que es un robot y conocer la situación en la que se encontraba.
    Me ha gustado mucho la entrada, ha sido bonito recordar algunos libros de Asimov sobre robots que leí en la adolescencia (de la bibliografía de Asimov, es mi temática favorita).
    Un abrazo

    ResponderEliminar
    Respuestas
    1. Es un tema fascinante. Yo me agendo "Los Robots del amanecer" que no lo conocía. ¡Gracias por pasarte!

      Eliminar
  3. Lo más sorprendente es que Susan Calvin nación en 1982 y se recibió en el 2003, así que estaría entre nosotros. Y sería muy despectiva, como también brillante. No me molestó la versión de Susan Calvin en la película de Yo, robot.
    Los robots de Aurora es una gran novela, con interesante cruce de géneros. No veo ninguna contradicción en Gladia teniendo como amante a un humaniforme, hecho que puede explicar por la primera ley, porque producir una frustración a una mujer humana, podría equivaler a hacerle daño. También se plantea que las humanas podría tener sexo con robots más mecanicos.
    Con la Ley cero se destaca R Daneel Olivaw, que por momentos se vuelve sopreprotector, como en la saga de la Fundación.
    Reconozco tener una fascinación por Dors Venabili, quien hace una aparición gloriosa en Preludio a la Fundación.

    ResponderEliminar
    Respuestas
    1. ¡Estamos ante una eminencia absoluta en materia de robots de Asimov! Muy buenos datos tiraste que no tenía presentes. Gracias por pasarte y aportar. Un abrazo.

      Eliminar
    2. Dos cráneos en materia de ciencia ficción se han cruzado
      Festejo eso, ¡sigan desasnando!

      Abrazo a ambos

      PD: En volver al futuro Marty viajaba a octubre de 2015. Nos quedan un par de meses para abrir rutas aereas para los autos y para que el sistema meteorológico se perfeccione.

      Eliminar
    3. Seee...me acordaba lo de volver al futuro. Habría que rever la película en homenaje.
      Por cierto, terminé una novela argentina de ciencia ficción que me parece de lo mejor que leí del género en mucho tiempo. ¡Pronto sale el post!

      Eliminar

Quizás te pueda llegar a interesar...