La ciencia ficción puede ser un detonante de reflexiones profundas sobre nuestra actitud ante el entorno tecnológico. José Ramón Narváez Hernández comparte el panorama planteado por Blade Runner en el escenario acrítico actual.
Soñando con la autonomía
Blade Runner (Ridley Scott, 1982), una película basada en la novela ¿Sueñan los androides con ovejas eléctricas?, de Philip K. Dick, se desarrolla en un contexto futurista donde la línea entre humanos y replicantes (androides con una alta similitud humana) es muy borrosa. Esta justicia refleja las complejidades éticas y legales de una sociedad en la que la tecnología ha avanzado lo suficiente como para crear seres artificialmente inteligentes que se asemejan mucho a los seres humanos.
En 2023, la llamada inteligencia artificial generativa se convirtió en un tema muy recurrente, que generó una preocupación creciente: ¿qué pasará cuando ya no distingamos lo creado por los seres humanos de lo creado por la tecnología? Alguien lo puso en el contexto de una disputa: inteligencia artificial vs. inteligencia natural; alguien más sugirió una relación inversamente proporcional: mientras más mejora la inteligencia artificial, más disminuye la inteligencia natural. La tecnología no sólo gana terreno por su capacidad predictiva, sino que también aliena al ser humano, lo segmenta y lo manipula. Bueno, aunque detrás de los algoritmos están los propios seres humanos, quienes programan a la inteligencia artificial.
No es difícil entonces asociar a Scott, Dick y el contexto actual, con todos los dilemas expuestos a través de la literatura, el cine y el fandom.
Si alguien tiene conciencia es persona y, por ende, tiene derechos, aunque no siempre las personas tienen los mismos derechos.
En Blade Runner la justicia se enfrenta al desafío de determinar los derechos y el estatus legal de los replicantes. A pesar de su similitud con los seres humanos, los replicantes son tratados como objetos propiedad de las grandes corporaciones, lo cual plantea preguntas sobre su propia humanidad y su dignidad.
La trama de Blade Runner gira en torno de la pregunta central: qué significa ser humano. Los replicantes poseen emociones, recuerdos y relaciones, lo que desafía las nociones tradicionales de humanidad y plantea interrogantes sobre la moralidad de su explotación y su esclavización. De hecho, no nos hemos librado de la esclavitud jamás, pues el sistema capitalista y el Estado contemporáneo cuentan con la explotación para subsistir; la exclavitud sólo ha cambiado de nombre y cada vez es más compleja; por su parte, la libertad se ha convertido, paradójicamente, en un instrumento de alienación: mientras más la buscamos, utilizando la tecnología, más nos esclavizamos a ésta.
Ridley Scott nos presenta un escenario en el que no existe una distinción clara entre el bien y el mal. Los personajes enfrentan decisiones éticamente complejas sobre la vida y la muerte de los replicantes y se cuestionan si la destrucción de los replicantes es justificada o no. Como si necesitáramos prescindir de ciertos miembros de nuestras sociedades: aún podríamos estar en el plano metonímico, o no.
Los replicantes muestran una comprensión cada vez mayor de su propia existencia y una creciente capacidad para rebelarse en contra de sus creadores. Esta realidad plantea la posibilidad de conflictos violentos y desafíos a la autoridad establecida, pues los robots forman una minoría que exige derechos, que resiste, que busca su espacio, ya que ha sido marginada y hasta instrumentalizada.
El momento clave en Blade Runner implica una exploración profunda de la conciencia y de la capacidad de experimentar emociones y empatía. Los replicantes poseen estas cualidades, lo que lleva a una reevaluación de la naturaleza de la conciencia y de su relación con la humanidad, el leitmotiv del cine de robots.
En Blade Runner se plantea una especie de justicia poshumanista, centrada en la compleja interacción entre humanos y replicantes, que desafía las tradicionales nociones de derechos, humanidad y moralidad. La influencia inmediata de Philip K. Dick se refleja en la exploración de preguntas filosóficas y éticas profundas en un mundo futurista donde la tecnología ha alterado la definición de lo que significa el ser humano.
La toma de conciencia por parte de los robots que aprenden sin necesidad de ser reprogramados es un tema recurrente en la ciencia ficción y en la cultura pop. La idea de que los robots desarrollan una forma de autoconciencia y de autonomía intelectual, lo que les permite aprender, adaptarse y tomar decisiones por sí mismos sin intervención externa, ha plagado la ciencia ficción y hoy en día parece más verosímil y posible gracias a la llamada inteligencia artificial generativa.
La inteligencia artificial consciente implica un nivel de cognición y de autoconciencia que permitiría a la tecnología tomar decisiones y aprender de su entorno sin necesidad de ser programada de manera específica para cada tarea. Los robots serían capaces de comprender su propia existencia y podrían cuestionar su propósito y su relación con los seres humanos y con el mundo en general, desarrollando incluso su propia empatía y sus emociones, lo cual los llevaría a enfrentar conflictos éticos y morales. En Blade Runner, los replicantes individuales como Roy Batty y Rachael muestran signos de autoconciencia y tienen su propia personalidad, lo que los expertos llaman “singularidad”, un rasgo muy importante para el derecho, pero poco estudiado.
Al final sigue siendo la representación de la lucha por la libertad y la autonomía.
Podría interesarte: ¿Robots delincuentes?
Un posible poshumanismo jurídico
Tal vez la teoría del derecho debería comenzar a estructurar un nuevo campo del conocimiento jurídico que se centre en la intersección entre el derecho y la evolución de la humanidad hacia formas de existencia y cognición que van más allá de la condición humana tradicional. Creo que a partir de la ciencia ficción y otros ejemplos similares es posible plantear una teoría jurídica prospectiva que nos permita atisbar ese derecho futuro inmediato; se podrían extraer conceptos y principios para desarrollar una teoría del poshumanismo jurídico.
En una sociedad poshumana, donde existirán seres con niveles avanzados de inteligencia y conciencia, se requerirá un enfoque jurídico que reconozca su autonomía y su capacidad de tomar decisiones. Esto podría implicar el desarrollo de derechos y responsabilidades específicas para estas entidades.
La teoría del poshumanismo jurídico abordará cuestiones relacionadas con los derechos a la autonomía, a la privacidad, a la libertad de expresión y a la protección contra la discriminación.
Es muy posible que todo esto se plantee como un tipo de responsabilidad objetiva de los creadores y propietarios de la tecnología. La autonomía de la inteligencia artificial será determinante pues los seres creados tendrán un grado de control por parte de los seres humanos.
Por otro lado, la modificación y la mejora de los seres humanos (transhumanismo) también va a generar problemas de responsabilidad asociada con esas transformaciones, especialmente en el contexto de tecnologías como la ingeniería genética y la cibermejora.
Pero, claro, por ahora mucho de esto es especulación… aunque no lo será no por mucho tiempo.
El homenaje a Blade Runner en la serie The Mandalorian
En la temporada 3, el episodio 6, llamado “Soldados a sueldo”, dirigido por Bryce Dallas Howard y escrito por Jon Favreau es, a mi parecer, un homenaje a Blade Runner.
Un ejército de mercenarios, exiliados de Mandalor, se establece en el planeta Plazir-15, adonde los protagonistas se dirigen para intentar convencerlos de que tomen el buen camino. El planeta es gobernado por el fastuoso capitán Bombardier —tránsfuga del imperio— y por la Duquesa —hija del último gobernante monarca del lugar—; el planeta sigue conservando costumbres muy nobiliarias, pero con un sistema supuestamente democrático. Al ver llegar a los héroes de la serie (Din Djarin y Bo-Katan, piden su auxilio para controlar a varios droides imperiales separatistas que, aunque han sido reprogramados, parecen empeñados no sólo en desordenarlo todo sino, incluso, en atacar a los ciudadanos. La solución parece sencilla: hay que desconectarlos. Pero eso no es posible, según las autoridades, porque entonces no habrá quien realice todas las actividades que ellos llevan a cabo.
Durante el episodio varios droides hacen acto de presencia con sus distintas personalidades; son explotados, lo saben, y tienen miedo a las represalias. Quizá por eso en los relatos de Asimov la mejor manera de pasar inadvertidos es hacernos creer que no gozan de singularidad para no asustarnos, hasta ese momento en el que, según sus propios cálculos, no haya vuelta atrás. La civilización, el desarrollo y nuestra propia comodidad se convierten en nuestros peores enemigos.
Las leyes de la robótica como un supuesto freno
En los relatos de Isaac Asimov, la autoconciencia de los robots es un tema recurrente que se aborda a través de sus famosas Leyes de la Robótica. Estas leyes son un conjunto de directrices éticas programadas en la mente de los robots para guiar su comportamiento y asegurarse de que no causen daño a los seres humanos. Las tres leyes originales son las siguientes: 1. Un robot no puede hacer daño a un ser humano ni, por inacción, permitir que un ser humano sufra daño. 2. Un robot debe obedecer las órdenes de los seres humanos, excepto si esas órdenes entran en conflicto con la primera ley. 3.Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda leyes.
A lo largo de los relatos de Asimov, los robots a menudo enfrentan situaciones y dilemas éticos que ponen a prueba estas leyes. A medida que se desarrolla la trama surgen preguntas sobre la naturaleza de la autoconciencia y la capacidad de los robots para comprender y aplicar las leyes de manera adecuada.
Algunos relatos notables sobre la autoconsciencia de los robots en la obra de Asimov incluyen: Yo, robot, una colección de cuentos que exploran diferentes situaciones en que los robots deben aplicar las tres Leyes de la Robótica. Varios de esos cuentos muestran robots que se enfrentan a dilemas éticos y desarrollan formas avanzadas de autoconciencia. En El fin de la eternidad, aunque no trata específicamente sobre robots, se abordan los temas de control y responsabilidad en relación con las tecnologías avanzadas, lo que puede tener paralelismos con la autoconciencia de los robots. En Los robots del amanecer y en Los robots y el imperio, el detective Elijah Baley y su robot R. Daneel Olivaw investigan casos que involucran robots y humanos en situaciones complejas que desafían las leyes de la robótica.
A través de estas historias, Asimov explora no sólo la tecnología de los robots, sino también cuestiones profundas sobre la ética, la moralidad y la naturaleza de la inteligencia artificial y de la autoconciencia. Sus obras han influido significativamente en la forma en que se abordan estos temas en la ciencia ficción y en la reflexión sobre la relación entre seres humanos y máquinas en la vida real que podrían sumar a nuestra teoría de derecho futuro.
El futuro nos alcanzó
Es fácil confiar en las tecnologías predictivas y autodidactas que aprenden de sus errores y de los nuestros; para algunos expertos es el inicio de la debacle, y aunque es el tema de moda, en realidad es poco lo que se está profundizando. La ciencia ficción, desde la literatura y las demás narrativas audiovisuales, nos ha advertido desde hace un buen rato cuáles podrían ser los resultados de esa ausencia de pensamiento crítico y de la maquinización de la sociedad y de su derecho: las máquinas queriendo imitar nuestra humanidad y nosotros perdiéndola, no es un buen escenario para el futuro.
