«Her», ¿son reales las emociones?
4El largometraje “Her” de Spike Jonze nos transporta a un futuro cercano e inquietante en donde las relaciones sociales están fuertemente mediatizadas por la tecnología y la estética hipster se ha convertido en hegemónica. Theodore (Joaquin Phoenix) se gana la vida escribiendo cartas personales a terceras personas que contratan los servicios de su empresa, tras un duro divorcio conoce a Samantha (voz de Scarlett Johansson), un sistema operativo en red capaz de expresar empatía social y emociones complejas como el amor. Paulatinamente Theodore, un personaje que da claras muestras de infantilismo afectivo, se enamora del sistema operativo y ambos inician una relación.
Interesante es el esbozo de una sociedad futura en donde los dispositivos inalámbricos e inteligentes más que acercar a las personas las distancian. El film también hace un acertado y empalagoso retrato del “enamoramiento” doblemente ridículo tratándose de una relación entre un ser humano y una computadora. Una cuestión que recorre toda la película y que ni Samantha ni Theodore se atreven a expresar es si los sentimientos del sistema operativo son reales o mera programación informática.
La controversia de si la manifestación de pensamiento hace a una máquina pensante es un problema básico de inteligencia artificial que fue ejemplificado por John Searle en su famoso experimento mental de la “habitación china”. Searle propone que nos imaginemos una habitación en donde por una rendija entran pictogramas en chino, dentro hay una persona que no sabe nada de ese idioma pero sí tiene un libro de instrucciones en el que se le explica cómo debe unir los distintos pictogramas que le van entrando en la habitación. Cuando el técnico de la habitación tiene compuesto la serie de pictogramas los emite por otra rendija. Para el observador externo parecería que en la habitación hay un programa o persona capaz de entender chino ya que puede responder coherentemente a los pictogramas que se le introducen pero, según afirma Searle, esto no es así ya que el operario de la habitación no tiene ni idea de lo que hace, solo sigue unas instrucciones. La conclusión es que la manifestación de una conducta inteligente no implica inteligencia. ¿Ocurre lo mismo con Samantha? Ella es capaz de responder a las emociones manifestando sentimientos coherentes con los inputs emocionales de Theodore, ¿hasta qué punto tales respuestas son “reales” o programadas?
En el siglo XVII Descartes planteó un problema similar pero asociado a los animales. Según el filósofo francés los animales carecen de un alma como los seres humanos, siendo el alma la sede de las emociones se sigue que los animales carecen, también, de emociones. Aunque observemos a los animales gritar o dar muestras de alegría son meros reflejos mecánicos no emociones ni sensaciones reales. La mera manifestación de sensibilidad no implica que tales sensaciones sean ciertas, podríamos comparar a los animales de Descartes con esos osos de peluche que te piden un abrazo o se quejan si son zarandeados. Aunque la perspectiva del autor francés nos parezca lejana e insensible con otros seres vivos hoy en día muchos se empeñan en relativizar el sufrimiento animal afirmando que estos, en realidad, no sufren sino que hacen “como que sufren”; pensar que los animales se emocionan y sienten como nosotros, según esta perspectiva, es un ejercicio de antropocentrismo.
Podemos ir más allá y desde un análisis solipsista preguntarnos si los otros seres humanos que observamos son capaz de emocionarse y pensar o solo manifiestan conductas programadas. El individuo es consciente de sus emociones y pensamientos y los sabe reales; cuando vemos las lágrimas de otra persona solo percibimos un comportamiento pero no el sentimiento que hay detrás de tal conducta. ¿Tienen las otras personas emociones reales o son meros autómatas que expresan conductas programadas? No vemos el amor ni el sufrimiento, solo su manifestación externa ¿es exacta la inferencia de que observando la conducta X podemos concluir que está motivada por la emoción interna Y? Yendo aún más lejos hacia una postura planteada por ciertas corriente de psicología positivista podríamos preguntarnos si nuestras propias emociones no son más que manifestación de procesos físico-químicos de la estructura cerebral y condicionantes socio-culturales. ¿Es el amor amor o mera intoxicación de oxitocina? Quizás lo que denominamos sentir y pensar no sea más que un autoengaño de nuestra consciencia: pensamos que amamos y razonamos pero esas percepciones internas no son otra cosa que el fruto de nuestra programación biológica y cultural.
En cierta manera “Her” responde a esta cuestión. Theodore trabaja, como dijimos, escribiendo cartas personales de padres a sus hijos o de chicos a sus parejas; redacta las cartas fingiendo amor, soledad… exteriorizando en el lenguaje unos afectos que no siente hacia esas personas. Esta ironía recorre el argumento de la película desarticulando o, al menos, problematizando la pregunta de si Samantha siente o no lo que expresa sentir; la cuestión de si las emociones del sistema operativo son reales nos llevan a preguntarnos si las de Theodore lo son. Como se expuso más arriba, aún hoy en día algunos niegan a los animales la capacidad de sentir y emocionarse a pesar de exterioricen sensibilidad y sentimientos; ¿llegará el día que nuestro antropocentrismo niegue sentimientos a entes artificiales? ¿cómo estar seguros de que un programa pueda amar?
La película «Her» es estupenda, va más allá que pelis más peliculeras como «Inteligencia artificial».
Según todo lo que se ha investigado, la consciencia es el producto de una serie de efectos neuroquímicos, por lo que (mal que les pese a algunos), no hay ningún inconveniente lógico que impida que pueda ser producida artificialmente.
Es más, puesto que el progreso tecnológico puede avanzar hasta límites impensables, no es nada improbable que puedan ser fabricados seres intelectualmente superiores a nosotros.
Véase al gran futurista Ray Kurzweil (convencional a nivel filosófico, sin embargo)
http://unpocodesabiduria21.blogspot.com.es/2014/04/la-era-de-las-maquinas-espirituales.html
Y véase la especulación acerca del «Artilecto»:
An artificial intellect (or «artilect»), according to Dr. Hugo de Garis, is a computer intelligence superior to that of humans in one or more spheres of knowledge together with an implicit will to use the intelligence. Artilects are the concern of artificial intelligence specialists (or «intelligists») like de Garis, who speculates that human society may soon have to face the question of whether and how we can restrain artificial intelligence from making decisions inimical to humans.
Dr. de Garis assumes that within one or two generations, we will have computers that are more sophisticated than human brains with the ability to experimentally evolve their intelligence into something much beyond what humans might contemplate or understand. de Garis wonders whether such machines would consider human beings important enough to preserve. He speculates that society will soon need to face the question of whether we should permit artilects to be built. He foresees two factions arising: the Cosmists, who argue that they should be built, and the Terras, believing that they should not. The Cosmists might believe that artilects would probably want to leave our planet to seek intelligences elsewhere in the universe. The Terras believe that it would be too dangerous for the human race to allow artilects to be developed.
http://whatis.techtarget.com/definition/artificial-intellect-artilect
La pregunta filosófica tiene que ver con eso que nos gusta tanto que es la bondad (el comportamiento altruista o prosocial).
¿El artilecto nos amará y nos salvará, o por el contrario nos destruirá por ser nosotros inferiores?
En la opinión de muchos, la bondad es una necesidad lógica, pues el comportamiento bondadoso (hasta el nivel de la santidad cristiana) es el que más asegura la confianza, y, por tanto, el que mejor asegura la cooperación. Al igual que la Samantha de «Her», que parece una chica bienintencionada, es de suponer que las inteligencias superiores tendrán muy desarrollada su capacidad cooperativa lo que les predispondrá a comportamientos que les procuren la confianza ajena (mientras más bondadoso eres, más confía la gente en ti, y más quiere cooperar contigo).
Claro que todo eso puede ser objetado.
En cuanto al tema de la «habitación china», ¿es realmente importante saber lo que es real en la vida de los demás? Bastante tenemos con nuestra propia realidad. Hay quien llora cuando vende su viejo automóvil y tiene que separarse de él, de modo que el que el ser amado sea o no autoconsciente no debería preocuparnos en la medida en que su comportamiento cumple todas nuestras expectativas.
De hecho, una buena manera de aprender a ser bondadosos y ganarnos la confianza de los demás sería aprender del método Stanislawski de actuación, interiorizando el rol que queremos asumir…
Ciertamente no veo tan necesario conocer la verdad de la mente de los otros. Es muy acertada tu apreciación: ya es suficientemente complicado conocer la verdad de nuestros sentimientos y deseos como para pensar en la realidad o irrealidad de los sentimientos de los otros. En efecto, antes está la vivencia que la comprensión.
Hola! Me ha gustado mucho tu blog. Me ha gustado tanto que me lo he ido a apuntar en feedly para seguirte pero el RSS me da error. No sé si será un problema particular de feedly o algo de tu blog pero échale un ojo, que es la típica cosa que tienes que tener bien para que la gente te pueda seguir cómodamente (a mí casi se me pierde y ya te digo que me ha alegrado encontrar un blog de este estilo por Internet).
Sobre lo de Her, da la casualidad de que hace poco también estuve leyendo bastante sobre el tema para un artículo sobre las relaciones entre humanos e IAs. Her y el capítulo 2×01 de Black Mirror eran los ejemplos que tenía (el especial de Navidad White Christmas también tiene que ver un poco con el tema de las IAs, muy recomendable igualmente).
A mí sobre todo tras comparar Her a otras obras similares como ese capítulo de Black Mirror, no me parece que quiera tratar demasiado el tema de si los sentimientos de Samantha son reales o no; creo que sus reacciones y su personalidad durante la película no dejan ninguna duda de que su inteligencia está a la par e incluso supera a la de un ser humano. A mucha gente le parece que la película es pesimista por su representación entre las relaciones IA-humano pero a mí no me lo parece. La relación entre Theodore y Samantha es muy sana, salen juntos, prueban cosas nuevas y no se aíslan del mundo social «humano», que es lo que suele pasar en otros casos parecidos.
Del final no sé si hablar mucho por si spoileo algo, pero sí me parece ligeramente más ambiguo que el resto de la peli. Pero, en general, la visión de las IAs me parece bastante optimista, ya que la mayoría de los personajes son muy liberales, abiertos y tolerantes con Samantha, algo que no se suele ver demasiado en ciencia ficción, donde se recurre a la representación distópica más pesimista.
Lo de la habitación china nunca me ha gustado demasiado, ya que me parece bastante simplista, ya que realmente la único que hace es asociar la inteligencia «real» con la que procede de un cerebro orgánico y la «irreal» con la que procede de un cerebro mecánico. El test de Turing me parece bastante más justo en este sentido, ya que se basa más en la inteligencia percibida y no tiene en cuenta su origen.
Un saludo,
Adrián
Hola Adrián,
me alegro que te guste mi blog pero me alegro mucho más que te guste Black Mirror. Es una de las series actuales más interesante que conozco. EL capítulo 2×01 que citas viene muy al pelo sobre el tema de las IAs con implicaciones, también, sobre nuestra identidad y las redes sociales.
Estoy de acuerdo contigo sobre esa idealización de la película que nos presenta un futuro en donde la tolerancia está tan extendida. Acostumbrado en la ciencia ficción, en general, y en Black Mirror, en particular, a la visión distópica, esa sociedad tan higiénica y desarrollada en ciertos aspectos supone una novedad. Sinceramente pienso que las obras de ciencia ficción que tratan nuestra relación con las IAs son, en muchas ocasiones, reflexiones sobre nosotros mismos. Her, concretamente, también nos plantea si nuestro afán de «fidelidad afectiva» no es más que una inclinación de seres intelectualmente inferiores; a Samantha no parece costarle mucho amar a cientos de humanos ¿por qué Theodore es incapaz de comprenderlo? Películas como estas tiene también la virtud de hacernos reflexionar sobre como construimos nuestras emociones.
Gracias por comentar y perdona la tardanza de mi respuesta, las navidades me dejan un poco fuera de órbita en lo que a internet se refiere y cuesta reengancharse.
saludos!