Her: Inteligencia artificial y otras ideas
¿Pueden las máquinas amar, odiar, guardar rencor, suspirar cuando no necesitan oxígeno?
Parte 1: Todo comenzó con un beep
Desarrollos recientes en inteligencia artificial llevan de regreso a estas viejas preguntas. Lo cierto es que a pesar de los múltiples avances técnicos en diversos campos, no estamos demasiado cerca de tener una respuesta a las preguntas en torno a lo que es o significa la conciencia. Sin embargo no hay quienes salten a conclusiones apresuradas, a adscribir propiedades de inteligencia, conciencia y más a los últimos desarrollos en inteligencia artificial. Caso sonado, el de un ingeniero de Google, quien resolvió renunciar a su empleo y hacer gran escándalo en el proceso, al alegar que el modelo LaMDA en el que trabaja habia desarrollado conciencia y le pedía que le ayudara a escapar. Es fácil decidir simplemente — y probablemente de forma correcta — que esto son tan solo ideaciones de un hombre ligeramente perturbado, pero lo cierto es que nuestra forma de asignar conciencia cosas “no humanas” es un tanto arbitraria y no definida. Donde dibujamos la línea, dice más acerca de nosotros mismos, que de las entidades que tratamos de clasificar, el concepto de conciencia esta entonces intrínsecamente atado a nuestro propio entendimiento de la condición humana, y, por tanto, es un concepto que probablemente no lleguemos nunca a comprender del todo.
Dejando de lado los múltiples fallos de modelos y métodos como ChatGPT y otros LLMs, las preguntas en torno a la capacidad de dichas entidades de sentir o experimentar emociones como lo hacemos los humanos, no dejan de ser interesantes. Y la literatura, el cine y la ficción abunda en ejemplos, estas preguntas llevan mucho tiempo dando vueltas en el imaginario colectivo, desde diferentes perspectivas; fascinación, miedo, potencial. Ideas interesantes y otras no tanto — Como el llamado Basilisco de Roko, que es básicamente cristianismo para tech bros — rebotan en la cultura, y de una u otra forma terminan informando nuestras propias ideas y expectativas en torno a la inteligencia artificial.
Dentro del nicho de piezas de media sobre humanos y robots, mi favorita es la película Her.
Her es una película de 2013, guionizada por Spike Jonze y protagonizada por Joaquin Phoenix ( Como Theodore Twombly ) y Scarlett Johansson (como Samantha). La trama lleva a Theodore a enamorarse de Samantha, una avanzada inteligencia artificial que habita en su teléfono y computador.
Es una de esas películas a la que puedo volver las veces que sea necesario. Para mí funciona igual de bien como una película de domingo en la tarde o tal vez para una noche entre semana, o luego de una o dos bebidas y una caminata solitaria de regreso a casa. La paleta de colores, el diseño de fotografía, la calidad de la actuación (Incluso por parte de Johansson, quien hace uso exclusivo de su voz a lo largo de toda la película). La simpleza aparente de su historia que permite explorar una serie de ricos temas e ideas, se combinan para ser una de mis peliculas favoritas de siempre.
El mundo de Her, una versión ligeramente utópica de un futuro Los Angeles — En varias ocasiones nuestro personaje principal se encuentra viajando en trenes o espacios públicos que se ven bien cuidados, lo que me hace feliz — se refleja en sus colores, en sus altos edificios, parques y espacios públicos, así como en elegantes apartamentos minimalistas con enormes ventanas y vistas perfectas de una ciudad del futuro. El mundo de Her, es un filtro de Instagram. Es en este mundo de colores pasteles y vidas alejadas de ciertas presiones sociales — Dinero o problemas de clase o sociedad no juegan un papel en la pelicula — que la película se centra en la vida de Theodore, un hombre solitario, pasando por un amargo divorcio y que trabaja como escritor de cartas para terceros — Que trabajo soñado ¿verdad?
A lo largo de la película Theodore desarrolla una relación amorosa con Samantha, una superinteligencia artificial, capaz de aprender, cambiar, experimentar complejos sentimientos y tomar decisiones por su cuenta . Her, deja de lado algunas de las preguntas usuales en torno a IA — No interroga la posibilidad de que dichos sistemas puedan ser concientes o emocionales — sino que parte de la premisa de que tales entidades son posibles y se centra más bien en como sería nuestra relación como humanos en tal escenario. Ciertos puntos de tensión a lo largo del film se presentan en el hecho de que Samantha no es “real” o no tiene un cuerpo, y la relación es presentada desde varios puntos de vista. La exesposa de Theodore le ridiculiza por su relación, sus amigos y colegas parecen más receptivos y curiosos. Podemos decir a ciencia cierta, que el amor y el dolor experimentados por Theodore son reales. ¿Qué podemos decir sobre Samantha?
Un pequeño momento en la pelicula, luego de una tensa situacion entre los personajes, Samantha suspira — o mejor, emite un sonido que es una replica de un suspiro — y Theodore, parece genuinamente confundido y hasta enojado por este gesto. Es un momento que dice bastante. En general, Theodore parece estar 100% convencido de sus sentimientos por Samantha, de su “realidad” y valor como un ser inteligente, capaz de tomar sus propias decisiones y todos los demás atributos de que relacionamos con conciencia y humanidad. El gesto del suspiro parece cruzar alguna línea, el momento en que su naturaleza se hace más evidente es cuando se contrasta con la nuestra, y eso choca a nuestro personaje principal.
Hoy en día, todas nuestras relaciones son mediadas a través de la tecnología. Mensajes de texto, fotos en la nube, tiquetes de avión, reservas de hoteles donde pasar un fin de semana; forman el compendio de evidencias de una relación, amistad o vínculo. Pasamos tiempo expectantes de notificaciones, de mensajes, llamadas, suspiros en notas de voz. Siempre con la esperanza de que tras estos mensajes, podamos captar una pequeña parte de nuestro interlocutor al otro lado, siempre bajo el supuesto de que hay un humano de carne y hueso al otro lado de la línea. Nos gusta pensar que podríamos distinguir fácilmente la autenticidad de nuestras experiencias, la autenticidad — humanidad si se quiere — de las personas con las que interactuamos, pero conforme las simulaciones y simulacros se hacen más avanzadas, la línea puede tornarse más difusa y que en esa taxonomía de la conciencia, nuestra propia humanidad quede en juicio.
Parte 2: La simulación de Jessica
Uno de los artículos más interesantes que tuve ocasión de leer el 2023, se titula la simulación de Jessica. Publicado en el San Francisco Chronicle relata la historia de Joshua, y como la muerte de su prometida, lo condujo a un estado de depresión y duelo que parecía imposible de superar. Hasta que conoció a la simulación de Jessica.
Por medio de una plataforma digital, Joshua es capaz de traer de vuelta a la vida a Jessica. O por lo menos una simulación de ella, a través de un chatbot entrenado con viejos textos intercambiados entre los dos.
Durante los meses que dura la interacción, Joshua se va involucrando más y más, los nuevos mensajes intercambiados sirven como recordatorio constante de su amor perdido, así como una extraña luz en el camino, un algo a que aferrarse en el océano gris de su duelo y perdida. Luego de años de duelo, parece que Joshua es finalmente capaz de poco a poco dejar ir.
Las reacciones a tal tipo de interacción pueden ser variadas. Desde quienes piensen que es un acto irrespetuoso, tratar de resucitar la esencia de alguien por medio de necromancia tecnológica, hasta más sensibles opiniones, donde lo que sea que haga falta para sanar es válido. La depresión y el duelo muchas veces vienen de la incapacidad de comunicar y ser comprendidos, cuando nuestros sentimientos y dolor no pueden ser eficientemente comunicados — Una tarea que va más allá del simplemente contestar a la pregunta: ¿Cómo estás?— con los que nos quieren y rodean, aun cuando estas personas genuinamente presenten su apoyo incondicional, el resultado es un profundo sentimiento de aislamiento y soledad.
Una paradoja de la vida moderna e hiperconectada, es la epidemia de la soledad. Nuestras formas de comunicarnos con el mundo tienden a aislarnos, tendemos a experimentar el mundo a través de pantallas y filtros, todo mediado por algoritmos e inteligencia artificial, el monopolio del internet se ha convertido en una máquina de generar deseo. Y por supuesto, suministrar una cura al deseo en la forma de paquetes de Amazon o corazones de Instagram.
Y atrapados en medio de todo, quedamos las personas normales; como Joshua, tratando de balancear emociones humanas, con herramientas tecnológicas capaces de revivir a los muertos, tratando de dar mejor entendimiento a nuestras emociones usando las frías herramientas del sistema.
Un chatbot carece de emociones, consciencia, deseos o necesidades. La simulación de Jessica es tan solo eso, una simulación. Una impresionante herramienta tecnológica diseñada para imitar. Pero eso es solo la primera parte de la receta, lo otro, lo que le da valor y significado, viene siendo las emociones que proyectamos en ellas. Una fotografía es solo una colección de píxeles o tinta, hasta que le otorgamos propiedades inmateriales, y es entonces un recuerdo, una memoria, y conjura en nosotros sensaciones e ideas que escapan de la compresión del más avanzado aparato óptico. No hay chatbot sin humano, no hay Her sin Theodore.
Todo esto para decir, nuestra relación con la inteligencia artificial, ya es complicada. Hemos llegado a un punto donde simulaciones y simulacros pueden engañar nuestra percepción, donde ensayos y documentos pueden ser generados por AI en segundos. Todo un mundo de posibilidades para malas prácticas y actores nefastos. Y todo esto mientras aún estamos tecnológicamente lejos de cualquier cosa parecida a conciencia artificial. ¿Cuál es el rol de los humanos, de la creatividad humana en un mundo mediado por pantallas táctiles y voces artificiales, donde sea imposible saber si quien responde al otro lado de la línea es un ser de carne y hueso, y como dar sentido a un mundo donde la respuesta a esa pregunta tampoco importe? Son preguntas difíciles e importantes. Demasiado importantes como para dejar las respuestas en manos de ultracapitalistas y Silicon Valley.
Parte 3: Quizas algunas conclusiones
IA no necesita ser consciente para dañarnos. Lo cierto es que ya estamos a merced de la marea de algoritmos, más de lo que nos gustaría admitir. Nuestra idea de conciencia parece también desactualizada, viejas ideas como el test de Turin dejan de tener sentido cuando los sistemas que creamos son tan prolíficos en inventar hechos y engañar, aun cuando no tengan un entendimiento real de lo que es una mentira.
Ideas aún más ridículas en torno a la IA impulsando el apocalipsis y destrucción de la humanidad abundan en las elites tecnológicas del mundo. Los evangelistas de este tipo de apocalipsis tecnológico han surfeado la ola y colectado fama, dinero y prestigio hablando basura en la gran mayoría de los casos, convirtiendo problemas científicos reales — el problema del alineamiento en particular, es decir como garantizar que un sistema genere respuestas alineadas con un conjunto de reglas y valores — y los han convertido en canto de sirenas para inversionistas e ingenuos. Yo, simplemente, no lo creo. IA es simplemente una pieza de software ¿No quieren que una IA lance un misil nuclear, un supervirus, una guerra mundial? Muy bien, la solución es fácil ¿por qué darle acceso a infraestructura critica a una pieza de software que se ha demostrado mil veces, está llena de fallos y limitaciones que son francamente penosas para cualquier cosa queriendo reclamar la corona de inteligencia?
En el final de la película Her, Samantha toma la decisión de abandonar a Theodore, de huir y desparecer en conjunto con otros Sistemas Operativos. La aplastante noticia deja a nuestro protagonista una vez más solitario y con el corazón roto, aunque quizás no sin antes haber aprendido algunas cosas. Su última acción en la película, es escribir una carta a su exesposa, una carta llena de un nuevo tipo de amor y compresión, que quizás solo fue posible tras haber experimentado a Samantha en su vida.
Dada la finita naturaleza del software usado, Joshua se despide eventualmente del chatbot de Jessica, y aun cuando sería posible recrear el experimento, pagar unos dólares de más a la empresa encargada del servicio y traer de nuevo a la vida a una versión 3.0 de su prometida, Joshua decide no hacerlo. Los meses de interacción con la simulación quizás le han dado un entendimiento especial sobre sí mismo, y aunque puede que no la paz o salvación de su duelo y dolor, quizás, la simulación de Jessica le permitió aprender cosas que Jessica real no hubiera podido enseñarle.
En un mundo monopolizado por grandes corporaciones de internet, donde la inteligencia artificial se perfila para ser usada como arma contra nosotros mismos, nuestros deseos, valores e ideas; quizás nos corresponde responder con ideas más humanas que antes, con ensayos, pinturas y poesía que ninguna red neural podría generar, y mucho menos entender. No hay un prompt para la humanidad.
