Westworld, la IA y la libertad
Carlos Delgadillo Macías
¿Qué es un ser humano?
En esencia, la trama de “Westworld” gira en torno a la inteligencia artificial. La primera temporada muestra un distópico parque de diversiones en el que los visitantes forman parte de líneas argumentales ambientadas en el Viejo Oeste. Los “anfitriones” son androides programados para repetir una y otra vez una “vida”. Son exteriormente idénticos a un ser humano, sólo que toda su conducta está gobernada por comandos.
Los “anfitriones” se convierten en juguetes de los turistas de Westworld. Son el objeto en el que se pueden descargar las pulsiones. Pueden ser golpeados, insultados, masacrados, violados, de la manera más “real” posible. Como era de preverse, el punto de inflexión es cuando esos robots, que son reparados y puestos otra vez en circulación para ser otra vez maltratados, cobran consciencia de sí mismos.
Entonces la serie plantea dilemas éticos: una inteligencia, así sea artificial, es decir, creada por el ser humano, que cobra conciencia de sí misma, ¿adquiere derechos, una “dignidad” que proteger?
Sin importar la respuesta que puedan tener los humanos sobre esa pregunta, en Westworld algunos “anfitriones”, como la protagonista “Dolores”, están convencidos de que sí. Ella considera a los suyos como una “especie”, que sería de alguna forma “superior” a la humana. Y no sólo cree que incluso desde antes de tener consciencia los androides poseen derechos, sino que, además, tienen objetivos políticos irrenunciables, comenzando por la venganza contra sus creadores-opresores, el primer paso hacia la liberación. Dolores es una suerte de revolucionaria que ha adquirido conciencia social.
Hasta ahí la trama se mantiene tiene un par de planos de profundidad. Pero, a partir de la segunda temporada, la dimensión se amplía, pues se sugiere que Westworld, en realidad, no sólo un espacio en el que seres artificiales son controlados y explotados, sino parte de una estrategia para controlar a la humanidad misma, en una forma apocalíptica de ingeniería social global basada en algoritmos que podrían predecir (y determinar) el destino de las personas.
El capitalismo y vigilancia
Aquí podemos hacer referencia a un tema muy actual de nuestro mundo contemporáneo, el real, no el ficticio: la vigilancia en redes sociales por parte de las propias plataformas, que recolectan datos de los usuarios para después venderlos o compartirlos con empresas de todo tipo, que intentan con ellos diseñar campañas de marketing para predecir e influir en la toma de decisiones de millones de personas.
El tema no es sólo comercial, también es político. Los “metadatos” de las redes sociales ya han sido empleados para tratar de influir en procesos electorales. El caso más famoso es el de Cambridge Analytica, que se ha dedicado a hacer perfiles psicológicos de millones de usuarios, para diseñar estrategias de marketing político.
Si lo reducimos a lo básico, Facebook, por ejemplo, a los ojos de los expertos en “minería de datos” y estrategias de mercado, es también una suerte de parque de diversiones, un lugar para el entretenimiento, en el que la gente deja una “huella digital” que permite reconstruir sus patrones de comportamiento, sin que se dé cuenta.
Los metadatos y la libertad
En la trama de “Westworld” eso es justamente lo que sucede. Los visitantes del parque, pensando que están siendo “libres” haciendo lo que quieren con los “anfitriones”, en realidad son conejillos de indias que proporcionan una inmensa cantidad de datos para alimentar supercomputadoras que, en la sociedad humana, se encargan de crear perfiles y predecir el comportamiento de toda la población. Pero no sólo eso, el sistema no sólo pronostica qué es lo más probable que pase con tal o cual persona, sino que, con base en esa predicción, se encarga de que eso suceda.
Así, si X individuo, por sus antecedentes, historia familiar, comportamiento, tendencias, etcétera, está predestinado, según los algoritmos, a ser un don nadie que terminará suicidándose a los 35 años, el sistema se encarga entonces de que no acceda a un trabajo estable, que no contraiga matrimonio, que no se convierta en una persona importante. Lo que, a final de cuentas, determinará que, en efecto, esa persona se suicide a los 35 años.
Lo que ha sucedido es que tenemos que, si bien los humanos controlan la inteligencia artificial de muchos humanoides, eso sirve para que una inteligencia artificial termine por controlarlos a ellos. Y no en un parque, sino en todo el planeta.
Se trata de una narrativa en bucle, como en una dialéctica. El que se creía libre termina por esclavizarse a sí mismo en el ejercicio de su propia libertad sin límite. Y el destino predicho por un algoritmo sólo se cumple porque está predicho por ese algoritmo. Se trata de un juego de espejos, en el que los contrarios fluyen uno en el otro.
Los hermanos Engerraund y Jean Mi Serac, creadores de la súper mente artificial Rehoboam (la que controla el mundo humano en Westworld) pasaron a creer que ellos mismos y toda la humanidad deberían ser dirigidos por su propia creación. Se encargaron de alimentarla con la mayor cantidad de datos y se pusieron a su servicio, suponiendo que así “liberarían” a la humanidad de sí misma. Buscaron liberarla de su propia libertad.
Filósofos como Feuerbach, Hegel y Marx estarían fascinados. El sujeto se ha “alienado” en su objeto. Lo ha creado, pero ahora parece que ha sido creado por él. Se le enfrenta como una fuerza extraña, que lo domina, lo oprime y lo controla.
La pregunta es cómo superar, en sentido dialéctico, esa “alienación”. Y “Westworld” responde con otra paradoja: Dolores, la “anfitriona”, liberándose del control absoluto de la programación humana se pone al servicio de la causa por la liberación de la humanidad, que ha sido esclavizada por sus propias creaciones. Dolores destruirá a Rebohoam, aunque tenga que destruirse a sí misma.
Y tal vez todo eso ya ha sido predicho por un algoritmo.
Filmografía
Westworld (Lisa Joy y Jonathan Nolan, HBO 2016 – 2022)
