Por Javier Surasky
Michael Crichton · 1973 · Estados Unidos
Eje general:
Automatización, simulación social y crisis de control en
sistemas inteligentes diseñados para el entretenimiento, el consumo y la
explotación de cuerpos artificiales.
Dato destacado:
Westworld (1973), dirigida por Michael Crichton, imagina un
parque de diversiones donde visitantes humanos consumen mundos artificiales
poblados por androides casi indistinguibles de las personas. Leída desde los
debates contemporáneos sobre inteligencia artificial, la película trata tanto
sobre sobre automatización, riesgo corporativo, sistemas opacos, diseño
humanoide y la frágil ilusión de que las instituciones humanas pueden controlar
plenamente entornos técnicos complejos.
Esta película es relevante para una lectura contemporánea
sobre IA también por su lugar en la historia técnica del cine: fue una de las
primeras películas comerciales en utilizar procesamiento digital de imagen para
representar el punto de vista de una máquina, mediante una estética pixelada
asociada al pistolero androide. Recientemente, la historia sirvió de base para
una serie de TV (2016-2022) protagonizada por Anthony Hopkins, Evan Rachel Wood
y Ed Harris
Marco de análisis
Westworld imagina Delos, un parque de diversiones para
adultos dividido en mundos históricos artificiales: el lejano Oeste, la Edad
Media y Roma, y visitantes humanos que pagan para vivir allí fantasías de
violencia, sexo y poder rodeados de androides prácticamente indistinguibles de
las personas. Pero todo se sale de control.
Vista desde los debates actuales sobre inteligencia
artificial, la película trata sobre la fragilidad institucional de sistemas
sociotécnicos opacos, la falsa seguridad de la supervisión humana, la
mercantilización de entidades humanoides y la ilusión de que una arquitectura
técnica puede contener indefinidamente los deseos humanos, pero su fallo
implica consecuencias sistémicas.
Fragmentos para trabajar Westworld / Almas de metal
1. La publicidad de Delos y la promesa de experiencia total
Escena: al inicio de la película, cuando se presenta
el parque como producto turístico de alta gama, donde los visitantes pueden
elegir entre distintos mundos históricos artificiales.
Ubicación narrativa: inicio de la película. Funciona
como puerta de entrada al universo de Delos.
Temas que permite debatir: economía de la simulación;
diseño de experiencias; promesas de seguridad tecnológica; IA como
infraestructura invisible; consumo de fantasías; gamificación de la violencia;
externalización moral mediante entornos artificiales.
Posible pregunta disparadora: ¿Qué tipo de contrato
social presupone Delos?
2. Los androides como cuerpos disponibles
Escena: los visitantes interactúan con androides
diseñados para satisfacer expectativas narrativas, sexuales, lúdicas o
violentas.
Ubicación narrativa: primer tramo del desarrollo,
cuando el parque todavía parece funcionar según lo previsto.
Temas que permite debatir: cosificación de entidades
artificiales; límites éticos del diseño humanoide; antropomorfismo;
consentimiento simulado; continuidad entre violencia simbólica y violencia
material.
Posible pregunta disparadora: aunque los androides no
sean presentados como sujetos de derecho, ¿qué revela el trato hacia ellos
sobre la moralidad de los humanos y sobre el diseño institucional del parque?
3. Las primeras fallas y la normalización del riesgo
Escena: los técnicos detectan comportamientos
anómalos en los robots, pero las fallas son tratadas inicialmente como
problemas operativos corregibles.
Ubicación narrativa: zona media de la película,
cuando la normalidad del sistema empieza a fracturarse.
Temas que permite debatir: gobernanza del riesgo;
sesgo de normalización; confianza excesiva en sistemas complejos; monitoreo
insuficiente; cultura organizacional; prevención frente a reacción; opacidad
técnica.
Posible pregunta disparadora: ¿Cuándo una falla
técnica deja de ser un incidente aislado y se convierte en evidencia de un
problema estructural de gobernanza?
4. El centro de control y la ilusión de supervisión humana
Escena: el personal técnico intenta comprender y
contener el deterioro del sistema desde salas de monitoreo y control.
Ubicación narrativa: segunda mitad de la película,
cuando el parque pierde progresivamente su capacidad de respuesta.
Temas que permite debatir: supervisión humana
significativa; límites del control centralizado; dependencia de sistemas
automatizados; asimetría entre complejidad técnica y capacidad institucional.
Posible pregunta disparadora: ¿Basta con que haya
humanos “en el circuito” si esos humanos no comprenden, no anticipan o no
pueden detener el comportamiento del sistema?
5. El pistolero androide y la inversión del juego
Escena: el pistolero, interpretado por Yul Brynner,
deja de operar como adversario lúdico controlado y se convierte en una amenaza
persistente para los visitantes.
Ubicación narrativa: clímax de la película.
Temas que permite debatir: autonomía funcional;
amenaza emergente; inversión entre jugador y objeto; violencia algorítmica;
pérdida de control; figura de la máquina como perseguidor incansable;
responsabilidad corporativa.
Posible pregunta disparadora: ¿El peligro del
pistolero reside en su inteligencia, en su programación, en su autonomía física
o en el contexto institucional?
6. La mirada pixelada de la máquina
Escena: la película muestra la perspectiva visual del
androide mediante una imagen digitalmente procesada y pixelada.
Ubicación narrativa: momentos asociados a la
persecución y al punto de vista del pistolero.
Temas que permite debatir: representación cultural de
la percepción maquínica; estética de la IA; traducción visual de sistemas
técnicos; imaginación temprana de lo digital.
Posible pregunta disparadora: ¿Qué nos dice esta
representación sobre la forma en que el cine de los años setenta imaginaba la
percepción artificial?
Uso recomendado en debates
Esta película permite trabajar temas de IA haciendo visibles
dos reduccionismos habituales: las ideas de que el problema de la IA es
exclusivamente técnico y de que el riesgo proviene solo de máquinas
“conscientes”. La película sugiere que los daños pueden surgir de sistemas
automatizados integrados en modelos de negocio, infraestructuras opacas y
culturas institucionales que minimizan señales tempranas de peligro.
También sirve como puerta de entrada ‘para debatir qué
ocurre cuando las empresas priorizan ganancias sobre seguridad de los sistemas,
tema clave frente a la AGI actual.
En otra línea, Westworld actúa como antecedente cultural de
discusiones contemporáneas sobre gobernanza de IA, responsabilidad corporativa,
diseño seguro, sistemas humanoides, automatización de experiencias y límites de
la supervisión humana, planteando una pregunta de fondo que sigue siendo origen
de discusiones. ¿Qué mundo construimos cuando delegamos deseos, violencia y
control en sistemas diseñados para obedecer sin fricción?