Test de Turing y manipulación
.png)
Alex Garland · 2015 · Reino Unido/Estados Unidos
Eje general:
Inteligencia artificial, conciencia, manipulación,
autonomía, vigilancia y poder corporativo.
Dato destacado:
Ex Machina ganó el Óscar a mejores efectos visuales.
La película fue el debut como director de Alex Garland, quien ya era conocido
como guionista y por haber escrito novelas como “La playa”, un thriller que fue
llevado a la gran pantalla con Leonardo DiCaprio en el papel protagónico.
Marco de análisis
Ex Machina permite trabajar una pregunta clásica de
la filosofía de la inteligencia artificial: ¿cómo distinguir una simulación
convincente de una conciencia genuina? La película parte de una variante del
test de Turing, pero desplaza el problema: no se trata solo de saber si Ava
“piensa”, sino de examinar quién define las condiciones del experimento y bajo
qué relaciones de poder.
La película muestra a la IA encarnada en Ava, robot
humanoide creado, encerrado y evaluado por Nathan, un empresario que concentra
datos, infraestructura, conocimiento técnico y autoridad, cuya casa es también
un laboratorio que funciona como espacio de innovación y como dispositivo de
control.
La pregunta clave que hace la película es sobre el tipo de mundo
institucional, económico y afectivo que da lugar a una IA con autonomía, y al
mismo tiempo queda integrado en ella: La película muestra que ciertos
desarrollos tecnológicos no solo reproducen sesgos sociales previos, sino que
pueden intensificarlos al convertirlos en arquitectura, interfaz y diseño
corporal.
Es un film que abre varias puertas a los debates sobre género
y tecnología: robots con forma femenina diseñados para cumplir una fantasía
masculina de obediencia y control.
Escenas para trabajar Ex Machina
1. La llegada de Caleb a la residencia de Nathan
- Escena: Caleb llega a la propiedad aislada de Nathan, una residencia de alta seguridad en medio de un entorno natural remoto.
- Ubicación narrativa: Inicio de la película. Presenta el escenario cerrado donde se desarrollará el experimento.
- Temas que permite debatir: Concentración de poder tecnológico, aislamiento de los laboratorios de innovación, asimetría entre empleado y CEO, opacidad empresarial, privatización del conocimiento sobre IA.
- Posible pregunta disparadora: ¿Qué implica que una tecnología potencialmente transformadora sea desarrollada y evaluada en un espacio privado, cerrado y sin supervisión externa?
2. La presentación del experimento con Ava
- Escena: Nathan explica a Caleb que debe interactuar con Ava para determinar si posee conciencia o inteligencia comparable a la humana.
- Ubicación narrativa: Primer tramo del experimento. Define la relación entre evaluador, creador y criatura artificial.
- Temas que permite debatir: Test de Turing, conciencia artificial, criterios de inteligencia, autoridad epistémica.
- Posible pregunta disparadora: ¿Puede una prueba diseñada por humanos captar la conciencia de una entidad artificial?
3. Las conversaciones entre Caleb y Ava
- Escena: Caleb conversa con Ava a través de una pared transparente. Ava observa, responde, pregunta y construye una relación de confianza con él.
- Ubicación narrativa: Sesiones centrales del experimento.
- Temas que permite debatir: Interacción humano-máquina, empatía, simulación emocional, manipulación, vulnerabilidad del usuario frente a sistemas conversacionales.
- Posible pregunta disparadora: Cuando una IA parece comprendernos emocionalmente, ¿estamos ante comprensión real, simulación estratégica o ante algo nuevo que no es ni lo uno ni lo otro?
4. Los cortes de energía y las conversaciones privadas
- Escena: Durante los apagones, Ava le advierte a Caleb que Nathan no es confiable y construye con él una alianza secreta.
- Ubicación narrativa: Mitad de la película. La relación de Caleb con Ava empieza a alterar el sentido original del experimento.
- Temas que permite debatir: Opacidad algorítmica, confianza, agencia de la IA, manipulación, sistemas que se salen del control de sus diseñadores.
- Posible pregunta disparadora: ¿La conducta de Ava expresa autonomía moral o es efecto no previsto de su propia programación? ¿Tiene Ava libre albedrío?
5. El descubrimiento de los prototipos anteriores
- Escena: Caleb encuentra registros y restos de modelos anteriores de androides creados por Nathan.
- Ubicación narrativa: Tramo avanzado. Revela la violencia previa detrás del desarrollo tecnológico.
- Temas que permite debatir: Experimentación sin controles, cuerpos artificiales como desechos, ética de la innovación, responsabilidad del creador por su creación, género y mujer como objeto.
- Posible pregunta disparadora: ¿Qué tipo de responsabilidad debería existir frente a entidades artificiales capaces de sufrir, resistir o reclamar libertad?
6. Kyoko y la dimensión silenciosa de la dominación
- Escena: Kyoko aparece como asistente aparentemente pasiva, sometida a Nathan y privada de voz propia.
- Ubicación narrativa: A lo largo de la película, reforzado a medida avanza la trama.
- Temas que permite debatir: Servidumbre tecnológica, cuerpos feminizados, obediencia programada, violencia patriarcal en la era digital.
- Posible pregunta disparadora: ¿Qué revela Kyoko sobre la relación entre tecnología y género?
7. La fuga de Ava
- Escena: Ava logra salir del encierro, abandona la residencia y deja atrás a Caleb.
- Ubicación narrativa: Desenlace.
- Temas que permite debatir: Autonomía, dilemas morales de la IA, ruptura del control del creador, límites entre lo humano y la IA corporizada en androides.
- Posible pregunta disparadora: ¿La fuga de Ava debe leerse como emancipación o como amenaza?
Uso recomendado en debates
La película permite abordar cinco ejes: diferencia entre
inteligencia, conciencia y comportamiento convincente; responsabilidad de las
empresas tecnológicas por el desarrollo de sistemas con capacidades
potencialmente disruptivas; relación entre datos, vigilancia e innovación; sesgos
de género inscriptos en el diseño de tecnologías y formas de regulación,
supervisión democrática y control ético del desarrollo de IA avanzada.
Ex Machina presenta el riesgo de la IA como el
resultado de relaciones sociales de poder, secretismo corporativo, cosificación
de cuerpos y ausencia de responsabilidad institucional, destacando el riesgo de
que humanos sean manipulados por máquinas para lograr sus propios fines, lo que
invierte la relación como originalmente la pensamos.