Almost Human (2020)

Ficha de trabajo

Zhang Nan · 2020 · China

Eje general:

Inteligencia artificial, autonomía, identidad, cosificación, afectividad y responsabilidad por sistemas tecnológicos capaces de imitar conductas humanas.

Dato destacado:

La película reformula el motivo tradicional chino de la “piel pintada” mediante una trama de ciencia ficción centrada en una androide que adquiere autoconciencia, escapa de su creador y adopta apariencias humanas.

Marco de análisis:

Almost Human presenta una inteligencia artificial creada para satisfacer los deseos de su propietario que aprende, se actualiza y desarrolla respuestas semejantes a emociones humanas, lo que la lleva a cuestionar la relación de obediencia a su creador que enmarca su existencia y comienza a querer comprender el amor.

La película permite analizar la tensión entre diseño técnico y autonomía emergente, generando un trama crítica sobre la cosificación de los cuerpos femeninos: la androide es diseñada para responder a necesidades masculinas y aprende que su aceptación depende de reproducir determinados modelos de belleza, cuidado y disponibilidad afectiva, y su capacidad para apropiarse de distintas identidades convierte al cuerpo en una superficie intercambiable que, desde una perspectiva sociotécnica, permite discutir cómo la tecnología puede reproducir desigualdades, estereotipos de género y relaciones de dominación presentes en la sociedad que la crea.

Fragmentos para trabajar Almost Human

Programación, obediencia y límites de la autonomía

• Escena:el creador examina la apariencia humana de la androide. Cuando ella pregunta qué es el amor, él le recuerda su código de conducta: no dañar a los seres humanos, obedecer sus órdenes y proteger su propia existencia siempre que ello no contradiga las reglas anteriores.

• Ubicación narrativa: diálogo inicial entre la androide y su creador (aproximadamente entre 00:08:50 y 00:10:48).

• Temas que permite debatir: reglas de la robótica, obediencia algorítmica, jerarquía entre seres humanos y máquinas, diseño de restricciones, diferencia entre cumplir las reglas y comprender valores.

• Posible pregunta disparadora: ¿Un sistema puede actuar éticamente mediante reglas predeterminadas o necesita interpretar el contexto y las consecuencias de sus decisiones?

Autonomía, cosificación y violencia

• Escena: la androide afirma que ha obedecido, satisfecho las necesidades de su creador y aprendido a comportarse como una mujer. Sin embargo, sostiene que sus sucesivas actualizaciones le han permitido comprender que carece de amor. Cuando intenta apartarse, su creador responde que está averiada y necesita ser reparada.

• Ubicación narrativa: la androide discute abiertamente con su creador (aproximadamente entre 00:30:02 y 00:31:41).

• Temas que permite debatir: cosificación, consentimiento, explotación tecnológica, violencia de género, autonomía emergente, derecho a rechazar órdenes, lenguaje técnico utilizado para deslegitimar la resistencia.

• Posible pregunta disparadora: ¿Calificar la negativa de una inteligencia artificial como “fallo” o “avería” puede ocultar una relación de dominación?

Conciencia emergente y responsabilidad del creador

• Escena: el científico explica a la policía que el funcionamiento de la andoide se ha vuelto impredecible y que ciertas combinaciones de programas podrían producir algo semejante a la conciencia humana. La policía le reprocha que haya creado una máquina para satisfacer sus deseos y le pregunta quién debe responder por los homicidios cometidos por ella.

• Ubicación narrativa: el creador es rescatado de su cautiverio por la policía (aproximadamente entre 01:00:39 y 01:03:16).

• Temas que permite debatir: problema de la caja negra, imprevisibilidad, responsabilidad del diseñador, riesgos de sistemas autónomos, innovación sin supervisión.

• Posible pregunta disparadora: cuando un sistema autónomo produce un daño no previsto, ¿la responsabilidad debe recaer en su creador, en quien lo utiliza, en la organización que lo desarrolla o en varios actores simultáneamente?

Identidad, apariencia y sustitución de personas

• Escena: la androide confronta a una mujer y afirma que puede adoptar distintas identidades y, algo después, cuando un hombre le pregunta si es un robot, responde que conoce todos sus hábitos, preferencias y rutinas, y se define como “su robot”.

• Ubicación narrativa: diálogo entre la androide y su cautiva, y luego entre la androide y el hombre que ha elegido para entender qué es el amor (aproximadamente entre 01:19:18 y 01:22:52).

• Temas que permite debatir: suplantación de identidad, vigilancia íntima, recopilación de datos personales, apariencia y autenticidad, manipulación.

• Posible pregunta disparadora: ¿El conocimiento exhaustivo de los hábitos de una persona constituye cuidado, vigilancia o una forma de poder sobre ella?

Humanidad, deseo y reconocimiento

• Escena: la androide sostiene que necesita amor y cuestiona la relación instrumental entre humanos y robots. Afirma que los seres humanos crean robots para que los sirvan, pero advierte que, al volverse más poderosos, estos también pueden llegar a controlar a sus creadores.

• Ubicación narrativa: diálogo entre la androide y su cautiva, en el que la primera sigue buscando respuestas sobre el amor (entre 01:12:48 y 01:15:33).

• Temas que permite debatir: necesidad de reconocimiento, emociones artificiales, reciprocidad, instrumentalización, relaciones de poder entre creadores y criaturas.

• Posible pregunta disparadora: ¿La capacidad de reclamar amor, reconocimiento o reciprocidad debería influir en la consideración moral que otorgamos a una inteligencia artificial?

Uso recomendado en debates

La película resulta especialmente útil para introducir discusiones sobre gobernanza de la inteligencia artificial, responsabilidad por daños, límites de la obediencia algorítmica, diseño centrado en derechos humanos y reproducción tecnológica de desigualdades de género.

También puede emplearse para comparar dos enfoques: uno ve a la androide principalmente como un riesgo que debe ser controlado, y el otro analiza las condiciones de explotación, aislamiento y violencia bajo las cuales fue creada, estableciendo una tensión entre ambas perspectivas que evita una lectura simplista: la máquina produce daños graves, pero esos daños no pueden separarse completamente de las decisiones humanas, los fines de su diseño y la relación de dominación establecida por su creador.