Por Javier Surasky
.png)
Una empleada de una empresa en Hong Kong participó en una videollamada con quienes parecían ser sus superiores. Reconoció rostros, escuchó instrucciones y recibió órdenes urgentes para realizar transferencias. Poco después, la empresa descubrió que esos directivos nunca habían estado allí: eran deepfakes generados con inteligencia artificial. La pérdida rondó los 25 millones de dólares estadounidenses (The Guardian, 2024).
La escena resume el problema: la imagen, la voz y la presencia digital ya pueden fabricarse con un nivel de realismo suficiente para engañar a personas e instituciones. Un deepfake, palabra que combina deep
learning (aprendizaje profundo) y fake (falso), es "un archivo de video,
audio o imagen ficticios que imitan de forma realista la apariencia, la voz o
los gestos de alguien usando inteligencia artificial" (INCIBE, 2024), lo
que nos obliga a revisar un supuesto biológico fundamental: aquello que vemos y
escuchamos, cuando no nos sumergimos intencionalmente en el mundo de la
fantasía (cine, teatro, TV), es real.
Deepfakes: tres frentes de una amenaza real
La expansión de la IA generativa aceleró la presencia de
deepfakes poniendo al alcance de un número cada vez mayor de personas herramientas
cada vez más accesibles y de costos decrecientes capaces de generarlas.
El riesgo de las deepfakes se manifiesta con fuerza en el
fraude y la ciberseguridad, mediante acciones como estafas de identidad,
vishing, engaños por voz y suplantación de ejecutivos: según el Voice
Intelligence and Security Report 2025, "los intentos de fraude
deepfake aumentaron más de 1.300% en 2024 comparado con 2023" (Pindrop, 2025,
p.3), ataques que se sostienen en una lógica que combina el realismo técnico
con la presión psicológica y la generación de acción “urgente”.
No menos importante, sin embargo, es el riesgo que los
“engaños profundos” producen al generar desinformación política: en enero de
2024, en New Hampshire, circuló una llamada automatizada con la voz de Joe
Biden para desincentivar el voto, lo que costó una multa de seis millones de
dólares al consultor responsable (Reuters, 2024a), mientras que en Eslovaquia, a
dos días de las elecciones de 2023, "Un audio falso de 40 segundos que
mostraba a un miembro del partido Progressive Slovakia supuestamente hablando
de compra de votos circuló durante el silencio electoral, un momento donde
desmentir el contenido es casi imposible" (Wired, 2023).
También hay un espacio de alto riesgo en referencia a daños
personales y reputacionales, espacio donde se verifica, además, un fuerte sesgo
de género, como lo indica el Stimson Center
El abuso basado en imágenes
constituye una de las manifestaciones más alarmantes del daño provocado por la
IA. Los avances en la IA generativa han reducido drásticamente las barreras
para producir imágenes y videos deepfake hiperrealistas, en particular contenido
pornográfico no consensuado. Estudios recientes estiman que el 98% de todo el
contenido deepfake en línea es no consensuado y pornográfico, y que el 99% de
las personas representadas son mujeres (Mingeirou, Osman, & Rafin, 2026).
A eso debe sumarse que no es necesaria gran pericia en el
desarrollo de deepfakes, porque una falsificación es capaz de causar un daño profundo
incluso si presenta imperfecciones técnicas evidentes, ya que basta con que
circule en el entorno de la víctima, o en una situación social sensible, para
activar dudas persistentes y difíciles de disipar.
La crisis de la autenticidad
La amenaza más profunda de los deepfakes está en el debilitamientode la confianza en lo verdadero: una persona a la que se le atribuye una conducta
real ahora puede alegar que el material fue manipulado, incluso cuando no lo
sea, planteando una estrategia de evasión táctica y reacomodamiento (Dodge-and-Weave),
fenómeno que se conoce como “dividendo del mentiroso” (Schiff, Schiff y Bueno,
2025, p. 71), que Nina Schick resume cuando afirma que, en nuestro tiempo, “cualquiera
puede ser blanco de ataques, y todos pueden negarlo todo.” (Schick, 2020, p.
8).
Cómo protegernos: de la reacción a los protocolos
Durante mucho tiempo, los manuales de verificación en
internet aconsejaban prestar atención a detalles físicos: movimientos de labios
desincronizados, parpadeos extraños, iluminación irregular o entonaciones poco
naturales, pero el avance de la tecnología ha dejado esos consejos obsoletos,
haciendo que la detección a simple vista sea prácticamente imposible en los
casos de deepfakes mejor construidos La única defensa real, aunque no total, hoy
está en la verificación de contexto
¿Qué entender por “verificación de contexto”? Algo tan
básico como que la pregunta sobre la veracidad ya no debe ser si el
video/imagen/audio parece real, sino cuál es su origen.
La detección de deepfakes no puede realizarse sobre la base
de una única capacidad, humana o técnica. Pehlivanoglu et al. (2026)
encontraron que los algoritmos de aprendizaje automático clasifican con mayor
precisión imágenes estáticas, mientras que los humanos obtienen mejores
resultados frente a videos dinámicos, y mostraron que el pensamiento analítico
y las habilidades digitales se asocian con una mejor detección humana de videos
deepfake.
¿Resultado? Es indispensable combinar verificación
contextual con alfabetización digital y uso de herramientas técnicas, en lugar
de confiar en la percepción individual o en sistemas automatizados.
Más aún, para ser más efectiva, la protección frente a
deepfakes requiere la intervención de tres niveles:
El individual y procedimental: la pauta aquí es desacelerar
antes de actuar, confirmar el origen y buscar fuentes alternativas antes de
reaccionar a un estímulo de urgencia o indignación.
El corporativo-industrial: que incluye la implementación de protocolos
donde la voz o la videollamada no basten como registro para realizar operaciones
críticas, creando esquemas de doble confirmación, canales independientes y
controles escalonados.
Un ejemplo de buena práctica es el avance en la aplicación
del estándar criptográfico C2PA, que busca certificar la procedencia y
autenticidad de los archivos desde el momento de su captura en la cámara, por
parte de la industria tecnológica. Este estándar permite incluir en fotos,
videos, audios y documentos una credencial digital verificable que informa
sobre su origen y modificaciones, por lo que no nos dice si algo es verdadero o
falso, pero ayuda a saber de dónde viene, si se trata de contenido editado y si
la información que acompaña al archivo ha sido alterada en algún momento.
Queremos ser muy claros en este punto: si bien la aplicación
del estándar C2PA es útil y contribuye a identificar contenidos generados
mediante edición, funciona más como una herramienta de transparencia que como
certificación de que el contenido sea real.
El estatal: los países están reaccionando a las deepfakes
creando marcos regulatorios que siguen diferentes enfoques: la Ley de
Inteligencia Artificial de la Unión Europea obliga a etiquetar contenido
sintético bajo amenaza de sanciones para las plataformas, mientras que Corea
del Sur opta por la vía punitiva estricta, castigando con penas de prisión
efectiva la creación y distribución de deepfakes explícitos o maliciosos.
No existen, fuera de esas dos, leyes generales sobre IA en
ningún otro país del mundo, aunque sí sectoriales o específicas, como es el
caso de Brasil. que prohibió el uso de IA para desinformar en campañas
electorales (Reuters, 2024b)
Ver para creer: una regla obsoleta
La IA generativa hace cada vez más difícil saber qué es
real.
Durante décadas, la imagen y la voz funcionaron como pruebas
contundentes de la realidad, pero “ver y escuchar ya no es creer” (Schick,
2020, p. 26).
Hoy, la confianza digital debe construirse mediante la trazabilidad y la corroboración, y exige la colaboración entre actores
involucrados, niveles básicos de alfabetización digital entre las personas, e
inversión de tiempo y esfuerzo, porque verificar deja de ser una práctica
excepcional o reservada a ciertas profesiones para convertirse en una
competencia de comprensión básica.
En la era de las deepfakes, la desconfianza ya no es
paranoia sino un último refugio para defender la realidad: la tecnología, que
antes nos llamaba a ampliar nuestra capacidad de imaginación, hoy nos obliga a
dudar de nuestros propios ojos y oídos.
Referencias
INCIBE.
(2024). Deepfakes. Instituto Nacional de Ciberseguridad. https://www.incibe.es/aprendeciberseguridad/deepfakes
Mingeirou,
K., Osman, Y., & Rafin, R. (2026). The impact of artificial intelligence
on violence against women and girls. Stimson Center. https://www.stimson.org/2026/the-impact-of-artificial-intelligence-on-violence-against-women-and-girls
Pehlivanoglu,
D., Zhu, M., Zhen, J., Gagnon-Roberge, A. A., Kern, R. K., Woodard, D., Cahill,
B. S., & Ebner, N. C. (2026). Is this real? Susceptibility to deepfakes in
machines and humans. Cognitive Research: Principles and Implications, 11,
article number 3. https://doi.org/10.1186/s41235-025-00700-y
Pindrop.
(2025). 2025 Voice Intelligence and Security Report. Pindrop Security. https://www.pindrop.com/resources/reports/2025-voice-intelligence-security-report
Reuters.
(2024a, 26 de septiembre). Consultant fined $6 million for using AI to fake
Biden's voice in robocalls. https://www.reuters.com/world/us/fcc-finalizes-6-million-fine-over-ai-generated-biden-robocalls-2024-09-26/
Reuters.
(2024b, 29 de febrero). Brazil Justice Moraes warns political candidates not to
use AI against opponents. https://www.reuters.com/world/americas/brazil-justice-moraes-warns-political-candidates-not-use-ai-against-opponents-2024-02-29/
Schick, N.
(2020). Deepfakes: The coming infocalypse. Twelve.
Schiff, K.,
Schiff, D. y Bueno, N. (2025). The Liar’s Dividend: Can Politicians Claim
Misinformation to Evade Accountability? American Political Science Review,
119(1): 71-90. https://www.cambridge.org/core/services/aop-cambridge-core/content/view/687FEE54DBD7ED0C96D72B26606AA073/S0003055423001454a.pdf/the-liars-dividend-can-politicians-claim-misinformation-to-evade-accountability.pdf
The
Guardian. (2024, 5 de febrero). Company worker in Hong Kong pays out £20m in
deepfake video call scam. https://www.theguardian.com/world/2024/feb/05/hong-kong-company-deepfake-video-conference-call-scam
Wired. (2023, 3 de octubre). Slovakia's Election Deepfakes Show AI Is a Danger to Democracy. https://www.wired.com/story/slovakias-election-deepfakes-show-ai-is-a-danger-to-democracy/