Autora invitada: Natalia Razovich
Lic. en Relaciones Internacionales por la Universidad Nacional de
Rosario y Mag. en Sociología
por la Universidad Corvinus de Budapest.
.png)
En 1979 Lyotard señalaba como la “condición postmoderna” a la incredulidad con respecto a los metarrelatos y al fin de las grandes narrativas. Se refería, en parte, al descreimiento del relato de la modernidad y al desencanto de la Ilustración como proyecto en beneficio de toda la humanidad, de la legitimación del orden social y de las instituciones que contribuían a la emancipación del sujeto, como el fin y el sentido de la historia. Tomando dicha referencia como una licencia conceptual, vale preguntarse si estamos frente al fin del relato democrático liberal tal como lo conocemos.
El pasado 19 de abril, la red
social X amaneció con la publicación por parte de Palantir, la mayor empresa de
vigilancia y análisis de datos a nivel global, de un decálogo de principios a
modo de manifiesto. El mismo presentaba una síntesis del libro “The
Technological Republic. Hard Power, Soft Belief, and the Future of the West”,
escrito por su CEO Alex Karp y Nicholas Zamiska en 2025, donde se proclama
abiertamente, y sin reservas, el fracaso del consenso democrático de Occidente.
Al menos, ello se desprende de la máxima, según la cual “la capacidad de las
sociedades libres y democráticas para prevalecer requiere algo más que un
atractivo moral. Requiere poder duro, y el poder duro en este siglo se construirá sobre software”.
Democracia, plataformas e inteligencia artificial
Desde la crisis financiera de 2008, dos procesos han crecido en paralelo: la crisis de la democracia representativa liberal y el avance de las nuevas tecnologías de medios digitales. La influencia de las redes sociales y las plataformas digitales ha demostrado una relación ambigua y ambivalente con la democracia. Mientras en un primer momento, con la Primavera Árabe como corolario, se interpretaba que estas constituían herramientas horizontales, democráticas, liberadoras y emancipadoras, rápidamente las redes sociales se convirtieron en cajas de resonancia donde florecieron los discursos de odio, la desinformación, teorías conspirativas y corrientes conservadoras, autoritarias y nacionalistas. Las indignaciones ciudadanas y su reclamo por una democracia real decantaron en los niveles más altos de desafección democrática a nivel global, junto con el avance de una nueva ola de derechas reaccionarias, que supo leer y utilizar el ecosistema digital a su favor, vislumbrando una era de posdemocracia.
Con la irrupción de la IA
generativa, la preocupación en torno a su relación con la democracia se
posicionó en el centro del debate mediático y académico, así como en las
instancias de gobernanza multilateral. Se trata, en definitiva, de dos sistemas
diseñados para la toma de decisiones: los votos en democracia y los algoritmos
en casi todos los ámbitos individuales de la vida. Nuevamente, emergieron
lecturas dicotómicas que sitúan la relación IA y democracia entre expectativas
optimistas y pesimistas que resaltan riesgos y oportunidades, utopías y
distopías. Ambas perspectivas parecen compartir la idea de que la tecnología y
la IA podrían convertirse en un elemento significativo de la política, llegando
incluso a sustituirla por completo (Innerarity, 2020:94).
Entre la promesa algorítmica y el riesgo autoritario
Entre las narrativas tecno-optimistas conviven, por un lado, aquellas que ven en el acceso a datos masivos una oportunidad para aumentar la eficiencia de la gestión pública y la participación ciudadana en los procesos decisorios de una democracia compleja (Innerarity, 2020b) y por el otro, aquellas visiones que, paradójicamente, sostienen una prescindencia del sistema político en favor de una entidad algorítmica mayor. Entre estos últimos, se encuentran principalmente ingenieros y emprendedores tecnológicos, asociados a la “ontología tecno-libertaria” de Silicon Valley, cuyo dogma es el de la “mano invisible” en un estadio automatizado. Este deslegitima y prescinde de la acción humana, considerando a la IA como una entidad capaz de orientar a los individuos mejor que ellos mismos y destinada a hacerlos ingresar en el “mejor de los mundos posibles” o en un “paraíso artificial”. De este modo, la liberalización y la emancipación surgirían de la eliminación del factor humano en la política, representado por el Estado, sus normas e instituciones, delegando la autoridad plena o el rol parental a un super-ego algorítmico (Sadin, 2020). Curtis Yarvin y Nick Land, son exponentes de lo que denominan el “Iluminismo Oscuro”, el cual rechaza el proyecto de la Ilustración, la democracia y la igualdad, excepto por la tecnología, proponiendo administrar el Estado como una gran corporación de plataforma a partir de la aceleración y la globalización técnica. Asociados a movimientos neo-reaccionarios, para este grupo las instituciones políticas no revisten mayor utilidad, salvo en su (provisoria) función de garantizar la transición (Borovinsky, 2020:127).
Por su parte, la narrativa tecno-pesimista,
se centra en el riesgo de la IA para la democracia, en términos de pérdida deautonomía política y de agencia epistémica de la ciudadanía, en la manipulación
informativa y en la emergencia de nuevas formas de autoritarismo y
totalitarismo (Bengio et al., 2023; Arocena et al., 2022; Coeckelbergh, 2022;
Kreps & Kriner, 2023; Park, 2023; Helbing et al., 2018; Risse, 2022). Como sostiene Zuboff (2019), lo que está en juego, ante los efectos
políticos de los procesos algorítmicos para modelar y anticipar el
comportamiento y de la concentración oligopólica de las Big Tech, es el
principio dominante de orden social: ¿Quién decide? ¿Quién decide quién decide?
Esta autora fue una de las primeras en señalar la contradicción intrínseca
entre la democracia liberal y la actual lógica de acumulación del Big Data,
denominada “capitalismo de vigilancia”, como un juego de suma cero donde una
institución supone la limitación de la otra (Zuboff, 2022). En la misma línea,
Han (2021: 81) señala el control y la vigilancia de los datos incluso a nivel prereflexivo, de modo que
“como microfísica práctica del poder, el microtargeting es psicopolítica basada
en datos” y Cathy O’Neil (2016),
tempranamente se refería a los algoritmos como “armas de destrucción
matemáticas” dado el oscurantismo bajo el que funcionan y los sesgos de su
diseño. El microtargeting, más allá de un asunto de privacidad y vigilancia, es
además una cuestión de justicia social dados los efectos desiguales del
modelado.
La tecnología como proyecto político
Paradójicamente, en variadas
ocasiones, los riesgos para la sociedad y la humanidad impuestos por la IA son
señalados hasta por aquellos mismos que contribuyen a desarrollar y lanzar al
mercado dichas tecnologías. Quienes tienen más responsabilidad advierten contra
ella, con lo cual emerge la sospecha de una intención por preservar márgenes de
acción y obtener marcos regulatorios a la medida. Como señala Latour (1983:
160, citado por Sismondo, 2010: 83), “es en los laboratorios donde se
encuentran la mayoría de las nuevas fuentes de poder”. En el presente, las
revoluciones políticas tienen lugar en laboratorios y empresas tecnológicas,
que deciden si el futuro estará en nuestras manos y cómo (Innerarity, 2019).
En rasgos generales, los
escenarios distópicos para ciertos actores constituyen las utopías de otros. En
sus niveles más extremos, el tecno-optimismo y el tecno-pesimismo coinciden en
su proyección, aunque desde ángulos diferentes, de la incompatibilidad
democrática. En términos de oposición a la libertad de innovación y
determinismo tecnológico en el primer caso, y a la lógica de acumulación y
extractivismo de datos para el segundo. En efecto, la eliminación de la
política como componente humano, como celebración de la diferencia y como
sistema democrático, se encuentra en las narrativas pesimistas como escenario
distópico, mientras en las narrativas tecno-optimistas de Silicon Valley
aparece como la aspiración al progreso y la promesa de un futuro mejor.
Después de todo, detrás de
todo proyecto técnico hay un proyecto político y, en tanto tal, es necesario
recordar el carácter performativo de las narrativas. Las tecnologías no son neutrales y su diseño técnico es también un diseño político, albergando en su
interior una narrativa de valores, ideales y de ordenamiento social. Irónicamente,
es posible sospechar la presencia de la construcción de un nuevo metarrelato a
nivel global, el de la República Tecnológica, conducido por las Big Tech en
consonancia con los valores de las derechas globales, mientras poco a poco se
avecina el fin del relato democrático.
Referencias
Arocena, F., Sansone, S., &
Alvarez, N. (2022). Technological disruption and democracy in the twenty-first century. European
Journal of Futures Research, 10(1). https://doi.org/10.1186/s40309-022-00189-4
Bengio,
Y., Hinton, G. E., Yao, A. C., Song, D., Abbeel, P., Harari, Y. N., Zhang, Y.,
Xue, L., Shalev‐Shwartz, S., Hadfield, G. K., Clune, J., Maharaj, T., Hutter,
F., Baydin, A. G., McIlraith, S. A., Gao, Q., Acharya, A., Krueger, D. A.,
Dragan, A. D., . . . Mindermann, S. (2023). Managing AI risks in an era of
rapid progress. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2310.17688
Borovinsky, T. (2020).
Fragmentar el futuro: Hacia una nueva relación humano/no humano. Nueva
Sociedad, 118-130.
Lyotard, J-F. (1984). La
condición post moderna. Madrid: Cátedra.
Coeckelbergh,
M. (2022). Democracy, epistemic agency, and AI: political epistemology in times
of artificial intelligence. AI Ethics, 1341–1350. https://doi.org/10.1007/s43681-022-00239-4
Kreps,
S. E., & Kriner, D. L. (2023). How AI threatens democracy. Journal of
Democracy, 34(4), 122–131. https://doi.org/10.1353/jod.2023.a907693
Han, B-C. (2021). Psicopolitica.
Neoliberalismo y nuevas técnicas de poder. Herder.
Helbing,
D., Frey, B. S., Gigerenzer, G., Hafen, E., Hagner, M., Hofstetter, Y., Van Den
Hoven, J., Zicari, R. V., & Zwitter, A. (2018). Will democracy survive big
data and artificial intelligence? In Towards Digital Enlightenment. Essays
on the Dark and Light Sides of the Digital Revolution (pp. 73–98). Springer. https://doi.org/10.1007/978-3-319-90869-4_7
Innerarity, D. (2019, 11 de marzo). Lo digital
es lo político. La Vanguardia. Recuperado de https://www.lavanguardia.com/opinion/20190311/46959863101/lo-digital-es-lo-politico.html. Consultado en abril 2024.
Innerarity, D. (2020a). El
impacto de la inteligencia artificial en la democracia. Revista De Las
Cortes Generales, 87–103. https://doi.org/10.33426/rcg/2020/109/1526
Innerarity, D. (2020b). Una
teoría de la democracia compleja: gobernar en el siglo XXI, Barcelona :
Galaxia Gutenberg.
Jungherr,
A. (2023). Artificial Intelligence and Democracy: A Conceptual framework. Social Media + Society, 9(3).
https://doi.org/10.1177/20563051231186353
Kai, D. (2023, December 13). La
pregunta crucial sobre la IA que no nos estamos haciendo. The New York Times. https://www.nytimes.com/es/2023/12/12/espanol/opinion/inteligencia-artificial-riesgos.html
Kreps,
S. E., & Kriner, D. L. (2023). How AI threatens democracy. Journal of
Democracy, 34(4), 122–131. https://doi.org/10.1353/jod.2023.a907693
Kreps,
S. E., McCain, R. M., & Brundage, M. (2020). All the News That’s Fit to
Fabricate: AI-Generated Text as a Tool of Media Misinformation. Journal of Experimental Political Science, 9(1), 104–117. https://doi.org/10.1017/xps.2020.37
Latinobarometer
(2023, July 21). Latinobarometer. Retrieved from https://www.latinobarometro.org/lat.jsp
O’Neil,
C. (2016). Weapons of Math Destruction, How Big Data Increases Inequality and
Threatens Democracy. New York,
NY: Broadway Books.
Pew
Research Center (2024, febrero 28). Satisfaction with Democracy and Ratings
for Political Leaders/Parties. Retrieved from https://www.pewresearch.org/global/2024/02/28/satisfaction-with-democracy-and-ratings-for-political-leaders-parties/
Sadin, É. (2020). La
inteligencia artificial o el desafío del siglo: anatomía de un antihumanismo
radical. Caja Negra.
Zuboff,
S. (2019). The Age of Surveillance Capitalism: The fight for a human future
at the new frontier of power. https://cds.cern.ch/record/2655106
Zuboff,
S. (2022). Surveillance capitalism or democracy? the death match of
institutional orders and the politics of knowledge in our information
civilization. Organization Theory, 3(3), 263178772211292. https://doi.org/10.1177/26317877221129290
Sismondo,
S. (2010). An introduction to science and technology studies (2nd ed.). Chichester: WileyBlackwell.