Derechos humanos frente al poder algorítmico
Por Javier
Surasky
.png)
Access Now se integra al mapa de poder de la IA como una organización internacional de la sociedad civil que busca defender los derechos de personas y comunidades frente al poder tecnológico mediante acciones de incidencia y asistencia técnica con producción de conocimiento, financiamiento de organizaciones de base y construcción de coaliciones
Esta organización fue creada en 2009, en el marco de la represión
que siguió a las elecciones presidenciales iraníes de junio de ese año, y
estaba entonces integrada por activistas y especialistas tecnológicos que
ayudaban a restablecer comunicaciones seguras, proteger sitios independientes y
difundir imágenes de las protestas pese a la censura gubernamental.
Su labor y experiencia, sin embargo, se expandió mucho más
allá en el tiempo y geográficamente, al tiempo que se agenda se ampliaba, y hoy
su principal fortaleza está en la capacidad para traducir daños tecnológicos a un lenguaje de derechos humanos y convertir experiencias aisladas de
discriminación, vigilancia y exclusión en demandas colectivas de regulación,
responsabilidad y reparación, lo que nos permite definirlo como un actor del
contrapoder tecnológico transnacional que articula la protección inmediata de
personas expuestas a amenazas digitales con la disputa institucional por definir
los términos de la gobernanza tecnológica digital.
Deborah Johnson (2022, p. 112), refiriéndose a los algoritmos,
señala que “El discurso actual se centra en gran medida en los algoritmos y en
su opacidad, y aquí sostendré que esto refleja una comprensión estrecha e
inadecuada de la rendición de cuentas”, apuntando sobre un debate público ha
prestado demasiada atención a lo técnica y no analiza suficientemente las
relaciones sociales e institucionales que emergen de esos sistemas.
La rendición de cuentas, sostiene Johnson, no consiste solo
en revelar código o explicar resultados, sino que “La rendición de cuentas es
una práctica social que involucra actores, foros, creencias y normas
compartidas, performatividad y sanciones, y la práctica está orientada a
imponer restricciones al ejercicio del poder.” (Johnson, 2022, p. 122).
Un sistema puede ser explicable y continuar siendo ilegítimo,
por ejemplo, si se aplica en un ámbito donde no debería utilizarse, si se
despliega sin participación pública o si las personas afectadas no cuentan con
mecanismos efectivos para impugnarlo. Ese es el espacio en que se mueve Access
Now reclamando marcos globales de gobernanza de la IA que sean obligatorios,
aplicables y fundados en el derecho internacional de los derechos humanos.
Esto explica que la acción de Access Now aparezca tanto cuando
un sistema comete un error como cuando determinadas representaciones,
poblaciones o conocimientos son relegados; las categorías utilizadas refuercen
estereotipos o las personas carezcan de capacidad para intervenir en la forma
en que son definidas, lo que nos permite decir que la desigualdad algorítmica
es tanto un problema de distribución material como de representación.
A ello se suma que los daños producidos por sistemas automatizados no se distribuyen de forma uniforme, sino que personas en
situación de pobreza, minorías raciales, migrantes, mujeres, personas con
discapacidad y otros grupos históricamente discriminados están más expuestos a
decisiones automatizadas que los afecten y no puedan impugnar.
Virginia Eubanks, como ejemplo de caso, analiza cómo la
automatización de políticas sociales puede aumentar la distancia entre quienes
diseñan los sistemas y quienes sufren sus consecuencias: en su estudio sobre Estados Unidos afirma que “El seguimiento digital y la toma de decisiones
automatizada ocultan la pobreza ante el público profesional de clase media y le
dan a la nación la distancia ética que necesita para tomar decisiones
inhumanas.” (Eubanks, 2018, p. 13).
La autora sintetiza el carácter histórico de estas
infraestructuras de control sosteniendo que la tecnología no inaugura desde
cero la vigilancia de la pobreza, sino que actualiza instituciones y prácticas
anteriores: “Gestionamos a los pobres como individuos para eludir nuestra
responsabilidad compartida de erradicar la pobreza” (Eubanks, 2021, p. 25).
El mismo problema aparece en sistemas de identificación
digital. Access Now advierte que, sin salvaguardas adecuadas, pueden ampliar la
vigilancia, afectar la privacidad y marginar todavía más a poblaciones
vulnerables. Su posición no consiste en rechazar toda identificación digital,
sino en exigir que
primero se evalúe si el sistema es necesario y si existen alternativas menos
intrusivas.
Por eso decimos que Access Now funciona como un contrapeso
de una gobernanza que posterga lo humano y lo social, impulsando que las
personas y comunidades afectadas ocupen el centro de atención de la gobernanza
tecnológica.
Niamh Kinchin denomina “brecha procedimental” a la
insuficiente consideración de derechos: “Sin justicia procedimental y sin ‘voz’,
entendida como consentimiento, transparencia y derecho a ser oído, las
decisiones algorítmicas no lograrán alcanzar legitimidad ni aceptación”
(Kinchin, 2024, p. 1).
Al incluir la mención a la “voz” se hace visible una
dimensión política crítica para la gobernanza de la IA: una evaluación de
impacto no garantiza por sí misma que las comunidades afectadas puedan influir
sobre el diseño o impedir el despliegue de una tecnología, y aquí aparece una
función clave de Access Now: contribuir a la construcción de espacios donde las
experiencias de personas afectadas puedan transformarse en argumentos
regulatorios.
Access Now ayuda a exponer una asimetría estructural en el
mapa de poder de la IA. Las empresas acceden a información interna, equipos
técnicos y recursos para influir de manera continua en procesos legislativos,
mientras que las organizaciones sociales, con recursos considerablemente
menores, deben cubrir simultáneamente múltiples jurisdicciones y responder a
agendas definidas, en buena medida, por gobiernos y corporaciones.
Este elemento se agrava por la ausencia de cualquier atisbo
de orden democrático en el ecosistema de actores de la IA: “Los usuarios no
eligieron a Zuckerberg para gobernar, ni tienen representación alguna en la
gobernanza privada de las grandes empresas tecnológicas” (Srivastava, 2023, p.
991).
Access Now también interviene frente a esa brecha de
legitimidad exigiendo a los actores poderosos el ejercicio de la obligación
básica de debida diligencia, evaluaciones de impacto, transparencia, mecanismos
de reclamación y prohibiciones para aquellos usos incompatibles con el disfrute
de los derechos humanos.
Lo dicho permite organizar la lectura de participación de
Access Now a través de cinco componentes:
- El normativo que produce cuando convierte problemas tecnológicos en categorías jurídicas.
- El de coalición que nace del trabajo con personas y organizaciones locales y en redes internacionales que traslada y amplifica las demandas de las primeras, creando espacios de preocupación transversales frente a reclamos que, de otra forma, se mantendrían fragmentados.
- El técnico, que permite que Access Now haya desarrollado una Digital Security Helpline para responder a ataques, vigilancia, malware y otras amenazas contra periodistas, activistas y personas defensoras de derechos humanos, al tiempo que se crea conocimiento sobre estrategias y funcionamiento de la represión digital.
- La documentación, que suma a lo anterior la participación de Access Now en campañas como #KeepItOn para terminar con los “apagones informáticos” registrando cortes de internet y sus consecuencias, lo que, a su vez, ayuda a producir evidencia, identificar responsables e impulsar acciones de incidencia internacional (Rosson & Anthonio, 2026).
- El financiamiento, mediante la concesión de fondos flexibles a organizaciones de base que trabajan en defensa de los derechos humanos en entornos digitales, redistribuyendo parte de sus recursos hacia actores con conocimiento local.
En conjunto, la propuesta de Access Now excede en mucho la
creación de marcos voluntarios o las declaraciones éticas, priorizando reglas
vinculantes y mecanismos de aplicación alineados a los derechos humanos y
respetuosos de las poblaciones y las comunidades locales, especialmente los
pueblos vulnerables.
Su estrategia parece ser doble: defender prohibiciones
cuando un uso tecnológico resulta incompatible con los derechos y, al mismo
tiempo, fortalecer las garantías aplicables a los sistemas que continúan
permitidos, una combinación de posiciones que lleva a Access Now a actuar
dentro de las instituciones, pero también a impulsar el cambio de los límites
de lo que esas mismas instituciones consideran aceptable para darle mayor peso
a la consideración de los derechos de las personas o, en palabras diferentes, disputar
las condiciones políticas y jurídicas bajo las cuales puede utilizarse la IA.
En un momento histórico en que “La rendición de cuentas
algorítmica está en proceso de construcción” (2022, p. 123), Access Now busca
identificar responsables, crear vías de impugnación de decisiones algorítmicas,
fortalecer las comunidades locales frente a una IA global y desigual por
naturaleza y promover que los abusos que tienen lugar en el campo de la IA no
queden impunes.
Datos básicos
- Access Now fue creada por Brett Solomon, Cameran Ashraf, Sina Rabbani y Kim Phamen 2009, para ayudar a restablecer comunicaciones seguras, proteger sitios independientes y difundir imágenes de las protestas que siguieron a las elecciones en Irán de ese año y enfrentaban una dura censura gubernamental. Hoy es una organización internacional de la sociedad civil dedicada a defender y ampliar los derechos digitales de personas y comunidades, especialmente aquellas en estado de vulnerabilidad frente a la IA.
- Su sede está en California, pero tiene presencia estable en Nueva York, San José de Costa Rica, Bruselas, Berlín, Túnez, Delhi, Nairobi y Manila.
- Promueve marcos de gobernanza vinculantes, exigibles y basados en el derecho internacional de los derechos humanos mediante estrategias que combinan incidencia política, asistencia técnica, financiamiento de organizaciones de base, producción de investigaciones y articulación de coaliciones internacionales.
- Su Digital Security Helpline proporciona asistencia técnica gratuita, directa y permanente a periodistas, activistas, medios, organizaciones sociales y personas defensoras de derechos humanos.
- RightsCon es uno de sus principales espacios de convocatoria internacional sobre derechos humanos y tecnología.
- En 2015 fue nominada al Human Rights Tulip Award por David Kaye, entonces relator especial de la ONU sobre libertad de opinión y expresión.
Referencias
Eubanks, V.
(2018). Automating inequality: How high-tech tools profile, police, and
punish the poor. St. Martin’s Press.
Eubanks, V. (2021). La automatización de la desigualdad:
Herramientas de tecnología avanzada para supervisar y castigar a los pobres
(G. Deza, Trad.). Capitán
Swing. (Trabajo original publicado en 2018).
Johnson, D.
G. (2022). Algorithmic accountability in the making. Social Philosophy and
Policy, 38(2), 111–127. https://doi.org/10.1017/S0265052522000073
Kinchin, N.
(2024). “Voiceless”: The procedural gap in algorithmic justice. International
Journal of Law and Information Technology, 32, eaae024. https://doi.org/10.1093/ijlit/eaae024
Rosson, Z.,
& Anthonio, F. (2026). Rising repression meets global resistance:
Internet shutdowns in 2025. KeepItOn. https://www.accessnow.org/wp-content/uploads/2026/03/KeepItOn-Internet-Shutdowns-2025-Annual-Report.pdf
Srivastava,
S. (2023). Algorithmic governance and the international politics of Big Tech. Perspectives
on Politics, 21(3), 989–1000. https://doi.org/10.1017/S1537592721003145