Por Javier Surasky
.png)
Un nuevo informe de la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH) sobre La protección de las personas defensoras de los derechos humanos en la era digital muestra cómo la vigilancia, las plataformas digitales y la inteligencia artificial están ampliando las capacidades de control con mayor rapidez que las salvaguardias destinadas a limitarlas.
Su contenido puede resumirse en una frase: la expansión del
poder de Estados y empresas sobre los espacios digitales no ha sido acompañada
por garantías, mecanismos de rendición de cuentas y sistemas de supervisión
equivalentes. La protección digital avanza, pero el poder digital lo hace más rápido,
Por ello, leer el nuevo informe del ACNUDH como un diagnóstico
más sobre vigilancia, censura, programas espía y riesgos asociados a la
inteligencia artificial resulta superficial: el documento, presentado al 63º
período de sesiones del Consejo de Derechos Humanos, contiene una advertencia
más profunda que podemos traducir como “mientras aumentan las capacidades de
Estados y empresas para observar, identificar, clasificar e intervenir sobre
las personas, las instituciones destinadas a controlar ese poder se van
quedando sin herramientas para cumplir sus funciones”.
El problema que describe el informe es, en consecuencia, un problema de poder más que un asunto técnico.
Reconozco, como lo hace el informe, que la digitalización ha
ampliado las posibilidades de quienes defienden los derechos humanos mediante tecnologías
digitales que les permiten ganar visibilidad, realizar tareas de promoción,
establecer redes y, en determinadas circunstancias, aumentar su propia gestión
de la protección.
Ese progreso es real, como lo son ciertos avances jurídicos
e institucionales que el propio informe destaca: establecimiento de marcos
integrales de protección de datos, autoridades independientes de supervisión y decisiones
judiciales orientadas a proteger la privacidad, entre otros
Y aquí una primera demostración del informe: regulación y
derechos humanos no son necesariamente objetivos contrapuestos, sino que políticas
públicas capaces de responder a preocupaciones legítimas de seguridad sin
erosionar las libertades que pretenden proteger son ya parte de nuestros
sistemas de organización social.
También las empresas han tomado algunas medidas, como la
creación de mecanismos para atender riesgos que afectan a defensores de
derechos humanos, y algunas compañías publican informes sobre su relación con
las autoridades.
En el campo internacional, la Unión Europea y Estados Unidos
formularon recomendaciones conjuntas para las plataformas en 2024 y, un año más
tarde, la UNESCO y el ACNUDH publicaron orientaciones destinadas a reforzar la
protección de las voces críticas en el marco de tecnologías digitales. A nivel
regional la Corte Interamericana de Derechos Humanos reconoció el derecho a
defender los derechos humanos como un derecho autónomo, ejercitable tanto en
línea como fuera del espacio digital.
En otro espacio, también rescatado pro el informe, se
señalan nuevas formas de defensa de los derechos humanos entre programadores,
ingenieros y personas con altos cargos de gestión dentro de las propias
compañías digitales de punta.
Digitalizar también significa concentrar poder
Durante años, el debate sobre derechos humanos y tecnología
se organizó en torno a la sobre cómo impedir que las nuevas tecnologías vulneren derechos existentes. Hoy debemos agregarle una segunda parte sobre qué
redistribución de capacidades políticas capaces de afectar los derechos humanos
produce la digitalización.
Un Estado con acceso a bases de datos interoperables,
reconocimiento biométrico, herramientas de interceptación, análisis
automatizado y sistemas de inteligencia artificial posee capacidades de
observación y clasificación de la población que hace apenas dos décadas hubiesen
sido difíciles de desplegar de forma masiva.
Hoy, la inteligencia artificial cambia esa ecuación, y entre
las razones para ese cambio el informe señala la drástica reducción del costo
del análisis y la inferencia sobre datos, las facilitades que existen para
desanonimizarlos y el crecimiento de la sofisticación de las tecnologías de
vigilancia e interceptación.
En Global Radar Analaytics hemos revisado diversos asuntos
relacionados con la IA, y cada uno de ellos nos presenta sus propias paradojas.
Este caso no es la excepción ya que cuanto más digitalizado está el espacio
cívico, mayor puede ser la capacidad de participar en él, pero también la de su
vigilancia y persecución de sus participantes.
Y hay un segundo asunto vinculado: más regulación digital no
significa necesariamente más protección de los derechos, ya que los Estados, en
términos generales, se vienen mostrando más preocupados por combatir la
ciberdelincuencia, proteger a los niños, enfrentar el terrorismo, perseguir
delitos o limitar determinadas formas de violencia en línea, produciendo
normativa imprecisa, poderes ejecutivos amplios y sistemas de vigilancia sin control
suficiente.
El propio ACNUDH sostiene que las respuestas regulatorias
estatales han terminado reduciendo la protección de los defensores mediante,
por ejemplo, una criminalización excesivamente amplia de conductas en Internet,
las interferencias sobre comunicaciones y las restricciones al acceso a ciertas
herramientas digitales.
En ese sentido, el informe nos obliga a repensar la noción
de que la gobernanza digital consiste en encontrar la cantidad adecuada de
regulación, porque nos die que es mucho más relevante cuestionar quién recibe
nuevas competencias, con qué límites, bajo qué supervisión y con qué
posibilidades reales de recurso por potenciales personas afectadas.
La tensión que, a primera vista, está representada por la
priorización de la seguridad o el pleno ejercicio de derechos debe convertirse
en una pregunta menos lineal que se cuestiones sobre qué arquitectura
institucional permite perseguir objetivos legítimos sin convertir la excepción
en capacidad permanente de control.
Las empresas
El informe es crítico tanto con los Estados como con el
sector empresarial, frente al cual realiza un diagnóstico especialmente severo
cuando reconoce que algunas empresas han desarrollado canales especiales para
defensores, publicado informes de transparencia, identificado amenazas de
programas espía, reforzado medidas de seguridad e incluso iniciado acciones
judiciales contra desarrolladores de spyware al tiempo que reducían sus equipos
dedicados a “confianza y seguridad” y su personal, modificaban sistemas de
moderación, eliminaban mecanismos de verificación y postergaban la transparencia.
Frente a ello la conclusión del ACNUDH es clara: la
diligencia debida empresarial en derechos humanos sigue siendo la excepción
respaldada en incentivos económicos que continúan favoreciendo la extracción de
datos y el crecimiento por encima de la seguridad individual.
Pero, aun sabiendo de ello, los defensores de derechos
humanos no pueden abandonar las grandes infraestructuras tecnológicas porque necesitan
de servicios de nube, buscadores, teléfonos, mensajería y plataformas para
realizar su trabajo: como en muchas otras oportunidades en la historia, el
perseguido depende del perseguidor para realizar su tarea, una digitalización
de la dialéctica del amo y el esclavo de Hegel en la que hablar de “elección
del usuario” resulta cada vez menos convincente.
La necesidad de pasar de progresos defensivos a transformaciones estructurales.
Gran parte de esas respuestas a persecuciones a defensores
de derechos humanos aparecen, como suele ocurrir en el campo de la IA, después
de que una vulnerabilidad ha sido explotada, un abuso descubierto o una
tecnología peligrosa ampliamente comercializada, lo que lleva a la recomendación
del informe del ACNUDH que considero más importante: la protección de los
derechos humanos no puede seguir funcionando únicamente como una corrección
posterior de decisiones tecnológicas ya tomadas.
Y es en este punto donde se halla el principal desafío que
deja abierto el informe, que contiene recomendaciones ambiciosas, pero frente a
las cuales ha identificado el poder que surge de la concentración económica, los
incentivos empresariales basados en extracción de datos, las capacidades
estatales de vigilancia y la creciente dependencia social de infraestructuras
privadas.
Regular los abusos será insuficiente si no se abordan las
estructuras que los posibilitaron, porque por cada abuso reparado, por cada
defensor de los derechos humanos que haya logrado protección, se estarán
generando decenas de nuevos abusos y persecuciones impulsadas por un orden
estructural.
Las persecuciones y los abusos no son “errores del sistema”,
sino parte de su lógica, algunos de sus “accidentes normales”.
Por ello, el indicador que propone el propio informe sobre
la forma en que una sociedad trata digitalmente a quienes cuestionan el poder puede
ser útil no solo para observar si su digitalización está contribuyendo a la
democratización, como el ACNUDH propone, sino también para conocer si se están
produciendo cambios de fondo en el orden social orientados por los derechos
humanos.
Una sociedad puede ser extraordinariamente digital y cada
vez más cerrada, o tener una amplia legislación sobre IA que no logre modificar
las pautas estructurales por las que se expanden sus amenazas reales.
Si ello ocurre, el problema no es que nuestra transformación
digital haya fracasado, sino que habrá tenido éxito en distribuir el poder en
la dirección equivocada, y esa es, en mi visión, la advertencia más importante
que surge del informe.