Por Javier Surasky
Grecia se ha convertido en el primer país en plantear la incorporación de la inteligencia artificial en su Constitución. Más allá de su valor simbólico, la propuesta abre un debate de fondo para una gobernanza digital democrática: si la IA ya influye en derechos, servicios públicos, información y democracia, ¿debe formar parte también del marco constitucional? Estamos ante el posible nacimiento de un nuevo “constitucionalismo digital”, cada vez más relevante para pensar cómo limitar el poder algorítmico y proteger derechos en sociedades digitalizadas.
La propuesta griega implicaría, de concretarse, incorporar una
cláusula a su constitución que disponga que la IA debe servir a la libertad de
las personas y a la prosperidad de la sociedad, al tiempo que se mitigan sus
riesgos.
Se trata de una fórmula general, pero su importancia radica
en el terreno que abre al poner en el centro de la escena la cuestión de los
efectos de la IA sobre las políticas públicas, los derechos fundamentales, los
derechos humanos y las condiciones mismas de la democracia, poniendo de relieve
una dimensión política que el debate técnico suele desplazar o dejar en segundo
plano.
La iniciativa griega recuerda que, en democracia, los fines
colectivos deben debatirse públicamente, limitarse por los derechos humanos,
legitimarse por instituciones y, por sobre todo, asumirse por personas que
ejercen su ciudadanía.
El constitucionalismo digital
El caso griego permite pensar en la emergencia de un nuevo
“constitucionalismo digital” cuyo eje estaría en la defensa de la democracia,
el reconocimiento de derechos propios de la era algorítmica y la
reinterpretación de los derechos civiles, políticos, económicos, sociales,
culturales y ambientales en contextos mediados por infraestructuras digitales.
Si la IA aparece cada vez más vinculada con la circulación
de información, la organización de servicios, la toma de decisiones públicas y
privadas, la asignación de recursos, la producción de conocimiento y las formas
concretas en que las personas ejercen sus derechos, su tratamiento
constitucional abre una discusión tan actual como necesaria.
La regulación digital y el constitucionalismo digital operarían
en planos distintos, como ha sucedido antes con el constitucionalismo social o
el ambiental: las leyes sobre datos personales, plataformas o transparencia
algorítmica son valiosas, pero se quedan en el nivel de la regulación ordinaria,
subsumidas al nivel constitucional, mientras que el constitucionalismo digital
apunta directamente al espacio en que una comunidad política define sus
principios fundamentales, organiza el poder, protege derechos y establece condiciones
de legitimidad para la vida en común.
Por ello, hablar de constitucionalismo digital implica reconocer
que la digitalización impacta de manera decisiva sobre dimensiones que
pertenecen al núcleo del pacto constitucional, como la libertad, la igualdad,
la participación política o el acceso a derechos, afectando la distribución
efectiva del poder.
El gran paso que daría este nuevo modelo de
constitucionalismo sería el de separar la administración de tecnologías de la
discusión democrática sobre las condiciones de una sociedad digitalizada.
Democracia, ciudadanía y poder algorítmico
El constitucionalismo digital comenzaría allí donde lo
digital deja de ser una materia puramente regulatoria y pasa a formar parte de
la arquitectura básica de la democracia, la ciudadanía y los derechos.
Las infraestructuras digitales ya organizan formas de interacción, clasifican personas, jerarquizan información, median el acceso a
bienes y servicios, influyen en la visibilidad pública y afectan las
condiciones de la decisión democrática, pero todo eso ocurre por fuera de principios
constitucionales propios de las relaciones sociales mediadas por la llegada de
tecnologías digitales, aun cuando ellas inciden en la formación de la opinión
pública, en la calidad de la deliberación democrática, en la integridad de
procesos electorales y en la posibilidad de construir, y controlar, nuevas
formas de poder.
La inteligencia artificial intensifica desafíos
preexistentes porque produce, ordena, predice y distribuye información a una
escala nunca antes conocida, lo que obliga a resituar derechos tradicionales,
entre los cuales ubicamos todo el conjunto de derechos sociales como los
potencialmente más afectados: la libertad de expresión cambia cuando queda
mediada por plataformas y sistemas de recomendación, la igualdad se tensiona
cuando decisiones automatizadas pueden reproducir desigualdades previas, el
acceso a salud, la educación, el trabajo, la información o prestaciones
públicas se reordenan cuando un modelo digital los articula dentro de
interfaces digitales cuyos resultados no son siempre explicables.
Por eso, el constitucionalismo debe vincular la IA con derechos humanos, democracia y Estado de derecho como un primer escalón fundamental
en la construcción y “recalibración” de nuevos y tradicionales derechos a los
que se ha otorgado rango constitucional.
En esa perspectiva, se reactiva con fuerza la pregunta por el
sentido de la ciudadanía: en sociedades atravesadas por infraestructuras
digitales, participar, informarse, reclamar, acceder a servicios, ejercer
derechos o interactuar con el Estado depende cada vez más de sistemas técnicos,
plataformas, datos e interfaces que las personas no logran comprender.
Una ciudadanía digital democrática requiere que las personas
alcancen condiciones materiales y digitales que garanticen su autonomía,
igualdad de trato, acceso efectivo a derechos y control institucional de las
condiciones en que se ejercen, o, al menos, debe integrar ese propósito, cuyo
ámbito propio es el constitucional.
Derechos en la era digital
Por lo que dijimos, el constitucionalismo digital se
definiría por la incorporación de la dimensión digital al núcleo del pacto
constitucional y su objetivo sería ordenar constitucionalmente las condiciones de la democracia, los derechos y la ciudadanía en sociedades estructuradas por
infraestructuras digitales.
Ahora bien, esto también implica la necesidad de reconocer
que en la era digital han surgido nuevos espacios en los que se disputan nuevos
derechos asociados a la digitalidad de las relaciones sociales: la identidad
digital, las inferencias de perfiles, la manipulación automatizada y la
justicia algorítmica son solo ejemplos de ellos y reflejan nuevas formas de
exposición, vulnerabilidad y poder que requieren respuestas a nivel constitucional.
La propuesta griega puede ser incipiente, general y seguramente
producirá debates, especialmente porque vuelve a traer al Estado nacional al
centro de la escena de un territorio dominado por actores privados y que, por
su propia esencia transnacional, necesita ser gobernado de manera global.
La discusión constitucional sobre IA trae aire fresco a un
debate sobre la democracia que ya parecía de un mundo pasado, y puede ser un
motor de refortalecimiento del orden democrático y del valor de las
instituciones, que nos llame a discutir públicamente qué lugar queremos darles
a estas tecnologías en nuestro ordenamiento social y qué derechos debemos proteger
en una sociedad ya digitalizada.
Si el constitucionalismo moderno se ocupó de limitar el
poder político, el constitucionalismo social de enfrentar las desigualdades
materiales y el ambiental de incorporar la dimensión de la protección de la
naturaleza, el constitucionalismo digital tendría que desarrollar una función equivalente
y extremadamente valiosa: someter las nuevas formas de poder algorítmico a los
principios fundamentales de la vida democrática.