Por Javier Surasky
En 2024, la gobernanza de la inteligencia artificial dejó de ser una conversación dispersa para convertirse en un campo internacional cada vez más estructurado. Resoluciones de la ONU, negociaciones del Pacto Digital Global, debates sobre armas autónomas y nuevas normas nacionales muestran que ya existen bases suficientes para avanzar hacia un acuerdo global más claro y operativo.
Las bases de una gobernanza global de la IA
La Asamblea General adoptó sus dos primeras resoluciones sobre IA para “Aumentar la cooperación internacional para la creación de capacidad en materia de inteligencia artificial” (A/Res/78/311, auspiciada por 28 países del sur), y para “Aprovechar las oportunidades de sistemas seguros y fiables de inteligencia artificial para el desarrollo sostenible” (A/Res/78/265, auspiciada por 55 Estados miembros del norte y del sur, entre ellos Estados Unidos y China).
- Las negociaciones del Pacto Digital Global, que brindará un marco a la cooperación internacional en materia de IA y tecnologías digitales, atraviesan un momento difícil , pero se espera sea adoptado en septiembre, en el marco de la Cumbre del Futuro.
- Crece el apoyo entre los Estados para adoptar un tratado internacional sobre armas autónomas (AWS, Autonomous Weapon Systems), fortalecido por la conferencia “La humanidad en la encrucijada: desafíos a la regulación de las armas autónomas” que se reunió en abril pasado en Viena. Más de 30 gobiernos han avalado el resumen de su presidencia donde se afirma que “Existe una fuerte convergencia en cuanto a que los AWS que no se puedan utilizar de acuerdo con el derecho internacional o que sean éticamente inaceptables deberían prohibirse explícitamente”. Todos los demás deberían estar regulados adecuadamente”. El secretario general ha realizado un llamado para que un tratado internacional en la materia sea aprobado antes del final de 2026.
Un ecosistema regulatorio todavía fragmentado
- El 5 y 6 de febrero se reunión en Kranj, Eslovenia, el Segundo Foro Global sobre Ética de la IA de la UNESCO, donde se lanzó oficialmente el Observatorio Global de Ética y Gobernanza de la IA, que impulsa la realización de evaluaciones nacionales basadas en la metodología de evaluación del estadío de preparación frente a la IA (RAM, Readiness Assessment Methodology), publicada en 2023, integrada a la construcción de perfiles nacionales sociotecnológicos de IA, actualmente disponibles para Brasil, Chile, Gabón, México, Marruecos y Senegal, y ese encuentran en desarrollolos perfles de otros 50 países.
- El documento final de la Cumbre del G7 reunida en Apulia, Italia, en abril de 2024 dedica un capítulo completo a la IA que incluye el compromiso de promover “una IA sin riesgos, segura, y confiable”, siguiendo una línea abierta en su encuentro en el documento que adoptaron en 2023 en Hiroshima, donde declaraban su determinación de “impulsar debates internacionales sobre la gobernanza inclusiva y la interoperabilidad de la IA para alcanzar nuestra visión y objetivo comunes de una IA confiable”.
- En mayo de 2024, se reunió la Cumbre y Foro Global de IA en Seúl, una reunión “entre aliados” de la que participaron Alemania, Australia, Canadá, Corea, Estados Unidos, Francia, Italia, Japón, el Reino Unido, Singapur y la Unión Europea. Allí se adoptó la “Declaración de Seúl para una IA segura, innovadora e inclusiva” que convoca a “una mayor cooperación internacional para promover la seguridad, la innovación y la inclusión de la IA y a aprovechar una IA centrada en el ser humano para abordar los mayores desafíos del mundo, proteger y promover los valores democráticos, el estado de derecho y los derechos humanos, las libertades fundamentales y la privacidad, superar las brechas digitales y de la IA entre los países y dentro de ellos, contribuyendo así al avance del bienestar humano, y apoyar las aplicaciones prácticas de la IA, incluso para promover los Objetivos de Desarrollo Sostenible de las Naciones Unidas” (§5).
- También en mayo, la Unión Internacional de Telecomunicaciones (ITU) reunió su quinta Cumbre de la IA para el bien (AI4Good), donde gobiernos, expertos, sociedad civil y sector privado se reúnen para discutir y presentar algunas de las innovaciones más espectaculares que permite la IA en apoyo del desarrollo sostenible. En 2024 vimos desde robots humanoides y animales de compañía biónicos hasta interfases cerebrales para el control de prótesis y equipos de rescate semiautónomos. Esta reunión dejó claro que la IA y la robótica tienen una tercera compañera: la imitación de la naturaleza en la creación de diseños eficientes.
- Sin demasiada coherencia entre sí, cada vez más países introducen legislación nacional en materia de IA, destacándose la entrada en vigor, el 1º de agosto de 2024, de la Ley Europea sobre IA adoptada por el Parlamento Europeo, que se aplica a todos los países miembros de la Unión Europea, aunque las regulaciones referidas a la prohibición de sistemas de IA que se considere presentan un riesgo inaceptable entrarán en vigor el 1º de febrero de 2025 y las referidas a los modelos de IA generales el 1º de agosto de ese año.
- En agosto se conoció el excelente informe “Cuidado con la Brecha” elaborado por la Organización Internacional del Trabajo y la Oficina del Enviado Especial del Secretario General para Tecnologías, sobre brechas de IA y sus impactos en el empleo.
- La adopción del texto de la Convención de las Naciones Unidas sobre Ciberdelicuencia el 8 de agosto de 2024, aunque no incluye referencias expresas a la IA en su texto, es un paso adelante sumamente importante. El texto aprobado incorpora normativa sobre uso de datos, con reglas especiales para datos personales, deepfakes (hace un llamado su penalización) y pornografía vengativa, y facultades de los gobiernos para exigir a proveedores de servicios informáticos la entrega de información, entre otros elementos estrechamente conexos con la IA. A pesar de las críticas al acuerdo por parte de organizaciones de derechos humanos y de un llamado de las empresas tecnológicas a rechazar el acuerdo, el texto fue adoptado por unanimidad, tras una serie de intentos de introducir enmiendas a último momento.
El riesgo de esperar al horror
Con tantas cosas ocurriendo al mismo tiempo, ya contamos con la evidencia necesaria para establecer una gobernanza global fuerte de la IA. Aunque los debates seguirán teniendo lugar, tenemos una buena idea de los principios, el vocabulario, los principales riesgos y cómo hacerles frente, las áreas críticas, los mapeos de actores y responsabilidades, y un desarrollo teórico más que aceptable frente a las preguntas que implica un mundo en que conviviremos con la IA. Las bases sobre las cuales construir un acuerdo para su
gobernanza global han sido construidas.
Hoy es triste recordar que para adoptar la Declaración Universal de Derechos Humanos debimos pasar un holocausto, para avanzar en la prohibición de los combustibles fósiles debimos llegar a límites ambientales inciertos, para crear una organización internacional que proteja a las generaciones venideras del flagelo de la guerra tuvimos que pasar dos guerras mundiales.
Si los líderes han aprendido algo de la historia, no será
necesario esperar a que sea el horror lo que nos impulse a lograr la cada vez
más necesaria regulación global de la IA, como tantas veces ha ocurrido en
otros campos.
Actualización
(Mayo de 2026)
El Pacto Digital Global fue finalmente adoptado el 22 de septiembre de 2024 como anexo del Pacto para el Futuro. Este artículo conserva su argumento original: la gobernanza global de la IA ya contaba en 2024 con bases suficientes para avanzar hacia acuerdos más operativos.