Donde la IA se gobierna antes de legislar
Por Javier Surasky
.png)
Una parte importante de la disputa por liderar el campo de
la inteligencia artificial (IA) a nivel global tiene lugar lejos de la prensa,
en espacios donde expertos, empresas, organismos nacionales de normalización y
funcionarios negocian definiciones, procedimientos, métricas y sistemas de
certificación. Allí ponemos el foco de nuestro mapa del poder de la IA en esta
nueva entrada.
Dos organizaciones sobresalen en el campo de la definición
de estándares (normas) técnicos: la Organización Internacional de Normalización
(ISO) y la Comisión Electrotécnica Internacional (IEC), cuyo espacio está en
una zona intermedia entre la producción tecnológica y la regulación estatal:
ISO/IEC convierten principios generales en procesos organizacionales,
vocabularios técnicos, sistemas de gestión y criterios de evaluación que
integran la infraestructura técnica de la IA (ISO, s. f.-b.)
Formalmente, ISO e IEC están integradas por organismos
nacionales de normalización, una arquitectura que reproduce la ficción de
igualdad soberana mientras la capacidad real de influencia depende de recursos
que se encuentran desigualmente distribuidos.
El trabajo de normalización internacional sobre IA tiene
lugar principalmente en el subcomité conjunto ISO/IEC, que tiene como
responsabilidad la normalización general de la IA y la coordinación con comités
dedicados a tecnologías, industrias y sistemas específicos (International
Organization for Standardization [ISO], s. f.-a).
Ahora bien, participar de esas organizaciones y sus comités requiere
especialistas, tiempo institucional, acceso a información, continuidad en las
reuniones y capacidad para presentar propuestas que no todos los países tienen,
a lo que se suma el lobby, abierto o no, de grandes empresas del sector. Walter
Mattli y Tim Büthe (2003, p.4) muestran que los resultados de la normalización
internacional dependen de elementos como estructuras institucionales y
capacidad de coordinación nacional.
A ello agrego lo que Mattli y Büthe llaman “ventaja de
pionero en la fijación de estándares internacionalizados”: la ventaja que
obtienen los actores capaces de intervenir tempranamente y estructurar la
agenda (2003, p. 4): quien presenta el primer borrador obliga a los demás
participantes a discutir dentro de un marco ya definido, y en el campo de la IA
eso crea el riego de que prácticas desarrolladas por grandes empresas o
economías tecnológicamente avanzadas se conviertan en puntos de referencia
desde el inicio de los debates de estandarización.
Aun así, el mapa de poder de ISO/IEC no puede reducirse a
Estados y empresas, porque allí hallamos también que la academia produce
conceptos y metodologías, las consultoras traducen las normas a sistemas
internos y las certificadoras verifican el cumplimiento (tema sobre el que
volveremos), mientras que las organizaciones de la sociedad civil trabajan para
fortalecer aproximaciones basadas en derechos, la consideración de impactos y
las perspectivas de los grupos vulnerables.
ISO/IEC es, en consecuencia, una infraestructura de coordinación entre múltiples actores, y parte de su poder está atado al éxito
que logre en producir acuerdos entre ellos.
Esta lógica es de especial importancia para la IA, campo en
el que se producen transformaciones a alta velocidad, frente a lo que Araz
Taeihagh (2021, p. 183) señala el riesgo de que “la velocidad y la escala de
adopción de la IA amenazan con superar la capacidad de respuesta regulatoria” (2021,
p. 138) dado que muchos conceptos regulatorios todavía están parcialmente definidos: explicabilidad, sesgo, confiabilidad, supervisión humana, calidad de
datos y riesgo aceptable no tienen un significado único, y al definirlos se
distribuyen responsabilidades y costos entre actores del ecosistema. Como dice Busch
(2011, p. 3): “los estándares son el punto en que el lenguaje y el mundo se
encuentran”, y su definición es un espacio de disputa por el lenguaje.
Aquí aparece un problema crítico: traducir conceptos en
procesos nunca es una acción neutral y, como lo señalamos, en la práctica no
está exenta de las desigualdades de poder entre quienes participan de esas
traducciones.
Por ello, una certificación no debería entenderse como una
declaración absoluta de que una IA es ética, segura o respetuosa de los
derechos humanos, sino solo de que la organización certificada cumple determinados
requisitos formales, además de crear su propia “capa intermedia” integrada por organismos
de acreditación, certificadoras, auditoras y consultoras que aplican, y al
aplicar, interpretan, los requisitos y la evidencia de la institución bajo
proceso de certificación, de tal forma que quienes definen el cumplimiento de
una estándar por una institución también son parte del esquema de poder que
surge de la estandarización.
Todo esto se enmarca en estándares ISO/IEC de cumplimiento voluntario,
ya que no imponen a las empresas obligación alguna: simplemente serán
“certificadas” o no lo serán.
No obstante, un estándar puede incorporarse a contratos
privados, requisitos para proveedores en compras públicas o incluso en normas
de importación y exportación: tanto un Estado como una empresa pueden exigir a
quienes integran su cadena de suministro que adopten determinados sistemas de
gestión, transformando un estándar no obligatorio en un requisito para acceder
a mercados, financiamiento o contratos. Esto, que puede ser bueno, trae como
consecuencia que diferentes actores deban adaptarse a ellos, incluso cuando no
participaron en su elaboración.
En la IA, por ejemplo, los estándares pueden facilitar la
interoperabilidad entre jurisdicciones, pero al mismo tiempo generar barreras
de entrada imponiendo costos relativamente mayores de acreditación a pequeñas
empresas que a grandes empresas.
Con esto queda expuesto otro elemento a analizar cuando
consideramos la ubicación de ISO/IEC en el mapa de poder de la IA y que ya
hemos tocado tangencialmente: la reglamentación técnica siempre implica
elementos de política, y por ello no deberían reducirse al logro de eficiencia.
Marion Ho-Dac advierte que “los estándares orientados a los
derechos fundamentales no son evidentes por sí mismos” (2023, p. 2): la.
normalización no necesariamente toma como guía derechos fundamentales ni puede resolver
conflictos entre principios jurídicos, por eso permitir que conocimientos
expertos en temas técnicos bajo estandarización monopolicen la definición de
los contenidos de estándares con impactos sobre la vida social y laboral, entre
otros, es un error con consecuencias potencialmente graves.
Los estándares pueden complementar el derecho, pero no
reemplazarlo.
El poder de ISO/IEC comienza antes de la ley, cuando se da
forma a los conceptos con los que posteriormente legislarán los Estados, por lo
que, antes de que la ley diga qué está permitido o prohibido, y bajo qué
condiciones, los estándares ya han comenzado a ordenar los límites de lo normal,
lo aceptable y las responsabilidades por el desarrollo, despliegue y uso de la
IA, porque los “los estándares son las recetas mediante las cuales creamos
realidades” (Busch, 2011, p. 2).
Datos básicos
- ISO fue creada en 1947 y tiene sede en Ginebra, Suiza. Es una organización internacional no gubernamental integrada que actualmente reúne a representantes de 176 organismos nacionales de estándares. Si bien su nombre es International Organization for Standardization, la organización utiliza “ISO” como nombre corto derivado del griego isos, que significa “igual”.
- IEC fue fundada en 1906 y también tiene sede en Ginebra, Suiza. Se especializa en estándares internacionales para tecnologías eléctricas, electrónicas y afines y trabaja mediante comités nacionales. Cuenta además con un Affiliate Country Programme, para facilitar la participación de países en desarrollo o de industrialización reciente.
- ISO y la IEC desarrollan conjuntamente estándares de tecnologías de la información mediante el comité ISO/IEC JTC 1, creado en 1987. Su subcomité 42 funciona como el principal espacio conjunto de normalización general sobre inteligencia artificial a nivel global.
- La principal fortaleza de ISO/IEC reside en su capacidad de transformar principios generales en procedimientos técnicos y organizacionales internacionalmente reconocidos. La norma ISO/IEC 42001:2023 es uno de los estándares centrales del ecosistema por la que se establecen requisitos para sistemas de gestión de IA dentro de organizaciones.
- Su principal vulnerabilidad está en las desigualdades de participación, la limitada transparencia de algunos procesos, los costos de acceso y el predominio potencial de grandes empresas y países tecnológicamente avanzados.
- La construcción de estándares produce una tensión entre eficacia técnica y legitimidad democrática, porque combina elementos técnicos con decisiones políticas.
Referencias
Busch, L.
(2011). Standards: Recipes for reality. MIT Press.
Ho-Dac, M. (2023). Considering fundamental rights in the European standardisation of artificial intelligence: Nonsense or strategic alliance? En K. Jakobs (Ed.), Joint proceedings EURAS & SIIT 2023. Verlag Günter Mainz. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4633788
International
Organization for Standardization. (2023). ISO/IEC 42001:2023. Information
technology—Artificial intelligence—Management system. https://www.iso.org/standard/42001
International
Organization for Standardization. (s. f.-b). Standards by ISO/IEC JTC 1/SC
42: Artificial intelligence. https://www.iso.org/committee/6794475/x/catalogue/
Mattli, W., & Büthe, T. (2003). Setting international standards: Technological
rationality or primacy of power? World Politics, 56(1), 1–42. https://www.jstor.org/stable/25054244
Taeihagh,
A. (2021). Governance of artificial intelligence. Policy and Society, 40(2),
137–157. https://doi.org/10.1080/14494035.2021.1928377