Por Javier Surasky
.png)
El nuevo poder de medir la seguridad de la IA
En la gobernanza de la inteligencia artificial, el poder se
expresa en leyes, tratados o decisiones empresariales, pero silenciosamente
opera una capa oculta a los usuarios no expertos: la capacidad de medir.
Quien define qué se evalúa, cómo se evalúa y qué cuenta como
riesgo adquiere influencia sobre el futuro de esta tecnología, y ese es el
espacio donde se mueve METR, sigla de Model Evaluation and Threat Research,
una organización que busca convertir la pregunta sobre cuándo un sistema de IA
empieza a representar un riesgo social grave en un programa técnico.
METR se presenta como una organización sin fines de lucro
dedicada a medir científicamente si los sistemas de IA pueden amenazar con
daños catastróficos para la sociedad y a desarrollar métodos que permitan tomar
mejores decisiones sobre su desarrollo (METR, 2026a): su foco está en analizar
si un modelo puede ejecutar tareas sustantivas de manera autónoma: investigar,
programar, operar en entornos digitales, resolver problemas prolongados o
desarrollar capacidades que eleven riesgos de seguridad.
METR no es un regulador formal que dicte normas o imponga
sanciones. Su poder es epistémico, técnico e institucional y se apoya en la
producción de evidencia sobre capacidades emergentes de la IA, la que puede ser
utilizada por empresas, gobiernos, institutos de seguridad, reguladores y
medios de comunicación, y así METR influye en los criterios con los que otros
deciden gobernar la IA porque, como ya sabemos, en IA, medir no es una tarea neutral: implica priorizar ciertos daños, ciertos escenarios y ciertas
formas de intervención.
Uno de los grandes aportes de METR es desplazar la
conversación desde debates abstractos sobre “riesgo existencial” hacia pruebas
concretas sobre autonomía, agencia y desempeño en tareas largas aplicando recursos
de evaluación que abarcan conjuntos de tareas, herramientas de software y
orientaciones metodológicas para medir capacidades autónomas de sistemas (METR,
2026b). En otras palabras, se pregunta se un modelo puede actuar de forma
eficaz durante períodos extendidos, encadenar pasos, usar herramientas y
producir resultados comparables a los de una persona capacitada.
El benchmark HCAST ilustra bien ese tipo de razonamiento: en
lugar de medir respuestas aisladas, HCAST propone tareas de software calibradas
con humanos para comparar el desempeño de agentes de IA con tareas que personas
capacitadas realizan en tiempos estimados, para saber si un agente puede ser
confiable para completar una tarea que a un humano le tomaría una determinada
cantidad de tiempo (Rein et al., 2025).
En el ecosistema de la IA, METR ocupa así una zona
intermedia entre sociedad civil técnica, auditoría independiente y gobernanza
anticipatoria, con una autoridad que depende de la credibilidad científica.
Para poder cumplir su misión METR requiere acceso a modelos
de frontera, necesita que las empresas le permitan probar sistemas potentes, a
veces antes de su publicación o con información que no está disponible para el
público, lo que genera una tensión institucional; cuanto más depende de las
empresas evaluadas para acceder a modelos, información o infraestructura, más
importante se vuelve demostrar independencia: sin acceso, la evaluación externa
puede volverse superficial, pero el acceso condicionado hace surgir un riesgo
de captura blanda de resultados por las empresas colaboradoras
METR parece consciente de ese problema cuando plantea la
necesidad de estándares más claros, mejores formas de verificar información
reportada por compañías y evaluaciones periódicas más frecuentes (METR, 2026c).
Para los Estados, METR representa una fuente potencial de
capacidad técnica que les provee de una infraestructura, un talento
especializado y de acceso suficiente a modelos avanzados de la que ellos
carecen.
En ese contexto, METR también acaba por operar como intermediaria
entre el mundo técnico y el de los decisores políticos pero, nuevamente,
debemos hacer aquí una advertencia de tono democrático: la gobernanza de la IA no puede quedar reducida a una conversación entre laboratorios privados, expertos técnicos y evaluadores especializados, con los decisores políticos
dependiendo de sus conclusiones por falta de capacidades propias para
comprender modelos y acceder a datos.
Además, los riesgos catastróficos no agotan la agenda del AI
safety, porque daños actuales como discriminación, concentración de
mercado, vigilancia, precarización laboral, dependencia tecnológica, impactos
ambientales y desigualdades en el acceso a la infraestructura computacional
también importan, y no son eje de la labor de METR.
Por todo ello, METR debe leerse como un actor de poder
emergente que ayuda a definir las categorías con las que la IA será controlada,
sin pretender controlarla.
En el ecosistema de la IA, medir es una forma de intervenir,
y allí se sitúa METR como actor de referencia.
Datos básicos
- METR (Model Evaluation and Threat Researcc) tiene su sede en California.
- Fue creada en diciembre de 2023, cuando ARC Evals anunció que concluía su período de incubación dentro del Alignment Research Center y adoptaba el nombre METR como organización independiente sin fines de lucro (METR, 2023).
- Su fundadora y directora ejecutiva es Beth Barnes, quien previamente trabajó en DeepMind y en OpenAI.
- Se financia principalmente mediante donaciones (ha declarado el apoyo de The Audacious Project, personas, Sijbrandij Foundation, Pew Charitable Trusts, Schmidt Sciences, Packard Foundation, LaCentra-Sumerlin Foundation, Astralis Foundation, Expa.org, AI Security Institute, Longview Philanthropy, Effektiv Spenden, Survival and Flourishing Fund y donantes individuales). Una parte menor de ingresos por un contrato de asistencia técnica con la European AI Office, y no acepta financiamiento de empresas de IA de frontera ni de sus empleados, aunque reconoce que esas empresas le proporcionan tokens gratuitos para evaluaciones, investigación e ingeniería.
- Su contribución más fuerte consiste en mostrar que la seguridad de la IA requiere instituciones capaces de evaluar capacidades reales y no promesas empresariales o impresiones públicas.
- Su límite está en el hecho de que evalúa, pero no pretende sustituir las decisiones políticas sobre qué riesgos son aceptables, quién participa en esa definición y qué consecuencias deberían activarse cuando una empresa cruza determinados umbrales.
Referencias
METR. (2023, December 4). ARC Evals is now METR [ARC
Evals ahora es METR]. https://metr.org/blog/2023-12-04-metr-announcement/
METR. (2026a).
About METR [Acerca de METR]. https://metr.org/about
METR.
(2026b). Resources for measuring autonomous AI capabilities [Recursos
para medir capacidades autónomas de IA]. https://metr.org/measuring-autonomous-ai-capabilities/
METR.
(2026c, May 19). Frontier Risk Report (February to March 2026)
[Informe de riesgos de frontera, febrero a marzo de 2026]. https://metr.org/blog/2026-05-19-frontier-risk-report/