Por Javier Surasky
.png)
La discusión sobre inteligencia artificial en la educación
superior suele organizarse alrededor de principios como autonomía,
transparencia, igualdad, privacidad, responsabilidad y supervisión humana que,
aunque son necesarios, pero dejan un flanco inexplorado: las condiciones
institucionales necesarias para hacerlos efectivos, elemento que integra la gobernanza digital de la IA.
La UNESCO ha advertido que “el uso eficaz y ético de la IA
en la educación depende de diversos factores, entre ellos, el acceso a
infraestructura digital y particularmente a Internet; la disponibilidad de
recursos de IA; las regulaciones de la seguridad y la privacidad de los datos;
la orientación y los incentivos en forma de políticas; y las oportunidades de
desarrollo profesional” (Miao & Cukurova, 2024, p. 22).
Implementar principios éticos requiere capacidades
materiales, jurídicas, organizacionales y profesionales que no siempre están en
poder de las universidades: la transparencia depende de contar con información
suficiente sobre los sistemas utilizados; la privacidad exige conocer qué datos
se generan, qué tratamiento reciben y cómo se almacenan; la supervisión humana
presupone que las personas encargadas de ejercerla dispongan de conocimientos,
tiempo y autoridad suficientes; la igualdad requiere servicios accesibles; y la
responsabilidad depende de la existencia de autoridades identificables,
procedimientos de control y vías de reclamo accesibles y seguras.
La gobernanza ética de la IA en la educación superior
enfrenta una brecha entre principios normativos exigentes y capacidades
institucionales insuficientes o desigualmente distribuidas.
Los principios en contexto
La definición de una ética de la IA en la educación superior
debería establecer qué usos en investigación, docencia y gestión son
admisibles, pero también bajo qué condiciones, procedimientos y mecanismos de
control, ya que “la promesa de la inteligencia artificial en la educación no
puede entenderse de manera aislada, particularmente en sistemas frágiles, donde
las condiciones iniciales, como la infraestructura, la capacidad docente y la
desigualdad, ejercen una poderosa influencia” (Reimers et al., 2026, p. 157).
Toda tecnología educativa se inserta en una estructura
previa de recursos, competencias, jerarquías y desigualdades que la condicionan.
En el caso de la IA hallamos condicionantes por niveles de acceso, comprensión
y capacidad para actuar ante eventuales incumplimientos: una universidad con
equipos técnicos, asesoramiento jurídico, infraestructura propia y capacidad de
negociación con proveedores puede integrar nuevas tecnologías en condiciones
diferentes de otra que dependa de versiones gratuitas, servicios externos y estructuras
decisionales dispersas o escasamente coordinadas.
La aplicación uniforme de un mismo principio a instituciones
con capacidades diferentes puede producir resultados desiguales, y esto ocurre
tanto entre universidades como entre facultades de una misma institución.
En IA, los grandes sistemas son desarrollados, mantenidos y
modificados por actores externos a las universidades y sus mecanismos no son
necesariamente transparentes, están sujetos a condiciones de uso, funciones y
costos que pueden cambiar por decisiones ajenas a las instituciones educativas
sobre las cuales no tiene control alguno.
Esta cuestión ha sido ampliamente trabajada en otras áreas
de la gobernanza tecnológica, pero sigue estando insuficientemente incorporada
a la discusión universitaria sobre IA: se pretende gobernar una tecnología
sobre la cual las instituciones educativas poseen capacidades de control
limitadas. Veamos algunas de esas limitaciones.
Infraestructura
La infraestructura necesaria para trabajar con IA incluye la
disponibilidad de acceso a Internet y computadoras, capacidad de procesamiento,
almacenamiento seguro, servicios de nube, redes estables, mantenimiento,
asistencia técnica especializada y mecanismos de ciberseguridad, entre otros
elementos, que no deben ser evaluados únicamente en términos cuantitativos: las
necesidades de cómputo, almacenamiento y conectividad varían según las
disciplinas y los usos previstos, lo que lleva a que indicadores aparentemente
equivalentes puedan ocultar diferencias sustantivas de calidad y suficiencia,
tanto entre universidades como entre facultades de una misma institución.
Desde esta perspectiva, la recomendación de poner énfasis en
herramientas de inteligencia artificial generativa (IAG) “que son de acceso
abierto o de bajo costo” (Sánchez Mendiola & Carbajal Degante, 2023, p. 80)
puede reducir barreras de entrada, pero no elimina las desigualdades derivadas
de las diferencias entre versiones, capacidad de cómputo, soporte técnico,
seguridad y acceso a funciones avanzadas, ni la generación de nuevas formas de
estratificación entre instituciones, docentes y estudiantes.
Los debates sobre ética universitaria deberían incorporar,
por ello, una dimensión de autonomía estratégica, entendida no como
autosuficiencia tecnológica, sino como la capacidad institucional para evaluar
sistemas, comparar alternativas, negociar condiciones, limitar usos, elegir
entre distintos proveedores y sustituir tecnologías cuando dejan de cumplir los
requisitos técnicos, jurídicos o éticos establecidos por la institución.
Capacidades humanas como infraestructura
El desarrollo de capacidades para trabajar con IA debe
alcanzar a todas las personas que integran el ámbito universitario:
autoridades, equipos de gestión, docentes, personal nodocente, investigadores y
estudiantes.
La formación es parte de la infraestructura institucional
necesaria para gobernar la tecnología, y no debe limitarse a aprender a
redactar prompts eficaces o a utilizar las funciones disponibles en una
aplicación: las personas involucradas necesitan comprender, al menos en
términos básicos, cómo funcionan los sistemas de IA, qué son los sesgos, cómo
pueden producirse, qué riesgos para la privacidad presentan y cuáles son sus
posibles efectos sobre la enseñanza, la evaluación, la investigación y la
gestión, así como contar con espacios institucionales de consulta, orientación
y formación.
Las exigencias de capacitación deben aumentar conforme
crecen la responsabilidad institucional de una persona y el impacto potencial
de los sistemas con los que trabaja, porque no requiere las mismas capacidades
quien utiliza una herramienta para organizar materiales de estudio que quien
decide su incorporación a un proceso de evaluación, asignación de recursos o
gestión de trayectorias académicas.
La formación debe ser continua y situada, ya que los
sistemas cambian rápidamente, incorporan nuevas funciones y modifican sus
condiciones de uso, y lo mismo ocurre con las necesidades de las disciplinas y
actividades propias del entorno universitario: estudiar, enseñar, investigar y
gestionar con IA requieren de habilidades diferentes.
La universidad necesita formar usuarios críticos, no
limitarse a certificar competencias instrumentales.
Transparencia
En las discusiones sobre ética universitaria, la
transparencia suele abordarse principalmente como una obligación de
estudiantes, investigadores y docentes de declarar que se utilizó una
herramienta de IA, explicar con qué finalidad se empleó o conservar un registro
de las instrucciones dadas al sistema, medidas útiles pero que solo responden a
una parte del problema.
Las exigencias de transparencia deben alcanzar a las propias
instituciones y a los proveedores de tecnología: una universidad que pretenda
hacer operativos sus principios éticos necesita conocer, como mínimo, qué
funciones cumple cada sistema, qué datos recibe, cuánto tiempo los conserva, si
los reutiliza, dónde los procesa y qué mecanismos ofrece para eliminar o
recuperar información.
De poco sirve imponer reglas estrictas a los usuarios si
luego se aceptan, mediante contratos extensos y difíciles de comprender,
condiciones de reutilización de datos por el proveedor, por poner un ejemplo,
que la propia universidad desconoce.
La transparencia técnica absoluta no es posible en el campo
de la IA, pero las empresas que pretendan brindar servicios a una universidad
deberían ofrecer la información requerida por la institución y, al decidir
contrataciones o compras, esa información debería contrastarse con los
principios éticos establecidos.
Las instituciones con mayores capacidades pueden analizar
contratos, realizar pruebas y negociar cláusulas mientras que las que carecen
de esos recursos se ven forzadas a aceptar condiciones estándar.
La cooperación entre universidades puede constituir, en este
punto, una condición previa para compartir capacidades técnicas y jurídicas y
reducir desigualdades de negociación.
Privacidad
El uso educativo de IA implica flujos continuos de información: estudiantes, docentes, investigadores y equipos de gestión pueden
introducir en los sistemas trabajos académicos, evaluaciones, datos de
investigación, antecedentes personales e información institucional.
La advertencia genérica de no cargar información sensible es
insuficiente, entre otras razones, porque no siempre existe conciencia ni
acuerdo claro acerca de qué información debe considerarse sensible.
La privacidad reaparece así como una cuestión de capacidades
y deja ver la tensión que existe entre la necesidad de registrar interacciones
o conservar evidencias y el posible aumento de las formas de vigilancia sobre
estudiantes y trabajadores universitarios que los registros habilitan.
Esta tensión se agrava por la asimetría propia de la
relación educativa: cuando una plataforma es obligatoria para cursar, enseñar o
ser evaluado, la aceptación de sus condiciones no constituye una elección libre,
y lo mismo ocurre cuando una institución impone a su personal el uso de determinados
entornos digitales para desarrollar sus tareas.
Supervisión humana
Chan y Colloton (2024, p. 150) sostienen que “la adopción de
tecnologías de inteligencia artificial en entornos académicos requiere un
enfoque estructurado para supervisar y evaluar su implementación”.
La supervisión humana (human in the loop) se presenta
como un refuerzo de otros principios para evitar que las decisiones sean
tomadas por una máquina, haciendo que un sistema puede sugerir o asistir, pero dejando
la decisión final bajo responsabilidad humana. Esa fórmula es insuficiente si
no se determina quién supervisa, qué debe supervisar y qué facultades posee
cuando detecta un problema.
Además, la responsabilidad humana exige competencia, tiempo,
información y autoridad para modificar, cuestionar o rechazar los resultados
del sistema, porque ninguna persona ejerce un control real cuando está limita a
validar resultados que no comprende o el volumen de decisiones hace
materialmente imposible su revisión.
También resulta necesario distinguir entre niveles de riesgo:
no es lo mismo utilizar IA para organizar bibliografía que emplearla para
decidir el acceso de un estudiante a una asignatura, asignar recursos o evaluar
su desempeño, y cuanto mayor sea el impacto posible sobre derechos,
trayectorias académicas o distribución de recursos, mayores deberían ser las
obligaciones de documentación, control, revisión y capacitación.
Para que no se reduzca a una observación pasiva de
resultados, la supervisión humana debe complementarse con canales claros y
operativos para informar incidentes y cuestionar decisiones: estudiantes,
docentes, investigadores y personal nodocente deben saber ante quién reclamar,
qué procedimiento se aplica y qué medidas pueden adoptarse.
Los esfuerzos de las universidades argentinas
Las universidades argentinas han comenzado a elaborar
instrumentos internos para orientar el uso de la IA, aunque con alcances y
niveles de operatividad diferentes.
La Universidad
Nacional de Cuyo incorporó, mediante la Resolución 262/2026 del Consejo
Superior, los Principios para el uso responsable de la IAG, donde se hace
referencia a centralidad humana, integridad académica, protección de datos,
accesibilidad, soberanía tecnológica, trazabilidad y evaluación institucional, se
prevén apoyos para estudiantes, docentes y personal nodocente y criterios de
auditoría.
La Universidad
Tecnológica Nacional adoptó un instrumento más acotado: su Resolución 279/2026
establece una guía para el uso de la IAG en cursos y desarrollos de tesis de
posgrado, incorporando exigencias de supervisión y control humanos,
responsabilidades diferenciadas de docentes, estudiantes, directores y
evaluadores y revisión de las condiciones contractuales de las herramientas que
se utilizan para prevenir riesgos sobre la propiedad intelectual.
La Universidad
Nacional del Nordeste siguió una vía diferente: en su Resolución 9323/2025
aprobó un reglamento para la implementación y uso del sistema institucional “IA
UNNE”, instrumento que articula principios de transparencia, explicabilidad,
protección de datos, minimización de sesgos y responsabilidad con mecanismos de
consentimiento informado, validación humana, trazabilidad, auditoría y
actualización.
En universidades de mayor tamaño y descentralización, como
la Universidad de Buenos Aires y la Universidad Nacional de La Plata, las
respuestas aparecen distribuidas entre nivel central y unidades académicas.
En la UBA, la Facultad de Ciencias Económicas aprobó una
normativa propia para regular el uso académico de IA, mientras que la Facultad
de Derecho desarrolló un programa piloto orientado a la alfabetización y al uso
estratégico y responsable de IA generativa en la práctica jurídica. No existe,
sin embargo, una política única de alcance general para todas las facultades.
En la UNLP se creó una Mesa de Inteligencia Artificial
integrada por autoridades, docentes, investigadores y personal nodocente de
distintas unidades académicas, mientras que diferentes facultades adoptaron sus
propios documentos, entre ellos una guía práctica para docentes elaborada en la
Facultad de Ciencias Jurídicas y Sociales. Tampoco existe en la UNLP un
reglamento general aplicable a todas las funciones y unidades de la
universidad.
Estos casos muestran una variedad de respuestas: principios
rectores, guías obligatorias, reglamentos de sistemas institucionales, mesas de
coordinación y orientaciones sectoriales y constituyen avances relevantes, pero
la capacidad efectiva para implementarlos, controlar su cumplimiento y
revisarlos periódicamente continúa siendo una cuestión abierta.
Primeros pasos básicos
Frente a estos avances y limitaciones, es necesario pasar de
las declaraciones generales a mecanismos concretos de conocimiento, decisión y control.
El primer paso debería ser mapear los sistemas utilizados y
sus funciones, los datos que procesan y las condiciones contractuales
aplicables, los riesgos y controles existentes y las capacidades y
responsabilidades distribuidas dentro de la institución, porque sin esa
información inicial, los principios corren el riesgo de permanecer
desconectados de las prácticas reales.
A partir de ese diagnóstico, cada universidad puede revisar
los instrumentos existentes para incorporar casos no previstos, identificar
brechas, establecer prioridades sobre bases como la capacidad de generar daño,
la extensión del uso de un sistema o sus posibles impactos sobre derechos y
trayectorias académicas.
El cambio acelerado de las tecnologías digitales exige
estructuras suficientemente flexibles y con capacidad de respuesta, por lo que
las políticas institucionales deberían prever mecanismos de evaluación
periódica con participación de rodos los actores afectados, canales de reclamo
y facultades para suspender usos cuando no existan garantías suficientes.
Ese trabajo requiere coordinación entre facultades,
especialmente en universidades grandes y descentralizadas: estructuras como la
Mesa de Inteligencia Artificial creada por la UNLP, que reúne representantes de
todas sus facultades, pueden cumplir esa función si cuentan con
responsabilidades, recursos y mandatos claros.
Conclusión
La gobernanza ética de la IA en la educación superior
depende de la capacidad de convertir principios declarativos en decisiones,
procedimientos y mecanismos de control, y ello requiere de información,
infraestructuras, capacidades humanas, asesoramiento técnico y jurídico,
distribución de responsabilidades y vías accesibles de reclamo.
También exige distinguir los diferentes ámbitos de actividad
universitaria: la gestión, la investigación y la docencia presentan riesgos,
actores y necesidades de control diferentes, por lo que una política general
puede establecer principios básicos compartidos, pero su aplicación debe
atender a los elementos diferenciadores.
Desarrollar estas capacidades implica tiempo de trabajo,
equipos, programas de formación e inversión sostenida, y aquí debo ser
especialmente claro: sin financiamiento suficiente, las universidades
difícilmente podrán otorgar a la gobernanza de la IA la prioridad que debe
tener.
Sin recursos, responsabilidades definidas, capacidades
profesionales y procedimientos efectivos de control, los principios éticos
seguirán funcionando como meras declaraciones institucionales de gobierno de la
IA.
La formación de profesionales y ciudadanos de un mundo que
ya es digital obliga a tomar el tema de forma seria y urgente, única forma de
cumplir con la responsabilidad de las universidades de lograr que sus egresados
estén capacitados para servir a las necesidades de las sociedades en que
realizan sus tareas.
Referencias
Chan, C. K.
Y., & Colloton, T. (2024). Generative AI in higher education: The
ChatGPT effect. Routledge.
https://doi.org/10.4324/9781003459026
Miao, F.,
& Cukurova, M. (2024). Marco de competencias para docentes en materia de
IA. UNESCO. https://doi.org/10.54675/AQKZ9414
Reimers,
F., Azim, Z., Palomo, M.-R., & Thony, C. (2026). Artificial intelligence and
education in the Global South: A systems perspective. Springer Nature
Switzerland. https://doi.org/10.1007/978-3-032-11449-5
Sánchez Mendiola, M., & Carbajal Degante, E. (2023). La inteligencia artificial generativa y la educación universitaria: ¿Salió el genio de la lámpara? Perfiles Educativos, 45(número especial), 70–86. https://doi.org/10.22201/iisue.24486167e.2023.Especial.61692