Por Javier Surasky
La inteligencia artificial generativa puede describirse como una tecnología capaz de producir respuestas a partir de la exploración de un espacio latente de posibilidades y que producen impacto social.
La metáfora de la Biblioteca de Babel de Borges es útil para
entender ese espacio latente, porque, al igual que en la biblioteca infinita
del cuento, los modelos de lenguaje pueden generar textos verdaderos, falsos,
plausibles o correctos por accidente, de modo que pensar la IA desde el cuento
borgeano permite comprender mejor sus alucinaciones, los límites de la
verificación y la diferencia entre producir lenguaje y producir conocimiento,
al mismo tiempo que echa luz sobre un espacio de opciones textuales, visuales y
conceptuales sumamente denso que no llegamos a ver, pero desde el cual los
modelos generativos producen sus respuestas.
Dentro de ese espacio, que es interno al modelo de trabajode cada IA, y del que pronto hablaremos como “espacio latente”, uno de los
mayores problemas que enfrentan los modelos ante nuestras consultas es
orientarse entre formas de lenguaje que pueden ser verdaderas, falsas,
parciales, plausibles, absurdas o correctas por accidente.
Estoy convencido de que una de las metáforas más útiles para
entender ese espacio y su funcionamiento proviene de Borges, y más
particularmente de su cuento “La biblioteca de Babel”, en el que la Biblioteca
aparece como un mundo completo, abierto ante el narrador como “El universo (que
otros llaman la Biblioteca)” (Borges, 1984, p. 465), lo que la ubica como un
entorno total de experiencia y no como un archivo exterior al sujeto que la
recorre.
De la Biblioteca de Babel al espacio latente de la IA
La Biblioteca de Borges pertenece a la literatura: tiene la
forma de un edificio y sus habitantes recorren galerías, buscan libros, leen
signos e intentan encontrar algún principio de orden.
El espacio latente de una IA pertenece a otro entorno ya que
su arquitectura es computacional, y puede entenderse como una zona interna al
modelo sobre la que este organiza patrones aprendidos durante su entrenamiento.
Es un espacio matemático en el que palabras, imágenes, conceptos y relaciones
se transforman en vectores, coordenadas numéricas que le permiten a la IA
ubicar y comparar significados dentro de este espacio latente y agruparlos según
proximidades, diferencias y asociaciones.
La literatura sobre modelos de lenguaje está prestando cada
vez más atención al espacio latente como nivel interno de procesamiento y
representación, una aproximación que permite ver que procesos relevantes de losmodelos de IA se desarrollan en un plano “invisible” al usuario, oculto tras el
telón de las palabras generadas, que se configura como un espacio multidimensional
y continuo donde se organizan relaciones, trayectorias y posibilidades de
generación de respuestas (Yu et al., 2026) ya no como repetición de frases
guardada sino a partir de las posibilidades que le brinda al sistema lo que ha
aprendido: términos que suelen aparecer juntos, estructuras de idioma más probables
para ciertos contextos, relaciones entre unidades léxicas, entre muchas otras.
Si la Biblioteca borgeana es un edificio que organiza
posibilidades textuales, el espacio latente es una arquitectura computacional
que organiza posibilidades generativas, por lo que comparten una suerte de
interioridad estructurada que excede la capacidad humana de recorrido.
En Borges, los libros están desplegados en una combinatoria
total y en la IA, las respuestas aparecen durante el acto generativo, pero aun
así la experiencia puede parecerse: se formula una pregunta y aparece un texto
que parece haber sido encontrado en alguna región de sentido dentro de un
universo multidimensional que escapa a nuestro pleno entendimineto.
Por qué la IA generativa se parece a la Biblioteca de Babel
Como dijimos, el espacio latente puede pensarse como una
Biblioteca de Babel generativa en tanto ambas arquitecturas vinculan
posibilidad, búsqueda, verdad, error y orientación.
Borges es explícito al decir que en los estantes de la
biblioteca se encuentran “todas las posibles combinaciones” de los símbolos
(Borges, 1984, p. 467), una totalidad que genera una paradoja: si todo está
allí, están la verdad, sus versiones falsas, las refutaciones correctas y las
refutaciones erróneas. Al igual que ocurre con una respuesta generada por IA, la
aparición de un texto carece de garantía suficiente de verdad. La forma del
sentido puede separarse del sentido y la forma de la verdad puede separarse de
la verdad.
La Biblioteca contiene el catálogo correcto de sus
contenidos, pero también “miles y miles de catálogos falsos” (Borges, 1984, p.
467). Esa imagen es central para pensar la IA generativa: un sistema que puede
producir respuestas convincentes y erróneas, citas inexistentes, o síntesis que
mezclan hechos reales con inferencias frágiles no porque la verdad no esté
disponible para el sistema o porque no pueda decir que no la encuentra, sino
porque se ha disociado de la pregunta que responde, perdida en un espacio de
millones de vectores, ciertos y falsos, aplicables e inaplicables.
La literatura sobre alucinaciones en grandes modelos de lenguaje,
por ejemplo, describe un problema cercano a esa intuición: los LLM pueden
producir “contenido aparentemente plausible, pero sin sustento factual” (Huang
et al., 2025, p. 1) aun cuando al hacerlo adopten la forma del conocimiento. El
contenido se disocia de la realidad en el laberinto sin paredes del espacio
latente.
En Borges, hallar un catálogo falso dentro de la Biblioteca
promete orientación y conduce al extravío, mientras que, en la IA, una
respuesta puede presentarse como explicación y descansar sobre asociaciones
débiles, datos erróneos o inferencias inválidas. En ambos casos hay falsedad vestida
con ropajes de saber.
Alucinaciones de IA, verdad accidental y verificación
Hay una posibilidad todavía más inquietante: la verdad
accidental.
Un lector de la Biblioteca puede encontrar por azar un libro
verdadero, una biografía exacta, una predicción correcta, pero ese hallazgo no
demuestra que haya comprendido el orden de la Biblioteca. Puede haber llegado
al libro verdadero por un camino falso o azaroso.
Lo mismo ocurre con la IA, donde un modelo puede producir
una respuesta correcta por razones equivocadas: una regularidad estadística
coincide con el dato verdadero, una asociación superficial lleva al resultado
adecuado, el prompt activa una zona densa de información válida ubicada dentro
del espacio latente.
El resultado puede ser útil, pero el proceso será poco
confiable, lo que obliga a distinguir entre verdad y conocimiento, porque una
respuesta correcta no alcanza cuando desconocemos por qué es correcta. Para
hablar de conocimiento, la verdad necesita justificación más allá del azar del
que las matemáticas (y el aprendizaje profundo) no pueden liberarse por
completo.
Frente a ello se vuelven relevantes los criterios externos de verificación, porque el texto no puede ser su propio tribunal de su verdad.
Un libro encontrado al azar que afirme un hecho histórico
necesita contraste: documentos, archivos, testimonios, registros o evidencias,
y la respuesta de una IA que afirme una fecha, cite una resolución, atribuya
una frase o explique una norma requiere fuentes verificables.
Aquí aparece una diferencia importante entre la estructura
de la Biblioteca de Babel y la IA: la primera se presenta como un universo
cerrado que lo contiene todo, incluso versiones verdaderas y falsas de los criterios
de evaluación de los libros que contiene, dando lugar a una clausura sobre sí
misma casi metafísica.
En cambio, la IA sí nos permite salir del texto generado
para revisar una fuente, consultar una base de datos, verificar una ley, etc.
Esto abre un espacio de exterioridad, pero de una exterioridad que no está
libre de contaminación: si el ecosistema informacional se llena de textos
sintéticos, citas fabricadas, contenidos reciclados y referencias falsas, nos
encierra en el mismo espacio, ahora digital, que propone la Biblioteca.
Explicabilidad: el catálogo imposible de los modelos de lenguaje
La comparación con Borges también ilumina el debate sobre
explicabilidad. El narrador nos dice haber peregrinado en busca de un libro,
quizá del “catálogo de catálogos” (Borges, 1984, p. 465), una búsqueda que se
parece mucho al impulso contemporáneo por abrir la caja negra de la IA que Zhao
et al. describen, al hablar de los LLMs, como sistemas complejos de caja negra:
“sus mecanismos internos de funcionamiento son opacos” (Zhao et al., 2024, p. 2).
Y, sin embargo, entender por qué un sistema produjo una
respuesta, qué patrones activó, qué sesgos arrastra y qué trayectorias son
confiables es necesario, pero hay límites que parecen infranqueables:
difícilmente, porque dejo aquí un espacio para el azar y la duda, daremos con
el “catálogo total” que abarque la solución a todos los casos posibles de falta
de transparencia.
Necesitamos sistemas más confiables, con menos errores,
mejores fuentes, mayor reconocimiento de la incertidumbre, capacidad de
abstenerse, trazabilidad y auditoría, pero que una IA sea capaz de entregar
siempre respuestas verdaderas supone que la verdad está disponible como objeto
estable, y esto no es así.
Conclusión: más lenguaje no significa más conocimiento
La IA corre el riesgo de convertirse en un oráculo cuando se
le atribuye la capacidad de resolver la relación entre lenguaje, mundo y
verdad.
Hay verdades empíricas que admiten verificación
relativamente clara y hay cuestiones interpretativas donde intervienen marcos
conceptuales, valores, intereses y contextos. Tratar ambos planos como
equivalentes lleva al error.
La Biblioteca de Babel advierte sobre la desproporción entre
información, sentido y verdad al destacar que la abundancia textual puede tanto
orientar como extraviar o, en palabras de Borges, que la certidumbre de que
todo está escrito “nos anula o nos afantasma” (Borges, 1984, p. 470). Borges no
anticipó los embeddings, los pesos ni los Transformers, sino que jugó en
términos literarios con la idea de una arquitectura en la que la abundancia
textual destruye la ilusión de que más lenguaje o más datos equivalgan a más
conocimiento.
El espacio latente se vuelve así una Biblioteca de Babel sin
estantes a la vista: una arquitectura de posibilidades que entrega textos, pero
no necesariamente verdades ni conocimiento.
Así visto, la IA generativa nos enfrenta a una nueva
condición de lectura: estamos rodeados de textos que parecen haber sido el
resultado de una búsqueda en un campo inmenso de conocimiento y que, en
realidad, han sido generados por operaciones matemáticas que no pueden computar
el valor de la verdad ni el del conocimiento. Son textos que parecen
explicativos cuando son aproximaciones informadas, pero se toman como verdaderos
cuando requieren verificación.
Si Borges hace de la Biblioteca de Babel una pesadilla
literaria sobre el exceso de sentido, la IA generativa puede convertir esa
pesadilla en infraestructura digital de uso cotidiano al que acudimos felices y
engañados.
Referencias
Borges, J. L. (1984). La biblioteca de Babel. En Obras
completas 1923–1972 (pp. 465–471). Emecé. (Obra original publicada en 1941)
Huang, L., Yu, W., Ma, W., Zhong, W., Feng, Z., Wang, H.,
Chen, Q., Peng, W., Feng, X., Qin, B., & Liu, T. (2025). A survey on hallucination in large
language models: Principles, taxonomy, challenges, and open questions. ACM Transactions on Information
Systems. https://doi.org/10.1145/3703155
Yu, X.,
Chen, Z., He, Y., Fu, T., Yang, C., Xu, C., Ma, Y., Hu, X., Cao, Z., Xu, J.,
Zhang, G., Tao, J., Zhang, J., Ma, S., Feng, K., Huang, H., Li, Y., Chen, R.,
Wang, H., Wu, C., et al. (2026). The latent space: Foundation, evolution,
mechanism, ability, and outlook. arXiv. https://doi.org/10.48550/arXiv.2604.02029
Zhao, H., Chen, H., Yang, F., Liu, N., Deng, H., Cai, H., Wang, S., Yin, D., & Du, M. (2024). Explainability for large language models: A survey. ACM Transactions on Intelligent Systems and Technology, 15(2), Article 20. https://doi.org/10.1145/3639372