De vuelta a lo esencial: la IA es el nombre equivocado*

Máquinas inteligentes: no hay tal cosa.

El término ya ha causado suficiente daño. Es hora de decir con claridad qué son estos sistemas, y qué no son.

Lo que llamamos inteligencia artificial no es inteligente. Es secillamente un motor de predicción, técnicamente formidable, operativamente útil pero totalmente desprovisto de lo que su pomposo nombre promete. El error en el etiquetado no es una cuestión menor. Ha condicionado el modo en que las instituciones gobiernan estos sistemas, el marco con que los docentes los presentan a sus estudiantes y la manera en que la sociedad distribuye la responsabilidad cuando fallan.

El término fue acuñado en la Conferencia de Dartmouth de 1956 como una aspiración: un nombre para lo que los investigadores esperaban construir, no para lo que ya habían construido. Lo que tenían era matemática. Lo que hay hoy es una versión mucho más potente de lo mismo: sistemas que estiman la siguiente palabra, etiqueta o decisión a partir de patrones estadísticos extraídos de datos previos. Y así, la aspiración se convirtió en marca y la marca se instaló (como tantas otras cosas en este era de confusión). La confusión que generó no ha hecho sino crecer desde entonces.

Qué hacen realmente estos sistemas

Un modelo de lenguaje de gran escala no comprende el lenguaje. Calcula probabilidades sobre corpus de texto enormes y devuelve la continuación estadísticamente plausible de una secuencia. Un sistema de reconocimiento de imágenes no ve; detecta regularidades en matrices de píxeles etiquetados. Un motor de recomendación no sabe lo que usted quiere; extrapola a partir de correlaciones conductuales en un conjunto de entrenamiento. La escala hace a estos sistemas fluidos y, en ocasiones, sorprendentemente precisos. Pero ello no los hace conscientes, ni intencionales ni capaces de entender el sentido de nada de lo que procesan.

Veamos una analogía clarificadora: una calculadora supera a cualquier ser humano en aritmética sin entender nunca los números. Los sistemas de predicción actuales superan a los humanos en el reconocimiento de patrones —en texto, imágenes, estados de juego y estructuras moleculares— sin entender nada de ello. El rendimiento es real, pero la comprensión no existe.

Esto no es una limitación que la ingeniería vaya a superar en algún momento, aunque S. Altman posiblemente sueñe con ello. Es una propiedad estructural de lo que estos sistemas están construidos para hacer. Están hechos para optimizar, pero no para deliberar.

Lo único que no pueden hacer

El juicio no equivale a predicción. Hay que insistir en la distinción porque es precisamente allí donde el discurso público sobre la IA colapsa con mayor frecuencia.

La predicción es inferencia desde datos anteriores para llegar a un resultado probable. El juicio es la capacidad de actuar bajo incertidumbre genuina: cuando los datos son incompletos, cuando los valores entran en conflicto, cuando la situación es tan nueva como para que ningún patrón previo pueda aplicarse con claridad. El juicio implica decidir no solo cómo perseguir un objetivo, sino si ese objetivo merece perseguirse. Implica preguntarse si el propio enunciado del problema está distorsionado. Los sistemas de predicción no pueden hacer nada de esto. Optimizan lo que se les entrega y no lo cuestionan.

Todo resultado que produce un sistema de IA está acotado por decisiones humanas previas: qué datos se recogieron, qué función objetivo se definió, qué compromisos se codificaron, y qué se dejó fuera. La inteligencia, en la medida en que la palabra signifique algo aquí, reside en esas decisiones de diseño. El modelo las ejecuta. Cuando el diseño es defectuoso, algo que no es infrecuente, el modelo ejecuta el defecto a escala, con fiabilidad y sin ningún escrúpulo.

— El riesgo real no es una máquina que supere la inteligencia humana. Es un ser humano que deja de ejercer el juicio porque una máquina parece ofrecérselo. —

El peligro que merece nuestra atención no es una superinteligencia desbocada, sino una sobreconfianza institucional. En el momento en que un resultado se trata como definitivo simplemente porque un sistema lo ha producido, el sesgo incrustado en los datos de entrenamiento queda blanqueado como objetividad, el defecto en la función objetivo se adopta como política, y el ser humano, que debería haber cuestionado ambas cosas, ya se ha hecho a un lado.

Lo que las universidades están haciendo mal

Las universidades están, por normativa y tradición, en el negocio de corregir exactamente este tipo de confusión. Existen para afinar distinciones, interrogar supuestos y enseñar a los estudiantes a desarrollar el juicio y resistir la "autoridad del disparate" aunque venga convincentemente formulado. En esta confusión concreta, la mayoría de institutiones están fracasando.

La respuesta institucional dominante a la IA ha consistido en encuadrarla como una amenaza competitiva: algo ante lo que los estudiantes no deben rezagarse, algo que el profesorado debe incorporar, y algo para lo que los gestores deben prever una estrategia. Lo que está casi completamente ausente de este orden de cosas es la pregunta previa y, talvez, más importante: ¿qué es esto, en realidad, y sobre qué base debería alguien confiar en sus resultados?

Enseñar a los estudiantes a usar herramientas de IA sin enseñarles a cuestionar sus resultados no es educación. Es adiestramiento vocacional para un mundo que les pedirá cuentas acerca de decisiones que tomaron basados en sistemas que jamás entendieron. El estudiante que aprende a elaborar instrucciones con fluidez pero no puede evaluar si el resultado es fiable, sesgado o simplemente erróneo ha adquirido un pasivo, no una competencia.

Lo que la educación le debe realmente a los estudiantes

El objetivo no es preparar a los estudiantes para competir con las máquinas en materia predictiva. Las máquinas ya han ganado ese carrera, y lo seguirán haciendo en un número creciente de dominios. Competir con ellas no es una estrategia; es una no entender para qué sirve la educación.

Lo que las máquinas no pueden hacer es precisamente aquello para lo cual la educación ha existido siempre: desarrollar en los estudiantes la capacidad de razonar bajo incertidumbre, de interpretar significados en lugar de procesar patrones, y de asumir responsabilidades sobre las decisiones y sus impactos. Nada de eso puede automatizarse, pero no porque la ingeniería no haya llegado aún hasta ahí, sino porque la rendición de cuentas es esencialmente humana. A un sistema no se le puede atribuir responsabilidad, pero a una persona sí.

Esto significa que la respuesta curricular a la IA es menos técnica de lo que parece. Los estudiantes necesitan entender probabilidad, algoritmos y estructuras de datos; pero esto es un mínimo. Más allá de ello, necesitan epistemología para distinguir correlación de causalidad y para saber cuándo una asociación estadística dice algo real y cuándo no dice nada. Necesitan ética para interrogar los valores embebidos en los datos de entrenamiento y en las funciones objetivo. Necesitan filosofía, no para resolver el tema difícil de la conciencia, sino para ser precisos sobre qué exige realmente la comprensión, de manera que puedan reconocer con claridad cuándo un sistema ha producido algo que se parece a la comprensión pero no lo es.

Las preguntas prácticas que esto genera no son abstractas. Son las preguntas que todo profesional que use estas herramientas debería formularse continuamente: ¿Cuándo es fiable una predicción? ¿Cuándo es una extrapolación aparentemente segura a partir de una distribución que no corresponde a este caso? ¿Cuándo reflejan los datos de entrenamiento el mundo tal como es, y cuándo lo reflejan tal como era, o cómo ciertas decisiones lo hicieron aparecer? ¿Cuándo debe tratarse el resultado de una máquina como punto de partida, y cuándo debe tratarse como puro ruido?

Estas no son preguntas técnicas; son preguntas que atañen al juicio. Requieren exactamente las capacidades que los sistemas de predicción no tienen y que la educación, en su mejor versión, debería ayudar a construir.

El problema terminológico es un problema de gobernanza

Llamar inteligentes a estos sistemas no es solamente impreciso. Es también un fallo de gobernanza en estado latente.

Cuando un sistema se encuadra como inteligente, sus resultados llevan implícita una autoridad que no han ganado. Los auditores se doblegan ante ellos. Los gestores basan en ellos sus decisiones. Los tribunales son llamados a evaluar sus recomendaciones. El sesgo en los datos de entrenamiento, la arbitrariedad de la función objetivo, los efectos no medidos de lo que se excluyó del conjunto de datos —todo eso se obvia ante la autoridad que confiere el nombre. Los seres humanos, que deberían ser responsables de esas decisiones, son más difíciles de identificar y más fáciles de exculpar.

La precisión en el lenguaje no es pedantería. En este caso es una condición previa para la asignación correcta de responsabilidades; es decir, para una gobernanza que funcione.

Lo que tenemos son sistemas de predicción. Son potentes, útiles y transformadores en muchos casos, pero son también incapaces de lo único que su nombre implica. Esa incapacidad no los menoscaba como herramientas. Simplemente define las condiciones en que deben usarse y los límites más allá de los cuales el juicio humano no debe ceder a ellos.

La responsabilidad de la educación superior no es ir trás la ilusión de la inteligencia de las máquinas. Es producir egresados que no se dejen engañar por ella; que usen los sistemas de predicción con precisión, que interroguen sus resultados sin deferencia y que mantengan el juicio que ninguna función de optimización reemplazará jamás.

Eso ha sido siempre la finalidad de la educación. La IA no ha cambiado el destino. Ha agudizado la urgencia de llegar a él.

*Texto editado con ayuda de "IA".

GRG Education publica análisis independiente para líderes de la educación superior. © 2026 GRG Education · grgeducation.net