Los modelos de lenguaje actuales son capaces de construir argumentos complejos, escribir código, resumir información y mantener conversaciones sorprendentemente convincentes. Sin embargo, estas capacidades no demuestran necesariamente que comprendan aquello que expresan. El avance de la inteligencia artificial obliga así a revisar qué entendemos realmente por inteligencia y dónde se encuentra la frontera entre producir razonamientos y comprender su significado.
Los modelos de lenguaje pueden razonar sin asumir lo que dicen
Un modelo de lenguaje puede defender con aparente solidez una política pública controvertida y, pocos segundos después, elaborar un argumento igualmente convincente en sentido contrario. En una persona, semejante cambio podría interpretarse como flexibilidad intelectual, habilidad retórica u oportunismo. En una máquina, la explicación puede ser mucho más sencilla: recibió una instrucción diferente.
Encadenar argumentos no equivale necesariamente a comprender qué significan, por qué son relevantes o cuáles son sus límites. Tampoco supone asumir responsabilidad por las consecuencias de una afirmación.
En los seres humanos, estas facultades suelen aparecer relacionadas y habitualmente las agrupamos bajo el concepto de inteligencia. El desarrollo de la IA obliga, sin embargo, a diferenciarlas.
La antigua distinción entre ratio e intellectus
La tradición aristotélica y escolástica ya disponía de conceptos útiles para abordar esta cuestión: ratio e intellectus. Tomás de Aquino no los consideraba dos capacidades independientes, sino dos formas de operar de una misma facultad intelectual.
La ratio avanza mediante comparaciones, inferencias y justificaciones. El intellectus, en cambio, se refiere a la capacidad de captar una verdad sin recorrer necesariamente toda una cadena de razonamientos.
Aplicar directamente estos conceptos a la inteligencia artificial requiere cautela, porque fueron concebidos para describir la mente humana. Aun así, la analogía permite entender una característica de los sistemas actuales: una máquina puede organizar información, completar argumentos y generar secuencias que presentan la estructura de una inferencia sin que eso demuestre una comprensión equivalente a la humana.
De Turing y Shannon a los grandes modelos de lenguaje
La idea de convertir el razonamiento en un proceso formal tiene siglos de historia. En el siglo XVII, Thomas Hobbes describió el razonamiento como una forma de cálculo. Mucho después, en 1950, Alan Turing propuso evitar la ambigua pregunta de si las máquinas podían pensar y planteó su conocido juego de imitación: determinar si una persona podía distinguir, mediante una conversación escrita, entre un ser humano y una máquina.
La prueba proporcionó un marco experimental extraordinariamente influyente, aunque una conversación convincente no resuelve por sí misma qué significa realmente pensar o comprender.
La generación estadística del lenguaje tampoco comenzó con los actuales sistemas de IA. En 1913, Andréi Márkov estudió manualmente las primeras 20.000 letras de Eugenio Oneguin, de Aleksandr Pushkin, para analizar la dependencia estadística entre vocales y consonantes.
En 1948, Claude Shannon desarrolló aproximaciones al inglés seleccionando letras y palabras según la probabilidad de que aparecieran después de otras. Cuanto mayor era el contexto considerado, más naturales parecían las secuencias, aunque detrás de ellas no existiera necesariamente una intención comunicativa.
Predecir la siguiente palabra no significa comprobar la verdad
Los modelos modernos son incomparablemente más sofisticados. Procesan enormes cantidades de información y aprenden relaciones gramaticales, conceptuales y discursivas muy complejas. Esto les permite continuar argumentos, programar, resumir documentos o reproducir determinados estilos de escritura.
Sin embargo, una parte esencial de su entrenamiento consiste en predecir una continuación plausible dentro de un contexto. Ese objetivo no equivale automáticamente a verificar que una afirmación sea verdadera.
Por eso, un mismo sistema puede producir una explicación correcta y, en otra ocasión, una afirmación falsa pero perfectamente verosímil. La fluidez del lenguaje no constituye por sí sola una garantía de verdad.
El debate sobre si la IA comprende realmente
Entre los investigadores no existe consenso. Algunos lingüistas sostienen que aprender las estructuras del lenguaje sin relacionarlas con una situación comunicativa y un mundo compartido resulta insuficiente para adquirir significado.
Otros especialistas consideran que las complejas relaciones conceptuales desarrolladas internamente por los modelos podrían representar ya alguna forma de significado.
La capacidad de mantener conversaciones naturales no resuelve esta controversia. Lo que sí demuestra el rendimiento actual es que los sistemas han aprendido regularidades extraordinariamente sofisticadas. Pero acertar una respuesta no prueba necesariamente que comprendan por qué es correcta.
Desde esta perspectiva, los modelos actuales son herramientas extraordinarias para determinadas operaciones asociadas a la ratio, aunque todavía no hayan demostrado poseer aquello que históricamente se ha denominado intellectus.
Medicina, derecho y ciencia muestran dónde está el límite
La diferencia resulta especialmente importante cuando las respuestas de una IA tienen consecuencias en el mundo real.
En medicina, un sistema puede resumir un historial clínico o sugerir posibles diagnósticos. Sin embargo, corresponde al profesional sanitario identificar qué información falta, conversar con el paciente y responsabilizarse de las decisiones terapéuticas.
En derecho, una herramienta puede preparar rápidamente un documento aparentemente convincente, pero el abogado debe verificar las fuentes, validar el contenido y asumir las consecuencias profesionales.
Algo parecido ocurre en ciencia. Una IA puede proponer una hipótesis, mientras que el investigador debe decidir qué experimento permite contrastarla y qué conclusiones pueden extraerse legítimamente de los datos.
La máquina puede intervenir en la cadena del razonamiento, pero la generación del texto no transfiere automáticamente comprensión ni responsabilidad.
El riesgo de redefinir la inteligencia humana
Existe también una dimensión cultural. Si consideramos inteligente a una máquina únicamente por los resultados que produce, podríamos acabar definiendo la inteligencia humana según las capacidades en las que los sistemas automatizados destacan: rapidez, volumen de producción y corrección formal.
Empresas, administraciones y medios de comunicación tienen incentivos para valorar precisamente esas características. En ese contexto, dedicar tiempo a contrastar fuentes, reconocer incertidumbres, deliberar o reconsiderar una posición puede parecer menos productivo.
El peligro es reducir la inteligencia al rendimiento medible y dejar en segundo plano el juicio necesario para determinar qué hacer con ese rendimiento.
Simular inteligencia no significa necesariamente reproducirla
En 1955, la propuesta del proyecto de investigación de Dartmouth popularizó la expresión “inteligencia artificial”. Sus impulsores planteaban que los aspectos del aprendizaje y la inteligencia podían describirse con suficiente precisión como para ser simulados por una máquina.
La palabra clave es precisamente “simular”. Reproducir con enorme eficacia determinados rasgos asociados a la inteligencia no demuestra necesariamente que se haya reconstruido todo aquello que entendemos por inteligencia.
Setenta años después, los avances han superado muchas de las expectativas iniciales. Hoy existen sistemas capaces de ampliar las capacidades humanas y automatizar una parte considerable del trabajo intelectual y discursivo.
Pero reconocer la magnitud de estos avances no obliga a equiparar rendimiento y comprensión. La inteligencia no consiste únicamente en ofrecer una respuesta correcta: también implica entender por qué lo es, reconocer cuándo deja de ser válida y decidir responsablemente qué hacer con ella.
Fermín Picano es colaborador de Diario Bernabéu y se dedica a la cobertura de temas de actualidad, deportes, negocios, tecnología, entretenimiento y estilo de vida. Su trabajo se centra en ofrecer información clara, precisa y fácil de entender, ayudando a los lectores a mantenerse al día con los acontecimientos más relevantes. Con un enfoque en el contexto y la utilidad de cada historia, busca presentar contenidos informativos y de interés para una audiencia amplia y diversa.
More Stories
Garmin revoluciona la serie Instinct con una actualización clave para los corredores
Revolut incorpora ChatGPT Go a sus planes de pago: así puedes obtener hasta un año de acceso sin coste adicional
Gemini supera a ChatGPT en Android gracias a su integración nativa con el ecosistema de Google