Investigadores de la UPV y Cambridge alertan de las limitaciones de modelos como ChatGPT y proponen soluciones

En los últimos años, la inteligencia artificial (IA) ha experimentado un crecimiento sin precedentes. Herramientas como ChatGPT, capaces de mantener diálogos fluidos o redactar textos complejos en cuestión de segundos, se han convertido en parte del día a día de millones de personas en todo el mundo. Sin embargo, detrás de su aparente brillantez se esconde un desafío fundamental: la dificultad de estos modelos para entender y mantener el contexto de una conversación o tarea.

Un estudio conjunto de la Universitat Politècnica de Valencia (UPV) y la Universidad de Cambridge advierte de estas limitaciones y plantea la necesidad de replantear el modo en que la IA procesa la información. Según los investigadores, aunque las máquinas logran generar frases correctas y coherentes, con frecuencia pierden la referencia al entorno, al pasado de la conversación o al sentido lógico de los enunciados.

El problema de la “memoria corta” en la IA

La mayoría de los modelos de lenguaje actuales trabajan con lo que se denomina una ventana de contexto: un espacio limitado en el que cabe solo una cantidad determinada de texto. Una vez se supera ese límite, el sistema empieza a olvidar lo anterior.

Esto explica por qué, en conversaciones largas, la IA puede contradecirse, repetir ideas o ignorar datos mencionados previamente. Para los investigadores de la UPV y Cambridge, se trata de una carencia estructural: “El modelo no tiene una memoria real; únicamente calcula la probabilidad de la siguiente palabra en función de lo que ha leído dentro de su ventana activa”.

Carencias en el razonamiento lógico

El estudio también apunta a la dificultad de la IA para resolver ambigüedades. Un ejemplo clásico:

“María olvidó su paraguas en el coche de Ana porque estaba roto”.

Un ser humano entiende que lo roto es el paraguas, no el coche. Sin embargo, los modelos de lenguaje pueden equivocarse, porque carecen de un sistema de razonamiento simbólico que relacione entidades y acciones.

Esta falta de comprensión profunda tiene implicaciones serias en campos como la educación, la medicina o el derecho, donde una interpretación incorrecta del contexto puede derivar en errores graves.

Propuestas para un futuro con IA más consciente

Los expertos de ambas universidades no se limitan a señalar el problema; también proponen líneas de mejora que podrían marcar un antes y un después en la forma en que utilizamos estas herramientas.

1. Memoria persistente y estructurada

En lugar de limitarse a una ventana de texto, los sistemas deberían contar con una memoria a largo plazo, capaz de recordar interacciones pasadas y organizarlas de manera jerárquica. Así, la IA podría dar seguimiento a proyectos largos o conversaciones recurrentes con mayor coherencia.

2. Modelos híbridos

Combinar lo mejor de dos mundos: la potencia predictiva de los modelos estadísticos con mecanismos de razonamiento lógico o simbólico. Esto permitiría a la IA no solo producir texto correcto, sino también inferir relaciones causales y deducciones más complejas.

3. Acceso a bases de conocimiento externas

La IA debería poder consultar de manera automática y segura bases de datos verificadas, documentos oficiales o fuentes académicas para completar la información y evitar caer en invenciones o “alucinaciones”.

4. Gestión inteligente de diálogos largos

Se plantea el desarrollo de algoritmos que sean capaces de resumir, jerarquizar y mantener los puntos clave de una conversación extensa, como lo haría un ser humano al tomar notas.

5. Personalización responsable

El futuro pasa por sistemas que se adapten a cada usuario, recordando sus preferencias, estilo de comunicación y necesidades. Eso sí, los investigadores subrayan que esto debe hacerse con transparencia, límites éticos y garantías de privacidad.

6. Trazabilidad y explicabilidad

Para aumentar la confianza, la IA debería ofrecer explicaciones claras sobre cómo llega a una respuesta, permitiendo detectar fallos en el contexto y corregirlos.

Más allá de la técnica: recuperar la confianza social

El estudio recuerda que la inteligencia artificial no solo debe ser eficiente, sino también fiable y comprensible para la sociedad. El reto, señalan, no consiste únicamente en predecir palabras, sino en avanzar hacia sistemas capaces de entender el significado real y mantener el hilo de la interacción.

En un momento en el que la IA se utiliza en educación, sanidad, medios de comunicación y empresas, la capacidad de mantener el contexto y evitar errores de interpretación es crucial.

Conclusión

La advertencia de la UPV y Cambridge es clara: la inteligencia artificial ha recorrido un camino enorme, pero su desarrollo sigue en fase de madurez. Si el futuro pasa por convivir con asistentes inteligentes, estos deberán ser capaces de recordar, razonar y comprender con mayor profundidad.

Mientras tanto, la investigación continúa y deja una reflexión abierta: ¿queremos máquinas que simplemente hablen como humanos, o aspiramos a construir inteligencias que piensen como nosotros?