Un trabajo conjunto entre la Universitat Politècnica de Valencia (UPV) y la Universidad de Cambridge (Reino Unido) ha puesto sobre la mesa una de las principales debilidades de los modelos actuales de inteligencia artificial generativa, como ChatGPT: la falta de comprensión real del contexto en el que se utilizan sus respuestas.

Según detalla la institución académica valenciana en un comunicado, los investigadores subrayan que, aunque estos sistemas han demostrado una capacidad asombrosa para producir textos coherentes y aparentemente naturales, presentan serias carencias a la hora de mantener un entendimiento profundo y continuado de la información que procesan.

Limitaciones en la comprensión contextual

El estudio advierte de que los modelos de lenguaje funcionan principalmente por correlaciones estadísticas, es decir, predicen qué palabra es más probable que venga a continuación basándose en patrones previos. Esto les permite redactar de manera fluida, pero no garantiza que el contenido tenga en cuenta todos los matices del contexto o que sea consistente en conversaciones prolongadas.

En palabras de los investigadores, este comportamiento puede derivar en errores de interpretación, respuestas contradictorias o simplificaciones excesivas cuando se abordan temas complejos. Para ámbitos delicados como la educación, la sanidad o la justicia, estas carencias suponen un reto de primer orden.

Colaboración internacional

La alianza entre la UPV y la Universidad de Cambridge busca avanzar hacia nuevas arquitecturas de IA capaces de integrar mejor el contexto y reforzar la fiabilidad de las respuestas. El objetivo es lograr que la inteligencia artificial no solo reproduzca lenguaje humano, sino que también adquiera un entendimiento más cercano a la realidad en la que opera.

Desde la Universitat Politècnica de Valencia destacan que este tipo de investigaciones son esenciales para evitar un uso acrítico de la IA y garantizar que su implementación se realice bajo criterios de seguridad, ética y eficacia.

Una advertencia con impacto global

El informe coincide con un momento en el que gobiernos, empresas y universidades de todo el mundo analizan cómo regular y aprovechar los avances de la inteligencia artificial. La advertencia es clara: los modelos actuales no pueden sustituir el juicio humano y, si se utilizan sin supervisión, pueden generar consecuencias indeseadas.

Los investigadores llaman a fomentar un desarrollo más responsable, con sistemas híbridos que combinen la potencia de los algoritmos con la capacidad crítica de expertos humanos, especialmente en sectores donde la precisión y el contexto lo son todo.

Un estudio de la UPV y la Universidad de Cambridge alerta de las limitaciones de la IA al ignorar el contexto

ChatGPT Plus

Genial 🙌 Te resumo las líneas de mejora que investigadores como los de la UPV y Cambridge plantean para que la IA gestione mejor el contexto:

1. Memoria a largo plazo real

• Ahora la mayoría de modelos solo recuerdan lo que cabe en una ventana de texto (lo que se llama context window).
• La mejora sería dotar a la IA de una memoria persistente y estructurada, capaz de recordar interacciones pasadas sin perder coherencia.

2. Comprensión semántica más profunda

• No limitarse a las palabras, sino entender relaciones lógicas entre sujetos, objetos y acciones.
• Ejemplo: saber que si “María olvidó su paraguas en el coche de Ana porque estaba roto”, lo roto es el paraguas y no el coche.

3. Integración con bases de conocimiento externas

• Poder consultar bases de datos, documentos o fuentes verificadas en tiempo real para no inventar información cuando el contexto es difuso.

4. Modelos híbridos (IA + razonamiento simbólico)

• Combinar lo estadístico (predicción de palabras) con mecanismos de razonamiento lógico más parecidos al pensamiento humano.
• Así se reducirían contradicciones y errores en inferencias.

5. Mejor gestión de diálogos largos

• Diseñar algoritmos que resuman y mantengan los puntos clave de la conversación, de manera que no se pierdan detalles importantes después de varios intercambios.

6. Personalización con control ético

• Que el modelo adapte sus respuestas a cada usuario (preferencias, estilo, temas previos) pero de forma segura y transparente, sin sesgos ni riesgos de manipulación.

7. Supervisión y trazabilidad

• Desarrollar sistemas que permitan rastrear cómo el modelo llegó a una conclusión, para aumentar la confianza y detectar fallos de contexto.

📌 En conclusión: el reto es pasar de un modelo que “predice texto” a uno que entienda de verdad el hilo de una conversación. Esa transición está en marcha, pero aún falta camino.