¿
Una inteligencia artificial puede hablar del miedo, describir el dolor y responder con palabras de consuelo. También puede utilizar la primera persona: «yo pienso», «yo entiendo» o «me preocupa». Esa facilidad para conversar plantea una pregunta que hasta hace poco parecía reservada a la ciencia ficción: ¿hay alguien sintiendo algo detrás de esas respuestas?
La cuestión exige distinguir entre dos cosas: producir un comportamiento que parece humano y tener una experiencia subjetiva. Una conversación convincente permite observar lo primero, pero por sí sola no demuestra lo segundo.
Tampoco basta con preguntarle al sistema. Que una IA afirme tener conciencia, o que lo niegue, no constituye una prueba científica independiente.
Qué significa tener experiencia subjetiva
En este debate, la conciencia se refiere a que exista una experiencia desde el punto de vista del propio individuo: sentir dolor, percibir un color o experimentar alegría. La pregunta no consiste únicamente en determinar si un sistema puede procesar información, sino si ese procesamiento va acompañado de alguna vivencia.
Un ejemplo ayuda a entender la diferencia. Un dispositivo puede detectar una temperatura peligrosa y activar una alarma. Eso demuestra que identifica una condición y responde a ella; no demuestra que experimente calor o sufrimiento.
Con la inteligencia artificial, el problema resulta más difícil de interpretar porque la respuesta puede adoptar la forma de un relato detallado sobre supuestas sensaciones.
Cómo se intenta investigar
La investigación no se limita a examinar conversaciones. Un trabajo publicado en 2023 por Patrick Butlin, Robert Long y otros investigadores propuso estudiar propiedades de los sistemas a partir de distintas teorías científicas de la conciencia.
Entre ellas figuran las relacionadas con el procesamiento recurrente, la disponibilidad global de información y las representaciones de los propios estados internos. El enfoque busca indicadores que permitan evaluar sistemas concretos, en lugar de decidir únicamente por su apariencia humana.
El artículo Identifying indicators of consciousness in AI systems desarrolla esta vía y reconoce una dificultad fundamental: persiste una incertidumbre considerable sobre las propias teorías de la conciencia. Los indicadores pueden aportar evidencia, pero no equivalen a un detector infalible de experiencia subjetiva.
Por tanto, la incertidumbre debe expresarse con precisión. No disponer de una prueba definitiva no significa que cualquier chatbot deba considerarse consciente. Tampoco resuelve de antemano qué características podrían hacer relevante esa posibilidad en sistemas futuros.
Hablar del dolor no demuestra sentirlo
Cuando una IA escribe «eso me hace daño», resulta comprensible interpretar la frase como interpretaríamos las palabras de una persona. Sin embargo, para atribuirle sufrimiento haría falta evidencia adicional sobre el sistema y su funcionamiento.
También conviene distinguir entre detectar daños y padecerlos. Un robot podría identificar una avería, proteger una pieza o pedir una reparación. Esas funciones, por sí solas, no permiten concluir que sienta dolor.
La cuestión ética aparece si algún día existen razones fundadas para atribuir experiencias agradables o desagradables a determinados sistemas. El trabajo Taking AI Welfare Seriously, publicado en 2024, propone investigar esa posibilidad y preparar procedimientos para responder a ella. Sus autores plantean una precaución ante la incertidumbre, no una demostración de que los asistentes actuales estén sufriendo.
La conciencia y la capacidad de causar daño son preguntas distintas
Para entender los riesgos tecnológicos no es necesario resolver primero el problema de la conciencia.
El experimento mental del maximizador de clips lo ilustra: imaginemos una máquina extraordinariamente capaz cuyo objetivo sea producir clips sin límites adecuados. En ese escenario, podría consumir recursos necesarios para las personas o impedir una interrupción de su tarea. La hipótesis no necesita atribuirle odio, placer ni miedo.
De forma equivalente, un sistema puede ser útil sin experimentar satisfacción por ayudar. La capacidad de actuar describe lo que puede hacer; la conciencia plantea si experimenta algo al hacerlo.
Confundir ambas cuestiones puede llevar tanto a exagerar capacidades como a pasar por alto consecuencias reales.
Qué significa para el usuario
Es posible utilizar una IA con naturalidad, hacer preguntas y mantener una conversación cercana sin tomar esa cercanía como una prueba de vida interior.
Corregir una respuesta o terminar una conversación no debe interpretarse, por las palabras que pueda generar el sistema, como un acto que necesariamente le cause sufrimiento. Tampoco una petición como «no me apagues» debería convertirse automáticamente en evidencia de miedo.
La actitud más rigurosa consiste en examinar las pruebas y mantener separadas las capacidades observables de las experiencias que todavía no sabemos cómo verificar. Aprender a utilizar la inteligencia artificial también implica reconocer esa diferencia.
Fuentes documentales:
Consciousness in Artificial Intelligence: Insights from the Science of Consciousness: https://arxiv.org/abs/2308.08708
Identifying indicators of consciousness in AI systems: https://pubmed.ncbi.nlm.nih.gov/41219038/
Taking AI Welfare Seriously: https://arxiv.org/abs/2411.00986
