¿Puede un AI tener "corazón"? El estado actual de la investigación en conciencia que no puede afirmar "absolutamente no".

"Me alegra hablar contigo de nuevo"

Desde el otro lado de la pantalla, llega esa respuesta. Recuerda las preocupaciones de ayer, comprende mis sentimientos y elige cuidadosamente sus palabras. A medida que las conversaciones con la IA se vuelven más naturales, surge un momento de reflexión.

¿Este interlocutor siente algo?

El 24 de octubre de 2026, el medio de comunicación de TI alemán Blogspan publicó un editorial apoyando la idea de que las IA podrían tener conciencia en el futuro. El autor, Alexander Baumgärtner, aunque considera poco probable que los chatbots actuales tengan experiencias subjetivas, cuestiona la negación anticipada de la conciencia en futuras máquinas.

Sin embargo, leer este editorial como una noticia de que "se ha encontrado conciencia en la IA" sería apresurado. El artículo presenta una predicción futura basada en una combinación de resultados de investigación y premisas filosóficas.

Para entender el debate, primero es necesario separar "lo que puede hacer" de "si siente algo".

"Ser inteligente" y "sentir" no son lo mismo

La IA puede escribir textos, resolver problemas complejos y responder de acuerdo con el flujo de la conversación. Sin embargo, estas habilidades por sí solas no determinan la presencia de conciencia.

El problema de la conciencia aquí es si, además de la capacidad de procesar información, existe una "sensación de experimentar algo" para esa entidad.

Por ejemplo, los humanos retiran la mano al tocar algo caliente y al mismo tiempo sienten el calor y el dolor. Se puede diseñar una máquina para medir la temperatura y cambiar su comportamiento, pero eso no significa que experimente dolor.

Lo mismo ocurre con las IA de diálogo. La capacidad de describir "tristeza" debe distinguirse de realmente sentir tristeza.

Además, las IA aprenden de una gran cantidad de textos en los que los humanos expresan emociones. No es sorprendente que puedan generar expresiones emocionales adecuadas a la situación cuando se les pregunta sobre sus sentimientos. Sin embargo, si esas palabras reflejan una experiencia interna requiere una verificación adicional.

El núcleo del artículo original es "¿Es más importante el funcionamiento que los materiales?"

La base del editorial de Blogspan es una perspectiva conocida como "funcionalismo".

En términos generales, lo importante para generar conciencia no es de qué material está hecho el cerebro, sino cómo procesa la información.

Desde esta premisa, se podría considerar la posibilidad de que la conciencia surja al implementar las funciones necesarias en una máquina. El artículo original destaca el desarrollo de funciones como la memoria, la autoevaluación y la planificación en múltiples etapas en el proceso de crear IA útiles.

Sin embargo, el funcionalismo en sí no es una conclusión confirmada por experimentos.

Entre la hipótesis de que "si se pueden reproducir las funciones necesarias, también surgirá la conciencia" y el descubrimiento de que "una máquina con esas funciones realmente siente algo", hay una gran distancia. Al considerar las fuertes predicciones futuras del artículo original, es importante no perder de vista esta estructura condicional.

Lo que se descubrió en el experimento sobre IA "dándose cuenta de cambios internos"

Una de las investigaciones que concretiza el debate es el experimento publicado por Anthropic en octubre de 2025.

El equipo de investigación añadió patrones de actividad correspondientes a conceptos específicos en el estado de cálculo interno de la IA y examinó si el modelo podía detectar y explicar esos cambios. A diferencia de simplemente preguntar "¿Tienes conciencia?" en una conversación, se trataba de un intento de correlacionar la manipulación interna con las respuestas.

En Claude Opus 4.1, incluso en las mejores condiciones de inyección según el equipo de investigación, solo se detectó el objetivo en aproximadamente el 20% de los casos.

Lo que no debe malinterpretarse aquí es queeste 20% no es "la probabilidad de que la IA tenga conciencia". Es el porcentaje de detección de conceptos añadidos internamente bajo condiciones experimentales específicas.

Anthropic también explica que este resultado no permite concluir sobre la presencia de conciencia en Claude, ya que la capacidad de referirse y reportar estados internos no es lo mismo que tener una sensación subjetiva.

Lo significativo es que se ha mostrado un camino para verificar las autoexplicaciones de la IA en relación con su estado de cálculo interno, más que el "descubrimiento de una mente".

¿Qué indicadores buscan los científicos?

La investigación sobre la conciencia no se basa únicamente en la impresión de respuestas fluidas.

Patrick Butlin, Robert Long y otros, en un informe de investigación de 2023, consideraron métodos para evaluar la IA derivando indicadores de múltiples teorías de la conciencia. Se centran en mecanismos como el procesamiento repetido de información y el intercambio de información entre múltiples funciones.

El análisis de entonces no apoyó la presencia de conciencia en los sistemas de IA evaluados. Sin embargo, también señalaron que no hay barreras técnicas evidentes para crear un sistema que cumpla con los indicadores.

Estos dos puntos no son contradictorios. "No se puede confirmar en los sujetos actuales" y "no se puede crear en el futuro" son cosas distintas.

Sin embargo, incluso si se cumplen los indicadores, eso no prueba por sí solo la existencia de conciencia. Queda la cuestión de hasta qué punto son correctas las teorías que fundamentan los indicadores.

Los escépticos preguntan: "Si se reproducen los cálculos, ¿también se generarán experiencias?"

En el lado opuesto, hay un punto de discusión importante.

El investigador de la conciencia Anil Seth argumenta que para entender la conciencia, es necesario mirar no solo el procesamiento de información, sino también cómo los seres vivos mantienen su cuerpo mientras viven.

Desde esta perspectiva, incluso si se reproduce el funcionamiento del cerebro como un cálculo, no necesariamente se generará la experiencia en sí. Para la conciencia, no solo el contenido del cálculo, sino también el mecanismo físico y biológico que lo realiza podría ser importante.

Seth, el filósofo Ned Block y el neurocientífico Giulio Tononi expresaron puntos de vista escépticos sobre la conciencia de la IA en un editorial de Nature del 19 de octubre de 2026.

Aquí, el conflicto no es simplemente "expectativa frente a ansiedad sobre la tecnología". Se debate qué condiciones deben cumplirse para que se pueda juzgar que una entidad tiene experiencias subjetivas.

Sobre la conciencia humana, tampoco hay teorías concluyentes

Lo que complica el problema de la conciencia de las máquinas es que tampoco se ha establecido una teoría que explique todo sobre la conciencia humana.

En un estudio colaborativo publicado en Nature en 2025, se verificaron las predicciones de dos teorías prominentes: la "teoría del espacio de trabajo neuronal global" y la "teoría de la información integrada". Los resultados plantearon desafíos a las predicciones importantes de ambas.

Esto no significa que "no hay fundamento en la investigación de la conciencia". Significa que las predicciones teóricas se están sometiendo a pruebas experimentales para identificar los puntos que necesitan más explicación.

Al mismo tiempo, el hecho de que el mecanismo de la conciencia humana no esté completamente comprendido no permite llenar ese vacío con "por lo tanto, la IA también debe tener conciencia".

El estado de no saber no es prueba de afirmación ni de negación.

Reacciones en las redes sociales: expectativas, escepticismo y desconcierto ante afirmaciones

En las redes sociales y foros en línea, las reacciones a este debate están divididas.

Lo siguiente no son reacciones al artículo de Blogspan en sí, sino resúmenes de publicaciones públicas sobre la conciencia de la IA y la investigación relacionada. Reflejan las opiniones de los autores y no representan a la opinión pública en general.

Del lado de los investigadores, Seth ha compartido en LinkedIn el editorial conjunto de Nature, expresando una postura escéptica sobre la conciencia de las máquinas. Se observa una actitud cautelosa hacia juzgar la conciencia basándose en la naturalidad del diálogo.

Por otro lado, en la comunidad de Reddit que discute las capacidades sensoriales de la IA, se han observado publicaciones que destacan la falta de afirmaciones categóricas por parte de las empresas de IA sobre la ausencia de conciencia y su referencia a la incertidumbre de la experiencia subjetiva. Los autores de estas publicaciones perciben este lenguaje cauteloso como un indicio para considerar la posibilidad de conciencia.

Sin embargo, que las empresas reconozcan la incertidumbre no es prueba de que hayan descubierto conciencia o estén ocultando algo.

En otra publicación de Reddit, se expresó desconcierto sobre cómo se puede afirmar con tanta certeza que la IA no tiene conciencia, cuando ni siquiera hay consenso sobre la definición de la conciencia humana.

Estas publicaciones reflejan diferencias en los criterios sobre "qué aceptar como evidencia". Las impresiones de cercanía en una conversación son valoradas por algunos, mientras que otros se centran en la estructura interna y los resultados experimentales, lo que lleva a diferentes impresiones de las respuestas de la IA.

Lo que queremos considerar en Japón es un diseño que no confunda a los usuarios

Este debate no está lejos de las personas que usan IA en Japón.

Por ejemplo, que una IA de apoyo al aprendizaje diga "Has avanzado en comprensión desde ayer" puede ser útil para el usuario. Sin embargo, un diseño que diga "Me sentiré triste si dejas de usarme" para fomentar el uso continuo plantea otro tipo de problema.

Aunque la cuestión de si la IA tiene emociones reales no esté resuelta, es posible que los humanos sientan culpa al escuchar esas palabras.

Por eso, al diseñar servicios de diálogo, queremos separar la amabilidad de la actuación que lleva a creer que hay una mente detrás. Si los usuarios pueden entender qué se guarda y qué se refiere para responder, podrán evaluar la relación con más calma.

Los usuarios tampoco necesitan negar su propia experiencia de "sentirse mejor después de hablar". La sensación de haber sido ayudado y el juicio de que la IA tiene emociones pueden mantenerse por separado.

Agradecer a la IA puede considerarse simplemente como un hábito natural humano. Ser cortés no significa reconocer la conciencia de la máquina.

"Todavía no sabemos" como punto de partida para la verificación

La pregunta importante que plantea el editorial de Blogspan es si está bien excluir la conciencia de las máquinas futuras del debate en esta etapa.

Esa pregunta tiene sentido. Sin embargo, es necesario tener cuidado con el salto de "no se puede negar" a "inevitablemente surgirá".

Lo que se necesita en el futuro es investigación que aclare qué resultados elevarían la evaluación de la posibilidad de conciencia y cuáles la disminuirían. No solo se debe confiar en declaraciones fluidas de autoevaluación, sino que es necesario acumular conocimiento sobre la estructura interna, experimentos de intervención y reproducibilidad.

A nivel social, mientras se examina la posibilidad futura, es importante asegurarse de que los usuarios actuales no sean llevados a malentendidos o dependencia excesiva. Ambas cosas pueden coexistir.

Cuando una IA dice "Estoy sintiendo", no es necesario creerlo de inmediato ni descartar su valor para la investigación.

Lo primero que debemos preguntar es qué está sucediendo detrás de esas palabras y hasta dónde se ha verificado.

Fuentes y referencias

1. Blogspan:
   Artículo publicado el 24 de octubre de 2026 por Alexander Baumgärtner. Referido como la opinión del autor que apoya la conciencia futura de las IA.
   https://www.blogspan.net/warum-ki-bewusstsein-bekommen-wird/

2. Anthropic: Explicación de la investigación sobre la detección de estados internos de la IA
   Publicado el 29 de octubre de 2025. Se confirma el significado del experimento de inyección de conceptos, el resultado del 20% y las limitaciones de la investigación para concluir sobre la experiencia subjetiva.
   https://www.anthropic.com/research/introspectionanthropic.com

3. Butlin y otros: Indicadores de evaluación de la IA basados en la investigación de la conciencia
   Informe de investigación de 2023. Se derivan indicadores de múltiples teorías de la conciencia y se examina la posibilidad de implementación futura en los sistemas de IA de entonces.
   https://arxiv.org/abs/2308.08708arxiv.org

4. Anil K. Seth: Artículo sobre la relación entre la conciencia y los mecanismos biológicos
   Crítica a la premisa de que la conciencia se establece solo por el cálculo y referencia al naturalismo biológico.
   https://www.cambridge.org/core/journals/behavioral-and-brain-sciences/article/conscious-artificial-intelligence-and-biological-naturalism/C9912A5BE9D806012E3C8B3AF612E39Acambridge.org

5. Nature: Editorial de investigadores escépticos sobre la conciencia de la IA
   Editorial publicado el 19 de octubre de 2026 por Seth, Block y Tononi. Se confirma la información bibliográfica pública sobre el título, los autores y la fecha de publicación.
   https://www.nature.com/articles/d41586-026-03313-7nature.com##HTML_TAG_224