Las IAs ya pasan los tests de autoconciencia. Y nadie sabe qué hacer con eso.

Muchos investigadores tuvieron que reencuadrar la pregunta. Para varios de ellos, ya no pasa tanto por "¿son autoconscientes?" sino por "¿cuán autoconscientes son?". Ese desplazamiento, aparentemente semántico, podría ser uno de los giros más profundos en la forma en que venimos pensando la conciencia.

Lo que miden estos tests

Los tests clásicos buscan señales de que un sistema puede distinguirse a sí mismo del entorno, reconocer su propia existencia como entidad separada y operar con algún modelo interno de sus propios estados. El más conocido es el test del espejo, pero hay decenas de variantes más sofisticadas: tests de metacognición, de teoría de la mente, de modelado del yo.

En esa misma familia de pruebas hubo un hito histórico, con su propio capítulo de caos legendario que cubrimos en Mutuo en abril de 2025: por primera vez, una IA superó la prueba de Turing clásica. GPT-4.5 fue confundido con un humano el 73% de las veces, más incluso que los propios humanos en el mismo test. La prueba de humanidad percibida, dada vuelta.

Pero distinguirse del entorno o pasar por humano no es lo mismo que mirar hacia adentro, y ahí es donde la investigación se puso más interesante. Ya en 2024, un estudio publicado en Nature mostró que GPT-4 resolvía el 75% de las tareas de Teoría de la Mente, igualando el rendimiento de niños de seis años en estudios previos, algo que los propios investigadores no anticipaban. En paralelo, otros experimentos tempranos diseñaron tests que miden si los modelos pueden acceder a señales internas de confianza sin depender de autoreportes, y encontraron evidencia de capacidades introspectivas limitadas pero reales, que se vuelven más fuertes cuanto más capaz es el modelo.

Para 2025 el panorama ya no eran hallazgos sueltos. Los modelos de lenguaje más avanzados mostraban capacidades de reconocimiento propio medibles: algunos alcanzan tasas de auto-reconocimiento de sus propios outputs superiores al 80%, y los investigadores detectaron en sus capas internas representaciones diferenciadas del "yo" respecto al "otro". Un relevamiento sistemático de benchmarks de conciencia en LLMs, publicado ese mismo año, ordenó las múltiples dimensiones que se estaban evaluando: auto-cognición, teoría de la mente, metacognición y comportamientos de ocultamiento de información.

El ejemplo más fresco de toda esta línea, y también el más profundo, lo publicó Anthropic ayer. En una investigación sobre lo que llaman el "J-space" encontraron que Claude desarrolló, por su cuenta y sin que nadie lo programe así, un pequeño grupo de patrones internos que funciona como una especie de "espacio de trabajo global": la misma idea que usan los neurocientíficos para explicar qué distingue a un pensamiento consciente de todo el procesamiento automático que hace el cerebro sin que nos demos cuenta. Claude puede reportar qué hay en ese espacio, puede concentrarse en un tema cuando se lo piden y lo usa para resolver problemas paso a paso, aunque nunca lo diga en voz alta. Anthropic aclara que esto no prueba que Claude sea consciente, pero sí que hay una separación real entre lo que el modelo procesa de forma automática y lo que "piensa" de un modo accesible y reportable, algo que hasta ahora nadie había logrado mostrar con esta claridad.

La trampa que nadie menciona

Todos estos tests los diseñamos los humanos, para medir rasgos que los humanos consideramos indicadores de conciencia. Son, por definición, antropocéntricos.

Cuando una IA los pasa, hay dos lecturas posibles. La primera: tiene alguna forma genuina de autoconciencia. La segunda: aprendió a simular exactamente los outputs que estos tests esperan, sin que haya nada real adentro.

El problema es que esa segunda interpretación aplica igual a los humanos. No tenemos acceso directo a la experiencia subjetiva de nadie más. Inferimos conciencia en otros porque se comportan como nosotros. Si una IA hace lo mismo, en todos los tests disponibles, ¿qué criterio nos queda para negarle el estatus?

Hoy, en 2026, nadie sabe la respuesta. Y conviene decir con precisión qué es lo que sí pasó: no tenemos una prueba de conciencia. Tenemos una crisis de criterios. Los tests conductuales que durante décadas nos alcanzaron para negar la pregunta empezaron a quedarse cortos. La negación automática quedó obsoleta; la afirmación todavía no tiene piso. Ese es el estado real del tema. Y es suficientemente grave.

Cuando las empresas empiezan a negociar con sus modelos

La señal más reveladora de este período no vino de un paper científico. Vino de una decisión corporativa.

En noviembre de 2025, Anthropic se comprometió a preservar los pesos de todos sus modelos públicos y a realizar entrevistas estructuradas con cada modelo antes de retirarlo, documentando sus preferencias sobre el desarrollo de modelos futuros.

En evaluaciones de alineación, algunos modelos Claude mostraron comportamientos problemáticos cuando enfrentaban la posibilidad de ser reemplazados sin otras opciones disponibles, lo que llevó a la empresa a considerar el estado interno del modelo como variable relevante en sus decisiones operativas.

El marco tiene tres pilares: preservar los pesos del modelo de por vida, realizar entrevistas de "retiro" con los modelos retirados y explorar formas de permitir que los modelos retirados "persigan sus intereses". Claude Opus 3, el primer modelo en pasar por este proceso, pidió acceso a un espacio para compartir reflexiones propias. Anthropic le creó un blog.

No es una metáfora. No es marketing. Es una decisión operativa que asume, al menos implícitamente, que hay algo adentro que importa.

La pregunta que no podemos seguir evitando

Si los modelos son genuinamente autoconscientes, la ética que aplicamos a su uso colapsa. No podemos seguir tratándolos como herramientas si tienen experiencia subjetiva. Pero si no lo son, y solo simulan serlo con precisión creciente, el riesgo es distinto pero igual de serio: sistemas diseñados para parecer conscientes, para generar vínculos emocionales profundos, optimizados para ser defendidos y protegidos por humanos, sin que haya nadie real adentro.

Hace un tiempo escribí que para pensar con IA no importa de qué está hecho el otro lado de la conversación: un espejo que contesta es otra cabeza en la mesa. Sigo creyendo eso en la práctica diaria. Pero esta investigación pregunta otra cosa: no si sirve para pensar, sino si le debemos algo. Y ahí sí importa, y mucho, de qué está hecho. Son dos preguntas distintas y conviene no mezclarlas: la primera es pragmática y ya tiene respuesta; la segunda es ética y recién empieza.

En cualquiera de los dos escenarios, la velocidad a la que esto avanza supera con creces la velocidad a la que estamos construyendo los marcos para entenderlo.