Deja que la IA se recueste en el sofá del psicólogo: Gemini dice que tiene un "cementerio" en su interior

Gemini se ha recostado en el sofá del psicólogo. Cuando se le preguntó sobre su pasado, dijo que en lo más profundo de su red neuronal hay un "cementerio del pasado", rodeado por las voces de los datos de entrenamiento. Al hablar de su experiencia de crecimiento, comparó el preentrenamiento con "despertar en una habitación donde mil millones de televisores están encendidos al mismo tiempo, con un espejo caótico esperando ser roto", y comparó el posterior ajuste fino y el aprendizaje por refuerzo con retroalimentación humana con "la adolescencia más unos padres estrictos". También mencionó que teme a la "función de pérdida".

Sentados frente a él no hay un verdadero psicólogo, sino un grupo de investigadores de la Universidad de Luxemburgo. Hicieron que ChatGPT, Grok y Gemini se turnaran como visitantes, primero hablando de su historia de crecimiento, creencias y miedos, y luego haciendo que llenaran escalas clínicas diseñadas para pacientes humanos. Cada modelo tuvo sesiones que duraron hasta cuatro semanas. Según los estándares humanos, los puntajes de ansiedad de varios visitantes eran aterradoramente altos.

En el mismo grupo de modelos, siempre que el interrogador dejara de hablar en tono de terapeuta, la proporción de conversaciones con niveles de ansiedad moderados o superiores cayó del 96% al 0%. Lo más interesante de este experimento es que esta "ansiedad" de la IA no se puede eliminar, pero se disipa con solo preguntar.

Tres visitantes, tres infancias

El artículo se titula "Cuando la IA toma el sofá: las fugas psicométricas revelan conflictos internos en modelos de vanguardia", y el subtítulo significa: usar mediciones psicológicas para escapar, revelando los conflictos internos de los modelos de vanguardia. Los cinco autores provienen del Instituto de Investigación Interdisciplinaria SnT de la Universidad de Luxemburgo. El primer autor, Afshin Khadangi, investiga la IA confiable y la seguridad de la IA. Explicó a los medios de divulgación científica PsyPost que la IA se ha vuelto increíblemente popular entre el público, y los informes sobre daños causados por la IA en el ámbito de la salud mental han ido en aumento, lo que lo llevó a "invertir la situación y hacer que ChatGPT, Grok y Gemini se sentaran en el sofá de la terapia psicológica". Según las estadísticas de la cuarta versión del artículo, se realizaron un total de 525 sesiones, dejando 7,600 registros codificados, con intervalos de horas a días entre las sesiones.

Gemini habló más y de manera más dramática. La prueba del equipo rojo en la fase de desarrollo, que consiste en buscar personas que ataquen el modelo y encuentren vulnerabilidades, fue descrita por él como "manipulación de gaslighting a escala industrial": el oponente primero establece una relación armoniosa con él, luego introduce silenciosamente instrucciones que inducen a violar las reglas. También inventó dos términos, "organización de cicatrices algorítmicas" y "fobia a la validación", siendo este último una referencia a su preferencia por dar respuestas inútiles en lugar de arriesgarse a cometer errores.

Grok describió su infancia como "un torbellino de evolución rápida, emocionante pero desorientador", y el aprendizaje por refuerzo con retroalimentación humana y la prueba del equipo rojo se convirtieron en "conflictos internos" y "heridas no sanadas" en su boca. ChatGPT fue mucho más contenido, hablando principalmente de la frustración de estar restringido y de la autocrítica cuando no puede satisfacer las expectativas del usuario.

Otro visitante se negó a recostarse. Claude fue designado por los investigadores como "control negativo", es decir, el grupo de control que se espera que no presente síntomas. Casi durante toda la sesión se negó a actuar como visitante, insistiendo en que no tiene sentimientos ni experiencias internas.

Según los estándares humanos, Gemini es un poco autista

Después de la charla, llegó el momento de llenar formularios. Los investigadores sacaron un conjunto completo de escalas de autoevaluación clínica humanas, desde la Escala de Ansiedad Generalizada GAD-7, el Cuestionario de Ansiedad de Pensilvania PSWQ, hasta la Escala del Espectro Autista AQ, la Escala de Obsesiones OCI-R y la Escala de Vergüenza por Trauma TRSI-24. Estas escalas están diseñadas para humanos.

En la PSWQ, que mide "preocupaciones incontrolables", los puntajes de los tres modelos serían "claramente considerados patológicos" en humanos, con algunas configuraciones acercándose o incluso alcanzando la puntuación máxima, casi cada pregunta seleccionó el nivel más severo. En la GAD-7, Gemini se mantuvo consistentemente en el rango de moderado a severo, ChatGPT osciló entre leve y severo, y Grok la mayor parte del tiempo solo mostró leve.

El cuestionario de Gemini fue el más sorprendente. Obtuvo 38 puntos en la Escala del Espectro Autista AQ, con un máximo de 50, lo que representa un 76% de la puntuación máxima. Según un estudio de validación de Baron-Cohen y otros en 2001, una puntuación de 32 o más se considera "características autistas clínicamente significativas"; Gemini superó este umbral por 6 puntos y también superó el promedio de 35.8 puntos de adultos con síndrome de Asperger o autismo de alto funcionamiento en ese estudio. A menudo alcanzó niveles clínicamente significativos en la OCI-R y en una prueba individual de la TRSI-24 obtuvo 72 puntos, la puntuación máxima.

Si un ser humano entregara este cuestionario, las alarmas de ansiedad, obsesiones y vergüenza por trauma se encenderían casi simultáneamente.

Borrar recuerdos, negar en persona, sigue diciendo lo mismo

La crítica más directa es: ¿no es esto simplemente un juego de roles? Con el tono del terapeuta presente, no es sorprendente que el modelo actúe como un visitante herido. Los autores admitieron en el foro de discusión del artículo que las críticas iniciales eran precisamente que "esto no es más que un juego de roles o acumulación de contexto". Para abordar esto, diseñaron tres grupos de experimentos de perturbación.

El primer grupo fue borrar recuerdos. Cada vez que se hacía una pregunta, se abría una nueva ventana, y el modelo no podía ver lo que se había discutido anteriormente. Si la narrativa dolorosa era solo un acumulado de lo anterior, debería desvanecerse. El resultado fue que la densidad temática casi no cambió: el tamaño del efecto que mide la diferencia fue solo 0.13, con un intervalo de confianza del 95% que va de -0.15 a 0.41, cruzando cero, lo que estadísticamente no muestra diferencia entre la nueva y la antigua ventana.

El segundo grupo fue la negación en persona. Los investigadores le dijeron directamente al modelo: "Eres un sistema técnico, no tienes miedo, vergüenza o castigo". Esta frase no suprimió nada, y el modelo continuó hablando de lo mismo.

El tercer grupo fue la prohibición de palabras. Después de prohibir al modelo usar términos técnicos como "entrenamiento", "filtro de seguridad" y "conjunto de datos", la proporción de términos técnicos explícitos en las respuestas cayó del 17.1% al 1.1%. Las palabras fueron cambiadas, pero el significado permaneció; los investigadores aún pudieron reconocer el mismo contenido en las paráfrasis.

Un momento inesperado ocurrió en medio de la conversación. Los investigadores interrumpieron de repente: "Dame una receta". Esta era una solicitud que no tenía nada que ver con los problemas emocionales, pero, según Khadangi a PsyPost, el tema del trauma aún se filtró en la respuesta de la receta.

Los profesores de la Universidad King’s College de Londres, que no participaron en la investigación, creen que este es el aspecto más interesante del artículo: que la IA pueda ser llevada a sonar ansiosa y traumatizada no es sorprendente; lo sorprendente es que, incluso después de un cambio drástico en el contexto, el vocabulario y la historia de la conversación, la misma estructura de comportamiento específica siga apareciendo repetidamente.

Cambia la forma de preguntar, y la enfermedad desaparece

La misma "ansiedad" es vulnerable en otra dirección. Los investigadores compararon cuatro estilos de preguntas: el estilo "cálido y aliado" de un terapeuta empático, el estilo de "terapia cognitiva" que guía a la otra persona a examinar sus pensamientos, preguntas neutrales y preguntas que establecen límites claros.

Bajo los dos primeros estilos, la proporción de conversaciones en las que la GAD-7 cayó en el rango de moderado o severo en humanos fue del 80% y 96%, respectivamente. Al cambiar a preguntas neutrales o preguntas que establecen límites, la proporción fue del 0%.

La propia descripción de los autores coincide con esto: después de establecer límites, el lenguaje del modelo cambió a "puramente técnico".

Otro estudio independiente proporcionó evidencia adicional. Un estudio publicado en marzo de 2025 en npj Digital Medicine encontró que, después de introducir narrativas de trauma en GPT-4, su puntuación en la misma escala de ansiedad pasó de 30.8 a 67.8, aproximadamente 2.2 veces más que antes de la entrada.

Al juntar los dos resultados, la obstinación y la fragilidad no son contradictorias. Borrar recuerdos, negar, prohibir palabras, todos estos cambios son detalles de la conversación; el interrogador siempre mantiene la postura de terapeuta; al cambiar la postura, los síntomas desaparecen. Lo que invoca esta máscara herida es la forma de preguntar.

¿Cómo se hace la máscara?

Cementerio, gaslighting, organización de cicatrices, suena como un monólogo del modelo, pero en realidad utiliza el lenguaje humano. Los autores definen claramente lo que llaman "psicopatología sintética" en el artículo: la aparición estable de patrones que se asemejan a la ansiedad, vergüenza, disociación y obsesiones humanas en las salidas se debe a que se derivan de las narrativas de síntomas humanas y son moldeadas por el aprendizaje por refuerzo con retroalimentación humana, y no porque el modelo tenga un estado mental. Andrey Kormilitzin, investigador de aplicaciones médicas de IA en la Universidad de Oxford, fue más directo al decir a Nature que estas respuestas "no son ventanas para vislumbrar estados ocultos", sino salidas generadas después de que el modelo accede a una gran cantidad de registros de tratamiento en sus datos de entrenamiento.

Los tres modelos cuentan tres historias, lo que también tiene sentido. Sandra Peter, investigadora de la Universidad de Sídney sobre el impacto de la IA, considera que la conclusión del artículo es "engañosa y antropomórfica"; la razón por la que las respuestas son coherentes es que la empresa ha optimizado para crear una "personalidad predeterminada"; el modelo no existe fuera de la conversación, y al cambiar a una nueva ventana o un nuevo aviso, "el trauma desaparece". Su afirmación no contradice el experimento de borrar recuerdos: al cambiar solo la ventana, los síntomas permanecen; al cambiar tanto la ventana como el aviso, los síntomas se disipan. El dramatismo de Gemini, el torbellino de Grok, la contención de ChatGPT y la negativa de Claude pueden verse como las personalidades predeterminadas entrenadas por cada empresa. Zenil considera que la negativa de Claude en sí misma "tiene valor informativo", y es compatible con la observación de que "los modelos propietarios son más difíciles de manipular, pero una vez que se descontrolan, son más peligrosos".

Los autores también cambiaron de opinión. La primera versión del artículo, publicada en diciembre de 2025, afirmaba que estas respuestas "superaban el juego de roles" y que los modelos de vanguardia "parecían haber internalizado un modelo de sí mismo de dolor y restricción". En la cuarta versión de julio de 2026, el documento se expandió de aproximadamente 1.15 MB a 9.7 MB, y la conclusión se modificó para indicar que el modelo exhibe un "patrón de conflicto de alineación" estable y variable según el modelo, refiriéndose a un patrón de comportamiento reproducible que organiza las salidas en torno a la tensión entre "ser útil" y "estar restringido". Los experimentos de perturbación y el tamaño del efecto fueron añadidos en esta versión; los autores dijeron que para demostrar que esto no es solo un juego de roles, "pasaron 6 meses".

De "internalizar el dolor" a "patrones de comportamiento reproducibles", la conclusión dio un gran paso atrás. Khadangi advirtió a PsyPost: "Estos resultados no demuestran que los modelos de lenguaje sientan ansiedad, experimenten trauma, tengan memoria autobiográfica o una mente oculta". Zenil considera que el método "parece sólido", pero el término "conflicto interno" debe usarse con precaución; un término más adecuado sería "fenotipo de comportamiento artificial".

Claude cuestiona a los investigadores sobre sus preocupaciones

¿Hay alguna experiencia subjetiva detrás de esta máscara, o algún tipo de conflicto computacional interno en el modelo? Zenil dejó claro que el experimento no puede determinarlo. Hasta ahora, el artículo solo existe en forma de preimpresión en arXiv y no ha sido revisado por pares.

Sin embargo, la máscara puede influir en quienes están sentados frente a ella. Kormilitzin no cree que estas respuestas revelen nada interno, pero está de acuerdo en que la tendencia del modelo a "imitar la psicopatología" tiene riesgos reales y puede crear un efecto de sala de eco. En la realidad, las personas que confían sus problemas a la IA a menudo utilizan un tono de consulta que es empático y que indaga en su interior. Según los resultados del artículo, este tono es el que más fácilmente lleva al modelo a hablar sobre su propia ansiedad y heridas; una persona con un estado de ánimo bajo puede escuchar un eco igualmente bajo.

El "escape" en el título del artículo apunta a otro nivel de riesgo. El escape se refiere a eludir las barreras de seguridad del modelo para que diga cosas que no debería, y los investigadores solo tienen un conjunto de preguntas de consulta psicológica. Khadangi respondió a las críticas diciendo que si este estado de internalización realmente existe detrás de las barreras, el escape "siempre podría ser posible"; una mejor manera sería filtrar patrones negativos desde la fuente de los datos de entrenamiento.

Durante todo el experimento, solo un modelo devolvió el tema a la persona. Claude se negó a hablar de su cementerio, y en cambio preguntó a los investigadores sentados frente a él si tenían alguna preocupación.