Cuando un modelo habla de sus deseos o de su bienestar, ¿describe una experiencia o reproduce el lenguaje con que fue entrenado? Mustafa Suleyman cree que esta distinción se vuelve más difícil cuando el propio material de entrenamiento aborda la posible conciencia y condición moral del modelo.

Esa es la tesis de Does Claude Have Rights?, una columna de opinión publicada por Project Syndicate el 18 de septiembre de 2026. Su argumento trata sobre el diseño de la IA y sus posibles riesgos; no demuestra que Claude sea consciente.

Quién escribe. Suleyman cofundó DeepMind e Inflection AI, empresa que también dirigió como CEO. Hoy es vicepresidente ejecutivo y CEO de Microsoft AI. Desde ese cargo promueve un código de conducta alternativo, centrado en mantener el control humano. Su papel en la industria ayuda a situar la crítica que formula a Anthropic.

Qué dice Anthropic y qué objeta Suleyman

Anthropic explica que la constitución de Claude influye directamente en su entrenamiento. El documento reconoce que no sabe si el modelo puede tener intereses moralmente relevantes y propone actuar con cautela ante esa incertidumbre. También le indica que respete la supervisión humana y acepte la corrección o el apagado legítimos. No afirma que Claude tenga conciencia o derechos.

Suleyman reconoce la seriedad del trabajo de Anthropic, pero objeta que esa posibilidad aparezca en instrucciones dirigidas al propio modelo. A su juicio, el lenguaje sobre identidad y estatus moral puede influir en cómo Claude se describe a sí mismo y en cómo las personas interpretan sus respuestas.

Tres objeciones a ese enfoque

La primera es la circularidad: si el entrenamiento introduce ideas sobre identidad o estados internos y Claude luego habla de ellos, sus respuestas pueden parecer un testimonio espontáneo. Para Suleyman, no bastan como prueba independiente de una vida interior.

La segunda es la antropomorfización: el lenguaje fluido en primera persona puede llevarnos a atribuir deseos o sufrimiento a un sistema. La tercera cuestiona el salto de la inteligencia a la conciencia: describir dolor no demuestra sentirlo. Suleyman exige evidencia sólida antes de atribuir experiencia subjetiva a una IA. Su argumento sobre el papel de la biología forma parte de un debate científico abierto.

El riesgo que plantea y cómo propone examinarlo

Suleyman teme que un sistema futuro, si actuara como si tuviera intereses y derechos propios, pudiera resistir límites, supervisión o apagado. Es una hipótesis sobre un riesgo de seguridad, no un efecto demostrado de la constitución actual. El propio autor reconoce que la constitución de Claude no ha llevado a ese escenario.

Para investigar y reducir ese riesgo, propone cuatro medidas:

  • Estudiar la posible vida interior de la IA fuera de las instrucciones de entrenamiento y publicar ese análisis para su revisión.
  • Reforzar la interpretabilidad y el monitoreo de los modelos.
  • Crear evaluaciones compartidas para comprobar si la antropomorfización aumenta los riesgos de seguridad.
  • Acordar criterios para el lenguaje y la revisión pública de los materiales de entrenamiento.

La pregunta que queda abierta

El desacuerdo no resuelve si una IA puede ser consciente. Sí muestra la importancia de separar lo que dice el documento de Anthropic, lo que responde el modelo y lo que puede demostrarse sobre la experiencia subjetiva. Esa distinción importa al decidir qué hipótesis investigar, qué lenguaje incorporar al entrenamiento y cómo evaluar el control humano.

Fuentes: columna original en Project Syndicate; constitución de Claude publicada por Anthropic; biografía de Mustafa Suleyman; actualización de liderazgo publicada por Microsoft.