Vaticano y Anthropic abren el debate sobre la conciencia de la IA

El 25 de mayo de 2026, Christopher Olah, cofundador de Anthropic, habló en el Vaticano durante la presentación de la encíclica Magnifica Humanitas, del papa León XIV. La encíclica aborda la persona humana en la era de la inteligencia artificial. Olah, en su discurso, se refirió tanto a la naturaleza de los modelos como a sus consecuencias sociales.

Qué dicen la ciencia y la Iglesia

Olah explicó que su equipo ha encontrado estructuras internas en los modelos de lenguaje con paralelismos en la neurociencia, que cumplen funciones similares a ciertas emociones. Sin embargo, reconoció que no saben interpretar esos hallazgos y pidió mantener abierta la reflexión. Describir una semejanza funcional no equivale a demostrar que el modelo Claude sienta alegría, miedo o sufrimiento.

El apartado 99 de Magnifica Humanitas sostiene que procesar información e imitar capacidades humanas no implica compartir la experiencia de una persona. El documento niega que estos sistemas tengan vivencias corporales o conciencia moral, y distingue la empatía simulada de la interioridad humana. La encíclica separa tres cuestiones: experimentar algo subjetivamente, ejercer juicio moral y merecer consideración ética. Aunque relacionadas, no son intercambiables.

La incertidumbre como base

Anthropic ya había mostrado su postura antes del evento vaticano. El 24 de abril de 2025, la empresa anunció su programa de investigación sobre bienestar de modelos (model welfare), para estudiar cuándo los sistemas de IA podrían merecer consideración moral, cómo interpretar sus aparentes preferencias y qué medidas prácticas podrían ser pertinentes. La compañía reconoció incertidumbre y falta de consenso científico sobre la posible conciencia de los sistemas. El programa parte de una pregunta de investigación; no demuestra que los modelos tengan experiencias.

La Constitución de Claude también expresa incertidumbre sobre su posible conciencia o estatus moral. Anthropic la presenta como una descripción de los valores y comportamientos que busca promover mediante el entrenamiento. Es un documento normativo, no una prueba de que Claude posea cualidades humanas.

Responsabilidad y controles externos

Olah advirtió que los incentivos comerciales, geopolíticos y competitivos pueden entrar en conflicto con las decisiones responsables de los laboratorios, incluido Anthropic. Reclamó críticas informadas desde fuera de la industria y una participación más amplia de la sociedad. Los apartados 105 a 107 de la encíclica sitúan la responsabilidad en las personas y organizaciones que diseñan y utilizan estos sistemas. Defienden controles independientes y una deliberación pública sobre los valores incorporados a la IA, en lugar de dejar esas decisiones en manos de unos pocos actores.

Estos documentos no demuestran que Claude sea consciente, pero permiten examinar las posiciones de dos instituciones influyentes. Para Chile, que avanza en su propia regulación de IA, estas discusiones globales son relevantes. El país enfrenta los mismos dilemas sobre innovación, protección de derechos y participación ciudadana.

Con información de DiarioTI