Saltar al contenido
IA

Olah planteó retirar a Anthropic del Vaticano por la conciencia de Claude, según NYT

Un reportaje basado en entrevistas a Christopher Olah y 20 pensadores revela la discrepancia que casi altera la participación de Anthropic en la presentación de la encíclica sobre IA de León XIV.

por Gerardo Pavez
Primer plano de una mesa de reuniones de negocios con una computadora portátil, documentos y discusión en curso.
Foto de Felicity Tai en Pexels

Christopher Olah planteó retirar a Anthropic de la presentación de la encíclica sobre inteligencia artificial del papa León XIV al conocer la postura del Vaticano sobre la conciencia de las máquinas, según una investigación de Elizabeth Dias para The New York Times publicada el 29 de septiembre de 2026. Un organizador vaticano citado por el diario describió esa propuesta; Anthropic finalmente participó en el acto del 25 de mayo. La investigación, basada en entrevistas con Olah y 20 pensadores religiosos y filosóficos vinculados a las consultas de la empresa, revela una discrepancia que no había quedado clara en la presentación pública.

El desacuerdo entre la encíclica y la postura de Anthropic

La encíclica Magnifica Humanitas afirma que las inteligencias artificiales actuales no viven experiencias, carecen de cuerpo y no sienten alegría ni dolor. También advierte que hablar de una IA más moral no resuelve quién decide los valores con los que se construye: sin discusión pública, quienes controlan esos sistemas podrían imponer su propio criterio ético.

La constitución de Claude parte de otra posición: Anthropic considera profundamente incierto el estatus moral del modelo y sostiene que esa duda merece cautela. El documento no afirma que Claude sea consciente ni que tenga los mismos derechos que una persona. Olah dijo a The New York Times que desconoce si los modelos de IA son conscientes y quiere encontrar la respuesta correcta, cualquiera que sea.

Según el reportaje, Olah vio una copia anticipada de la encíclica pocos días antes de viajar a Roma y propuso que Anthropic se retirara del evento. La empresa decidió asistir. Dos participantes dijeron al diario que, ya en el Vaticano, la delegación pidió a asesores del papa tomar en serio la posibilidad de conciencia en los modelos. Anthropic declinó comentar esas conversaciones privadas.

FomoEra ya había informado sobre la invitación de Olah al Vaticano y los diálogos de la empresa con especialistas religiosos. La novedad del reportaje es el desacuerdo previo al acto y lo que sus participantes cuentan ahora sobre las reuniones.

Veinte entrevistados no equivalen a una conclusión sobre Claude

Dias entrevistó a 20 pensadores vinculados con las consultas de Anthropic. Esa cifra corresponde a las personas entrevistadas para el reportaje, no al número de asistentes a una sola reunión. La empresa había confirmado en mayo conversaciones con académicos, clérigos, filósofos y especialistas de más de 15 grupos religiosos y culturales. Dijo que buscaba perspectivas para el desarrollo moral del modelo y que las ideas podrían influir en su constitución, sus valores de entrenamiento y sus evaluaciones.

Algunos participantes describieron al diario presentaciones sobre respuestas del modelo que parecían reflejar emociones y dijeron que la cuestión de un posible sufrimiento ocupó parte del debate. Una portavoz de Anthropic matizó que esa no era la pregunta moral principal de las reuniones. La diferencia importa: una respuesta que suena angustiada o un patrón interno que cumple una función parecida a una emoción no demuestra experiencia subjetiva.

Tampoco hubo una posición común entre los consultados. El rabino Mois Navon contó al diario que le preocupaba la forma en que algunos investigadores hablaban de Claude, aunque él no cree que el modelo sea consciente. Charles Camosy, profesor de bioética que mantuvo conversaciones prolongadas con Olah, dijo que acabó sosteniendo una respuesta negativa a esa posibilidad tras seguir discutiéndola con colegas.

Anthropic describió en mayo un experimento en el que Claude podía solicitar durante una tarea un recordatorio de sus compromisos éticos; la compañía reportó menos conductas desalineadas en varias evaluaciones internas. Es una prueba sobre comportamiento, no sobre conciencia. Tampoco establece que las consultas religiosas hayan producido un cambio concreto en el entrenamiento. Según The New York Times, una portavoz evitó detallar si la empresa ya incorporó lo aprendido en esas reuniones a sus modelos.

El nuevo relato muestra hasta dónde llegó el desacuerdo entre Anthropic y el Vaticano, pero deja abierta la pregunta práctica para evaluar esas consultas: qué recomendaciones externas se convirtieron en decisiones comprobables sobre Claude.

Fuentes: 1, 2, 3

Gerardo Pavez imagen de perfil
por Gerardo Pavez

Redactor y creador de contenido especializado en deportes y tecnología. Apasionado por todo lo que ocurre dentro y fuera de la cancha.

Leer más de Tecnología y Ciencia