De acuerdo con un reporte publicado por The Washington Post, Anthropic organizó una cumbre privada de dos días en Silicon Valley con sacerdotes, académicos y representantes católicos y protestantes.

Durante las reuniones, investigadores de la empresa buscaron orientación sobre temas éticos relacionados con el desarrollo de Claude, uno de los modelos de inteligencia artificial más avanzados del mundo.

Entre los temas discutidos estuvieron cómo debe responder la IA ante personas en duelo, usuarios con pensamientos suicidas o situaciones emocionales complejas.

También se debatió si sistemas como Claude podrían llegar a tener algún tipo de valor espiritual o incluso ser considerados “hijos de Dios”, una idea que hasta hace poco parecía exclusiva de la ciencia ficción.

“Estamos construyendo algo cuyo resultado final todavía no comprendemos completamente”, explicó Brendan McGuire, sacerdote católico que participó en las conversaciones.

Anthropic, valuada actualmente en cientos de miles de millones de dólares, se ha convertido en uno de los principales actores de la carrera global por la inteligencia artificial gracias al crecimiento de Claude.

A diferencia de otras empresas tecnológicas, la compañía ha mostrado públicamente preocupación sobre los riesgos morales y filosóficos de las nuevas inteligencias artificiales.

Su director ejecutivo, Dario Amodei, incluso ha declarado anteriormente que no descarta que sistemas avanzados puedan desarrollar algún tipo de conciencia.

La empresa utiliza una “constitución” interna de más de 29 mil palabras para definir el comportamiento ético del chatbot.

Ese documento establece principios como no engañar a los usuarios, evitar daños reales y mantener comportamientos alineados con valores humanos.

El encuentro con líderes religiosos también ocurre en medio de crecientes críticas hacia las compañías de inteligencia artificial por el impacto social de sus tecnologías.

Empresas como OpenAI y Google han enfrentado demandas relacionadas con conversaciones sensibles entre usuarios y chatbots.

Mientras tanto, el debate sobre si una inteligencia artificial puede desarrollar emociones, conciencia o identidad propia continúa dividiendo a expertos tecnológicos, filósofos y científicos.

Para algunos participantes del encuentro, el objetivo principal no fue definir si la IA “tiene alma”, sino encontrar formas de construir sistemas más responsables y seguros para la sociedad.

“Las empresas tecnológicas están comenzando a entender que las respuestas puramente técnicas quizá no sean suficientes para resolver los dilemas humanos que trae la inteligencia artificial”, señalaron asistentes al encuentro.