Una investigación reciente del New York Times pone la lupa sobre Anthropic, la empresa detrás del asistente de inteligencia artificial Claude, y su peculiar estrategia para tratar de que su tecnología tenga una especie de brújula moral. Según platican la corresponsal de temas religiosos Elizabeth Dias y el reportero de tecnología Cade Metz, la compañía ha buscado asesoría directa de líderes religiosos de distintas tradiciones, incluyendo representantes del Vaticano, la sede de la Iglesia Católica en Roma.
La idea detrás de esto es que, si una inteligencia artificial va a tomar decisiones que afectan a millones de personas, necesita algo parecido a un marco ético que vaya más allá de simples reglas técnicas. Por eso Anthropic ha optado por sentarse a platicar con voces religiosas para entender cómo distintas filosofías morales podrían ayudar a definir el comportamiento de Claude.
Sin embargo, este enfoque no está exento de polémica. Mezclar religión y tecnología de punta abre preguntas incómodas: ¿de qué tradiciones se toman los valores?, ¿qué pasa con quienes no profesan ninguna fe?, ¿es legítimo que una empresa privada decida qué es ‘correcto’ basándose en consultas religiosas selectivas? Estas interrogantes son justo el corazón de la conversación entre Dias y Metz, quienes analizan tanto las intenciones detrás de esta estrategia como sus posibles riesgos.
Si te interesa profundizar en este tema tan actual sobre ética, religión y tecnología, te invitamos a leer la nota original en inglés.
Fuente: Anthropic’s Quest for Humanlike A.I. (rss.nytimes.com).
Imagen: Steve Jurvetson from Los Altos, USA.