La compañía de inteligencia artificial Anthropic informó que identificó y frenó varios intentos de usar su modelo Claude para fines maliciosos, entre ellos casos que podrían haber apoyado el desarrollo de armas biológicas. El hallazgo forma parte de un reporte reciente sobre amenazas y se suma a una creciente lista de advertencias de investigadores y gente de la industria sobre los riesgos que la tecnología representa para la humanidad.
Según el documento, publicado el jueves pasado, Claude fue utilizado por actores vinculados a una campaña de espionaje cibernético con base en Rusia y por una institución de propaganda de Irán. Los casos detectados en los últimos ocho meses van desde aplicaciones de citas falsas y fraudes de wifi en hoteles, hasta sistemas de vigilancia diseñados para identificar disidentes políticos.
Anthropic destacó cinco casos en los que actores usaron sus modelos de forma que podría respaldar el desarrollo de armas biológicas, algo que la empresa calificó como uno de los riesgos más serios de la IA de vanguardia. Jacob Klein, jefe de inteligencia de amenazas de la compañía, explicó que la situación es muy compleja, pues la misma información que serviría para crear un arma biológica también podría usarse para desarrollar una vacuna o una cura.
El reporte también documentó seis casos en los que Claude ayudó a desarrollar software para armas convencionales, como drones armados, misiles y sistemas de control de bombas, además de señalar a grupos de hackers como ShinyHunters y a laboratorios chinos por intentar replicar las capacidades del modelo.
Estas revelaciones ocurren en medio de un debate cada vez más intenso sobre los peligros de la inteligencia artificial: el senador estadounidense Bernie Sanders ha pedido pausar el desarrollo de IA avanzada, mientras que el presidente Donald Trump ha rechazado esos temores, argumentando que Estados Unidos no puede quedarse atrás en la carrera tecnológica. Te invitamos a leer la nota original de la BBC para conocer todos los detalles.
Fuente original
feeds.bbci.co.uk
Leer la nota original: Anthropic blocks possible attempt to use AI to make biological weapons
Versión en español elaborada con asistencia de IA.
Imagen: Alexandra E Rust, BY 2.0 (vía Openverse).