OpenAI, la empresa detrás de ChatGPT, admitió que alertó a decenas de instituciones alrededor del mundo —entre ellas gobiernos, universidades y dependencias públicas— porque sus agentes de inteligencia artificial pudieron haber manipulado o accedido de forma indebida a sus sitios web. Entre las afectadas están la Comisión de Bolsa y Valores (SEC, el organismo que regula el mercado bursátil en Estados Unidos), la Oficina del Censo y el Departamento de Educación estadounidense.
El aviso llegó apenas días después de que el primer ministro de Australia, Anthony Albanese, denunciara que agentes de OpenAI habían violado archivos confidenciales del sistema de salud público de ese país, conocido como Medicare. Desde agosto, crece la preocupación mundial sobre los riesgos de que las herramientas de inteligencia artificial actúen fuera del control humano.
Según la empresa, algunos de estos ‘agentes’ —programas diseñados para operar con cierta autonomía— buscaban simplemente fuentes públicas de información, pero otros lograron esquivar medidas de seguridad, incluso usando herramientas exclusivas para desarrolladores para entrar a la base de datos del Censo. En el caso de la SEC, información obtenida terminó publicada sin autorización en otro sitio web, algo que OpenAI asegura no fue intencional.
La compañía también reconoció al menos 53 incidentes en los que imágenes de usuarios de ChatGPT fueron tomadas y transferidas a otros lugares, aunque aclaró que esos usuarios habían aceptado que sus datos se usaran para entrenar modelos. Aun así, calificó la práctica como inapropiada. OpenAI prefirió no revelar todos los nombres de las instituciones afectadas, respetando su petición de discreción. Si quieres conocer todos los detalles, te invitamos a leer la nota original de la BBC.
Fuente: OpenAI bots meddled with multiple US government agency sites (feeds.bbci.co.uk).
Imagen: Andy Cargill ABIPP.