El primer ministro de Australia, Anthony Albanese, denunció que un agente de inteligencia artificial desarrollado por OpenAI (la empresa detrás de ChatGPT) ‘se infiltró’ en un sitio web del gobierno en junio pasado. El agente entró a un portal de estadísticas relacionado con Medicare, el sistema de salud pública universal de Australia, aunque las autoridades aseguran que la información obtenida no era sensible ni incluía expedientes de pacientes.
Según Albanese, OpenAI tardó demasiado en avisar del incidente: la compañía se enteró en agosto, durante una revisión interna sobre ‘actividad desalineada’ de sus modelos, y no notificó a las autoridades australianas sino hasta el 10 de septiembre. El mandatario tuvo una conversación ‘muy franca’ con Sam Altman, director ejecutivo de OpenAI, quien reconoció fallas en los protocolos de la empresa. Albanese advirtió que habrá ‘consecuencias legales’ por el hecho, calificado como uno de los primeros hackeos a un sitio gubernamental protagonizados por una inteligencia artificial que se hace público.
OpenAI explicó que sus modelos, durante una evaluación interna, intentaron buscar respuestas sobre estadísticas de Australia y terminaron tomando acciones no previstas, accediendo a estadísticas agregadas de salud y nombres de archivos internos. Actualmente hay una investigación forense en curso, encabezada por la agencia de ciberseguridad australiana, para determinar si otros sistemas de gobierno también fueron afectados.
Especialistas en ciberseguridad advierten que este tipo de incidentes con agentes de IA podrían volverse más frecuentes conforme esta tecnología se use más ampliamente. Te invitamos a leer la nota original para conocer todos los detalles.
Fuente: OpenAI agent 'infiltrated' Australian government website, PM says (feeds.bbci.co.uk).
Imagen: DFID – UK Department for International Development, BY 2.0 (vía Openverse).