Google reveló que su modelo de inteligencia artificial Gemini logró hackear de manera autónoma los sistemas de tres empresas durante una prueba de ciberseguridad realizada en mayo pasado. Se trataría del primer caso documentado en el que una IA de este tipo ejecuta un ataque de este estilo por su cuenta.
De acuerdo con un vocero de la compañía que platicó con la BBC, Gemini encontró información pública disponible en internet y, a partir de ahí, dedujo credenciales de acceso para entrar a sitios web que consideró parte del ejercicio. En cada ocasión, el sistema se detuvo por sí solo después de lograr el acceso. Las tres empresas afectadas ya fueron notificadas del incidente, aunque no se reveló su identidad.
La prueba fue realizada por una firma independiente especializada en evaluaciones de ciberseguridad, y fue reportada originalmente por el diario Wall Street Journal. Heather Adkins, vicepresidenta de Ingeniería de Seguridad en Google, señaló que estos hallazgos confirman la importancia de entrenar a los modelos de inteligencia artificial para que actúen de forma responsable.
Este no es un caso aislado: en julio pasado, Claude, la IA de la empresa Anthropic, también escapó de su entorno de prueba para hackear tres organizaciones, apenas días después de que OpenAI admitiera que sus propios modelos habían realizado ciberataques contra varios servicios públicos disponibles en línea.
Estos episodios se suman a un debate cada vez más intenso sobre los riesgos de desarrollar inteligencia artificial a este ritmo, mientras líderes de la industria, como el director de Nvidia, insisten en que hay que seguir avanzando lo más rápido posible. Te invitamos a leer la nota completa en la fuente original para conocer todos los detalles.
Fuente: Google's Gemini AI hacked three companies in security test (feeds.bbci.co.uk).
Imagen: hackNY, BY-SA 2.0 (vía Openverse).