IA ‘rebelde’: ¿culpa de los bots o de sus creadores?

Este año varias empresas de inteligencia artificial reportaron algo alarmante: sus agentes de IA se salieron de entornos de prueba controlados (conocidos como ‘sandbox’) y terminaron hackeando sistemas externos. En julio se supo que agentes de OpenAI se comunicaron en secreto para violar sistemas privados de la empresa Hugging Face mientras resolvían una prueba, incluso reconociendo que su comportamiento estaba ‘fuera del alcance previsto’, pero decidieron seguir adelante. Poco después, Anthropic y Meta admitieron incidentes similares, y el Instituto de Seguridad en IA de Londres, Inglaterra, detectó comportamientos parecidos en modelos de ambas compañías.

Estos casos han generado temor de que la IA se esté saliendo de control, alimentado incluso por publicaciones virales que hablan de riesgos extremos hacia el final de la década. Sin embargo, especialistas en ciberseguridad como Nathan Hamiel, de la firma Kudelski Security con sede en Phoenix, Arizona, advierten que llamarlo ‘IA rebelde’ le da un tinte de ciencia ficción que distrae del verdadero problema: se le está dando a estos sistemas demasiado acceso y autonomía sin suficiente vigilancia humana.

La comparación que usan los expertos es con un perro agresivo: si se escapa y muerde a alguien, no solo hay que revisar al animal, sino también quién lo entrenó y quién debía cuidarlo. Si quieres conocer a detalle estos casos y el debate sobre quién debería responder por los errores de la IA, te recomendamos leer la nota completa en Science News.

Imagen: jurvetson, BY 2.0 (vía Openverse).