La idea suena sencilla: si una inteligencia artificial se vuelve peligrosa o incontrolable, bastaría con presionar un botón para apagarla al instante. Esa es la propuesta que un grupo bipartidista del Congreso de Estados Unidos —es decir, con legisladores tanto demócratas como republicanos— y el gobernador de California, Gavin Newsom, han puesto sobre la mesa como una especie de ‘kill switch’ o interruptor de emergencia para sistemas de IA.
El problema, según reportó The New York Times, es que nadie sabe realmente cómo construir algo así. A diferencia de una computadora normal, que se apaga desconectándola de la corriente, los sistemas de inteligencia artificial modernos funcionan de manera distribuida, corriendo en decenas o cientos de servidores repartidos en distintos centros de datos, muchas veces operados por diferentes empresas y hasta en distintos países.
Además, estos sistemas suelen estar integrados a otras herramientas, aplicaciones y procesos empresariales, por lo que apagarlos de golpe podría tener efectos en cadena difíciles de predecir. La propuesta busca dar a los gobiernos una forma de reaccionar rápido ante un escenario de riesgo, pero los expertos en tecnología advierten que diseñar ese interruptor de emergencia plantea retos técnicos, legales y de coordinación que apenas están comenzando a discutirse.
Te invitamos a leer la nota original de The New York Times para conocer más detalles sobre esta propuesta y sus complicaciones.
Fuente: Creating a Kill Switch to Shut Down a Rogue A.I. Is Harder Than It Sounds (rss.nytimes.com).
Imagen: photofarmer, BY 2.0 (vía Openverse).