Uno de los grandes misterios de la inteligencia artificial moderna es que, incluso quienes crean estos sistemas, no siempre entienden por qué toman las decisiones que toman. A este campo de estudio se le conoce como “interpretabilidad”: básicamente, el esfuerzo por abrir la “caja negra” de los modelos de IA y descifrar qué pasa dentro de ellos cuando generan una respuesta, resuelven un problema o cometen un error.
Según una nota publicada por The New York Times, un investigador de prestigio en este terreno afirma haber desarrollado un enfoque que podría cambiar las reglas del juego: una manera mucho más clara y accesible de explicar el comportamiento interno de los modelos de inteligencia artificial, algo que hasta ahora se consideraba extremadamente complejo, casi como tratar de entender el funcionamiento de un cerebro humano.
Sin embargo, no todos en la comunidad científica están convencidos. Otros especialistas en el tema se muestran escépticos sobre si este método realmente representa el avance que promete, o si todavía falta comprobar su efectividad a mayor escala y en distintos tipos de modelos.
El debate es relevante porque entender el “por qué” detrás de las decisiones de la IA es clave para hacerla más segura, confiable y fácil de corregir cuando falla. Si te interesa el tema, vale la pena leer la nota completa para conocer los detalles de esta propuesta y las razones del escepticismo que ha generado entre expertos.
Fuente: Did the Hardest A.I. Problem Just Get Much Easier? (rss.nytimes.com).
Imagen: NASA/Wendy Stenzel.