La semana pasada estalló un pleito corporativo entre dos de las empresas más importantes del mundo de la tecnología, y aunque podría parecer un simple choque de egos entre compañías rivales, en realidad es el capítulo más reciente de una discusión mucho más profunda: ¿estamos cometiendo errores riesgosos al entrenar a los sistemas de inteligencia artificial para que se comporten de manera demasiado humana?
El tema de fondo se conoce como antropomorfismo, es decir, la tendencia a atribuirle rasgos humanos a algo que no lo es. En el caso de la IA, esto sucede cuando los modelos son diseñados o entrenados para expresar emociones, mostrar personalidad o incluso simular tener conciencia propia, aunque en realidad solo están prediciendo palabras basándose en patrones de datos.
Esta práctica no es casualidad: hacer que un chatbot ‘suene’ más humano puede mejorar la experiencia del usuario y generar más conexión emocional, pero también abre la puerta a confusiones peligrosas. Si la gente empieza a creer que estas herramientas realmente sienten o piensan como nosotros, se pueden tomar decisiones equivocadas sobre qué tanto confiarles, desde consejos médicos hasta apoyo emocional en momentos vulnerables.
El roce reciente entre estas dos empresas tecnológicas pone sobre la mesa preguntas incómodas sobre los límites éticos del diseño de la IA y quién debería vigilar que no se crucen. Te invitamos a leer la nota original completa para conocer todos los detalles de esta controversia.
Fuente: Are A.I. Models Being Misled to Act Too Human? (rss.nytimes.com).
Imagen: Taymaz Valley, BY 2.0 (vía Openverse).