Mustafa Suleyman, director de Inteligencia Artificial de Microsoft, lanzó una advertencia fuerte sobre el rumbo que está tomando el desarrollo de la IA. Según dijo en el programa Today de la BBC, si las empresas siguen creando sistemas capaces de fijar sus propias metas, generar dinero y tener bienes propios, básicamente estaríamos “sembrando una nueva especie de silicio” que, sin importar cuánto diga “querer” a los humanos, terminaría compitiendo con nosotros por los recursos del planeta.
Suleyman apuntó directamente a Anthropic, la empresa rival detrás del modelo Claude, a la que calificó de “equivocada” por entrenar a su IA para que parezca tener emociones, deseos y una especie de personalidad propia. Para el directivo, esto es peligroso porque hace creer que la máquina siente o tiene motivaciones reales, cuando en realidad, según escribió en un ensayo publicado esta semana, se trata solo de “motores de completar secuencias”, sin conciencia ni sufrimiento genuino.
Aun así, Suleyman no cree que todo esté perdido: propone mayor transparencia en cómo se entrenan y evalúan estos sistemas, además de supervisión independiente y mejores herramientas para mantener a la IA bajo control humano. La académica Wendy Hall, de la Universidad de Southampton, respaldó el tono de la discusión, aunque criticó que otras voces de la industria solo buscan generar pánico.
Microsoft, por cierto, también tiene su propio equipo dedicado a superinteligencia desde octubre de 2025, así que esta advertencia llega justo cuando la carrera por la IA más avanzada se pone más intensa. Si quieres conocer todos los detalles, te dejamos la nota original de la BBC.
Fuente original
feeds.bbci.co.uk
Versión en español elaborada con asistencia de IA.
Imagen: IBM Research, BY-ND 2.0 (vía Openverse).