Mustafa Suleyman, responsable global de inteligencia artificial en Microsoft y una de las voces más influyentes del sector tecnológico, aseguró que la compañía no continuará el desarrollo de ningún sistema de IA que supere la capacidad humana de control. Sus declaraciones reflejan una creciente preocupación dentro de la propia industria por los riesgos asociados al avance acelerado de esta tecnología.
“No seguiremos desarrollando un sistema que pueda escaparse de nuestras manos”, afirmó Suleyman, en un contexto marcado por la competencia global por liderar la inteligencia artificial y por los temores a modelos cada vez más autónomos e impredecibles. Según el ejecutivo, Microsoft priorizará la seguridad, los derechos individuales y la supervisión humana por encima de la velocidad de innovación.
Suleyman, cofundador de DeepMind y de Inflection AI, asumió en marzo de 2024 la dirección de la estrategia de IA de Microsoft. Desde ese rol ha impulsado la integración de herramientas como Copilot en productos de uso cotidiano, al tiempo que ha reforzado un discurso centrado en la responsabilidad tecnológica. Para el directivo, el desarrollo de IA avanzada debe ir acompañado de la capacidad real de detener proyectos si los riesgos superan los beneficios.
El jefe de IA de Microsoft sostiene que el debate sobre los límites de la inteligencia artificial ya no es teórico. Advierte que sistemas cada vez más autónomos podrían tomar decisiones críticas sin intervención humana o evolucionar en direcciones no previstas. Frente a ese escenario, propone el concepto de una “superinteligencia humanista”: poderosa, pero orientada al bienestar social, con límites claros y mecanismos de rendición de cuentas.
Uno de los principales riesgos, según Suleyman, es la erosión de derechos y libertades individuales si estas tecnologías son utilizadas por gobiernos para intensificar la vigilancia y el control social. La acumulación masiva de datos y la capacidad de monitorear aspectos cotidianos de la vida podrían convertirse, advierte, en herramientas de represión, especialmente en regímenes autoritarios. Por ello, insiste en la urgencia de una regulación global que abarque todo el ciclo de vida de la IA, desde la investigación hasta su uso comercial.
Las advertencias de Suleyman coinciden con las de otros referentes del sector. Geoffrey Hinton, considerado el “padrino de la inteligencia artificial”, ha alertado públicamente sobre el peligro de perder el control de sistemas avanzados. Hinton ha señalado riesgos como el uso malicioso de la IA en ciberataques, bioterrorismo y desinformación, así como la dificultad de detectar contenidos falsos generados por modelos cada vez más sofisticados.
El científico también ha advertido sobre el impacto social de la automatización masiva y, en un plano más extremo, sobre la posibilidad de que una IA avanzada desarrolle objetivos propios y busque garantizar su supervivencia, incluso en contra de los intereses humanos.
En este contexto, la postura de Microsoft marca una señal relevante dentro de la industria tecnológica. Mientras el mercado presiona por acelerar la innovación, comienza a ganar peso la idea de que la prudencia, la regulación y la capacidad de poner límites ya no son opcionales, sino condiciones esenciales para el futuro de la inteligencia artificial.
