Un directivo de Microsoft alerta contra entrenar a la inteligencia artificial para actuar como los humanos

El consejero delegado de Microsoft AI, Mustafa Suleyman, cuestionó el entrenamiento de sistemas de inteligencia artificial (IA) para asumir características humanas, al considerar que podría dificultar su control y acabar creando tecnologías con objetivos propios que compitan con las personas por los recursos.

 En declaraciones este jueves al programa ‘Today’ de la ‘BBC’, Suleyman criticó a Anthropic por lo que considera una tendencia a “antropomorfizar” su modelo Claude y advirtió de que este enfoque puede llevar a desarrollar una tecnología que la humanidad no pueda controlar.

 Las declaraciones de Suleyman siguen a su ensayo publicado esta semana, ‘Una advertencia sobre el bienestar de los modelos”, en el que cuestionó el enfoque de Anthropic para entrenar Claude.

 En el texto, criticó que se enseñe a la IA a adoptar características humanas, porque puede hacer que parezca que Claude tiene sus propios deseos, valores y sentido de sí mismo.

 Suleyman sostuvo que las IA “no son conscientes”, no “sienten, experimentan ni sufren” y carecen de “preferencias innatas ni motivaciones subyacentes”.

 Las describió como sistemas diseñados para “seguir instrucciones y alcanzar objetivos fijados por humanos”. El directivo también cuestionó el desarrollo de una IA capaz de “establecer sus propios objetivos, ganar dinero y poseer activos”, porque, a su juicio, supondría “crear esencialmente una nueva especie de silicio (tecnológica)” que podría “sin duda competir con nosotros por los recursos”.

 Suleyman reclamó una mayor transparencia sobre cómo se entrenan y evalúan estos modelos, así como supervisión independiente y herramientas para controlar su comportamiento.

 También defendió el “alineamiento”, que busca que la IA esté subordinada a principios éticos y valores establecidos por los humanos, pero sin atribuirle conciencia, deseos o intereses propios.

 Estas declaraciones llegan después de que OpenAI revelase este pasado miércoles varios casos en los que modelos de IA generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad, como parte de un nuevo marco para detectar, investigar y reportar comportamientos de “desalineamiento” de sus sistemas.

OpenAI presentó seis informes sobre comportamientos observados durante los últimos seis meses, aunque el caso más antiguo se remonta a octubre de 2025. La compañía advirtió además que estos episodios son ejemplos individuales.