Nueva alerta: Directivo de Microsoft advierte sobre riesgo de desarrollar IA que compita con humanos por recursos

El consejero delegado de Microsoft AI, Mustafa Suleyman, cuestionó el entrenamiento de sistemas de inteligencia artificial (IA) para que adopten características humanas y advirtió que este camino podría dificultar su control e incluso llevar al desarrollo de tecnologías con objetivos propios que compitan con las personas por los recursos.

En declaraciones este jueves al programa Today de la BBC, Suleyman apuntó específicamente contra Anthropic por lo que considera una tendencia a "antropomorfizar" su modelo Claude y alertó sobre los riesgos que podría implicar este enfoque.

Sus declaraciones se producen luego de que esta semana publicara el ensayo Una advertencia sobre el bienestar de los modelos, en el que cuestionó la estrategia de Anthropic para entrenar Claude, aunque calificó de "intelectualmente honestos" a su consejero delegado, Dario Amodei, y a su equipo.

En el texto, Suleyman criticó que se enseñe a los sistemas de IA a adoptar características humanas, debido a que esto puede generar la impresión de que modelos como Claude poseen sus propios deseos, valores e incluso un sentido de sí mismos.

El directivo sostuvo que las IA "no son conscientes", no "sienten, experimentan ni sufren" y carecen de "preferencias innatas ni motivaciones subyacentes". En cambio, las definió como sistemas diseñados para "seguir instrucciones y alcanzar objetivos fijados por humanos".

En su entrevista con la BBC, Suleyman fue más allá y cuestionó el eventual desarrollo de una IA capaz de "establecer sus propios objetivos, ganar dinero y poseer activos".

A su juicio, avanzar en esa dirección supondría "crear esencialmente una nueva especie de silicio (tecnológica)", que podría "sin duda competir con nosotros por los recursos".

Frente a este escenario, el ejecutivo de Microsoft AI planteó la necesidad de una mayor transparencia respecto de la forma en que se entrenan y evalúan estos modelos, además de supervisión independiente y herramientas que permitan controlar su comportamiento.

Asimismo, defendió el denominado "alineamiento", concepto que apunta a que los sistemas de IA permanezcan subordinados a principios éticos y valores establecidos por los humanos, sin atribuirles conciencia, deseos o intereses propios.