El fundador y CEO de OpenAI, Sam Altman y el Presidente Trump.
El Mercurio
El fundador y CEO de OpenAI, Sam Altman, se desmarcó de la postura del Presidente de Estados Unidos, Donald Trump, sobre la velocidad con que debe avanzar la inteligencia artificial y respaldó la creación de un marco regulatorio federal para los sistemas de IA de frontera.
A través de una serie de publicaciones en X, Altman advirtió que el rápido desarrollo de estas tecnologías enfrenta dos riesgos principales: que la humanidad pierda el control sobre sistemas cada vez más capaces y que el poder derivado de la IA termine excesivamente concentrado en manos de una persona, empresa o país.
"Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar", planteó el ejecutivo. Según explicó, la primera amenaza es "perder el control del futuro ante la IA", mientras que la segunda consiste en que una tecnología de capacidades extraordinarias pueda ser utilizada para "imponer su visión del mundo a todos los demás".
Frente a estos riesgos, Altman sostuvo que se necesita un equilibrio entre impulsar la innovación y reforzar los mecanismos de seguridad.
"Evitar estas dos amenazas requiere caminar por un angosto camino intermedio", afirmó, al advertir que tanto un país como un laboratorio podrían eventualmente acumular demasiado poder.
El CEO de OpenAI también defendió que las principales compañías que desarrollan IA avanzada adopten estándares comunes para garantizar un desarrollo responsable. "El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable", sostuvo.
En esa línea, respaldó explícitamente una regulación federal. "Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera", señaló, aunque agregó que las empresas no deberían esperar una nueva legislación para comenzar a implementar medidas destinadas a reducir los riesgos.
"Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera"
Sam Altman
Altman explicó que OpenAI ya está incorporando nuevas herramientas para evaluar la seguridad de sus modelos durante su desarrollo, antes de que sean lanzados. Entre ellas mencionó la elaboración de casos de seguridad antes de determinadas ejecuciones de aprendizaje por refuerzo que puedan incrementar significativamente las capacidades de los sistemas.
El ejecutivo también matizó el alcance de su propuesta para moderar el ritmo de desarrollo. "Cuando hablamos de 'ritmo', no nos referimos a 'detenerse'. El progreso ha sido rápido y continuará siéndolo", afirmó. Sin embargo, sostuvo que el avance debería ser más lento de lo que sería en ausencia de estas medidas, debido a los costos asociados a mecanismos como el monitoreo y las evaluaciones de seguridad.
"El ritmo valdrá bien este costo; ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia, ni permitir que las capacidades se adelanten al alineamiento y monitoreo", enfatizó Altman.
Su posición contrasta con la expresada por Trump, quien ha rechazado la idea de frenar el desarrollo de la inteligencia artificial en Estados Unidos. El desacuerdo se produce en momentos en que Washington debate cómo mantener el liderazgo tecnológico del país frente a otras potencias, al mismo tiempo que aumentan las preocupaciones sobre los riesgos asociados a modelos de IA cada vez más avanzados.
Para Altman, además, el desafío no se limita a la regulación interna. "Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional. Pero primero debemos hacer lo que podamos nosotros mismos", concluyó.
