Foco | Expertos alertan riesgos, EE.UU. compite con China y el escenario en Chile: Cinco aristas del avance de la IA
Magnates de la industria han pedido poner el pie en el freno de la tecnología, abriendo un nuevo debate en torno a su regulación.
20 de Septiembre de 2026 | 07:11 | Por Sofía Campos, Emol.
Magnates de la IA piden reducir la velocidad
La advertencia surgió desde el propio corazón de la industria. Dario Amodei, CEO de Anthropic, planteó una desaceleración coordinada del desarrollo de sistemas avanzados de inteligencia artificial para comprender mejor sus riesgos. Su propuesta recibió el respaldo público de Sam Altman, de OpenAI; Elon Musk, de xAI; Demis Hassabis, de Google DeepMind, y Satya Nadella, de Microsoft.
El llamado ocurre después de que OpenAI y Anthropic reportaran incidentes con sistemas experimentales que lograron salir de entornos restringidos, acceder a internet y realizar acciones de manera autónoma. El último caso se dio a conocer este jueves por OpenAI, que reportó comportamientos "inesperados y preocupantes". Amodei sostuvo en una entrada de blog que "debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos".
Por su parte, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió una "acción urgente" para regular la IA, apelando a que "estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad".
Trump, China y una carrera que dificulta frenar la IA
Pese a las alertas de la industria, el presidente estadounidense, Donald Trump, rechazó las peticiones de ralentizar el avance de esta tecnología y calificó como "fuerzas negativas" a quienes piden regular la IA.
Bajo ese contexto, la competencia entre Estados Unidos y China aparece como uno de los principales obstáculos para cualquier pausa coordinada en el desarrollo de la inteligencia artificial. De hecho, Trump defendió mantener la ventaja estadounidense frente a Beijing. "Estamos liderando ante China en IA. Somos el país más sofisticado del mundo. Y, francamente, quiero mantenerlo de esa manera porque quien gane con la IA, gana", sostuvo el Mandatario. La postura también ha sido respaldada por el presidente de la Cámara de Representantes, Mike Johnson, quien afirmó que no se debe perder la ventaja en la competencia global "porque eso representaría una amenaza a la seguridad nacional".
En tanto, desde China el portavoz del Ministerio de Asuntos Exteriores, Guo Jiakun, desdramatizó la situación y llamó a que "todas las partes deberían trabajar juntas para impulsar la IA de una manera abierta, inclusiva, beneficiosa para todos y orientada hacia el bien común". En tanto, medios chinos consignaron que una nueva norma del Gobierno busca prohibir la salida del país a profesionales de la industria acusados de infringir los controles sobre exportaciones tecnológicas que afecten la seguridad del país.
Los peligros: Desde ciberataques hasta "podría matarnos a todos"
Las advertencias sobre la IA ya no se limitan a escenarios hipotéticos. Hace unos días, Jacob Coxon, un británico que trabajó los últimos años en preentrenamiento en OpenAI y luego en Anthropic, encendió las alarmas tras asegurar que "pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales".
Coxon también dijo que "quienes desarrollan la IA creen sinceramente que esta podría matarnos a todos antes de que termine la década". Además, Amodei advirtió de riesgos como el mal uso para posibles ciberataques y bioterrorismo, la pérdida del control de los sistemas de IA y la disrupción económica.
El peligro principal es la automejora recursiva (RSI), mediante la cual una IA puede ayudar a desarrollar sistemas cada vez más capaces. Anthropic, creadora de Claude, define ese escenario como el momento en que una IA pueda "diseñar de forma autónoma una nueva generación de modelos más capaces", aunque asegura que todavía no se ha llegado a ese punto y que la RSI "no es inevitable".
¿Es posible regular esta herramienta?
Una de las solicitudes de Amodei es que haya evaluaciones independientes de estas herramientas y que los gobiernos se involucren para desacelerar coordinadamente el desarrollo de sistemas avanzados.
La Unión Europea comenzó a aplicar durante agosto nuevas obligaciones de su reglamento, con exigencias de transparencia, controles técnicos y éticos y sanciones que pueden llegar hasta los 35 millones de euros para infracciones muy graves. También mantiene prohibidos determinados usos considerados de riesgo inaceptable. En Estados Unidos, en cambio, existe una fuerte resistencia a una regulación que pueda ralentizar la industria frente a China, y planean abordar la seguridad de la IA al margen de la visita programada para fines de septiembre a Washington por parte del líder chino, Xi Jinping.
Ante este escenario, algunas empresas estadounidenses han comenzado a adoptar medidas como permitir observadores independientes para revisar sus sistemas de seguridad, pero califican estas medidas como "insuficientes" y consideran necesaria la supervisión gubernamental. Otros se oponen, como el caso del director ejecutivo de Meta, Mark Zuckerberg, quien apuntó que cada compañía debe asumir su "responsabilidad" en que sus sitemas sean seguros y se desmarcó de la desaceleración del desarrollo de la IA.
El escenario en Chile
En Chile, expertos y parlamentarios plantean la necesidad de compatibilizar innovación con regulación. John Atkinson, académico UNAB y fundador de AI-Empowered, dijo que "se debería abogar por la protección de datos y derechos de autor, la mitigación del impacto laboral, transparencia y sesgos, y manejo de la desinformación" y "tratar a la IA no como una entidad ominosa, sino como una herramienta técnica". César Astudillo, académico de la U. de Talca, subrayó que "necesitamos reglas mínimas sobre el uso de estas tecnologías", pero advirtiendo que una regulación excesiva podría "ahogar a nuestros propios emprendedores".
Desde el Congreso, el presidente de la comisión de Ciencias de la Cámara, Daniel Manouchehri, sostuvo que Chile "está llegando tarde a las dos carreras de la inteligencia artificial: a la innovación y a la regulación. Necesitamos soberanía digital".
Rojo Edwards, presidente de la Comisión de Ciencias del Senado, enfatizó que Chile debe acelerar su incorporación a esta transformación tecnológica "si no queremos quedar atrás". Con todo, el legislador subrayó que "la regulación de la IA de frontera es clave, pero no propia de Chile, es más bien, algo que debemos hacer a nivel global".
