En los últimos meses, los casos de uso indiscriminado o inadecuado, o de "ayuda" de la inteligencia artificial (IA) han llegado al sector público, lo que ha abierto un intenso debate en torno al uso ético de esta herramienta, especialmente en cargos o asuntos de alta responsabilidad.
Ayer se conoció el caso de un abogado que envió más de 38 mil escritos de manera automatizada al sitio web del Poder Judicial, provocando la ralentización del sistema de la Oficina Judicial Virtual.
De acuerdo al documento al documento enviado el lunes por Rocío Pérez, juez titular del 17° Juzgado Civil de Santiago, en representación del Comité de Jueces Civiles de Santiago a la presidenta de la Corte Suprema, Gloria Ana Chevesich, "
desde el día sábado 25 de julio, el abogado (...) está realizando un ingreso masivo de escritos en su mayoría de 'desarchivo' y 'renuncia patrocinio y poder' en todos los tribunales con competencia civil del país".
"Solo el día de hoy (lunes), a las 11:30 horas lleva ingresado 38.477 escritos de acuerdo a información proporcionada por don Sebastián Ojeda Jefe de Proyecto de SITCI. Esto es, entre 500 y 900 escritos por tribunal, que van en aumento". El texto detalla que el abogado en cuestión utilizó "un agente externo (robot) para no tener que ingresar los escritos causa por causa".
Asimismo, solicitaron, entre otras medidas, que "se disponga la prohibición del uso de IA para el ingreso de escritos, en tanto no exista una política institucional clara tendiente al control y buen uso de los instrumentos tecnológicos".
En junio, la Tercera Sala de la Corte Suprema suspendió por un mes y multó a una abogada que presentó un recurso de casación con citas doctrinales inventadas por un chatbot.
Minvu y Congreso
Aunque no en el mismo tenor del caso del Poder Judicial, hay otras reparticiones públicas que se han "ayudado" del uso de la IA para sus quehaceres. Ayer se conoció que el Ministerio de Vivienda y Urbanismo (Minvu), publicó un informe de 469 páginas con observaciones y comentarios -de municipios, sociedad civil, gemios, etc.- en torno al proyecto de modificación a la Ordenanza General de Urbanismo y Construcción.
El contenido principal del documento se elaboró con ayuda de inteligencia artificial, según el propio Minvu, a raíz del volumen de las presentaciones. Tras publicar las obervaciones, el Minvu envió a Contraloría el proyecto, firmado por el Presidente de la República.
En el Congreso también se generó un caso que fue "apuntado" como sospechoso por uso de IA, aunque sin corroborarse. En mayo, en medio del debate por el proyecto de Reconstrucción del Gobierno, la oposición presentó el denominado "tsunami" de indicaciones, con 1.603 en total, y que obligó a imprimir 10 mil páginas.
Bajo el título de ¿Legislando con IA?, el economista Sergio Urzúa señalío en una columna en El Mercurio que dada la complejidad del proyecto de La Moneda con 166 páginas, incluido el informe financiero, le extrañó el anuncio de un "tsunami" de indicaciones.
"De acuerdo con mi plataforma de inteligencia artificial preferida (IA), estamos hablando de un texto con un total de más de 52 mil palabras. Considerando que un humano promedio lee cerca de 200 palabras por minuto, leerlo de corrido debe tomar un poco más de cuatro horas. Ahora, dado que se trata de un documento árido y complejo, digerirlo y comprenderlo a cabalidad toma mucho más tiempo", consideró.
"Al sumar todas las cifras, el trabajo tras 1.500 indicaciones tomaría cerca de 550 horas hombre. Con una jornada la laboral de 8.4 horas diarias (consistentes con 42 horas a la semana), esto sería equivalente a 65 días hombre. Dado que no ha pasado ni un mes desde la presentación del proyecto de ley, estaríamos frente a una productividad sobrenatural", sostuvo.
Urzúa planteó que analizó las indicaciones usadas por los diputados y si éstas fueron escritas con IA: "para ello, construí una muestra aleatoria de artículos del texto original que recibieron cerca de 200 indicaciones parlamentarias en total. Luego, le pedí a la máquina calcular, para cada artículo, la probabilidad de que 'al menos una de las indicaciones fuese escrita por IA'. Aquellos con menor probabilidad arrojaron 55-70% (confianza media de tener un 'perfil AI'), mientras los artículos con mayor probabilidad alcanzaron 80-90% (confianza alta)".
"Es obvio que los parlamentarios utilizan IA y esto puede catapultar su productividad", concluyó Urzúa.
Mejorar controles en lugar de prohibir
Consultados por Emol, expertos profundizan el uso de la IA por parte de abogados o de servicios del Estado, y los riesgos asociados al uso "masivo" o indiscriminado. De todos modos, apuntan a que la respuesta no está en prohibir el uso, sino que en mejorar los controles.
Constanza Alarcón, directora de Seguridad en IA y Ciberinteligencia de Aura Cybersecurity, comenta que "el uso desmedido de la inteligencia artificial pone en grave riesgo la integridad de los sistemas, tal como lo demuestra el caso de la Oficina Judicial Virtual".
"Esta automatización masiva e instantánea genera severas consecuencias: en primer lugar, satura y colapsa la infraestructura judicial, puesto que no tiene sentido agilizar a través de automatización solo una parte de un proceso sin considerar los tiempos de las otras actividades que lo componen; en segundo lugar, elimina por completo las evaluaciones críticas y el discernimiento experto que solo un análisis humano calificado puede proporcionar; y, finalmente, deshumaniza la justicia al erradicar componentes fundamentales como la empatía y la equidad en la revisión de las causas", detecta.
Por su parte, Patricio Campos, CEO y cofundador de Resility y especialista en IA, plantea que el hecho de que el Comité de Jueces haya pedido medidas urgentes a la Corte Suprema, evidencia que no cuentan con los recursos técnicos ni humanos para enfrentar esta contingencia.
"La conversación pública se instaló de inmediato en el lugar equivocado. Se está discutiendo si la inteligencia artificial debe prohibirse en los tribunales. Pero aquí la IA no cometió ningún error. Ese es exactamente el problema", subraya.
El uso de un agente externo, un robot, hizo lo que se le pidió, "lo que no tenía era noción de proporcionalidad. Los sistemas agénticos optimizan el objetivo que se les entrega, no el contexto en que operan. El criterio —saber cuándo detenerse— no es una función que se pueda delegar".
A juicio del experto, prohibir la IA en los procesos es una respuesta "comprensible, pero equivocada", ya que no existe forma confiable de determinar cuándo un documento ha sido redactado por una máquina, sin embargo, lo que sí se puede contrar el canal utilizado. Por eso, es clave "regular el comportamiento, no la máquina".
En la misma línea, Alarcón tampoco es partidaria de una "prohibición" del uso de la IA, pero sí de mejorar control y acceso. "Exigir a los proveedores informar las herramientas de IA utilizadas, vetar el uso de IA sin la revisión de un profesional en la materia, establecer multas y daños por malas prácticas tecnológicas y prohibir el uso de datos sensibles para entrenar modelos de IA públicos o comerciales (como versiones gratuitas de ChatGPT o Copilot), son algunas de las medidas mínimas a considerar", cerró.
La responsabilidad es siempre humana
Chile cuenta con una Política Nacional de Inteligencia Artificial cuya primera versión fue en 2021, y fue actualizada en 2025. En ella se establecen tres ejes centrales: garantizar el uso ético y responsable de la IA, promoviendo el bienestar social y respetando los derechos fundamentales: posicionar la IA como un motor clave para el desarrollo sostenible, con impacto en la economía y el medio ambiente; y fomentar la cooperación internacional para establecer estándares globales que guíen el desarrollo y uso de estas tecnologías.
"Si bien la IA es fundamental para modernizar el Estado y diseñar soluciones innovadoras que eleven la calidad de vida de los ciudadanos, resulta indispensable establecer controles rigurosos en su implementación y uso".
Constanza Alarcón, Directora de Seguridad en IA
Alarcón destaca además que dicha política plantea que si bien la IA es fundamental para modernizar el Estado y diseñar soluciones innovadoras que eleven la calidad de vida de los ciudadanos, resulta indispensable establecer controles rigurosos en su implementación y uso.
"Además, menciona explícitamente que la validación de resultados, el resguardo de la privacidad de los datos y la fiscalización humana continua son esenciales para mitigar impactos adversos", comenta.
En ese sentido, todo acto relativo a externalizar servicios -ya sea por parte del Estado o de privados-, no exime a los contratantes de ser los dueños del problema y responsables finales ante la ley.
"La entidad mandante responde legalmente si su proveedor incurre en faltas por el uso desproporcionado de la IA, riesgos que se pueden mitigar a través del levantamiento de modelos de gobierno interno, controles específicos para sistemas de IA y revisiones técnicas de ciberseguridad. Los contratos con cláusulas blindadas también son una herramienta de protección ante la externalización de actividades", plantea.
Campos, en tanto, recuerda que Chile está legislando sobre deepfakes y contenidos generados por IA, y aunque esto es "necesario", el foco hoy está en la IA que produce contenido, no a la que ejecuta acciones.
"Ese vacío quedó expuesto esta semana y no se cierra con una prohibición transitoria. Se cierra con tres cosas concretas: que los sistemas del Estado puedan distinguir si les habla una persona o un software, que la autorización con que ese software actúa sea verificable, y que las plataformas públicas críticas tengan límites de comportamiento por diseño", subraya.
