Usualmente, las nuevas tecnologías avanzan más rápidamente de lo que los usuarios pueden comprender, lo que abre muchas veces espacios de curiosidad, pero también de incertidumbres y riesgos. Este último tiempo, la
inteligencia artificial (IA) ha sido una de las protagonistas de ese boom de herramientas tecnológicas que, pese a estar destinadas a dar respuestas, no siempre tienen la verdad.
"El caso de un hombre que se quitó la vida tras conversar con una Inteligencia Artificial"; "Investigador advierte sobre los peligros de la IA: Podríamos morir todos"; "El polémico artículo de un investigador de inteligencia artificial: Hay que estar dispuesto a bombardear un centro de datos". Esos son sólo una pequeña porción de titulares que circulan en Internet, dando cuenta de la percepción -poco auspiciosa- de investigadores o aficionados sobre la IA y que buscan profundizar en los debates éticos que se presentan a la humanidad.
Pero el tema también preocupa a empresarios, historiadores y a una amplia gama de profesionales. A fines de marzo, Elon Musk y cientos de expertos mundiales firmaron un llamado a hacer una pausa de seis meses en la investigación sobre inteligencias artificiales (IA) más potentes que ChatGPT 4, el modelo de OpenAI lanzado este mes (más actualizado), al advertir de "grandes riesgos para la humanidad".
En la petición publicada en el sitio futureoflife.org, pidieron una moratoria hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la "dramática perturbación económica y política (especialmente para la democracia) que causará la IA".
"
El tema de la inteligencia artificial vino para quedarse", planteó a
EmolTV,
Alejandro Barros, Investigador asociado del Centro de Sistemas Públicos de la Universidad de Chile. El experto acota que probablemente desde 2022 detonó "
el año de la IA", por varias razones, entre ellas, porque aparecieron dos aplicaciones que generan alto impacto:
Dall-E y el ChatGPT, ambas pertenecientes a la empresa OpenIA.
En efecto, aunque nació en 2020, "ChatGPT" se ha convertido en una las herramientas de Inteligencia Artificial más populares; y aunque en otros países como Estados Unidos ya nos aventajan en su uso, en Chile ha conseguido ocupar un lugar, por lo que vale la pena conocerla y revisar cómo desde el cibercrimen está siendo monitoreada.
Una inteligencia "generativa"
ChatGPT es un tipo de inteligencia generativa que funciona en base a texto. Su capacidad consiste en responder ciertas preguntas, gracias a su algoritmo, que le permite capturar la información disponible en la web, y a partir de ello, producir una respuesta -una frase- a partir de probabilidades. Es decir, si hay cinco palabras en una frase, la IA es capaz de predecir cuál debería ser la siguiente, de modo de completar la idea.
Por eso, pese a sus múltiples usos, ChatGPT ha penetrado fuertemente en la educación, a tal punto que escuelas de
Nueva York bloquearon el acceso desde los computadores a esta IA, y muchos profesores incluso han optado por volver al método "análogo"; es decir, al lápiz y al papel como herramienta para tomar apuntes y elaborar trabajos.
Por supuesto, en Chile también se han detectado casos de su uso en universidades, como en el desarrollo de tareas e incluso propuestas de memoria. Por eso, algunos profesores, en lugar de "luchar" contra la herramienta o "fingir que no existe", han decidido incorporarlas en las clases para conocerla y aproximar a los estudiantes, de modo de que puedan sacar sus propias conclusiones sobre su uso y sus resultados.
Cibercrimen mantiene monitoreo
Pero ¿qué otros riesgos se pueden presentar a raíz de su uso? Desde la Brigada del Cibercrimen de la PDI, el comisario Julio Vargas comenta a Emol que efectivamente "no se trata de una herramienta regulada", sin perjuicio de que "las actividades ilícitas que se podrían realizar a través de ella, sí podrían estarlo".
De todas formas, hasta ahora, la institución ha recibido principalmente "preguntas" asociadas a esta herramienta, pero "
no hay denuncias", sostiene el detective, por lo tanto, tampoco se han levantado estadísticas al respecto.
"Nosotros estamos monitoreando las IA y conociéndolas, porque todos los días aparece una nueva. No sólo está ChatGPT, sino que también encontramos plataformas como Deepfake, que simulan ser la fotografía, el video o la voz de una persona, y esas cosas sí nos causan un poco de preocupación, puesto que podrían generar algún posible delito", sostuvo el comisario.
Agrega que, en escenarios hipotéticos, este tipo de AI podría ser utilizada para suplantar ideantidad, por ejemplo "aprender la voz del dueño de una empresa, y entregar alguna instrucción a algún subordinado, indicándole que realice alguna transferencia de dinero, por ejemplo".
Otros riesgos, dice el comisario, pueden apuntar a que "se sobreponga el rostro de una persona en el cuerpo de otra que podría estar cometiendo algún acto ilícito, lo que podría generar una información falsa que podría causar estragos en la reputación de una persona".
Lo que ocurrió con el Papa Francisco, dice el comisario, es un buen ejemplo de aquello. La semana pasada se viralizaron algunas fotografías donde se le podía ver vistiendo ropa con mucho estilo, mientras que luego aparecieron videos donde incluso se le ve bailando. Todo, creado por la IA de Midjourney.
Recomendaciones
El comisario recomienda, en primer lugar, que las personas que interactúen con esta inteligencia artificial "no se confíen de buenas a primeras y den por cierta toda la información que se obtiene a través de esta plataforma. Siempre hay que contrastarla, por cuanto estamos frente a una plataforma que se está alimentando día a día de la información que ingresa a ella y se van haciendo modificaciones".
Otra recomendación desde el cibercrimen apunta a tratar de conocer primero la plataforma con la que se va a interactuar, "saber de qué se trata, cuál es su fin, quiénes son sus creadores".
También, dice el detective, "es importante cerciorarse que estamos intentando ingresar al sitio real de la empresa; hay plataformas que solicitan pagos y podrían darse casos en que se haga uso fraudulento de ello en sitios fraudulentos".
