Ingenieros afirman que existe una "crisis de diversidad" en la inteligencia artificial

La falta de representación al momento de "educar" estos sistemas puede traer consecuencias en los grupos menos favorecidos en una sociedad, un escenario que los expertos instan a cambiar prontamente.

17 de Abril de 2019 | 14:32 | Redactado por Camila Díaz S., Emol
Reuters
La proliferación de la inteligencia artificial es un tema que preocupa a los expertos por diversas aristas, desde el control de las máquinas hasta el impacto que podrían tener en la sociedad, sin embargo, un reciente estudio ha puesto sobre la mesa una nueva perspectiva de análisis a través de la discriminación hacia grupos minoritarios que puedan adquirir estos sistemas debido al "entrenamiento" que reciben.

El estudio, realizado por el AI Now Institute, un organismo dedicado a esta tecnología, alerta que 80% de los "profesores" de las inteligencias artificiales son hombres blancos, mientas que sólo el 15% y el 10% de los investigadores en estos temas en Facebook y Google, respectivamente, son mujeres.

De acuerdo a los expertos, esta situación no sólo representa un potencial sesgo en la "educación" de los sistemas, sino que además puede traer consecuencias para diversos grupos tratados como minoritarios, entre los que entra la gente de color, los pueblos originarios, las diversidades sexuales y, también, una discriminación de género.

Esto porque, al estar siendo configuradas por un grupo tan poco diverso, frecuentemente el resultado termina presentando perspectivas blancas masculinas que después se aplican en herramientas que afectan a otros grupos de personas. Precisamente, no son los hombres blancos "los que están siendo afectados por estos sistemas", explica la codirectora del AI Now Institute, Meredith Whittaker, a The Verge.

¿La solución? Según los expertos, es necesario que las compañías disgreguen sus datos según género y etnia, lo que podría ayudar a entregar una perspectiva más inclusiva a las máquinas.

"La crisis de diversidad de la inteligencia artificial está muy bien documentada y ampliamente investigada (...) puede ser vista en lugares de trabajo que no son equitativos, atravesando la industria y la academia, en la disparidad de contratación o ascensos laborales, así llega a las tecnologías una inteligencia artificial que luego refleja una versión amplificada de los estereotipos", lamenta la ingeniera.

Un problema en todos lados

En una charla organizada por el Instituto Milenio Fundamento de los Datos (IMFD), el investigador del Departamento de Ciencia de la Computación de la Universidad de Chile, Jorge Pérez, también profundizó en esta situación ampliamente conocida. A través de un trabajo con vectores y análisis de palabras que fueron enseñadas a un sistema extraídas de los artículos publicados en Wikipedia.

"Una misión para los científicos es evitar enseñarle a las máquinas con sesgos", explicó luego de mostrar, con ejemplos, cómo algunas palabras se contextualizaban según los textos en los que se encontraban para dar como resultado relaciones que claramente tenían problemas de discriminación.

Así, relacionaba que cuando a la palabra "mujer" se le alejaba lo más posible de la palabra "sexo", el sistema arrojaba "empresaria". Otro caso era cuando, en el mismo ejercicio se utilizaban los conceptos "hombre" y "ciencia", el resultado incluía "delincuente" y "taxista" entre las respuestas.

Esto, tal como detalló el miembro del IMFD, no es un problema de los códigos, las redes neuronales digitales o los sistemas, sino del contexto en que extraen sus "conocimientos" y la forma en que deben ser aplicados.
¡Bienvenido #ComentaristaEmol!

Te invitamos a opinar y debatir respecto al contenido de esta noticia. En Emol valoramos todos los comentarios respetuosos y constructivos y nos guardamos el derecho a no contar con las opiniones agresivas y ofensivas. Cuéntanos qué piensas y sé parte de la conversación.

¡Bienvenido #ComentaristaEmol!
Ver condiciones

Ordenar por:
Este debate ha finalizado.
Cargando Comentarios...
Ediciones especiales
Comentaristas
Más me gusta
Más comentarios
Más seguidores