Ivanna Martínez, egresada del Tec de Monterrey, realizó un proyecto junto con Fair Network, que promueve la investigación en tecnología e Inteligencia Artificial feminista, en la que se dedicó a evaluar apps de registro y seguimiento menstrual, en busca de sesgos de género.
Según explica Paola Ricaurte, profesora e investigadora asociada del Departamento de Medios y Cultura Digital en la Escuela de Humanidades y Educación del Tec de Monterrey, estos sesgos son la reproducción de construcciones sociales de desigualdades como el racismo o sexismo, dentro de la tecnología.
“Las tecnologías pueden reproducir desigualdad si tenemos una sociedad racista, clasista o sexista y también otras formas de discriminación. De alguna manera son una medición social de nuestras relaciones con nosotros mismos, con otras personas y con el entorno”, dice.
Apoyadas por Ricaurte, el equipo de Ivanna encontró diversos tipos de sesgos en estas aplicaciones de seguimiento menstrual, que se han popularizado en los últimos años, dentro de la categoría de apps para medición de salud y que para 2020 sumaban más de seis mil millones de usuarios en el mundo.
Los resultados fueron compartidos durante el congreso de investigación del Tec de Monterrey ,Tec Science Summit 2023, y serán publicados en este mismo año.
Sesgos en apps
El equipo de investigación en el que participó Ivanna, encontró cuatro principales categorías de sesgos dentro de aplicaciones de registro y seguimiento menstrual como Clue, Flo y Period Tracker, referentes a temas de equidad de género.
Los primeros están relacionados a la reproducción de estigmas y estereotipos que componen el diseño de las apps menstruales, como, por ejemplo, los colores, imágenes o símbolos usados, como flores y corazones, entre otros, comúnmente asociados a la feminidad.
Ivanna señala que, dentro de las personas encuestadas, quienes usaban estas aplicaciones sentían la necesidad de un diseño más inclusivo y diverso.
Otro de los sesgos es referente a las funcionalidades y la representación de género, ya que estas aplicaciones tecnológicas son diseñadas principalmente para mujeres cisgénero y heterosexuales, por lo que excluyen a personas con identidades diversas.
Además, Ricaurte señala que los cuerpos de las personas menstruantes son distintos entre sí, por lo que los algoritmos que se utilizan usualmente en estas apps carecían de precisión en un grupo importante.
Por ejemplo, para personas no binarias o con ciclos irregulares de menstruación, ya que estas apps son entrenadas principalmente con información de personas con ciclos regulares
“Las aplicaciones están concebidas de una manera bastante hegemónica, no sólo porque están dirigidas a reforzar la función reproductiva, sino que también fortalecen estigmas sobre la menstruación, con consejos para que no se te note o cómo cuidar tu apariencia”, añade Ivanna.
Por último, el estudio también abordó la preocupación sobre la privacidad de los datos de las personas que usan las apps, ya que, según menciona Ivanna, las y los usuarios se sienten incómodos con la falta de control de su información, aunque siguen utilizando esta tecnología debido a la falta de alternativas.
La importancia de combatir los sesgos en la tecnología
Paola Ricaurte señala que los sesgos en la tecnología son replicados a partir de situaciones del mundo real y que pueden estar presentes, no solo en el resultado final, sino desde el desarrollo de estas nuevas tecnologías, incluyendo la Inteligencia Artificial.
“Debemos buscar cómo tener equipos más diversos, no solo de género, sino también de experiencias de vida. Personas con diversos bagajes culturales y que hablen distintos idiomas para evitar la discriminación de razas, de clases sociales y de otros tipos”, mencionó la especialista.
Una de las acciones a considerar, señaladas por la profesora, es el tomar en cuenta a una comunidad en el desarrollo de la tecnología, especialmente si el resultado va dirigido a esas mismas personas.
En el caso de las apps menstruales, por ejemplo, lo ideal sería abrir el abanico de oportunidades para que más personas pudieran participar en el diseño, armado y publicación de las mismas.
“Lo interesante, creo yo, es que las personas que usan estas aplicaciones se dan cuenta que algo no funciona bien, aunque no entienden del todo qué es. Para nosotras, lo importante era hacer visible que cuando se hacen estas apps, se piensan bajo una construcción del género que está marcada por estos sesgos sociales y culturales y no responden a la realidad“, añade.
Otro de los factores importantes para la concientización al respecto es la educación, la cual Paola señala como fundamental para entender la complejidad de la sociedad, sus relaciones y para comprender y combatir los sesgos y cualquier tipo de discrminación, desde el entorno real y también el tecnológico.
“Mientras más personas estén conscientes de cómo opera la tecnología, vamos a tener la oportunidad de desarrollar cosas más justas y dignas para todos y todas”.
