Paola Ricaurte se ha pasado dando vueltas por el mundo desde que nació, absorbiendo costumbres de un país y de otro, de allí y de allá, aprendiendo y enriqueciéndose de un amalgama de culturas. “Lo bonito de haber tenido experiencias en tantos lugares es que una va incorporando de todas ellas hasta ser una mezcla de muchas cosas”, dice con una sonrisa enorme y tras hacer un repaso de su biografía en la que menciona países, experiencias, a sus dos hijos, comidas favoritas.
Sus padres eran ecuatorianos, pero ella nació en Bogotá, Colombia; luego cursó la preparatoria en Barcelona y, después, se fue a Rusia, nación que le marcó profundamente por “la música, el ballet, sus compositores, su literatura”. Allí estudió periodismo, a lo que nunca se dedicó. “Siempre me gustaron las matemáticas y la tecnología. Y desde muy temprano me involucré en movimientos activistas que estaban asociados a ellas”.
En la actualidad, además de profesora e investigadora del Departamento de Medios y Cultura Digital en la Escuela de Humanidades y Educación del Tec de Monterrey, coordina La Red de Investigación Feminista de IA (FAIR), cuyo fin es crear y mantener una agenda de investigación con acción feminista creada por y para mujeres.
Ricaurte ha desarrollado la mayor parte de su carrera en México, país donde reside actualmente y en el que se naturalizó. “Y ya no puedo vivir sin el chile”, dice bromeando. A lo largo de toda la entrevista no dejará de bromear y sonreír mucho. Tampoco podrá evitar, desde un tono dicharachero, manifestar sus reivindicaciones por los derechos humanos en el entorno digital.
Autora del Manifiesto de la Inteligencia Artificial descolonial y cofundadora de Tierra Común, una iniciativa académica para la descolonización de los datos, Ricaurte es una de las activistas latinoamericanas más importantes contra los sistemas tecnológicos hegemónicos que profundizan las injusticias en el mundo.
Encuentro personal con los sesgos algorítmicos
¿Cómo se construyen los sesgos que arrastra la IA, los estereotipos contra los que tú luchas?
La inteligencia artificial que utilizamos, la más comercial, se crea bajo principios del beneficio económico, del mercado: es extractivista, patriarcal, racista y colonialista. Toda esa cantidad de datos de los que se nutre se recopilan sobre todo de Internet, que representa el conocimiento más hegemónico. Por lo que, en realidad, lo que se refleja en Internet no es un correlato de lo que somos en el mundo.
Cuando se entrenan estos modelos con esos datos deriva en una información que nos excluye; a las mujeres, a nuestras lenguas, a todos aquellos aspectos que son importantes para nosotros. Representan a un grupo de personas consideradas como la regla en el ser humano hegemónico: hombres blancos, con cierto estatus socioeconómico y educación. Esos resultados tienen sesgos de todos los tipos.
Fue precisamente padecerlos lo que marcó un punto de inflexión en su trayectoria profesional, en el 2018, durante una estancia en el centro de investigación Berman Klein Center for Internet and Society de Harvard. En ese entonces, ya contaba con una perspectiva crítica sobre la necesidad de descolonizar y despatriarcalizar las tecnologías, pero no había experimentado en carne propia las consecuencias de la desigualdad que perpetuaba ese mundo nuevo para ella. Por ello se puso a investigar junto con un grupo de personas del Sur Global de dónde surgían estos sistemas, qué intereses estaban involucrados, cómo se apropian del conocimiento. Aquella experiencia le llevó a especializarse en análisis de la reproducción de construcciones sociales de desigualdades dentro de la tecnología, como el racismo o el sexismo, y a tratar de combatirlos desde el conocimiento.
¿Cómo impactan estos sesgos interseccionales en la vida de las personas?
Pueden tener implicaciones muy importantes. Cuando se utilizan como herramienta de un sistema público que ofrece un servicio a personas que no corresponden con ese ser humano estándar puede haber afectaciones en el acceso a servicios de salud, servicios crediticios, educativos. Y existen ámbitos donde el problema de los sesgos adquiere una dimensión mucho más profunda, que genera situaciones muy delicadas. Como cuando la policía decide hacer uso de estas herramientas para predecir si alguien va a cometer un delito y acaba criminalizando a jóvenes. O sistemas de prevención del embarazo adolescente que son usados para controlar el cuerpo de las mujeres. Desgraciadamente este tipo de casos ya han pasado en países como Argentina y Brasil.
De amores, fronteras y la lucha por una IA justa
Después de saltar de un país a otro ¿cómo acabaste en México?
Pues, como llega casi todo el mundo, por un amor mexicano que encontré en Rusia. Entonces vine para acá, y bueno, conseguí trabajo aquí en el TEC, y ya me quedé. Y me casé con un cubano, pero mis dos hijos nacieron en Estados Unidos. Así que entre los cuatro tenemos como no sé cuántos pasaportes y nacionalidades. Somos una familia multicultural. Mis hijos, por ejemplo, aunque crecieron en México conocen cierta terminología de Ecuador, de Cuba y navegan bien entre las distintas culturas. La diversidad es lo que más nos debe enorgullecer como seres humanos, las tantas formas de ser, de estar en el mundo, de pensar, la variedad de lenguas…
¿Cómo revertimos esos sesgos sobre los que se construye la IA hegemónica, tan opuesta a la multiculturalidad de la que te enorgulleces?
El problema con los sesgos de la IA, originados de un mundo desigual, es que provienen de distintas fuentes, es decir, de los datos, de los modelos, de la forma de implementarlos. Por ello, es difícil rastrearlos y corregirlos. Es por eso que, como sociedad, debemos de exigir transparencia cuando esos sistemas son utilizados por el Estado, necesitamos una gobernanza tecnológica. Se debe tener un monitoreo constante y evaluación continua del desempeño de las tecnologías para tomar decisiones sobre aspectos que afectan directamente a nuestras vidas.
Como trata de visibilizar Ricaurte, las tecnologías pueden reproducir las desigualdades sistémicas que imperan en el mundo, pero también entre países, “entre los que desarrollan inteligencia artificial y los que no”. En el 2020, la investigadora participó como experta en las discusiones alrededor de la Alianza Global para la Inteligencia Artificial de la OCDE en representación de México, el único país que no pertenecía al Norte global. Después se sumaron Brasil y Argentina. “Cuando ves que hay una desigualdad en la representación a nivel internacional en la discusión de estos temas, te das cuenta que justamente por eso las discusiones se llevan a lugares que interesan a los países que están produciendo y controlando estas tecnologías. De forma general, siempre es Estados Unidos quien tiene la batuta sobre las cosas que se deciden”.
El polo hegemónico de las tecnologías es Estados Unidos pero ¿qué pasa con las otras regiones? ¿Dónde se sitúa América Latina en la geopolítica de la Inteligencia Artificial?
Las políticas de IA en América Latina, donde los gobiernos tienen posturas muy distintas, carecen de una visión regional y soberana.
Tener un poco más de control sobre los datos y las tecnologías, permitiría también impulsar el desarrollo regional, porque estos temas no lo puede solucionar un país solo. Hay que tener en cuenta que las posibilidades de subsistencia de la región están muy conectadas con la explotación de recursos naturales asociadas al desarrollo tecnológico. Una de mis angustias existenciales es que no estamos teniendo en cuenta ni hablando de estos aspectos, de la cuestión del litio o del agua, sobre la sostenibilidad de la vida en el futuro cercano.
La apuesta latinoamericana por una IA justa
Desde que era adolescente, Paola mostró un espíritu rebelde contra el establishment. “Fui parte de diversos colectivos en defensa de los derechos digitales, la privacidad, en contra de la vigilancia del Estado… Yo venía de los movimientos por el software libre, por la cultura libre, por el conocimiento abierto. Entonces, pues también se me atrevesó la ola feminista que llegó”, cuenta Ricaurte mientas muestra su computadora repleta de calcomanías que reflejan su discurso: puños cerrados,“Woman Rights are Human Rights”, “Hackea tu lucha”, “datagénero”, “no hay tecnología sin humanos”…
¿Existen alternativas a la IA que perpetúa la desigualdad del mundo?
Yo tengo mucha esperanza en América Latina, donde hay colectivos e iniciativas que están avanzando no sólo en la reflexión sino en crear tecnologías que no sean desarrolladas bajo una lógica colonial, patriarcal, capitalista. Son tecnologías que resuelven problemas de personas concretas en nuestra región. El tema del acceso a la justicia por parte de las mujeres, el tema de los sesgos interseccionales en la lengua española. Hay un equipo que en México trabajó con la tribu yaqui para desarrollar una herramienta que les permitiera tener información del monitoreo del territorio, porque tienen un problema grave con el agua, y que pudieran tomar mejores decisiones sobre la gobernanza comunitaria del agua.
Entonces, son tecnologías que están hechas, pensadas en problemas que tenemos nosotras, que hablan nuestros idiomas.
Paola Ricaurte habla español e inglés, entiende, además, portugés, italiano y francés; competencias que le han brindado la posibilidad de explorar el mundo. Su personalidad desborda optimismo y conversar con ella hace, que de algún modo una tenga más esperanza en el mundo, en la humanidad.
Nos cuenta que una de las cosas que más disfruta de viajar es probar los desayunos típicos.“Soy una persona que se despierta muy temprano, entonces es mi comida favorita. Me encantan los chilaquiles de México, de Colombia soy fanática de la arepa y de los calditos colombianos. De Brasil me encanta que te ponen montones de panes de queso; en Costa Rica que te den los frijoles con arroz, plátano y huevo, queso”, confiesa sin parar de reír.
Paola Ricaurte habla español e inglés, entiende, además, portugés, italiano y francés; competencias que le han brindado la posibilidad de explorar el mundo. Una de las cosas que más disfruta de viajar es probar los desayunos típicos.
¿Cómo te imaginas el futuro de la IA?
Como un lugar para nosotras. Pero para ello tenemos que trabajar como sociedad en pensar qué tipos de tecnologías queremos y merecemos. También se necesita voluntad política para impulsar proyectos de desarrollo tecnológico más adecuados a nuestros contextos, a nuestra población y lenguas.
Uno de mis sueños es apoyar más para que las comunidades indígenas desarrollen sus propias bases de datos, con sus propias licencias y tecnologías para lograr su soberanía, para defender sus culturas y sus lenguas, para que conserven y recuperen sus saberes ancestrales.
¿Te interesó esta historia? ¿Quieres publicarla? Contacta a nuestra editora de contenidos para conocer más marianaleonm@tec.mx
