El Feminismo de los Datos: Big Data, Vigilancia y Género

La evolución tecnológica con respecto al aprendizaje automático y la inteligencia artificial está cambiando nuestra relación con los datos hoy más que nunca. No solamente las decisiones que tienen que ver con nuestra vida cotidiana, sino también las que afectan nuestra subsistencia, son cada vez más tomadas de forma automatizada con base en nuestros datos. Lo que parece moderno, innovador y eficaz a primera vista, conlleva escenarios tenebrosos de vigilancia y control.

Cuando se discuten estos temas públicamente, muchas veces faltan enfoques feministas. A los datos se les suele dar una imagen  de neutralidad – cuando unx toma una decisión con base en datos, esa decisión se puede calificar como objetiva. En este asunto, los movimientos feministas nos pueden ayudar a entender de una manera más integral los datos, la vigilancia y sus implicaciones para diferentes grupos de la sociedad. La interseccionalidad ayuda a mostrar que los efectos de Big Data[1] y la vigilancia basada en datos no son los mismos para cualquier persona.

Los datos poderosos

Hoy en día los datos significan poder, y la vigilancia una forma de ejercer este poder. Quien  es capaz de colectar una gran cantidad de datos y tiene los recursos para procesarlos posee el poder de definir, categorizar, interpretar y hacer predicciones con base en ellos.

La relación entre quienes tienen esas capacidades y quienes nada más ponen a disposición sus datos de manera pasiva o activa es una relación de poder. Además, como son personas humanas quienes colectan datos y escriben los algoritmos para su interpretación y categorización, formas de discriminación que a primera vista no tienen que ver con los datos por sí mismos, sino que ya aparecen en estructuras sociales, también se pueden reflejar en el procesamiento de datos.

En los Países Bajos, por ejemplo, ya se puede determinar a estafadores potenciales del sistema social. El programa de análisis de Big Data se llama “SyRI” (System Risk Indicator = Indicador de riesgo para el sistema) y conecta datos personales de varias agencias del gobierno para prever a la gente que más probablemente se aprovechará de manera ilegal del sistema social. Este indicador tiene una base jurídica[2] que permite el análisis de 17 categorías de datos, entre otros, los datos del alojamiento, seguro de enfermedad, ocupación y reintegración, pensión, impuestos, recepción de prestaciones sociales, naturalizaciones, etc. Las autoridades no hacen públicos los criterios e indicadores para la evaluación de riesgo y no informan a las personas afectadas sobre su estado de riesgo y las consecuencias de este.[3]

Tales medidas de vigilancia se dirigen en su mayor parte contra aquellos sectores de la sociedad que ya están siendo discriminados. Así es que a las personas pobres que perciben pensión y anteriormente han recibido prestación social, o que ya han sido afectadas por alguna medida administrativa, el algoritmo las califica como de mayor riesgo. Al mismo tiempo, está demostrado que a mujeres,[4] personas con discapacidades[5], así como personas de origen inmigrante[6], la pobreza les afecta con más frecuencia.

Desde siempre, las feministas se dedican a estas relaciones de poder y los mecanismos de discriminación en las distintas esferas de la vida diaria. Por lo tanto no es sorprendente que los movimientos feministas examinen con mirada crítica el creciente  sector de los datos y la vigilancia.

Los datos discriminan por género

Un asunto fundamental  es ocuparse de las relaciones entre los géneros. En tanto que los hombres desarrollen la tecnología, traten los datos y tengan el poder de definir la categorización de datos, desde la mirada feminista todavía hay una necesidad inevitable de actuar.

En Alemania, por ejemplo, el porcentaje de mujeres trabajando en el sector tecnológico sigue siendo significativamente bajo (el 16,6%) con una diferencia salarial de género del 25%.[7] En el sector de los start-ups tecnológicos las mujeres constituyen nada más que el 15,1%.[8] La nueva generación de estudiantes de la carrera informática tampoco se presenta mejor, con solo 20% de mujeres,[9] y aún menos mujeres se encuentran en el aprendizaje del oficio de informática (el 6%).[10] Estas estadísticas muestran qué tan grave es la división de género en este sector de trabajo. Pero es solamente el inicio, ya que hay más aspectos de los datos y la vigilancia que se tienen que revisitar desde una mirada feminista.

Los datos y su tratamiento algorítmico replantean viejas preguntas acerca  de la construcción y consolidación de normas discriminantes. El Big Data y los métodos estadísticos y algorítmicos se basan por definición en el acercamiento a una norma; y esta es, en la mayoría de los casos, una norma implícita, a la cual se ciñen todos los demás datos– el blanco, masculino, cisgénero y heterosexual, que al igual  igual que antes sigue dominando el sector tecnológico.

Así también se refleja la heterosexualidad obligatoria, como está anclada socialmente , también en el mundo de los datos. ¿Dónde se hacen posibles identidades de género divergentes? ¿Dónde se las toman en cuenta y dónde no? ¿Cuáles son las presunciones que se toman con  base en estas características de identidad? Cuando los datos tratan al género como algo binario, las experiencias discrepantes se hacen invisibles, se discriminan a personas trans o no-binarias, e incluso se afianza(aún más) la imagen del género en binario.

Surgen más preguntas. ¿Qué imagen corporal y qué normas de salud, relación o embarazo se construyen y se afianzan a través de, por ejemplo, datos de pulseras para monitorear actividad física y aplicaciones para monitorear la alimentación, de citas, menstruación o de embarazo? Lxs usarixs de estas aplicaciones y por lo tanto sus datos son predominantemente de una minoría digitalmente conectada y privilegiada de regiones anglo-estadounidenses y europeas. ¿Qué significa eso entonces, si estos datos definen lo que es una alimentación sana o cómo se debe desarrollar un embarazo de manera “adecuada”?

El feminismo de los datos

Ya hace varios años que algo está cambiando. Aparecen cada vez más publicaciones feministas que abarcan temas de género, datos y vigilancia, redes feministas ganan impulso, se realizan laboratorios hacker[11] queer y feministas, y ahora también el término del “feminismo de datos” se manifiesta en este ámbito.[12] Este empeño comienza cuando chocan el activismo de derechos digitales, el Big Data, la toma de decisiones algorítmica y la vigilancia basada en datos, con la discriminación interseccional. Sin embargo, a menudo se siente como si los movimientos feministas y los movimientos del mundo digital existieran en dos mundos diferentes.

Y eso a pesar de que los movimientos feministas tendrían el potencial de corroborar el debate sobre la vigilancia con una gran cantidad de perspectivas referente a desigualdades, discriminaciones complejas y relaciones de poder. Podrían mostrar cómo la vigilancia y la colección de datos afecta de manera diferente a las personas privilegiadas y a la gente menos bien situada. Podrían investigar la discriminación algorítmica desde una perspectiva interseccional y así crear una práctica de datos feminista.

Considerando la omnipresencia de datos y de la vigilancia basada en datos por el gobierno y las grandes empresas, un debate crítico sobre estos temas será un asunto urgente para los movimientos feministas.  A la inversa, el género y la interseccionalidad son igualmente importantes para movimientos que abordan la política de la red, la crítica de la vigilancia y un manejo justo de nuestros datos. Lo que se necesita es intercambio y cooperación entre estos dos mundos.