Miren Gutiérrez: «Plataformas como X y la IA fomentan silenciar e invisibilizar a las mujeres que destacan»

Miren Gutiérrez hablará de violencia digital e inteligencia artificial en las jornadas La explotación de las mujeres y niñas en el siglo XXI, que arrancan hoy en Palma dentro del II Congreso de Internacional Feminista organizado por Feministas Socialistas.

¿Las redes sociales son un nuevo escenario del machismo y la violencia de género?

Yo hablo de plataformas algorítmicas, no son redes sociales: no participamos de forma horizontal ni en igualdad de condiciones, y no tienen objetivo social, su objetivo es monetizar datos y ganar dinero. Y sí, las plataformas suponen una vuelta de tuerca muy grande al machismo, un cambio de paradigma, por el anonimato y la difusión de forma masiva y en tiempo real, que hace muy difícil desarmar el contenido machista, que además es promocionado y amplificado por el algoritmo porque genera una atención que luego las plataformas monetizan. Este tipo de contenidos tiene diferentes caras. Está el contenido misógino y machista, que prolifera porque plataformas como TikTok, X, Instagram, Youtube... lo promocionan con vídeos cortos, memes... se potencian unos a otros, se refuerzan actitudes machistas y generan burbujas ideológicas. Luego está la desinformación de género y los ataques personalizados contra mujeres políticas, activistas y periodistas.

Machismo en los videojuegos: muchas chicas 'gamers' sufren insultos o comentarios misóginos

¿Las mujeres están renunciando a expresarse en el mundo digital para no verse expuestas a estos comentarios y ataques?

Estos ataques a mujeres concretas generan que muchas se inhiban y autocensuren y también tiene un efecto desincentivador en su entorno, genera una onda expansiva y peligrosa. En Bluesky ahora hay un contenido más amigable, curación de contenidos... y veo reaparecer allí a figuras que desaparecieron de Twitter huyendo de los ataques machistas. Ahora se está empezando a medir la desinformación de género, que es una forma de silenciar a las mujeres, promocionado por las plataformas. Son ataques que se hacen con falsedades sobre las mujeres que ocupan espacio público. Lo vimos con todo lo que le hicieron a Kamala Harris como parte de la campaña de Donald Trump: insinuaciones sexuales, montajes, fotos fake sobre si es una mujer trans... Se está usando mucho material falso elaborado con IA para transmitir que las mujeres son inferiores, maliciosas, astutas, manipuladoras, tontas, inútiles … estereotipos que combinan con total impunidad y una falta de rigor enorme.

¿La IA es aún otra vuelta de tuerca más?

Sí, lo lleva todo a otro nivel. Los sesgos de género hacen que, por ejemplo, si a una IA que genera imágenes y avatares, como LENSA, le mandas una foto y te identificas como mujer te genera un avatar desnudo o casi y en actitudes sexualizadas, pero si eres un hombre te pone de capitán de barco, de profesor, de líder. La IA facilita además la desinformación de género, que es muy nociva. De siempre, cuando una mujer destaca es difamada, se genera una reacción para intentar invisibilizarla y silenciarla, y esta tendencia con las plataformas y la IA cobra un nuevo sentido.

¿Cómo combatirlo?

Es un problema muy complejo. Hay muchas cosas que se podrían hacer que no se están haciendo. Hay que tener en cuenta que solo el 23% de los puestos en el sector geek son ocupados por mujeres, y son soldadas rasas: estás empresas están dirigidas por hombres blancos con privilegios, son billonarios, están entre las personas más poderosas del planeta y son extremadamente conservadores y censuran las voces progresistas. Mira Bezos con el Washington Post o Musk y X. Hay muy pocas informáticas y el número de mujeres que estudian esta carrera está en retroceso, cuando las pioneras del campo fueron mujeres, como Lovelace o Lamar. La palabra computadora viene de las mujeres que computaban.

¿Las chicas renuncian a carreras tecnológicas al ver que es un sector muy masculinizado y competitivo?

Puede ser un factor, pero lo más importante es la asimetría de poder que se genera cuando algo empieza a ser interesante económicamente. Al inicio de la industria del cine había muchas mujeres en todos los puestos (guionistas, directoras...), cuando se convirtió en una industria potente se las apartó. Esto pasa en todos los sectores.

¿Qué es la macho o manosfera? Hay gente que aún no cree que sea algo real.

Es una red amplia y diversa y transversal, allí hay de todo, de médicos a porteros. Sobre todo son hombres, aunque también hay algunas mujeres, que difunden mensajes misóginos (odio a las mujeres porque son mujeres, me sobran en ciertos lugares y quiero que se dediquen a los cuidados); antifeministas (van contra el movimiento en general o contra algún postulado feminista) y/o sexistas ( colocan a la mujer en un lugar determinado por su apariencia de mujer). Los habitantes de la manosfera culpan a las mujeres y al feminismo de todos los problemas sociales y de sus problemas personales, es un discurso de odio y resentimiento. Hay muchos subgrupos.

¿Por ejemplo?

Están los activistas por los derechos de los hombres («el feminismo se está pasando»); los incel (incélibes involuntarios, que creen que tienen derecho al sexo, como si fuera un derecho humano, y acaban asesinando); los del movimiento men going their own way (prescinden de las mujeres, recuerdan a algunas sectas); los gurús de la seducción; los influencers, que difunden esta idea de que si te tomas la pastilla roja, como en Matrix, despiertas a una realidad nueva en la que los hombres han de luchar contra el feminismo porque están siendo emasculados... Es interesante ver que aunque estos hombres se las den de machitos, al final lo que encuentran en estos grupos es apoyo emocional.

Estos grupos han sabido moverse muy bien en las plataformas y difundir mensajes de odio, lo que se liga con el auge de la ultraderecha y el populismo. ¿La izquierda no están sabiendo combatir este fenómeno?

Están muy perdidos, la izquierda está en la división de la división de la división, peleándose entre ellos, mientras nos enfrentamos a amenazas existenciales como el cambio climático o la desinformación. La información la manejan los gobiernos y cada vez más las plataformas, que no se van autorregular, no quieren perder sus privilegios. Creo que una vía interesante son las demandas judiciales, aunque las sentencias suelen llegar cuando es tarde y el daño no es siempre reparable. Pienso en Holanda, cuando un tribunal europeo falló a favor de miles de familias vulnerables que habían sido discriminadas por un algoritmo acusadas de cometer fraude con unas ayudas. Era un Gobierno conservador, todo es ideología .

La IA aprende de la sociedad. ¿Si la sociedad es machista, la IA será irremediablemente machista?

La IA entrena con datos históricos y el pasado no es ideal ni igualitario, tampoco el presente, con lo que los resultados son sesgados. Además no solo los reproducen, es que los amplifican. Es muy difícil de corregir, se podría intentar introduciendo datos artificiales, pero muchos de los algoritmos funcionan de forma autónoma y de manera inexplicable, son una caja opaca y no puedes mirar dentro para ver cómo llegan a esos resultados, solo puedes corregir después, cuando detectas el problema. Unos algoritmos más lentos, sencillos y transparentes permitirían intervenir, ¿por qué no hacerlo?, ¿por qué esa prisa en hacer una superIA general? Parece que se sigue el lema de Zuckerberg de ‘avanza rápido, rompe cosas y luego ya pedirás perdón’. Es una carrera, también geopolítica.

¿Qué es el activismo de datos?

Es un activismo basado en las infraestructura de datos, que permite transformar datos en valor. Se puede usar esa infraestructura para generar valor y cambio social y para reflexionar e intervenir políticamente y detectar asimetrías de poder. Puede ser proactivo, y usar herramientas para generar soluciones, como los trabajadores del sector geek que utilizan las herramientas de las plataformas que los esclavizan para subvertir y alterar instrucciones, les hacen boicot con sus propias armas. También puede ser reactivo, generando herramientas propias para crear comunidades aisladas, apartarse de las plataformas y sistemas existentes. Es algo muy fragmentado, es un objeto de estudio difícil y elusivo. Yo como activista de datos estudio la pesca ilegal y todo lo relacionado con ella: el cambio climático, la pérdida de diversidad, la asimetría de género....

En los 90 fue corresponsal de la Agencia EFE en Sudeste Asiático, Corea y Pacífico. También trabajó en Panamá, donde fue perseguida por hacer informaciones de denuncia sobre un caso de corrupción. ¿Cómo definiría el papel del periodismo hoy día como elemento de denuncia y control del poder?

Está en un momento muy malo, en España especialmente, con una polarización política brutal, con una gran dependencia de los grandes grupos. Está en un momento muy malo, cuando nunca ha sido más relevante, lo necesitamos. Contemplo con estupor cómo han caído los modelos de negocio que sostenían el periodismo, que era la fidelidad a la ciudadanía: cuanto más leal eras a la ciudadanía, más atención generabas y eso se traducía en números vendidos y publicidad. Esto ya no sucede. Yo he vivido el final de ese modelo de negocio, he tenido la fortuna de ver a gente romper un contrato de 100.000 euros con mi medio por una información que se publicó igual, eso hoy no pasaría. Sí hay algunos medios, como The Economist, Eldiario.es o The Guardian que han encontrado fórmulas o estructuras para preservar su independencia o al menos cierta independencia, pero no siempre son factibles.

Suscríbete para seguir leyendo