La Tecnología es Política, es Vigilante y es Racista

El proyecto para trasladar el mundo análogo a digital se sitúa actualmente en el año 35 de un proyecto de 75 a 85 años (1). Este propósito implica la codificación de identidades, culturas, historias y supone automatizar cuerpos, ideas y razas. La tarea esta a cargo de la llamada inteligencia artificial. Estos algoritmos sin estar vivos, toman decisiones importantes y participan en la economía, en la política y en el entretenimiento que consumimos. Sus intervenciones se encuentra en redes sociales, en plataformas de streaming o en buscadores, son estos espacios los que les albergan y es ahí donde se estructuran , aprenden y evolucionan. El caso “Cambridge Analytica”(2) muestra el poder que pueden llegar a tener estos algoritmos, los cuales manipularon estratégicamente a los votantes en Facebook y así interfirieron en las pasadas elecciones de Estados Unidos.

Los algoritmos como codificación política y racial

Esta codificación política, racial y comercial es la que alimenta la toma de decisiones de estos algoritmos. En un sentido práctico se trata de bases de datos con etiquetas que introducen al algoritmo  narrativas racistas, políticas de opresión, economía esclavizante y mucho más. Es evidente que la distribución de etiquetas es un momento poderoso y de coyuntura que revela al algoritmo cómo debe “pensar”. 

Las instituciones que desarrollan la inteligencia artificial usan criterios raciales, estigmas de edad, de género, de nombre, de origen, entre otros. Así pues, la codificación de algoritmos es una circunstancia privilegiada y restringida a monopolios como Facebook, Google, Amazon o Twitter. Gozan de autoridad y pocos cuestionan los juicios que emplean para jerarquizar los datos y por lo contrario, estas decisiones se leen como científicas, legítimas, neutras, certeras y objetivas. 

Los algoritmos son entonces herramientas de segregación, de descalificación y de priorización. Un ejemplo de este planteamiento se muestra en una reciente auditoria realizada a las bases de datos de grupos criminales de California (3) en Estados Unidos. La base está conformada por personas negras y latinas en un 87% pero por si esto fuera poco, se identificaron nombres de bebés de menos de 1 año de edad los cuales fueron identificados como miembros de grupos delictivos. 

La pregunta es ¿cómo llegó el algoritmo a esta conclusión? 

La auditoría concluye que el resultado fue dado debido a una correlación de códigos postales con nombres de personas negras o latinas. El algoritmo interpretó esto como una situación de riesgo mostrando con ello una clasificación de datos racista y estigmatizada la cual replica historias de opresión y de violencia dirigida a grupos marginados. Los algoritmos cuentan con la facultad para tomar decisiones, para catalogar a personas y privarlas de su libertad. Catalan-Ramirez, un nativo de Guatemala de 32 años que carece de los documentos de inmigración, fue privado de su libertad por 10 meses al haber sido identificado por el algoritmo como un individuo afiliado a una pandilla. 

Este caso muestra cómo estas aplicaciones son usadas por la ley para entrelazar intenciones racistas y con ello atrapar personas en ciudades catalogadas como santuarios de indocumentados. Aquellas personas clasificadas en las bases por error son criminalizadas y aún peor, una vez que una persona ha sido encasillada de esta manera es muy difícil que logre salir(4). 

Safiya Noble en su libro “Algoritmos de Opresión”(5) explica que el racismo y el sexismo se han automatizado por el buscador Google. La ética que precede al buscador, promueve la expansión y reproducción de prácticas racistas, patriarcales y sexistas. Vulnera comunidades marginadas y reprime la lucha contra la opresión de raza y género. Como ejemplo menciona que no es casualidad que las palabras“black girls”, “latina girls”, “asian girls” arrojen resultados sexistas, estereotipados y pornográficos. Los algoritmos están siendo codificados radicalmente y sirven para legitimar suposiciones y valores, reflejan historias de tiranía y continúan institucionalizando la discriminación. Como ejemplo vemos que la búsqueda “professional stylist” muestra mujeres blancas mientras que “unprofessional stylist” presenta mujeres negras. 

La reproducción de violencias parece una suerte de privilegios determinando el acceso a la privacidad de las mujer. Define el acercamiento a la intimidad, narra datos raciales y usa esta información como cimiento para borrar memorias y reforzar estructuras de dominación. Pareciera que los sistemas de esclavitud son un tema del pasado, por ejemplo en 1810 Saartjie (Sara) Baartman (6) se convirtió en una de las primeras mujeres negras en ser sometida al tráfico sexual. Ella fue engañada y trasladada a Inglaterra para ser exhibida y esclavizada sexualmente. Más adelante en 1814, Sara fue desplazada a Francia y se convirtió en objeto de una investigación científica y médica que formó las bases de ideas enfermas europeas sobre la sexualidad femenina negra. Sara murió a los 26 años, disecaron su cuerpo para después exhibirlo por más de 100 años en El Musée de l’Homme (Museo del Hombre) en París y con ello apoyar las teorías racistas aún vigentes. La biografía de Sara es lacerantemente y muestra lo despiadado del sistema. 

¿Cómo puede ser posible que unos cuantos decidan hasta cuando sobreexponer un cuerpo? 

Desafortunadamente la historia de Sara se reproduce hoy en día por medio de los algoritmos los cuales se emplean en la industria sexual para facilitar la esclavitud sexual de las mujeres. Actualmente muchas mujeres Nigerianas son engañadas para desplazarse a Europa y una vez que llegan se les impone una deuda que deben pagar prostituyéndose(7) . Los reclutadores podrían ser amigos o familiares que supuestamente quieren apoyarlas para tener una mejor vida en Europa. En muchos casos se ha identificado un tipo de engaño el cual comienza cuando la joven conoce a una “madam” quien le ofrece un trabajo en Europa. Antes de partir, la “madam”(8) solicita a la joven someterse a un juramento para pagar el costo del viaje, una vez en el extranjero los traficantes realizar un ritual de magia negra. Un mago hace pequeñas cortadas en el cuerpo de la mujer, también le corta las uñas y vellos púbicos y mezcla todo con hierbas. Después el mago se corta la piel y coloca la mezcla en la herida. 

Así, le hacen creer a la joven que bajo la influencia de un espíritu maligno ella ahora no tiene más remedio que someterse a su destino de esclavitud sexual ya que si llegara a romper el juramento se volvería loca, se enfermaría o moriría. Una vez terminado el ritual, informan a la joven el monto de su deuda que puede llegar a ser de hasta $73,000 dólares.

Similar al caso de las Nigerianas, las mujeres Sudamericanas son también engañadas para ser esclavizadas como prostitutas. En este caso ellas son trasladadas a México(9), cuando llegan los proxenetas les quitan su pasaporte, les informan de su deuda y les amenazan con agredir o matar a sus familiares si no cumplen con el pago. Igualmente como sucede con las nigerianas, las tramas de proxenetas usan redes sociales como Twitter o Instagram(10) para publicitar a las mujeres sin que ellas lo sepan y envían vídeos de las víctimas por medio de WhatsApp. En particular, en México usan sitios web como “Zona Divas”, “La Boutique VIP”, “Dessires” o“Foro Ángeles Mex” para mostrar abiertamente a las víctimas en Internet.

Así, los algoritmos fortalecer la esclavitud sexual e invisibilizan a los agresores. En este sentido, Estados Unidos lanzó la llamada ley FOSTA/SESTA(11) tras investigar el sitio “Bakckpage”. Sin embargo, esta ley ha sido todo un fracaso ya que no han dado de baja los sitios web y por lo contrario han hecho que sea más difícil para las mujeres compartir información o advertirse entre ellas de clientes violentos(12). Este error es un tema capitalista, según la Organización Internacional del Trabajo (OIT) de la ONU, actualmente la esclavitud abarca el triple de personas en comparación con los 350 años oficiales de esclavitud(13). LA OIT llama a este fenómeno “la nueva esclavitud” la cual implica a 25 millones de mujeres y hombres trabajando forzadamente para pagar supuestas deudas y 15 millones de personas (en su mayoría mujeres) viviendo matrimonios forzados. La esclavitud es una de las redes criminales más lucrativas del mundo, la cual equivale a $150 mil millones de dólares al año por lo que se ubica justo detrás del narcotráfico y del tráfico de armas. La esclavitud moderna es mucho más rentable ahora que en cualquier otro momento de la historia. 

Así pues, es evidente la trascendencia que impone la llamada inteligencia artificial. Tendríamos que mirarla más de cerca y deberíamos involucrarnos mucho más, comprender su construcción e interferir en su desarrollo. Es importante que en sociedad comencemos a establecer preguntas como ¿quiénes forman parte de los equipos de programación que desarrollan los algoritmos?, ¿cuáles son las intenciones y los intereses que persiguen?, ¿qué datos se están manipulado?, ¿cuáles son las prácticas de segregación que están reproduciendo los algoritmos? 


1.Para más información leer Benjamin, R. (2019) Race after technology: Abolitionist tools for the new Jim Code. John Wiley & Sons (pp 1-48).

2.Leer Cadwalladr C. (2018, Marzo 22) Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach The Guardian https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election

3.Revisar el reporte The CalGang Criminal Intelligence System en https://www.voiceofsandiego.org/wp-content/uploads/2016/08/CalGangs-audit.pdf 

4.Saleh M. (2018, Enero 28) CHICAGO’S PROMISE Caught in a Gang Dragnet and Detained by ICE, an Immigrant Tests the Limits of a Sanctuary City The Intercept https://theintercept.com/2018/01/28/chicago-gangs-immigration-ice/ 

5.Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. 

6.Ver la biografía de (Sara) Saarrjie Baartman (1789-1815) https://www.blackpast.org/global-african-history/baartman-sara-saartjie-1789-1815/ 

7.Romy K. (2018, Agosto 7) In Europe, Nigerian prostitutes are held captive by ‘black magic’ https://www.swissinfo.ch/eng/human-trafficking_in-europe–nigerian-prostitutes-are-held-captive-by–black-magic-/44295624  

8.Madame” es una señora proxeneta que trabaja para este sistema de esclavitud sexual. Una vez que la joven ha reembolsado el dinero que supuestamente debe; ella es liberada, pero sin recursos ni perspectiva, la mayoría continua prostituyéndose, muchas se convierten después en “madams”.

9.Ver la investigación Mujeres en la Vitrina. Migrantes en manos de la trata (artículo) https://piedepagina.mx/mujeres-en-la-vitrina-migracion-en-manos-de-la-trata/  Mujeres en la Vitrina. Migrantes en manos de la trata (video) https://www.youtube.com/watch?v=UgWF9yZDakY&feature=youtu.be 

10.Leer UN: Traffickers use social media to lure migrants to slavery, death https://www.pri.org/stories/2017-12-08/un-traffickers-use-social-media-lure-migrants-slavery-death

11.Leer  FOSTA siglas en inglés Fight Online Sex Trafficking Act, en español Ley de lucha contra el tráfico sexual en línea. SESTA en inglés Stop Enabling Sex Traffickers Act,  en español Dejar de habilitar la Ley de traficantes de sexo.

12.Leer  Congress’ awful anti-sex-trafficking law has only put sex workers in danger and wasted taxpayer money https://www.businessinsider.com/fosta-sesta-anti-sex-trafficking-law-has-been-failure-opinion-2019-7

13.Leer  Baker A. (2019, Marzo 14) ‘It Was As if We Weren’t Human.’ Inside the Modern Slave Trade Trapping African Migrants The trade in human beings thrives on the road to Europe TIME https://time.com/longform/african-slave-trade/  


Natalia Rios Rivera

Mi nombre es Carmen Natalia Ríos Rivera, estoy interesada en investigar temas en torno a la seguridad cibernética, protección de datos personales, libertad de expresión y privacidad online. También leo y escribo sobre feminismo, medios digitales, racialización, colonialismo y estudios de discriminación. Me desempeño como consultora en diseño web, marketing digital y arte digital. 

Soy egresada de la Licenciatura en Diseño por la Universidad Autónoma Metropolitana Campus Azcapotzalco, Ciudad de México y soy Maestra en Tecnología de Medios por Universiteit Leiden, Países Bajos.Tengo un Blog: https://riovmedia.com/

Twitter: @Soir_Tan


Si te gusta nuestro contenido, considera invitarnos a un café 🙂
Afroféminas es un proyecto autogestionado y autofinanciado.
Gracias a tu donativo las escritoras pueden financiarse, la comunidad puede sostenerse y ¡Afroféminas puede seguir creciendo!

Una respuesta a “La Tecnología es Política, es Vigilante y es Racista”