Diputada afrobrasileña denuncia «racismo algorítmico» después de la IA creara imagen de ella armada

Imagen generada por inteligencia artificial a pedido de Renata Souza — Foto: Reproducción / X

La diputada estatal de Río de Janeiro (Brasil), Renata Souza (Psol), denunció el pasado jueves en su Instagram un caso de “racismo algorítmico” , debido a la forma en que fue retratada por la IA. 

La parlamentaria ha explicado que su equipo le sugirió crear un personaje para participar de la “tendencia” que ahora arrasa la redes. La propuesta era crear un personaje, dentro de una favela, con el blazer que usa habitualmente y el vestido estampado estilo africano, y ella estuvo de acuerdo. Pero reveló que se sorprendió al ver que la imagen generada por la inteligencia artificial (IA) de Microsoft Bing era de una mujer negra con un revólver en la mano.

“¡Me escandalicé! Al principio dije: ‘¡Esto es racismo algorítmico!’. Es obvio que el algoritmo no comete racismo en sí mismo, pero detrás hay seres humanos , y muchos o algunos de ellos son racistas, y reproducen esta lógica. Entonces no podemos pensar que la Inteligencia Artificial sea así de artificial, está sujeta a la subjetividad de quienes crearon el programa, de quienes crearon el instrumento tecnológico, que en ocasiones es creado por personas blancas que están a cargo del proceso y la producción de la tecnología. nuestro país y en el mundo”, explicó Renata.

Renata, doctora en Comunicación Social y presidenta de la Comisión Parlamentaria de Investigación (CPI) sobre Reconocimiento Fotográfico (que investiga los efectos de las detenciones realizadas mediante reconocimiento fotográfico), explica que tiene intención de emprender acciones legales.

“El departamento jurídico está estudiando las medidas, porque una de las facetas de la inteligencia artificial y de estos programas es no asumir responsabilidades Es una obra que no tiene autor. En ese sentido, todo el debate que se dio en el Congreso Nacional, en el STF, en relación a las Grandes Tec, demuestra lo perjudicial que es para ustedes no tener a quién identificar”, afirmó .



La diputada cree que la inteligencia artificial también reproduce una sociedad racista, sexista, misógina, LGBTfóbica y en ese sentido sintió el impacto de ello. “Obviamente soy una figura pública, un diputado estatal que lucha por los derechos humanosPongo mi nombre y la imagen que aparece es una mujer negra, con una pistola en la mano dentro de una favela , me siento personalmente afectado por una situación como esta” , explicó el parlamentario, afirmando además que esta representación tiene consecuencias para la vida real.


Renata Souza

“Podría ser cualquiera de nosotros. Imagínese a un niño o cualquier otra persona negra, que pasa por esto: ‘qué quieres decir con la imagen que quiero tener de mí, en este caso fue en el mundo encantado de Walt Disney, que mi imagen no se lee como una persona adecuada. Se la considera una criminal porque vive en una favela y es una mujer negra. Esto es perjudicial para nuestra sociedad porque muestra cómo la sociedad lee a las mujeres negras, de las favelas y de las zonas periféricas” , dijo Renata.

En un comunicado Microsoft afirmó que están investigando el caso y que invertirán en mejorar la herramienta:

Creemos que la creación de tecnologías de IA confiables e inclusivas es un tema fundamental y algo que nos tomamos muy en serio. Estamos investigando este informe y tomaremos las medidas adecuadas para ajustar nuestro servicio. Estamos totalmente comprometidos a mejorar la precisión de los resultados de esta nueva tecnología y continuaremos haciendo inversiones adicionales en esto a medida que siga evolucionando”.


Deja un comentario