En el contexto del 56º período de sesiones del Consejo de Derechos Humanos de la ONU, se ha presentado un informe crucial que aborda las preocupaciones crecientes sobre la discriminación racial facilitada por tecnologías emergentes. Ashwini K. P., Relatora Especial sobre las formas contemporáneas de racismo, discriminación racial, xenofobia y formas conexas de intolerancia, ha revelado cómo la inteligencia artificial (IA) perpetúa y amplifica la discriminación racial en su informe.
Tecnología y Discriminación Racial: Un Problema en Auge
El informe de la Relatora Especial subraya la falsa creencia de que la tecnología es intrínsecamente objetiva y neutra. En realidad, la IA puede exacerbar la discriminación racial a través de diversos mecanismos. Ashwini K. P. identifica cuatro áreas críticas en las que la IA contribuye a las manifestaciones de racismo:
- Problemas Relacionados con los Datos: La calidad y la representatividad de los datos utilizados para entrenar sistemas de IA pueden introducir sesgos inherentes que perpetúan estereotipos y desigualdades.
- Cuestiones de Diseño de Algoritmos: Las decisiones tomadas durante el diseño de algoritmos pueden reflejar y amplificar prejuicios inconscientes de los desarrolladores.
- Uso Intencionadamente Discriminatorio de la IA: Hay casos en los que la IA se utiliza deliberadamente para fines discriminatorios, lo que agrava las desigualdades existentes.
- Rendición de Cuentas: La falta de mecanismos efectivos de supervisión y responsabilidad permite que las prácticas discriminatorias persistan sin consecuencias.
Impacto de la IA en Diversos Ámbitos
El informe ofrece ejemplos concretos de cómo la IA está siendo implementada en diferentes sectores, incluyendo la justicia penal, el empleo, la educación y los servicios financieros, y cómo estas aplicaciones pueden tener efectos discriminatorios. Por ejemplo, en el ámbito de la justicia penal, los algoritmos predictivos utilizados para evaluar riesgos pueden discriminar a personas de ciertos grupos raciales, perpetuando el ciclo de injusticia.
Esfuerzos para Regular la IA
Ashwini K. P. también analiza los esfuerzos emergentes para gestionar y regular la IA. Subraya la necesidad de una supervisión más estricta y de marcos regulatorios que aseguren que las tecnologías de IA se desarrollen y utilicen de manera ética y justa. Además, destaca la relevancia de las normas del derecho internacional de los derechos humanos como guía para estos esfuerzos regulatorios.
Recomendaciones y Conclusiones
La Relatora Especial concluye su informe con una serie de recomendaciones dirigidas a los Estados miembros. Entre las recomendaciones, se enfatiza la importancia de:
- Implementar políticas y marcos legales que prevengan la discriminación racial en el desarrollo y uso de IA.
- Promover la transparencia y la rendición de cuentas en los sistemas de IA.
- Fomentar la participación de diversas partes interesadas, incluidos grupos afectados, en el diseño y supervisión de tecnologías de IA.
El informe de Ashwini K. P. representa un llamado urgente a la acción para abordar las formas en que la tecnología, específicamente la inteligencia artificial, puede perpetuar la discriminación racial. Destaca la necesidad de un enfoque proactivo y colaborativo para garantizar que el progreso tecnológico no se logre a expensas de los derechos humanos y la igualdad racial.
Para obtener más detalles, aquí tienes el el informe completo:
Afroféminas
Descubre más desde Afroféminas
Suscríbete y recibe las últimas entradas en tu correo electrónico.