2026-05-27T05:34:47Zhttps://riuma.uma.es/rest/oai/requestoai:riuma.uma.es:10630/367922026-02-03T11:04:45Zcom_10630_2254col_10630_37953
Los estereotipos de clase, género y raza reproducidos por la IA generativa: recomendaciones para los usuarios
Castro-Martínez, Andrea
Torres-Martín, José Luis
Pérez-Ordóñez, Cristina de los Ángeles
Inteligencia artificial
Estereotipo (Psicología)
Objetivo: Establecer recomendaciones para que los prosumidores efectúen un uso ético de estas herramientas evitando, de esta forma, resultados que caigan en estereotipos de clase, raza y/o género.
Método: Análisis del material documental desarrollado por distintas entidades: instituciones internacionales (UNESCO y Conuncil of Europe) y empresas desarrolladoras de herramientas de IA (OpenAI, Google, Microsoft y Anthropic).
Resultado: La IA puede perpetuar estereotipos ya que emplea datos que reproducen un contexto donde las minorías y las mujeres están infrarrepresentadas. Las principales corporaciones afirman haber desarrollado códigos de conducta y autorregulación. Esta gobernanza concuerda con las recomendaciones internacionales y rige su comportamiento, los protege de responsabilidades y basa su RSC. Incluyen recomendaciones para los usuarios en los procesos de uso de las herramientas.
Conclusiones: Aún no es posible evitar totalmente los sesgos pero es recomendable que los usuarios detecten las estereotipos y los minimicen. La autorregulación contribuye a contenidos menos discriminatorios, además de incorporar a mujeres y minorías como desarrolladores. Plantean códigos de conductas para detectar contenidos inapropiados. Los hallazgos son útiles para fomentar la perspectiva crítica y poner el foco en el papel que los usuarios, a los que se ofrecen recomendaciones, tienen en un proceso en el que el uso que se haga de las herramientas resulta fundamental.
2025-01-23T09:00:58Z
2025-01-23T09:00:58Z
2023
journal article
Castro-Martínez, A.; Torres-Martín, J.L.; Pérez-Ordóñez, C. (2025). Los estereotipos de clase, género y raza reproducidos por la IA generativa: recomendaciones para los usuarios. Encontros Bibli v.23 (2023)
https://hdl.handle.net/10630/36792
spa
http://creativecommons.org/licenses/by-nc-sa/4.0/
open access
Atribución-NoComercial-CompartirIgual 4.0 Internacional
Universidade Federal de Santa Catarina