2026-05-31T01:41:28Zhttps://riuma.uma.es/rest/oai/requestoai:riuma.uma.es:10630/383892026-02-03T11:19:22Zcom_10630_2254col_10630_37953
Castro-Martínez, Andrea
Torres-Martín, José Luis
Pérez-Ordóñez, Cristina de los Ángeles
2025-04-07T09:48:57Z
2025-04-07T09:48:57Z
2025-03-14
Castro-Martínez, A., Torres-Martín, J. L., & Pérez-Ordóñez, C. (2025). Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuarios. Encontros Bibli: Revista eletrônica De Biblioteconomia E Ciência Da informação, 30, 1–26. https://doi.org/10.5007/1518-2924.2025.e103518
https://hdl.handle.net/10630/38389
10.5007/1518-2924.2025.e103518
Objetivo: Establecer recomendaciones para que los prosumidores efectúen un uso ético de estas herramientas evitando, de esta forma, resultados que caigan en estereotipos de clase, raza y/o género.
Método: Análisis del material documental desarrollado por distintas entidades: instituciones internacionales (UNESCO y Conuncil of Europe) y empresas desarrolladoras de herramientas de IA (OpenAI, Google, Microsoft y Anthropic).
Resultado: La IA puede perpetuar estereotipos ya que emplea datos que reproducen un contexto donde las minorías y las mujeres están infrarrepresentadas. Las principales corporaciones afirman haber desarrollado códigos de conducta y autorregulación. Esta gobernanza concuerda con las recomendaciones internacionales y rige su comportamiento, los protege de responsabilidades y basa su RSC. Incluyen recomendaciones para los usuarios en los procesos de uso de las herramientas.
Conclusiones: Aún no es posible evitar totalmente los sesgos pero es recomendable que los usuarios detecten las estereotipos y los minimicen. La autorregulación contribuye a contenidos menos discriminatorios, además de incorporar a mujeres y minorías como desarrolladores. Plantean códigos de conductas para detectar contenidos inapropiados. Los hallazgos son útiles para fomentar la perspectiva crítica y poner el foco en el papel que los usuarios, a los que se ofrecen recomendaciones, tienen en un proceso en el que el uso que se haga de las herramientas resulta fundamental.
spa
http://creativecommons.org/licenses/by/4.0/
open access
Attribution 4.0 Internacional
Inteligencia artificial - Aspectos morales
Estereotipo (Psicología) - Efectos de las innovaciones tecnológicas
Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuarios.
journal article