Influencia en la toma de decisiones | 20 NOV 23

Los humanos heredan los sesgos de la inteligencia artificial

Repiten los errores sistemáticos en los resultados de la IA
Autor/a: Vicente, L., Matute, H.  Fuente: Sci Rep 13, 15737 (2023) Humans inherit artificial intelligence biases

Una nueva investigación realizada por las psicólogas Lucía Vicente y Helena Matute de la Universidad de Deusto en Bilbao, España, proporciona evidencia de que las personas pueden heredar sesgos de la inteligencia artificial (errores sistemáticos en los resultados de la IA) en sus decisiones.

Los humanos heredan sesgos de la inteligencia artificial

Resumen

Las recomendaciones de la inteligencia artificial a veces son erróneas y sesgadas. En nuestra investigación, planteamos la hipótesis de que las personas que realizan una tarea de diagnóstico médico (simulada) asistida por un sistema de IA sesgado reproducirán el sesgo del modelo en sus propias decisiones, incluso cuando pasen a un contexto sin soporte de IA. En tres experimentos, los participantes completaron una tarea de clasificación de temática médica con o sin la ayuda de un sistema de inteligencia artificial sesgado. Las recomendaciones sesgadas de la IA influyeron en las decisiones de los participantes. Además, cuando esos participantes, asistidos por la IA, pasaron a realizar la tarea sin ayuda, cometieron los mismos errores que había cometido la IA durante la fase anterior. Por lo tanto, las respuestas de los participantes imitaron el sesgo de la IA incluso cuando la IA ya no hacía sugerencias. Estos resultados proporcionan evidencia de la herencia humana del sesgo de IA.


Comentarios

Los sorprendentes resultados obtenidos por los sistemas de inteligencia artificial, que pueden, por ejemplo, mantener una conversación como lo hace un humano, han dado a esta tecnología una imagen de alta fiabilidad. Cada vez más campos profesionales están implementando herramientas basadas en IA para apoyar la toma de decisiones de los especialistas para minimizar los errores en sus decisiones. Sin embargo, esta tecnología no está exenta de riesgos debido a sesgos en los resultados de la IA. Debemos considerar que los datos utilizados para entrenar modelos de IA reflejan decisiones humanas pasadas. Si estos datos ocultan patrones de errores sistemáticos, el algoritmo de IA aprenderá y reproducirá estos errores. De hecho, existe abundante evidencia que indica que los sistemas de IA heredan y amplifican los prejuicios humanos.

El hallazgo más relevante de la investigación de Vicente y Matute es que también puede ocurrir el efecto contrario: que los humanos hereden sesgos de IA. Es decir, la IA no solo heredaría sus sesgos de los datos humanos, sino que las personas también podrían heredar esos sesgos de la IA, con el riesgo de quedar atrapadas en un bucle peligroso. Scientific Reports publica los resultados de las investigaciones de Vicente y Matute.

 

Comentarios

Para ver los comentarios de sus colegas o para expresar su opinión debe ingresar con su cuenta de IntraMed.

AAIP RNBD
Términos y condiciones de uso | Política de privacidad | Todos los derechos reservados | Copyright 1997-2024