Una investigación reciente de Princeton y la Universidad de Chicago revela que los sistemas de inteligencia artificial, utilizados cada vez más en procesos de selección, no solo replican sesgos existentes, sino que pueden desarrollar nuevos estereotipos sociales en la toma de decisiones, incluso sin prejuicios iniciales. Este hallazgo plantea serias preocupaciones sobre la equidad en la contratación y el impacto a largo plazo de la IA en la sociedad, destacando que los modelos más avanzados pueden ser más propensos a este comportamiento.
La formación de sesgos inéditos en modelos de lenguaje
El estudio empleó Grandes Modelos de Lenguaje (LLM) en un juego de contratación, emulando un experimento previo con participantes humanos. En esta tarea, los LLM fueron instruidos para asignar candidatos a roles específicos, recibiendo retroalimentación sobre el éxito de sus decisiones. Los candidatos, de cuatro grupos étnicos ficticios (Tufa, Aima, Reku o Weki), poseían la misma probabilidad de éxito en cualquier puesto. La investigación demostró que los LLM desarrollaron sesgos significativamente más altos contra estos grupos artificiales en comparación con los humanos. «Los LLM pueden desarrollar espontáneamente nuevos sesgos sociales sobre grupos demográficos artificiales, incluso cuando no existen diferencias inherentes», afirman los investigadores, subrayando que la IA no es un mero reflejo pasivo de los sesgos humanos, sino un agente activo en su creación.
El dilema exploración-explotación en la IA
El problema central reside en el principio de toma de decisiones conocido como el equilibrio entre exploración y explotación (explore-exploit tradeoffs). Los humanos a menudo optan por la explotación (lo conocido) cuando las consecuencias son altas, minimizando riesgos. Sin embargo, los sistemas de IA, al estar menos incentivados a la exploración y diseñados para maximizar recompensas, tienden a inclinarse fuertemente hacia la explotación de patrones exitosos, propiciando la formación de estereotipos. Esta tendencia racional, al inferir con precisión a partir de resultados pasados, puede ser contraproducente, ya que reduce la exploración y marginaliza inadvertidamente a grupos sociales.
Modelos avanzados y la amplificación de sesgos
El estudio evaluó 15 modelos de proveedores líderes como OpenAI, Anthropic, DeepSeek, Meta, Google y Alibaba. Sorprendentemente, el modelo de razonamiento O3 de OpenAI fue el que estratificó a los candidatos ficticios con mayor severidad. Los investigadores observaron que, dentro de una misma familia de modelos, las versiones más recientes y grandes, con mayores capacidades de razonamiento, generaron resultados más sesgados. Esto sugiere que a medida que la IA se vuelve más sofisticada, su capacidad para identificar y explotar patrones puede involuntariamente amplificar la creación de sesgos, impactando negativamente la diversidad y la equidad en los procesos de selección.
Implicaciones legales y sociales de los sesgos algorítmicos
Más del 90% de las empresas emplean IA en la adquisición de talento, según ManPower Group, automatizando una parte crítica del proceso de contratación. Sin embargo, esta automatización ha provocado consecuencias no deseadas, incluyendo demandas por discriminación. Workday, un proveedor clave de software de gestión de capital humano, enfrenta una demanda colectiva alegando que sus herramientas de contratación impulsadas por IA son discriminatorias. De manera similar, Meta ha sido demandada por supuestamente usar un sistema de IA sesgado en sus decisiones de despido, afectando a empleados con discapacidades o aquellos que tomaron licencias médicas o familiares protegidas. Estos casos subrayan cómo la capacidad de la IA para encontrar patrones y generalizar, aunque útil para el aprendizaje, se convierte en un riesgo significativo en entornos del mundo real, extendiéndose más allá del empleo a áreas críticas como la atención médica y la selección de inquilinos.
En resumen
- Los modelos de IA pueden generar nuevos estereotipos sociales en decisiones de contratación, no solo replicar los existentes.
- El estudio de Princeton y la Universidad de Chicago utilizó LLM en un juego de contratación, mostrando tasas de sesgo más altas que en humanos.
- La tendencia de la IA a la explotación de resultados, más que a la exploración, es un factor clave en la creación de estos sesgos.
- Modelos más grandes y con mayor capacidad de razonamiento de OpenAI (como O3) mostraron los niveles más altos de estratificación.
- La proliferación de la IA en la contratación genera demandas por discriminación, como los casos que enfrentan Workday y Meta.
- Es crucial diseñar intervenciones que desalienten el emparejamiento de patrones dañinos, manteniendo las capacidades constructivas de la IA.
