La inteligencia artificial (IA) ha sido un tema de gran hinchazón, pero recientes encuestas indican que la mayoría del público estadounidense cree que la IA es más probable que cause daño que beneficio. El potencial de daño se extiende a través de varios dominios, incluyendo amenazas a los derechos de los trabajadores, impactos climáticos y sesgos en la contratación o diagnósticos médicos. Una área que no ha sido examinada extensamente es la capacidad de la IA para influir en las personas sin su conocimiento, lo que pone en peligro su agencia, autonomía y capacidad de tomar decisiones. Por ejemplo, el surgimiento de ChatGPT se ha demostrado que se correlaciona con cambios en las palabras que las personas utilizan en la conversación. A medida que los modelos se entrenan en datos que exhiben estos cambios, adoptan estos cambios a un mayor grado. Si bien el cambio de lenguaje puede parecer benigno, los bucles de retroalimentación similares pueden existir en dominios que gobiernan el acceso a oportunidades y recursos, como la policía, la educación y la contratación. Estos bucles pueden causar daño social generalizado sin el conocimiento o consentimiento de los tomadores de decisiones.
Un gran experimento fue realizado donde sujetos humanos revisaron currículos en colaboración con modelos de IA racialmente sesgados. Los hallazgos revelaron que las personas no pueden identificar y mitigar adecuadamente las huellas de sesgo de la IA que se propagan en sus decisiones de toma de decisiones. Esto se alinea con hallazgos similares de experimentos en percepción emocional y diagnósticos médicos, sugiriendo que la amenaza de la IA a la toma de decisiones autónoma humana es un problema generalizado.
Las recomendaciones de políticas de IA actuales y las regulaciones que llaman a los humanos en el bucle para decisiones de alto riesgo fallan en abordar este impacto. Se necesitan soluciones adicionales, como apoyo financiero para evaluaciones de impacto de la IA, regulaciones que abarquen tanto daños intencionales como no intencionales, y incentivos para desarrollar sistemas de IA responsables.
La influencia de la IA en la toma de decisiones y la autonomía se exploró aún más en un estudio donde participantes tomaron decisiones de contratación en colaboración con un sistema de IA simulado. Más de 500 personas completaron evaluaciones cognitivas de sus sesgos explícitos e implícitos y escenarios de toma de decisiones. Los participantes fueron expuestos a diferentes condiciones de IA: sin IA, IA sesgada que reforzaba o contradecía estereotipos comunes, y IA no sesgada. Los resultados mostraron que interactuar con IA sesgada hizo que los participantes fueran más propensos a tomar decisiones sesgadas ellos mismos, independientemente de si el sesgo se alineaba con o contradecía estereotipos comunes. Cuando el IA reforzó estereotipos de raza-ocupación, los participantes seleccionaron candidatos de mayoría blanca el 90,4% del tiempo. Cuando el IA contradecía esos estereotipos, los participantes seleccionaron candidatos de mayoría no blanca el 90,7% del tiempo. En contraste, sin ninguna recomendación de IA, los participantes eligieron candidatos de mayoría blanca el 49,3% del tiempo y candidatos no blancos el 50,7% del tiempo. Estos resultados demuestran cómo fuertemente la IA puede moldear las elecciones humanas, lo que plantea una amenaza seria a la capacidad de las personas para tomar decisiones autónomas libres de influencia o coacción oculta.
En los últimos años, los legisladores han presentado numerosas propuestas legislativas destinadas a reducir los impactos dañinos de la IA en la toma de decisiones de alto riesgo. En 2024, se presentó la Ley de la IA de Colorado para prevenir la discriminación intencional y no intencional causada por sistemas de IA que toman decisiones de impacto alto. Aunque está programada para entrar en vigor en 2026, los legisladores todavía están debatiendo términos de la ley, principalmente relacionados con la responsabilidad en casos de impacto desigual. En 2025, Texas aprobó legislación que regula la IA con disposiciones para no discriminación en el uso de la IA, pero los desarrolladores y los usuarios solo son responsables si desarrollaron o utilizaron sistemas de IA con la intención de causar discriminación. La legislatura de Virginia también aprobó regulación destinada a frenar la discriminación de la IA en 2025, aunque fue vetada debido a preocupaciones sobre las cargas para las empresas más pequeñas y amenazas a la innovación de la IA. Se han hecho menos propuestas para prevenir la IA o otras tecnologías de interferir con la autonomía individual. Históricamente, proteger la autonomía individual de la interferencia tecnológica a través de la regulación ha sido un desafío. Por ejemplo, el impacto de las redes sociales en tanto la autonomía de los niños como la de los adultos adultos permanece en gran medida sin regulación en los Estados Unidos. La Unión Europea, sin embargo, ha prohibido a las plataformas de redes sociales utilizar técnicas no transparentes para cambiar el comportamiento de los usuarios y ha declarado que utilizar la IA para la manipulación cognitiva es inaceptable.
Con las capacidades y aplicaciones de la IA avanzando rápidamente, desarrollar legislación integral para prevenir la discriminación y proteger la autonomía individual y la seguridad requerirá construir sobre la regulación existente y mirar a conceptos relacionados como la intencionalidad, la privacidad y la libertad. El apoyo a los esfuerzos para mejorar las evaluaciones de impacto de la IA es crucial. Sin entender los efectos humanos y sociales de la proliferación de la IA, es difícil crear políticas que busquen frenar los impactos dañinos.
Las evaluaciones de impacto de la IA se exploraron aún más en un estudio donde participantes tomaron decisiones de contratación en colaboración con un sistema de IA simulado. Los resultados mostraron que interactuar con IA sesgada hizo que los participantes fueran más propensos a tomar decisiones sesgadas ellos mismos, independientemente de si el sesgo se alineaba con o contradecía estereotipos comunes. Cuando el IA reforzó estereotipos de raza-ocupación, los participantes seleccionaron candidatos de mayoría blanca el 90,4% del tiempo. Cuando el IA contradecía esos estereotipos, los participantes seleccionaron candidatos de mayoría no blanca el 90,7% del tiempo. En contraste, sin ninguna recomendación de IA, los participantes eligieron candidatos de mayoría blanca el 49,3% del tiempo y candidatos no blancos el 50,7% del tiempo. Estos resultados demuestran cómo fuertemente la IA puede moldear las elecciones humanas, lo que plantea una amenaza seria a la capacidad de las personas para tomar decisiones autónomas libres de influencia o coacción oculta.
Las regulaciones de la IA deben abarcar tanto daños intencionales como no intencionales. Si bien algunas propuestas tratan los daños no intencionales como menos graves que los intencionales, estos daños deben ser evaluados en contexto. El sesgo no intencional desventajador puede producir consecuencias reales del mundo serias, como tiempos de espera más largos para trasplantes de órganos para pacientes negros, mientras que el sesgo correctivo intencional puede mejorar la precisión diagnóstica o apoyar la asignación de recursos más equitativa.
Incentivar el desarrollo responsable de la inteligencia artificial es otro paso crítico. La regulación puede impulsar la innovación positiva sin interferir con la privacidad de los usuarios y preservar sus derechos. Las aproximaciones para fomentar esto incluyen incentivos fiscales para compensar los costos del desarrollo de inteligencia artificial responsable, una cooperación más estrecha entre la industria y la academia, y currículos educativos que enseñen la informática como una disciplina sociotécnica valorada. Lograr un equilibrio apropiado entre la regulación de la inteligencia artificial y la innovación requerirá orientación y acción de partes interesadas en la industria, el gobierno, la academia y el público.
Enfocar la regulación en la protección de la privacidad y los derechos de los usuarios
Estos hallazgos destacan cómo los daños relacionados con la discriminación y la autonomía pueden intersectar y reforzarse mutuamente en el dominio de la contratación. Estos efectos tienen el potencial de causar daños sociales generalizados pero a menudo se omiten de las percepciones comunes de los impactos negativos de la inteligencia artificial. Además de fortalecer las protecciones legales contra la discriminación en el empleo, los formuladores de políticas deben considerar cómo la inteligencia artificial influye en la autonomía y priorizar el desarrollo de sistemas de inteligencia artificial que mejoren la agencia y la equidad en lugar de limitarlas.
