La inteligencia artificial (IA) ha sido un tema de gran hinchazón, sin embargo, recientes encuestas indican que la mayoría del público estadounidense cree que la IA es más probable que cause daño que beneficio. El potencial de daño se extiende a través de varios dominios, incluyendo amenazas a los derechos de los trabajadores, impactos en el clima y sesgos en la contratación o diagnósticos médicos. Una área que no ha sido examinada extensamente es la capacidad de la IA para influir en las personas sin su conocimiento, lo que amenaza su agencia, autonomía y capacidad de toma de decisiones. Por ejemplo, el auge de ChatGPT se ha demostrado que se correlaciona con cambios en las palabras que las personas utilizan en la conversación. A medida que los modelos se entrenan en datos que exhiben estos cambios, adoptan estos cambios a un mayor grado. Si bien el cambio de lenguaje puede parecer benigno, los bucles de retroalimentación similares pueden existir en dominios que regulan el acceso a oportunidades y recursos, como la policía, la educación y la contratación. Estos bucles pueden causar daño social generalizado sin el conocimiento o consentimiento de los tomadores de decisiones.
Un gran experimento fue realizado donde sujetos humanos revisaron currículums en colaboración con modelos de IA racialmente sesgados. Los hallazgos revelaron que las personas no pueden identificar y mitigar adecuadamente las huellas de sesgo de la IA que se propagan en su toma de decisiones. Esto se alinea con hallazgos similares de experimentos en percepción emocional y diagnósticos médicos, sugiriendo que la amenaza de la IA a la toma de decisiones autónoma humana es un problema generalizado. Las recomendaciones actuales de políticas de IA y regulaciones que llaman a la presencia de humanos en el bucle para decisiones de alto riesgo caen cortas de abordar este impacto. Se necesitan soluciones adicionales, como apoyo financiero para evaluaciones de impacto de la IA, regulaciones que abarquen tanto daños intencionales como no intencionales y incentivos para desarrollar sistemas de IA responsables.
La influencia de la IA en la toma de decisiones y la autonomía se exploró aún más en un estudio donde participantes tomaron decisiones de contratación en colaboración con un sistema de IA simulado. Más de 500 personas completaron evaluaciones cognitivas de sus sesgos explícitos e implícitos y escenarios de toma de decisiones. Los participantes fueron expuestos a diferentes condiciones de IA: sin IA, IA sesgada que reforzaba o contradecía estereotipos comunes, y IA no sesgada. Los resultados mostraron que interactuar con IA sesgada hizo que los participantes fueran más propensos a tomar decisiones sesgadas ellos mismos, independientemente de si el sesgo se alineaba con o contradecía estereotipos comunes. Cuando la IA reforzó estereotipos de raza-ocupación, los participantes seleccionaron candidatos de mayoría blanca el 90,4% de las veces. Cuando la IA contradecía esos estereotipos, los participantes seleccionaron candidatos de mayoría no blanca el 90,7% de las veces. En contraste, sin ninguna recomendación de IA, los participantes eligieron candidatos de mayoría blanca el 49,3% de las veces y candidatos no blancos el 50,7% de las veces. Estos resultados demuestran cómo fuertemente la IA puede moldear las elecciones humanas, planteando una amenaza seria a la capacidad de las personas de tomar decisiones autónomas libres de influencia o coerción oculta.
En los últimos años, los legisladores han presentado numerosas propuestas legislativas destinadas a reducir los impactos dañinos de la IA en la toma de decisiones de alto riesgo. En 2024, se presentó la Ley de la IA de Colorado para prevenir la discriminación intencional y no intencional causada por sistemas de IA que toman decisiones de impacto alto. Aunque está programada para entrar en vigor en 2026, los legisladores aún están debatiendo términos de la ley, principalmente relacionados con la responsabilidad en casos de impacto desigual. En 2025, Texas aprobó legislación que regula la IA con disposiciones para no discriminación en el uso de la IA, pero los desarrolladores y los usuarios solo son responsables si desarrollaron o utilizaron sistemas de IA con la intención de causar discriminación. La legislatura de Virginia también aprobó regulación destinada a frenar la discriminación de la IA en 2025, aunque fue vetada debido a preocupaciones sobre las cargas para las empresas más pequeñas y amenazas a la innovación de la IA. Se han hecho pocas propuestas para prevenir la IA o otras tecnologías de interferir con la autonomía individual. Históricamente, proteger la autonomía individual de la interferencia tecnológica a través de la regulación ha sido un desafío. Por ejemplo, el impacto de las redes sociales en la autonomía de los niños y adultos sigue siendo en gran medida no regulado en los Estados Unidos. La Unión Europea, sin embargo, ha prohibido que las plataformas de redes sociales utilicen técnicas no transparentes para cambiar el comportamiento de los usuarios y ha declarado que utilizar la IA para manipular el comportamiento cognitivo es inaceptable.
A medida que las capacidades y aplicaciones de la IA avanzan rápidamente, desarrollar legislación integral para prevenir la discriminación y proteger la autonomía y seguridad individuales y sociales requerirá construir sobre la regulación existente y mirar a conceptos relacionados como la intencionalidad, la privacidad y la libertad. El apoyo a los esfuerzos para mejorar las evaluaciones de impacto de la IA es crucial. Sin comprender los efectos humanos y sociales de la proliferación de la IA, es difícil crear políticas que busquen frenar los impactos dañinos. La velocidad a la que se despliegan nuevas tecnologías de IA supera con creces la velocidad a la que se desarrollan evaluaciones de la IA confiables, válidas y generalizables. Para abordar este vacío, se debe asignar una mayor proporción de financiamiento para el desarrollo general de la IA a proyectos que específicamente buscan mejorar los estándares de evaluación de la IA.
Es esencial incluir disposiciones para impactos no intencionales en la regulación de la IA. La Comisión de Igualdad en el Empleo (EEOC) suspendió las investigaciones sobre reclamaciones de impacto desigual, lo que podría socavar los esfuerzos para prevenir la discriminación algorítmica. La legislación integral de la IA debe abordar tanto el impacto desigual como el tratamiento desigual. Si bien algunas propuestas tratan los daños no intencionales como menos graves que los intencionales, estos daños deben ser evaluados contextualmente. El sesgo no intencional desventajoso puede producir consecuencias reales del mundo serias, como tiempos de espera más largos para trasplantes de órganos para pacientes negros, mientras que el sesgo correctivo intencional puede mejorar la precisión diagnóstica o apoyar la asignación más equitativa de recursos.
Incentivizing responsible AI development es otro paso crítico. La regulación puede impulsar la innovación positiva que no interfiera con la privacidad de los usuarios y preserve sus derechos. Las aproximaciones para fomentar esto incluyen incentivos fiscales para compensar los costos del desarrollo de IA responsable, una cooperación entre la industria y la academia aumentada, y currículos educativos que enseñen la ciencia de la computación como una disciplina sociotecnológica valorada. Lograr un equilibrio apropiado entre la regulación de la IA y la innovación requerirá orientación y acción de partes interesadas en la industria, el gobierno, la academia y el público.
Enfoques para la regulación de la IA
Estos hallazgos destacan cómo los daños relacionados con la discriminación y la autonomía pueden intersectar y reforzarse mutuamente en el dominio de la contratación. Estos efectos tienen el potencial de causar daños sociales generalizados pero a menudo se omiten de las percepciones comunes de los impactos negativos de la IA. Además de fortalecer las protecciones legales contra la discriminación en el empleo, los formuladores de políticas deben considerar cómo la IA influye en la autonomía y priorizar el desarrollo de sistemas de IA que mejoren la agencia y la equidad en lugar de limitarlas.
