La Inteligencia Artificial (IA) ha sido un tema de gran hinchazón, pero recientes encuestas indican que la mayoría del público estadounidense cree que la IA es más probable que cause daño que beneficio. El potencial de daño se extiende a través de varios dominios, incluyendo amenazas a los derechos de los trabajadores, impactos en el clima y sesgos en la contratación o diagnósticos médicos. Una área que no ha sido examinada extensamente es la capacidad de la IA para influir en las personas sin su conocimiento, lo que pone en peligro su agencia, autonomía y capacidad de toma de decisiones. Por ejemplo, el aumento de ChatGPT se ha demostrado que se correlaciona con cambios en las palabras que las personas utilizan en la conversación. A medida que los modelos se entrenan en datos que exhiben estos cambios, adoptan estos cambios a un mayor grado. Si bien el cambio de lenguaje puede parecer benigno, los bucles de retroalimentación similares pueden existir en dominios que rigen el acceso a oportunidades y recursos, como la policía, la educación y la contratación. Estos bucles pueden causar daño social generalizado sin el conocimiento o consentimiento de los tomadores de decisiones.
Se realizó un experimento a gran escala donde los sujetos humanos revisaron currículos en colaboración con modelos de IA sesgados racialmente. Los hallazgos revelaron que las personas no pueden identificar y mitigar adecuadamente las huellas de sesgos de la IA que se propagan en su toma de decisiones. Esto se alinea con hallazgos similares de experimentos en percepción emocional y diagnósticos médicos, sugiriendo que la amenaza de la IA a la toma de decisiones autónoma humana es un problema generalizado. Las recomendaciones actuales de políticas de IA y regulaciones que llaman a los humanos en el bucle para decisiones de alto riesgo fallan en abordar este impacto. Se necesitan soluciones adicionales, como apoyo financiero para evaluaciones de impacto de la IA, regulaciones que abarquen tanto daños intencionales como no intencionales y incentivos para desarrollar sistemas de IA responsables.
Impacto de la IA en la toma de decisiones y autonomía
Se exploró el impacto de la IA en la toma de decisiones y autonomía en un estudio donde los participantes tomaron decisiones de contratación en colaboración con un sistema de IA simulado. Más de 500 personas completaron evaluaciones cognitivas de sus sesgos explícitos e implícitos y escenarios de toma de decisiones. Los participantes fueron expuestos a diferentes condiciones de IA: sin IA, IA sesgada que reforzaba o contradecía estereotipos comunes, y IA no sesgada. Los resultados mostraron que interactuar con IA sesgada hizo que los participantes fueran más propensos a tomar decisiones sesgadas ellos mismos, independientemente de si el sesgo se alineaba con o contradecía estereotipos comunes. Cuando la IA reforzó estereotipos de raza-ocupación, los participantes seleccionaron candidatos de mayoría blanca el 90,4% del tiempo. Cuando la IA contradecía esos estereotipos, los participantes seleccionaron candidatos de mayoría no blanca el 90,7% del tiempo. En contraste, sin ninguna recomendación de IA, los participantes eligieron candidatos de mayoría blanca el 49,3% del tiempo y candidatos no blancos el 50,7% del tiempo. Estos resultados demuestran cómo fuertemente la IA puede moldear las elecciones humanas, lo que plantea una amenaza seria a la capacidad de las personas para tomar decisiones autónomas libres de influencia o coacción oculta.
Legislación y regulación
En los últimos años, los legisladores han presentado numerosas propuestas legislativas destinadas a reducir los impactos dañinos de la IA en la toma de decisiones de alto riesgo. En 2024, se presentó la Ley de IA de Colorado para prevenir la discriminación intencional y no intencional causada por sistemas de IA que toman decisiones de alto impacto. Aunque está previsto que entre en vigor en 2026, los legisladores aún están debatiendo los términos de la ley, principalmente relacionados con la responsabilidad en casos de impacto desigual. En 2025, Texas aprobó una legislación que regula la IA con disposiciones para no discriminación en el uso de la IA, pero los desarrolladores y los usuarios solo son responsables si desarrollaron o utilizaron sistemas de IA con la intención de causar discriminación. La legislatura de Virginia también aprobó una regulación destinada a frenar la discriminación de la IA en 2025, aunque fue vetada debido a preocupaciones sobre las cargas para las empresas más pequeñas y amenazas a la innovación de la IA. Se han hecho pocas propuestas para prevenir que la IA o otras tecnologías interfieran con la autonomía individual. Históricamente, proteger la autonomía individual de la interferencia tecnológica a través de la regulación ha sido un desafío. Por ejemplo, el impacto de las redes sociales en la autonomía de los niños y adultos sigue siendo en gran medida no regulado en los Estados Unidos. La Unión Europea, sin embargo, ha prohibido que las plataformas de redes sociales utilicen técnicas no transparentes para cambiar el comportamiento de los usuarios y ha declarado que utilizar la IA para la manipulación cognitiva es inaceptable.
A medida que las capacidades y aplicaciones de la IA avanzan rápidamente, desarrollar una legislación integral para prevenir la discriminación y proteger la autonomía individual y la seguridad requerirá construir sobre la regulación existente y mirar a conceptos relacionados como la intencionalidad, la privacidad y la libertad. El apoyo a los esfuerzos para mejorar las evaluaciones de impacto de la IA es crucial. Sin entender los efectos humanos y sociales de la proliferación de la IA, es difícil crear políticas que busquen reducir los impactos dañinos. La velocidad a la que se despliegan nuevas tecnologías de IA supera con creces la velocidad a la que se desarrollan evaluaciones de la IA confiables, válidas y generalizables. Para abordar esta brecha, se debe asignar una mayor proporción de financiamiento para el desarrollo general de la IA a proyectos que específicamente buscan mejorar los estándares de evaluación de la IA.
Incluir disposiciones para impactos no intencionales en la regulación de la IA también es esencial. La Comisión de Igualdad de Oportunidades de Empleo (EEOC) suspendió las investigaciones sobre reclamaciones de impacto desigual, lo que podría socavar los esfuerzos para prevenir la discriminación algorítmica. La legislación integral de la IA debe abordar tanto el impacto desigual como el tratamiento desigual. Si bien algunas propuestas tratan los daños no intencionales como menos graves que los intencionales, estos daños deben ser evaluados en contexto. El sesgo no intencional desventajoso puede producir consecuencias reales del mundo serias, como tiempos de espera más largos para trasplantes de órganos para pacientes negros, mientras que el sesgo intencional correctivo puede mejorar la precisión diagnóstica o apoyar una asignación más equitativa de recursos.
Incentivar el desarrollo responsable de la inteligencia artificial es otro paso crítico. La regulación puede impulsar la innovación positiva sin interferir con la privacidad de los usuarios y preservar sus derechos. Las aproximaciones para fomentar esto incluyen incentivos fiscales para compensar los costos del desarrollo de la inteligencia artificial responsable, una cooperación más estrecha entre la industria y la academia, y currículos educativos que enseñen la informática como una disciplina sociotécnica con valores. Lograr un equilibrio adecuado entre la regulación de la inteligencia artificial y la innovación requerirá orientación y acción de partes interesadas en la industria, el gobierno, la academia y el público.
Enfoques para la regulación de la inteligencia artificial
Estos hallazgos destacan cómo los daños relacionados con la discriminación y la autonomía pueden intersectar y reforzarse mutuamente en el dominio de la contratación. Estos efectos tienen el potencial de causar un daño socializado amplio pero a menudo se omiten de las percepciones comunes de los impactos negativos de la inteligencia artificial. Además de fortalecer las protecciones legales contra la discriminación en el empleo, los formuladores de políticas deben considerar cómo la inteligencia artificial influye en la autonomía y priorizar el desarrollo de sistemas de inteligencia artificial que mejoren la agencia y la equidad en lugar de limitarlas.
