El TAKE IT DOWN Act, firmado en ley el 19 de mayo de 2025, marcó un hito significativo en la lucha contra los daños causados por contenido generado por inteligencia artificial. El acto fue impulsado por historias como la de Elliston Berry, un joven de 14 años que fue víctima de imágenes íntimas generadas por AI creadas por un compañero de clase. Esta legislación bipartidista criminaliza la publicación consciente de imágenes íntimas no consentidas (NCII), incluyendo deepfakes y manipulaciones digitales. El acto fue aprobado por la Cámara de Representantes con un voto abrumador de 409-2 y fue apoyado por ambos partidos debido a su enfoque en la privacidad y el consentimiento para menores. La Primera Dama Melania Trump también expresó públicamente su apoyo al proyecto de ley, destacando la preocupación generalizada sobre el impacto de las redes sociales en los jóvenes.
El TAKE IT DOWN Act introduce penas penales para la publicación de NCII y requiere a las plataformas que establezcan un proceso para eliminar tal contenido dentro de 48 horas de una notificación escrita válida de un víctima. La Comisión Federal de Comercio (FTC) ejercerá estas tareas de eliminación, que las plataformas deben implementar el 19 de mayo de 2026. Las violaciones del acto pueden resultar en multas o encarcelamiento por hasta dos años, con penas más graves si el contenido muestra menores. A pesar de las preocupaciones de algunas organizaciones sobre la censura potencialmente excesiva, los mecanismos para proteger a los niños en línea fueron ampliamente elogiados.
Reacciones de los mercados internacionales
Si bien el TAKE IT DOWN Act es un paso crucial, solo es el comienzo de la acción legislativa necesaria para mitigar los daños relacionados con la inteligencia artificial. En el 118º Congreso, se presentaron más de 150 proyectos de ley relacionados con la AI, pero ninguno recibió el mismo nivel de apoyo que el TAKE IT DOWN Act. Algunas medidas notables incluyeron el Algorithmic Accountability Act, que busca requerir a las empresas que utilicen sistemas de toma de decisiones automatizados que realicen evaluaciones de impacto para la discriminación, la equidad, la privacidad y la seguridad. Otra propuesta, el National AI Commission Act, buscaba establecer una comisión bipartidista para revisar la aproximación estadounidense a la regulación de la AI y recomendar estructuras regulatorias. Otros proyectos de ley abordaron la discriminación algorítmica, los daños a los derechos civiles, la integridad de la información, las elecciones y los derechos de la personalidad o la semejanza.
Impacto del TAKE IT DOWN Act
El rápido paso del TAKE IT DOWN Act se puede atribuir a su enfoque en un daño visible y emocionalmente atractivo que era fácil de explicar al público. A julio de 2025, al menos 47 estados habían aprobado leyes reguladoras de deepfakes, con muchas de estas leyes proporcionando a los víctimas de NCII con recursos similares al TAKE IT DOWN Act. Estas leyes estatales a menudo enfatizan la seguridad de los niños y prevenir daños irreparables, alineándose con otros proyectos de ley que ganan atención en el Congreso, como el Kids Online Safety Act (KOSA). Ambos KOSA y el TAKE IT DOWN Act plantean preocupaciones sobre la censura potencial y la intersección con la Sección 230, que proporciona inmunidad a las plataformas por contenido generado por usuarios.
Discriminación algorítmica
La discriminación algorítmica, un daño persistente y bien documentado, impacta diversas áreas de la vida, incluyendo la vivienda, los créditos, la policía y las decisiones de contratación. Las poblaciones vulnerables son afectadas de manera desproporcionada debido a la discriminación en los datos alimentados a estos sistemas. Por ejemplo, los algoritmos de vivienda pueden denegar erróneamente a los solicitantes basándose en historiales penales o identificar a los solicitantes con el registro de alguien más. De manera similar, las calificaciones de crédito y los historiales de desahucio, que reflejan la discriminación histórica, pueden denegar a las personas de color préstamos o asignarles tasas más altas. En el proceso de contratación, la tecnología de filtrado de currículum puede discriminar a los solicitantes debido a la raza, el género e la intersección de estas identidades. Sin embargo, probar la discriminación algorítmica es desafiante y requiere una compilación longitudinal de evidencia y persuadir a los reguladores y legisladores para actuar.
ChatGPT y la necesidad de regulación
La liberación de ChatGPT en 2022 llevó a la inteligencia artificial generativa al ojo público, permitiendo a los usuarios ver la evolución de los sistemas de generación de imágenes en tiempo real. A pesar de esta mayor visibilidad, las personas sometidas a la discriminación algorítmica todavía carecen de transparencia sobre cómo estos modelos impactan sus vidas. El Congreso debe abordar todos los daños relacionados con la AI, no solo los más visibles. Los modelos de AI a menudo se describen como «opacos» o «cajas negras», pero esto no significa que los formuladores de políticas puedan ignorar los riesgos que plantean. Se necesitan sistemas de gobernanza y aplicación más fuertes para identificar y responder a estos riesgos más silenciosos de manera efectiva. Requerir a las empresas que realicen evaluaciones de impacto continuas de los sistemas de toma de decisiones automatizados utilizados en áreas críticas ayudaría a probar los impactos negativos materiales y documentar cómo se mitigan tales daños.
Protegiendo a los estadounidenses de los daños de la AI
Proteger a los estadounidenses de los daños de la AI requiere más que medidas de seguridad contra los problemas más visibles. Implica fortalecer el acceso a los datos, los regímenes de auditoría, la capacidad de aplicación, la transparencia y considerar daños más robustos en marcos legales. La atención legislativa también es necesaria para proteger a los denunciantes. Los empleados y contratistas a menudo son los primeros en identificar los daños algorítmicos pero pueden carecer de protecciones legales para denunciarlos o enfrentar represalias de la empresa. Fortalecer los canales de denuncia, especialmente en torno a protecciones de secreto comercial y represalias, podría aumentar la transparencia sobre los daños que de otra manera serían difíciles de detectar.
En el nivel estatal, los fiscales generales en varios jurisdicciones han emitido orientaciones sobre cómo las tecnologías de inteligencia artificial emergentes pueden perpetuar la discriminación algorítmica y violar las leyes antidiscriminatorias existentes. Los legisladores estatales también han sido activos, con Colorado y Illinois promulgando leyes con protecciones contra la discriminación facilitada por la inteligencia artificial. Se han presentado propuestas legislativas en California, Connecticut, Virginia y Texas, entre otros estados. Muchos de estos estados están influenciados por la Directiva de la UE sobre Inteligencia Artificial, que requiere evaluaciones de impacto y auditorías para sistemas de inteligencia artificial para evaluar los posibles daños discriminatorios. Sin embargo, las recientes amenazas del Congreso y la administración para prevenir los esfuerzos estatales para regular la inteligencia artificial pueden limitar el alcance de estas acciones.
Propuestas legislativas en curso
En California, la Asamblea de California ha presentado una propuesta de ley que requiere que las empresas de inteligencia artificial realicen evaluaciones de impacto y proporcionen informes anuales sobre sus prácticas de discriminación. En Connecticut, la Cámara de Representantes ha presentado una propuesta de ley que prohíbe la discriminación en la contratación y la promoción basada en la inteligencia artificial. En Virginia, la Cámara de Delegados ha presentado una propuesta de ley que requiere que las empresas de inteligencia artificial proporcionen capacitación a sus empleados sobre la discriminación algorítmica. En Texas, la Cámara de Representantes ha presentado una propuesta de ley que prohíbe la discriminación en la educación basada en la inteligencia artificial.
Importancia de la regulación de la inteligencia artificial
La regulación de la inteligencia artificial es crucial para prevenir la discriminación y garantizar la transparencia y la agencia en la sociedad. La inteligencia artificial puede perpetuar patrones de discriminación existentes y crear nuevos problemas de discriminación. La regulación puede ayudar a mitigar estos efectos y garantizar que la inteligencia artificial se desarrolle de manera justa y equitativa.
