El TAKE IT DOWN Act, firmado en ley el 19 de mayo de 2025, marcó un hito significativo en la lucha contra los daños causados por contenido generado por inteligencia artificial. El acto fue impulsado por historias como la de Elliston Berry, un joven de 14 años que fue víctima de imágenes íntimas generadas por AI creadas por un compañero de clase. Esta legislación bipartidista criminaliza la publicación consciente de imágenes íntimas no consentidas (NCII), incluyendo deepfakes y manipulaciones digitales. El acto fue aprobado por la Cámara de Representantes con un voto abrumador de 409-2 y fue apoyado por ambos partidos debido a su enfoque en la privacidad y el consentimiento para menores. La primera dama Melania Trump también expresó públicamente su apoyo a la ley, destacando la preocupación general sobre el impacto de las redes sociales en los jóvenes.
El TAKE IT DOWN Act introduce penas penales para la publicación de NCII y requiere a las plataformas que establezcan un proceso para eliminar tal contenido dentro de 48 horas de una notificación escrita válida de un víctima. La Comisión Federal de Comercio (FTC) aplicará estos procesos de eliminación, que las plataformas deben implementar el 19 de mayo de 2026. Las violaciones del acto pueden resultar en multas o encarcelamiento por hasta dos años, con penas aumentadas si el contenido muestra menores. A pesar de las preocupaciones de algunas organizaciones sobre el posible censura excesiva, los mecanismos para proteger a los niños en línea fueron ampliamente elogiados.
Reacciones de los mercados internacionales
La rápida aprobación del TAKE IT DOWN Act se puede atribuir a su enfoque en un daño visible y emocionalmente atractivo que era fácil de explicar al público. Hasta julio de 2025, al menos 47 estados habían aprobado leyes regulando deepfakes, con muchas de estas leyes proporcionando a las víctimas de NCII con recursos similares al TAKE IT DOWN Act. Estas leyes estatales a menudo enfatizan la seguridad de los niños y prevenir daños irreparables, alineándose con otros proyectos de ley que están ganando atención en el Congreso, como la Ley de Seguridad en Línea para Niños (KOSA). Amba KOSA y el TAKE IT DOWN Act plantean preocupaciones sobre el posible censura y la intersección con la Sección 230, que proporciona inmunidad a las plataformas para el contenido generado por usuarios.
La discriminación algorítmica, un daño persistente y bien documentado, impacta diversas áreas de la vida, incluyendo la vivienda, los créditos, la policía y las decisiones de contratación. Las poblaciones vulnerables están desproporcionadamente afectadas debido a la sesgo en los datos alimentados a estos sistemas. Por ejemplo, los algoritmos de vivienda pueden denegar erróneamente a los solicitantes basándose en historiales penales o identificar a los solicitantes con el registro de alguien más. De manera similar, los sistemas de calificación de crédito y los historiales de desahucio, que reflejan la discriminación histórica, pueden denegar préstamos a personas de color o ofrecerles tasas más altas. En el proceso de contratación, la tecnología de screening de currículums puede discriminar a los solicitantes debido a la raza, el género e la intersección de estas identidades. Sin embargo, probar la discriminación algorítmica es desafiante y requiere una compilación longitudinal de evidencia y persuadir a los reguladores y legisladores para actuar.
La liberación de ChatGPT en 2022 llevó a la inteligencia artificial generativa al ojo público, permitiendo a los usuarios ver la evolución de los sistemas de generación de imágenes en tiempo real. A pesar de esta mayor visibilidad, las personas sometidas a la discriminación algorítmica todavía carecen de transparencia sobre cómo estos modelos impactan sus vidas. El Congreso debe abordar todos los daños relacionados con la AI, no solo los más visibles. Los modelos de AI a menudo se describen como « opacos » o « cajas negras », pero esto no significa que los formuladores de políticas puedan ignorar los riesgos que plantean. Se necesitan sistemas de gobernanza y aplicación más fuertes para identificar y responder a estos riesgos más silenciosos de manera efectiva. Requerir a las empresas que realicen evaluaciones de impacto continuas de los sistemas de toma de decisiones automatizados utilizados en áreas críticas ayudaría a probar los impactos negativos materiales y documentar cómo se mitigan estos daños.
Reacciones de los mercados internacionales
La protección de los estadounidenses de los daños relacionados con la AI requiere más que medidas de seguridad contra los problemas más visibles. Implica fortalecer el acceso a los datos, los regímenes de auditoría, la capacidad de aplicación, la transparencia y considerar daños más robustos en los marcos legales. La atención legislativa también es necesaria para fortalecer las protecciones de los denunciantes. Los empleados y contratistas a menudo son los primeros en identificar los daños algorítmicos pero pueden carecer de protecciones legales para denunciarlos o enfrentar represalias de la empresa. Fortalecer los canales de denuncia, especialmente en torno a protecciones de secreto comercial y represalias, podría aumentar la transparencia sobre los daños que de otra manera serían difíciles de detectar.
En el nivel estatal, los fiscales generales en varias jurisdicciones han emitido orientaciones sobre cómo las tecnologías de inteligencia artificial emergentes pueden perpetuar la discriminación algorítmica y violar las leyes antidiscriminatorias existentes. Los legisladores estatales también han sido activos, con Colorado y Illinois promulgando leyes con protecciones contra la discriminación facilitada por la inteligencia artificial. Se han presentado propuestas legislativas en California, Connecticut, Virginia y Texas, entre otros estados. Muchos de estos estados están influenciados por la Directiva de Inteligencia Artificial de la UE, que requiere evaluaciones de impacto y auditorías para los sistemas de inteligencia artificial para evaluar posibles daños discriminatorios. Sin embargo, las recientes amenazas del Congreso y la administración para prevenir los esfuerzos estatales para regular la inteligencia artificial pueden limitar el alcance de estas acciones.
Propuestas legislativas en curso
En California, la Asamblea ha aprobado una propuesta de ley que requiere que las empresas de inteligencia artificial realicen evaluaciones de impacto y proporcionen informes sobre sus prácticas de discriminación. En Connecticut, el Senado ha aprobado una propuesta de ley que prohíbe la discriminación en la contratación y el empleo basada en la inteligencia artificial. En Virginia, la Cámara de Delegados ha aprobado una propuesta de ley que requiere que las empresas de inteligencia artificial proporcionen información sobre sus prácticas de discriminación. En Texas, el Senado ha aprobado una propuesta de ley que prohíbe la discriminación en la contratación y el empleo basada en la inteligencia artificial.
Importancia de la regulación de la inteligencia artificial
La regulación de la inteligencia artificial es crucial para prevenir la discriminación y garantizar la transparencia y la agencia en la sociedad. La inteligencia artificial puede perpetuar patrones de discriminación existentes y crear nuevos problemas de discriminación. La regulación puede ayudar a mitigar estos efectos y garantizar que las tecnologías de inteligencia artificial sean desarrolladas y utilizadas de manera justa y equitativa.
