El TAKE IT DOWN Act, firmado en ley el 19 de mayo de 2025, marcó un hito significativo en la lucha contra los daños causados por contenido generado por inteligencia artificial. El acto fue impulsado por historias como la de Elliston Berry, un joven de 14 años que fue víctima de imágenes íntimas generadas por AI creadas por un compañero de clase. Esta legislación bipartidista criminaliza la publicación consciente de imágenes íntimas no consentidas (NCII), incluyendo deepfakes y manipulaciones digitales. El acto fue aprobado por la Cámara de Representantes con un voto abrumador de 409-2 y fue apoyado por ambos partidos debido a su enfoque en la privacidad y el consentimiento para menores. La primera dama Melania Trump también expresó públicamente su apoyo al proyecto de ley, destacando la preocupación generalizada sobre el impacto de las redes sociales en los jóvenes.
El TAKE IT DOWN Act introduce penas penales para la publicación de NCII y requiere a las plataformas que establezcan un proceso para eliminar tal contenido dentro de 48 horas de una notificación escrita válida de un víctima. La Comisión Federal de Comercio (FTC) aplicará estos procesos de eliminación, que las plataformas deben implementar el 19 de mayo de 2026. Las violaciones del acto pueden resultar en multas o encarcelamiento por hasta dos años, con penas más severas si el contenido muestra menores. A pesar de las preocupaciones de algunas organizaciones sobre la posible censura excesiva, los mecanismos para proteger a los niños en línea fueron ampliamente elogiados.
Reacciones de los mercados internacionales
El rápido paso del TAKE IT DOWN Act se puede atribuir a su enfoque en un daño visible y emocionalmente atractivo que era fácil de explicar al público. Hasta julio de 2025, al menos 47 estados habían aprobado leyes regulando deepfakes, con muchas de estas leyes proporcionando a los víctimas de NCII con recursos similares al TAKE IT DOWN Act. Estas leyes estatales a menudo enfatizan la seguridad de los niños y prevenir daños irreparables, alineándose con otros proyectos de ley que están ganando atención en el Congreso, como la Ley de Seguridad en línea para niños (KOSA). Ambas KOSA y el TAKE IT DOWN Act plantean preocupaciones sobre la posible censura y la intersección con la Sección 230, que proporciona inmunidad a las plataformas para el contenido generado por usuarios.
La discriminación algorítmica, un daño persistente y bien documentado, impacta diversas áreas de la vida, incluyendo la vivienda, los créditos, la policía y las decisiones de contratación. Las poblaciones vulnerables son afectadas de manera desproporcionada debido a la sesgo en los datos alimentados a estos sistemas. Por ejemplo, los algoritmos de vivienda pueden denegar erróneamente a los solicitantes basándose en historiales penales o identificar a los solicitantes con el registro de alguien más. De manera similar, los sistemas de calificación de crédito y los historiales de desahucio, que reflejan la discriminación histórica, pueden denegar préstamos a personas de color o ofrecerles tasas más altas. En el proceso de contratación, la tecnología de screening de currículum puede discriminar a los solicitantes debido a la raza, el género y la intersección de estas identidades. Sin embargo, probar la discriminación algorítmica es desafiante y requiere una compilación longitudinal de evidencia y persuadir a los reguladores y legisladores para actuar.
La liberación de ChatGPT en 2022 trajo la inteligencia artificial generativa al ojo público, permitiendo a los usuarios ver la evolución de los sistemas de generación de imágenes en tiempo real. A pesar de esta mayor visibilidad, las personas sometidas a la discriminación algorítmica aún carecen de transparencia sobre cómo estos modelos impactan sus vidas. El Congreso debe abordar todos los daños relacionados con la IA, no solo los más visibles. Los modelos de IA a menudo se describen como “opacos” o “cajas negras”, pero esto no significa que los formuladores de políticas puedan ignorar los riesgos que plantean. Se necesitan sistemas de gobernanza y aplicación más fuertes para identificar y responder a estos riesgos más silenciosos de manera efectiva. Requerir a las empresas que realicen evaluaciones de impacto continuas de los sistemas de decisión automatizados utilizados en áreas críticas ayudaría a probar los impactos negativos materiales y documentar cómo se mitigan.
Proteger a los estadounidenses de los daños de la IA requiere más que medidas de seguridad contra los problemas más visibles. Implica fortalecer el acceso a los datos, los regímenes de auditoría, la capacidad de aplicación, la transparencia y considerar daños más robustos en los marcos legales. La atención legislativa también es necesaria para fortalecer las protecciones de denunciantes. Los empleados y contratistas a menudo son los primeros en identificar los daños algorítmicos, pero pueden carecer de protecciones legales para informarlos o enfrentar represalias de la empresa. Fortalecer los canales de denuncia, especialmente en torno a protecciones de secreto comercial y represalias, podría aumentar la transparencia sobre los daños que de otra manera serían difíciles de detectar.
En el nivel estatal, los fiscales generales en varias jurisdicciones han emitido orientaciones sobre cómo las tecnologías de inteligencia artificial emergentes pueden perpetuar la discriminación algorítmica y violar las leyes antidiscriminatorias existentes. Los legisladores estatales también han sido activos, con Colorado y Illinois promulgando leyes con protecciones contra la discriminación facilitada por la inteligencia artificial. Se han presentado propuestas legislativas en California, Connecticut, Virginia y Texas, entre otros estados. Muchos de estos estados están influenciados por la Directiva de Inteligencia Artificial de la UE, que requiere evaluaciones de impacto y auditorías para los sistemas de inteligencia artificial para evaluar posibles daños discriminatorios. Sin embargo, las recientes amenazas del Congreso y la administración para prevenir los esfuerzos estatales para regular la inteligencia artificial pueden limitar el alcance de estas acciones.
Propuestas legislativas en curso
En California, la Asamblea ha aprobado una propuesta de ley que requiere que las empresas de tecnología informen sobre la discriminación potencial en sus algoritmos. En Connecticut, la Cámara de Representantes ha aprobado una propuesta de ley que establece un comité para investigar la discriminación en la inteligencia artificial. En Virginia, la Cámara de Delegados ha aprobado una propuesta de ley que requiere que las empresas de tecnología informen sobre la discriminación potencial en sus algoritmos. En Texas, la Cámara de Representantes ha aprobado una propuesta de ley que establece un comité para investigar la discriminación en la inteligencia artificial.
Importancia de la regulación estatal
La regulación estatal es crucial para abordar la discriminación en la inteligencia artificial, ya que los estados pueden actuar más rápidamente que el Congreso y pueden implementar políticas más específicas para sus propias comunidades. Además, la regulación estatal puede proporcionar un modelo para la regulación federal y ayudar a establecer estándares nacionales para la inteligencia artificial. Sin embargo, las recientes amenazas del Congreso y la administración para prevenir los esfuerzos estatales para regular la inteligencia artificial pueden limitar el alcance de estas acciones.
