Un tribunal de estado en Washington, D.C., emitió una decisión significativa en julio que avanzó en el campo de la responsabilidad algorítmica. Esta sentencia se basó en precedentes legales que datan de los Freedom Riders y cuestionó la segregación racial en las plataformas de redes sociales propiedad de Meta, Facebook e Instagram. La decisión proporciona un modelo para cómo los estados y los defensores pueden utilizar las leyes estatales para proteger los derechos civiles en la era de la inteligencia artificial (IA).
El caso, Equal Rights Center v. Meta, se centra en la publicidad discriminatoria en las redes sociales. La acusación principal es que los algoritmos de Meta entregan anuncios para colegios y universidades basados en la raza. La investigación ha demostrado que Meta dirige anuncios para escuelas públicas en mayor medida a usuarios blancos y anuncios para colegios privados en mayor medida a usuarios negros, incluso cuando el anunciante utiliza criterios de objetivo neutrales. Esta práctica se extiende a otros sectores, donde los algoritmos de Meta discriminan basados en la raza y el género.
Meta afirma que simplemente está proporcionando a los usuarios los anuncios más relevantes, y que cualquier desigualdad se equilibrará a escala. Sin embargo, la investigación extensa ha documentado la discriminación algorítmica de Meta durante años. Por ejemplo, ProPublica encontró que Meta entregó anuncios de trabajo de construcción a hombres el 87% de las veces, incluso cuando la empresa que compró el anuncio no objetivó a los candidatos basados en el género. De manera similar, un estudio de investigadores en Upturn y la Universidad de Northeastern encontró que los anuncios de trabajo en la industria del madera alcanzaron a un público que era el 72% blanco y el 90% masculino, mientras que los anuncios de cajero de supermercado se entregaron a un público que era el 85% femenino y los anuncios de taxista a un público que era el 75% negro, a pesar de utilizar criterios de objetivo idénticos para los tres.
Meta estereotipa a los usuarios basados en su raza, género y edad, reforzando la discriminación, la segregación y otros obstáculos a oportunidades iguales.
Los investigadores de Carnegie Mellon encontraron que el 58% de los anuncios de crédito neutrales se enviaron a un porcentaje mayor de hombres que mujeres, incluso aunque las mujeres recibieron más anuncios en promedio y tenían una mayor utilización de Facebook. Cuando los investigadores de la Universidad del Sur de California corrieron los mismos anuncios de empleo en Facebook y LinkedIn, la entrega de Meta mostró una discriminación de género estadísticamente significativa, mientras que la de LinkedIn no lo hizo. En 2022, el Departamento de Justicia demandó a Meta por violar la Ley de Vivienda Justa después de una investigación que mostró importantes disparidades raciales en la entrega de anuncios de vivienda de Meta. Meta se comprometió a implementar un sistema de intervención diseñado para mitigar la dirección discriminatoria en anuncios de vivienda, empleo y crédito, pero notablemente no en otras oportunidades protegidas como la educación, la atención médica o la seguros. Nueva investigación muestra que incluso esta limitada intervención tiene defectos.
Equal Rights Center v. Meta es el primer caso que cuestiona la discriminación de Meta en la publicidad educativa y uno de los pocos casos que se centran únicamente en la entrega de algoritmos de anuncios en lugar de la objetivación de anuncios.
El tribunal sostuvo que ERC había alegado correctamente que la conducta de Meta, si se probaba, constituiría tanto un trato desigual (discriminación intencional) como un impacto desigual (desigualdades injustificadas de políticas o prácticas neutrales) bajo la Ley de Derechos Humanos de D.C. En D.C., una violación de la Ley de Derechos Humanos es una práctica comercial desleal per se bajo la Ley de Procedimientos de Protección al Consumidor de D.C. (D.C. CPPA). El tribunal también sostuvo que si Meta falló en revelar con precisión cómo funciona su sistema de publicidad, eso podría constituir prácticas comerciales engañosas que violan la D.C. CPPA de múltiples maneras. Meta engaña cuando afirma públicamente que está dando a los usuarios los anuncios más relevantes y valiosos para cada individuo basado en sus características individuales, cuando en realidad Meta está dirigiendo estos anuncios basados en rasgos estereotipados de grupo. Meta dice que su producto—su sistema de publicidad—es de una calidad o naturaleza, cuando en realidad es de otra. Meta falla en revelar su discriminación racial, que es una omisión de un hecho material. Los usuarios podrían elegir no confiar en los anuncios que están recibiendo si sabían que son el producto de la discriminación.
El caso pendiente es interesante porque la decisión del tribunal—que la discriminación racial encubierta constituye una práctica comercial engañosa—hace referencia a casos de la Comisión Federal de Comercio (FTC) que combatieron la discriminación de vivienda en la década de 1960.
En dos casos de 1968, E.G. Reinsch, Inc. y First Buckingham Community, Inc., la FTC encontró que los propietarios de inmuebles habían incurrido en prácticas comerciales engañosas violando la Ley de Comercio Federal cuando fallaron en revelar que no alquilarían a inquilinos negros. La FTC escribió, “La falta de revelación de hechos materiales en circunstancias en las que el efecto de la falta de revelación es engañar a un segmento sustancial del público es tan engañosa como si se lograra a través de afirmaciones engañosas afirmativas. ‘Decir menos que la verdad entera es un método bien conocido de engaño.’”
There is a long history of civil rights advocates using consumer protection law to combat segregation, dating back decades before Brown v. Board of Education. The Interstate Commerce Act (ICA), enforced by the Interstate Commerce Commission, was pivotal in the fight for racial integration, specifically the desegregation of interstate transportation. Section 3 of the ICA, described by the Supreme Court as the “unjust discrimination” provision, prohibited common carriers “to make or give any undue or unreasonable preference or advantage to any particular person … or to subject any particular person … to any undue or unreasonable prejudice or disadvantage in any respect whatsoever.” The Supreme Court held as early as 1914 that the ICA was “certainly sweeping enough to embrace all the discriminations of the sort described which it was within the power of Congress to condemn.” In 1941, the Supreme Court held in Mitchell v. United States that the ICA prohibited racial segregation in railroad cars. Notably for considering algorithmic discrimination today, the court wrote, “[T]he comparative volume of traffic cannot justify the denial of a fundamental right of equality of treatment.” This means just because most people of a certain race may be more inclined to prefer advertisement A to advertisement B does not mean that it is permissible to treat all people of that race as preferring A to B; everyone is entitled to equal treatment as individuals regardless of their race.
The Supreme Court emphasized this point again in Henderson v. United States in 1950, another railroad desegregation case brought under the ICA. It held that “limited demand” cannot justify discrimination because “it is no answer to the particular passenger who is denied service … that, on the average, persons like him are served.” To bring this into the modern context, probabilistic algorithms that gatekeep economic opportunities cannot justify race or gender steering by saying relatively fewer people of the excluded class are interested in that opportunity. The Interstate Commerce Commission’s (ICC) consumer protection authorities played a central role in the Civil Rights Movement. In 1955, the ICC issued a decision prohibiting segregation on interstate buses after Sarah Keys, a Black private in the Women’s Army Corps, refused to give up her seat at the front of a bus to a white soldier. Then in 1960, the Supreme Court relied on the ICA again to compel desegregation of bus terminals in the landmark case, Boynton v. Virginia. The Freedom Riders put Boynton to the test in 1961. The unjust discrimination provision from the ICA also was the basis for an almost identical provision in the Communications Act of 1934, known as Section 202. The courts and the Federal Communications Commission (FCC) have applied this consumer protection language to discrimination based on race, national origin, and even income. The Biden administration repeatedly enforced the FTC Act against car dealers and pharmacies that engaged in discriminatory practices.
For over a century, federal consumer protection law has prohibited discrimination. Meanwhile, state consumer protection laws routinely use the same language and statutory structure as federal law. Some state statutes even incorporate FTC Act precedent to help define their own scope. However, this means that as the federal government walks away from civil rights enforcement, especially against tech companies, there is an open lane for state law to pick up the slack. State attorneys general and civil rights advocates can and should use their state consumer protection laws to investigate algorithmic discrimination as an unfair or deceptive trade practice. Moreover, an unfair trade practice claim can provide an additional avenue for liability even as some courts may begin to chip away at disparate impact liability. Unfair trade practice is a fundamentally different legal doctrine with a different legal test from disparate impact liability, even if both could be applied to some situations.
The D.C. Superior Court’s decision in ERC v. Meta is an acknowledgement of what many have known for a long time: There is no way to get around the fact that algorithmic discrimination is just another form of discrimination. Employing probabilistic systems and opaque AI models does not transform racial steering into a unique special circumstance beyond the scope of our civil rights and consumer protection laws. As the Supreme Court held 75 years ago, it is no answer to a particular user who is denied service that, on the average, persons like him are served.
