Un tribunal estatal en Washington, D.C., emitió una decisión significativa en julio que avanzó en el campo de la responsabilidad algorítmica. Esta sentencia se basó en precedentes legales que datan de los Freedom Riders y cuestionó la segregación racial en las plataformas de redes sociales propiedad de Meta, Facebook e Instagram. La decisión proporciona un modelo para cómo los estados y los defensores pueden utilizar las leyes estatales para proteger los derechos civiles en la era de la inteligencia artificial (IA).
El caso, Centro de Derechos Igualitarios v. Meta, se centra en la publicidad discriminatoria en las redes sociales. La acusación principal es que los algoritmos de Meta entregan anuncios para colegios y universidades basados en la raza. La investigación ha demostrado que Meta dirige anuncios para escuelas públicas de manera desproporcionada a usuarios blancos y anuncios para universidades privadas de manera desproporcionada a usuarios negros, incluso cuando el anunciante utiliza criterios de targeting neutrales. Esta práctica se extiende a otros sectores, donde los algoritmos de Meta discriminan basados en la raza y el género.
Meta afirma que simplemente está proporcionando a los usuarios los anuncios más relevantes, y que cualquier desigualdad se equilibrará a escala. Sin embargo, la investigación extensa ha documentado la discriminación algorítmica de Meta durante años. Por ejemplo, ProPublica encontró que Meta entregó anuncios de trabajo de construcción a hombres el 87% de las veces, incluso cuando la empresa que compró el anuncio no había objetivo a candidatos basados en el género. De manera similar, un estudio de investigadores en Upturn y la Universidad de Northeastern encontró que anuncios de trabajo en la industria del madera llegaron a un público que era el 72% blanco y el 90% masculino, mientras que anuncios de cajero de supermercado llegaron a un público que era el 85% femenino y anuncios de taxista llegaron a un público que era el 75% negro, a pesar de utilizar criterios de targeting idénticos para todos los tres.
Meta estereotipa a los usuarios basados en su raza, género y edad, reforzando la discriminación racial, segregación y otros obstáculos a oportunidades iguales.
Los investigadores de Carnegie Mellon encontraron que el 58% de los anuncios de crédito neutrales se enviaron a un porcentaje mayor de hombres que mujeres, incluso cuando las mujeres recibieron más anuncios en promedio y tuvieron un uso más alto de Facebook. Cuando los investigadores de la Universidad del Sur de California corrieron los mismos anuncios de empleo en Facebook y LinkedIn, la entrega de Meta mostró una discriminación de género estadísticamente significativa, mientras que la entrega de LinkedIn no lo hizo. En 2022, el Departamento de Justicia demandó a Meta por violar la Ley de Vivienda Justa después de una investigación que mostró importantes disparidades raciales en la entrega de anuncios de Meta. Meta se comprometió a implementar un sistema de intervención diseñado para mitigar la discriminación guiada en anuncios de vivienda, empleo y crédito, pero notablemente no en otras oportunidades protegidas como la educación, la atención médica o la seguros. Nueva investigación muestra que incluso esta limitada intervención tiene defectos.
El caso Centro de Derechos Igualitarios v. Meta es el primer caso que cuestiona la discriminación de Meta en la publicidad educativa y uno de los pocos casos que se centran únicamente en la entrega de algoritmos de anuncios en lugar de la targeting de anuncios.
El tribunal sostuvo que ERC había alegado correctamente que la conducta de Meta, si se probaba, constituiría tanto un trato desigual como un impacto desigual (desigualdades injustificadas de políticas o prácticas neutrales) bajo la Ley de Derechos Humanos de D.C. En D.C., una violación de la Ley de Derechos Humanos es una práctica comercial desleal per se bajo la Ley de Procedimientos de Protección al Consumidor de D.C. (D.C. CPPA). El tribunal también sostuvo que si Meta falló en revelar con precisión cómo funciona su sistema de publicidad, eso podría constituir prácticas comerciales engañosas que violan la D.C. CPPA de varias maneras. Meta engaña cuando afirma públicamente que está dando a los usuarios los anuncios más relevantes y valiosos para cada individuo basado en sus características individuales, cuando en realidad Meta está guiando estos anuncios basados en rasgos estereotipados de grupo. Meta dice que su producto—su sistema de publicidad—es de una calidad o naturaleza, cuando en realidad es de otra. Meta falla en revelar su discriminación racial, lo que es una omisión de un hecho material. Los usuarios podrían elegir no confiar en los anuncios que están recibiendo si sabían que son el producto de la discriminación.
El caso pendiente es interesante porque la decisión del tribunal—que la discriminación racial encubierta constituye una práctica comercial engañosa—vuelve la vista a los casos de la Comisión Federal de Comercio (FTC) que combatieron la discriminación de vivienda en la década de 1960.
En dos casos de 1968, E.G. Reinsch, Inc. y First Buckingham Community, Inc., la FTC encontró que los propietarios de inmuebles habían cometido prácticas comerciales engañosas violando la Ley de Comercio Federal cuando fallaron en revelar que no alquilarían a los inquilinos negros. La FTC escribió, “La falta de revelación de hechos materiales en circunstancias en las que el efecto de la falta de revelación es engañar a un segmento sustancial del público es tan engañosa como si se lograra a través de afirmaciones falsas.”
La historia de los defensores de los derechos civiles que utilizan la ley de protección al consumidor para combatir la segregación se remonta a décadas antes de Brown v. Board of Education. La Ley de Comercio Interestatal (ICA), aplicada por la Comisión de Comercio Interestatal, fue crucial en la lucha por la integración racial, específicamente la desegregación del transporte interestatal. La Sección 3 de la ICA, descrita por la Corte Suprema como la «provisión de discriminación injusta», prohibía a los transportistas comunes «dar o hacer cualquier preferencia o privilegio injusto o desproporcionado a cualquier persona … o someter a cualquier persona … a cualquier prejuicio o desventaja injusta o desproporcionada en cualquier sentido». La Corte Suprema sostuvo como pronto como en 1914 que la ICA era «certainemente lo suficientemente amplia como para abarcar todas las discriminaciones de la especie que era dentro del poder de Congreso condenar». En 1941, la Corte Suprema sostuvo en Mitchell v. Estados Unidos que la ICA prohibía la segregación racial en vagones de ferrocarril. Notablemente para considerar la discriminación algorítmica hoy en día, la corte escribió, «[T] el volumen comparativo de tráfico no justifica la negación de un derecho fundamental de igualdad de tratamiento». Esto significa que, aunque la mayoría de las personas de una cierta raza pueden estar más inclinadas a preferir el anuncio A a la publicidad B, no significa que sea permisible tratar a todas las personas de esa raza como si prefirieran A a B; todos tienen derecho a un trato igual como individuos, independientemente de su raza.
La Corte Suprema enfatizó este punto nuevamente en Henderson v. Estados Unidos en 1950, otro caso de desegregación de ferrocarril bajo la ICA. Sostuvo que «la demanda limitada» no puede justificar la discriminación porque «no es una respuesta para el pasajero particular que se le niega el servicio … que, en promedio, las personas como él son atendidas». Para llevar esto al contexto moderno, los algoritmos probabilísticos que gatekeep las oportunidades económicas no pueden justificar la orientación racial o de género diciendo que relativamente menos personas de la clase excluida están interesadas en esa oportunidad. Las autoridades de protección al consumidor de la Comisión de Comercio Interestatal (ICC) jugaron un papel central en el Movimiento de los Derechos Civiles. En 1955, la ICC emitió una decisión prohibiendo la segregación en autobuses interestatales después de que Sarah Keys, una soldado negra del Cuerpo de Mujeres del Ejército, se negó a dar su asiento en la parte delantera de un autobús a un soldado blanco. Luego, en 1960, la Corte Suprema se basó en la ICA nuevamente para obligar la desegregación de los terminales de autobuses en el caso pionero, Boynton v. Virginia. Los Freedom Riders pusieron a prueba Boynton en 1961. La provisión de discriminación injusta de la ICA también fue la base para una provisión casi idéntica en la Ley de Comunicaciones de 1934, conocida como la Sección 202. Los tribunales y la Comisión Federal de Comunicaciones (FCC) han aplicado este lenguaje de protección al consumidor a la discriminación basada en raza, origen nacional y hasta ingresos. La administración de Biden ha reiterado con frecuencia la Ley de Protección al Consumidor Federal (FTC) contra vendedores de automóviles y farmacias que participaron en prácticas discriminatorias.
La protección al consumidor federal ha prohibido la discriminación durante más de un siglo
Mientras tanto, las leyes estatales de protección al consumidor rutinariamente utilizan el mismo lenguaje y estructura estatutaria que la ley federal. Algunas leyes estatales incluso incorporan el precedente de la Ley de Protección al Consumidor Federal (FTC) para ayudar a definir su propio alcance. Sin embargo, esto significa que, a medida que el gobierno federal se aleja de la aplicación de los derechos civiles, especialmente contra las empresas de tecnología, hay una pista abierta para que la ley estatal tome el relevo. Los fiscales generales de los estados y los defensores de los derechos civiles pueden y deben utilizar sus leyes estatales de protección al consumidor para investigar la discriminación algorítmica como una práctica comercial desleal. Una reclamación de práctica comercial desleal puede proporcionar una vía adicional de responsabilidad incluso cuando algunos tribunales puedan comenzar a erosionar la responsabilidad de impacto desigual. La práctica comercial desleal es un principio legal fundamentalmente diferente con un test legal diferente de la responsabilidad de impacto desigual, incluso si ambos podrían aplicarse a algunas situaciones.
La decisión de la Corte Superior de Washington D.C. en ERC v. Meta es un reconocimiento de lo que muchos han sabido durante mucho tiempo: No hay forma de eludir el hecho de que la discriminación algorítmica es simplemente otra forma de discriminación
El empleo de sistemas probabilísticos y modelos AI opacos no transforma la orientación racial en una circunstancia especial única que está más allá del alcance de nuestras leyes de derechos civiles y protección al consumidor. Como sostuvo la Corte Suprema hace 75 años, no es una respuesta para el usuario particular que se le niega el servicio que, en promedio, las personas como él son atendidas.
