Una corte estatal en Washington, D.C., emitió una decisión significativa en julio que avanzó en el campo de la responsabilidad de los algoritmos. Esta sentencia se basó en precedentes legales que datan de los Freedom Riders y cuestionó la segregación racial en las plataformas de redes sociales de Meta, Facebook e Instagram. La decisión proporciona un modelo para cómo los estados y los defensores pueden utilizar las leyes estatales para proteger los derechos civiles en la era de la inteligencia artificial (IA).
El caso, Equal Rights Center v. Meta, se centra en la publicidad discriminatoria en las redes sociales. La acusación principal es que los algoritmos de Meta entregan anuncios para colegios y universidades basados en la raza. La investigación ha demostrado que Meta dirige anuncios para escuelas públicas en mayor medida a usuarios blancos y anuncios para universidades privadas en mayor medida a usuarios negros, incluso cuando el anunciante utiliza criterios de targeting neutrales. Esta práctica se extiende a otros sectores, donde los algoritmos de Meta discriminan basados en la raza y el género.
Meta reclama que simplemente está proporcionando a los usuarios los anuncios más relevantes, y que cualquier desigualdad se equilibrará a escala. Sin embargo, la investigación extensa ha documentado la discriminación algorítmica de Meta durante años. Por ejemplo, ProPublica encontró que Meta entregó anuncios de trabajo de construcción a hombres el 87% de las veces, incluso aunque la empresa que compró el anuncio no había objetivo a candidatos basados en género. De manera similar, un estudio de investigadores en Upturn y la Universidad de Northeastern encontró que anuncios de trabajo en la industria del madera llegaron a un público que era el 72% blanco y el 90% masculino, mientras que anuncios de cajero de supermercado llegaron a un público que era el 85% femenino y anuncios de conductor de taxi llegaron a un público que era el 75% negro, a pesar de utilizar criterios de targeting idénticos para todos los tres.
Los investigadores de la Universidad de Carnegie Mellon encontraron que el 58% de los anuncios de crédito neutrales fueron enviados a un porcentaje mayor de hombres que mujeres, incluso aunque las mujeres recibieron más anuncios en promedio y tenían una mayor utilización de Facebook. Cuando los investigadores de la Universidad del Sur de California corrieron los mismos anuncios de empleo en Facebook y LinkedIn, la entrega de Meta mostró una discriminación de género estadísticamente significativa mientras que la entrega de LinkedIn no lo hizo. En 2022, el Departamento de Justicia demandó a Meta por violar la Ley de Vivienda Justa después de una investigación que mostró importantes desigualdades raciales en la entrega de anuncios de Meta. Meta se comprometió a implementar un sistema de intervención diseñado para mitigar la dirección discriminatoria en anuncios de vivienda, empleo y crédito, pero notablemente no en otras oportunidades protegidas como la educación, la atención médica o la seguros. Nueva investigación muestra que incluso esta limitada intervención tiene defectos. Meta está estereotipando a los usuarios basados en su raza, género y edad, lo que refuerza el redlining, la segregación y otros obstáculos históricos a igual oportunidades.
Reacciones de los mercados internacionales
La corte estatal de Washington, D.C., caracterizó las acusaciones de ERC como “arquetípicas” de discriminación y denegó la moción de Meta para desestimar en todos los puntos. ERC alega que Facebook e Instagram son lugares públicos, que recibir anuncios dirigidos es parte del beneficio del acuerdo que un usuario hace con Meta, y que al discriminar en la entrega de anuncios, Meta está proporcionando un servicio de diferente calidad por el mismo precio.
La corte sostuvo que ERC había alegado correctamente que la conducta de Meta, si se prueba, constituiría tanto un trato desigual (discriminación intencional) como un impacto desigual (desigualdades injustificadas de políticas o prácticas neutrales) bajo la Ley de Derechos Humanos de D.C. En D.C., una violación de la Ley de Derechos Humanos es una práctica comercial desleal per se bajo la Ley de Procedimientos de Protección al Consumidor de D.C. (D.C. CPPA). La corte también sostuvo que si Meta falló en revelar con precisión cómo funciona su sistema de publicidad, eso podría constituir prácticas comerciales engañosas que violan la D.C. CPPA de varias maneras. Meta se engaña cuando afirma públicamente que está dando a los usuarios los anuncios más relevantes y valiosos para cada individuo basado en sus características individuales, cuando en realidad Meta está dirigiendo estos anuncios basados en rasgos estereotipados de grupo. Meta dice que su producto—su sistema de publicidad—es de una calidad o naturaleza, cuando en realidad es de otra. Meta falla en revelar su discriminación racial, lo que es una omisión de un hecho material. Los usuarios podrían elegir no confiar en los anuncios que están recibiendo si supieran que son el producto de la discriminación.
La sentencia pendiente es interesante porque la corte sostuvo que la discriminación racial encubierta constituye una práctica comercial engañosa, lo que remonta a los casos de la Comisión Federal de Comercio (FTC) que combatieron la discriminación de vivienda en la década de 1960. En dos casos de 1968, E.G. Reinsch, Inc. y First Buckingham Community, Inc., la FTC encontró que los propietarios se engañaron a sí mismos al no revelar que no alquilarían a inquilinos negros. La FTC escribió, “El fracaso a la hora de revelar hechos materiales en circunstancias en las que el efecto de la omisión es engañar a un segmento sustancial del público es tan engañoso como si lo fuera a través de afirmaciones afirmativas de engaño.”
La historia de los defensores de los derechos civiles que utilizan la ley de protección al consumidor para combatir la segregación se remonta a décadas antes de Brown v. Board of Education. La Ley de Comercio Interestatal (ICA), aplicada por la Comisión de Comercio Interestatal, fue crucial en la lucha por la integración racial, específicamente la desegregación del transporte interestatal. La Sección 3 de la ICA, descrita por la Corte Suprema como la “provisión de discriminación injusta”, prohibía a los transportistas comunes “dar o hacer cualquier preferencia o ventaja injusta o desproporcionada a cualquier persona … o someter a cualquier persona … a cualquier prejuicio o desventaja injusta o desproporcionada en cualquier aspecto”. La Corte Suprema sostuvo como pronto como en 1914 que la ICA era “certainemente lo suficientemente amplia como para abarcar todas las discriminaciones de la especie que era dentro del poder de Congreso condenar”. En 1941, la Corte Suprema sostuvo en Mitchell v. United States que la ICA prohibía la segregación racial en vagones de ferrocarril. Notablemente para considerar la discriminación algorítmica hoy en día, la corte escribió, “[T] el volumen comparativo de tráfico no justifica la negación de un derecho fundamental de igualdad de tratamiento”. Esto significa que, aunque la mayoría de las personas de una cierta raza pueden estar más inclinadas a preferir anuncio A a anuncio B, no significa que sea permisible tratar a todas las personas de esa raza como si prefirieran A a B; todos tienen derecho a un trato igual como individuos, independientemente de su raza.
La Corte Suprema enfatizó este punto nuevamente en Henderson v. United States en 1950, otro caso de desegregación de ferrocarril bajo la ICA. Sostuvo que “la demanda limitada” no puede justificar la discriminación porque “no es una respuesta para el pasajero particular que se le niega el servicio … que, en promedio, las personas como él son atendidas”. Para llevar esto al contexto moderno, los algoritmos probabilísticos que gatekeep las oportunidades económicas no pueden justificar la orientación racial o de género diciendo que relativamente menos personas de la clase excluida están interesadas en esa oportunidad. Las autoridades de protección al consumidor de la Comisión de Comercio Interestatal (ICC) jugaron un papel central en el Movimiento de los Derechos Civiles. En 1955, la ICC emitió una decisión prohibiendo la segregación en autobuses interestatales después de que Sarah Keys, una soldado negra del Ejército de las Mujeres, se negó a ceder su asiento en la parte delantera de un autobús a un soldado blanco. Luego, en 1960, la Corte Suprema se basó en la ICA nuevamente para obligar la desegregación de los terminales de autobuses en el caso de referencia, Boynton v. Virginia. Los Freedom Riders pusieron a prueba Boynton en 1961. La provisión de discriminación injusta de la ICA también fue la base para una provisión casi idéntica en la Ley de Comunicaciones de 1934, conocida como la Sección 202. Los tribunales y la Comisión Federal de Comunicaciones (FCC) han aplicado este lenguaje de protección al consumidor a la discriminación basada en raza, origen nacional y hasta ingresos.
La administración Biden ha repetido la aplicación de la Ley de Protección al Consumidor Federal (FTC) contra concesionarios de automóviles y farmacias que participaron en prácticas discriminatorias.
Por más de un siglo, la ley federal de protección al consumidor ha prohibido la discriminación. Mientras tanto, las leyes estatales de protección al consumidor utilizan rutinamente el mismo lenguaje y estructura estatutaria que la ley federal. Algunas leyes estatales incluso incorporan el precedente de la Ley de Protección al Consumidor Federal para ayudar a definir su propio alcance. Sin embargo, esto significa que, a medida que el gobierno federal se aleja de la aplicación de los derechos civiles, especialmente contra las empresas de tecnología, hay una pista abierta para que la ley estatal tome el relevo. Los fiscales generales de los estados y los defensores de los derechos civiles pueden y deben utilizar sus leyes estatales de protección al consumidor para investigar la discriminación algorítmica como una práctica comercial desleal. Una reclamación de práctica comercial desleal puede proporcionar una vía adicional de responsabilidad incluso cuando algunos tribunales comiencen a erosionar la responsabilidad de impacto desigual.
La decisión de la Corte Superior de Washington D.C. en ERC v. Meta es un reconocimiento de lo que muchos han sabido durante mucho tiempo: No hay forma de evitar el hecho de que la discriminación algorítmica es solo otra forma de discriminación. El empleo de sistemas probabilísticos y modelos de inteligencia artificial opacos no transforma la orientación racial en una circunstancia especial única que está más allá del alcance de nuestras leyes de derechos civiles y protección al consumidor. Como sostuvo la Corte Suprema 75 años atrás, no es una respuesta para el usuario particular que se le niega el servicio que, en promedio, las personas como él son atendidas.
