Un tribunal estatal en Washington, D.C., emitió una decisión significativa en julio que avanzó en el campo de la responsabilidad algorítmica. Esta sentencia se basó en precedentes legales que datan de los Freedom Riders y cuestionó la segregación racial en las plataformas de redes sociales propiedad de Meta, Facebook e Instagram. La decisión proporciona un modelo para cómo los estados y los defensores pueden utilizar las leyes estatales para proteger los derechos civiles en la era de la inteligencia artificial (IA).
El caso, Centro de Derechos Igualitarios v. Meta, se centra en la publicidad discriminatoria en las redes sociales. La acusación principal es que los algoritmos de Meta entregan anuncios para colegios y universidades basados en la raza. La investigación ha demostrado que Meta dirige anuncios para escuelas públicas de manera desproporcionada a usuarios blancos y anuncios para colegios privados de manera desproporcionada a usuarios negros, incluso cuando el anunciante utiliza criterios de objetivo neutrales. Esta práctica se extiende a otros sectores, donde los algoritmos de Meta discriminan basados en la raza y el género.
Meta afirma que simplemente está proporcionando a los usuarios los anuncios más relevantes, y que cualquier desigualdad se equilibrará a escala. Sin embargo, la investigación extensa ha documentado la discriminación algorítmica de Meta durante años. Por ejemplo, ProPublica encontró que Meta entregó anuncios de trabajo de construcción a hombres el 87% de las veces, incluso cuando la empresa que compró el anuncio no objetivó a los candidatos basados en el género. De manera similar, un estudio de investigadores en Upturn y la Universidad de Northeastern encontró que anuncios de trabajo en la industria del madera llegaron a un público que era el 72% blanco y el 90% masculino, mientras que anuncios de cajero de supermercado llegaron a un público que era el 85% femenino y anuncios de taxista llegaron a un público que era el 75% negro, a pesar de utilizar criterios de objetivo idénticos para los tres.
Los investigadores de la Universidad de Carnegie Mellon encontraron que el 58% de los anuncios de crédito neutrales se enviaron a un porcentaje mayor de hombres que mujeres, incluso aunque las mujeres recibieron más anuncios en promedio y tenían un uso más alto de Facebook. Cuando los investigadores de la Universidad del Sur de California corrieron los mismos anuncios de empleo en Facebook y LinkedIn, la entrega de Meta mostró una discriminación estadísticamente significativa por género, mientras que la entrega de LinkedIn no lo hizo. En 2022, el Departamento de Justicia demandó a Meta por violar la Ley de Vivienda Justa después de una investigación que mostró importantes disparidades raciales en la entrega de anuncios de Meta. Meta se comprometió a implementar un sistema de intervención diseñado para mitigar la dirección discriminatoria en anuncios de vivienda, empleo y crédito, pero notablemente no en otras oportunidades protegidas como la educación, la atención médica o la seguros. Nueva investigación muestra que incluso esta limitada intervención tiene defectos. Meta está estereotipando a los usuarios basados en su raza, género y edad, lo que refuerza el redlining, la segregación y otros obstáculos tradicionales a oportunidades iguales.
Centro de Derechos Igualitarios v. Meta es el primer caso que cuestiona la discriminación de Meta en la publicidad educativa y uno de los pocos casos que se centran únicamente en la entrega de algoritmos de anuncios en lugar de la objetivación de anuncios. Notablemente, combina leyes estatales de derechos civiles y protección al consumidor de manera que es a la vez nueva y muy antigua. El Tribunal Superior de D.C. caracterizó las alegaciones de ERC como « arquetípicas » de reclamos de discriminación y denegó la moción de Meta para desestimar en todos los puntos. ERC alega que Facebook e Instagram son lugares públicos, que recibir anuncios dirigidos es parte del beneficio del contrato que un usuario hace con Meta, y que al discriminar en la entrega de anuncios, Meta está proporcionando un servicio de calidad diferente por el mismo precio.
El tribunal sostuvo que ERC había alegado correctamente que la conducta de Meta, si se probaba, constituiría tanto un trato desigual (discriminación intencional) como un impacto desigual (desigualdades injustificadas de políticas o prácticas neutrales) bajo la Ley de Derechos Humanos de D.C. En D.C., una violación de la Ley de Derechos Humanos es una práctica comercial desleal per se bajo la Ley de Procedimientos de Protección al Consumidor de D.C. (D.C. CPPA). El tribunal también sostuvo que si Meta falló en discutir con precisión cómo funciona su sistema de publicidad, eso podría constituir prácticas comerciales engañosas que violan la D.C. CPPA de varias maneras. Meta engaña cuando afirma públicamente que está dando a los usuarios los anuncios más relevantes y valiosos para cada individuo basado en sus características individuales, cuando en realidad Meta está dirigiendo estos anuncios basados en rasgos estereotipados de grupo. Meta dice que su producto—su sistema de publicidad—es de una calidad o naturaleza, cuando en realidad es de otra. Meta falla en discutir su discriminación racial, lo que es una omitir un hecho material. Los usuarios podrían elegir no confiar en los anuncios que están recibiendo si supieran que son el producto de la discriminación.
El caso pendiente es interesante porque la decisión del tribunal—que la discriminación racial encubierta constituye una práctica comercial engañosa—vuelve la vista a los casos de la Comisión Federal de Comercio (FTC) que combatieron la discriminación de vivienda en la década de 1960. En dos casos de 1968, E.G. Reinsch, Inc. y First Buckingham Community, Inc., la FTC encontró que los propietarios de inmuebles habían cometido prácticas comerciales engañosas violando la Ley de Comercio Federal cuando fallaron en discutir que no alquilarían a inquilinos negros. La FTC escribió: « Fallar en discutir hechos materiales en circunstancias en las que el efecto de la falta de discusión es engañar a un segmento sustancial del público es tan de engaño como si fuera logrado a través de afirmaciones engañosas. »
La historia de los defensores de los derechos civiles que utilizan la ley de protección al consumidor para combatir la segregación se remonta a décadas antes de Brown v. Board of Education. La Ley de Comercio Interestatal (ICA), aplicada por la Comisión de Comercio Interestatal, fue crucial en la lucha por la integración racial, específicamente la desegregación del transporte interestatal. La Sección 3 de la ICA, descrita por la Corte Suprema como la « provisión de discriminación injusta », prohibía a los transportistas comunes « dar o hacer cualquier preferencia o ventaja injusta o desrazonable a cualquier persona … o someter a cualquier persona … a cualquier prejuicio o desventaja injusta o desrazonable en cualquier sentido ». La Corte Suprema sostuvo como pronto como en 1914 que la ICA era « certainemente lo suficientemente amplia como para abarcar todas las discriminaciones de la clase descrita que era dentro del poder de Congreso condenar ». En 1941, la Corte Suprema sostuvo en Mitchell v. Estados Unidos que la ICA prohibía la segregación racial en vagones de ferrocarril. Notablemente para considerar la discriminación algorítmica hoy en día, la corte escribió, « [T] el volumen comparativo de tráfico no justifica la negación de un derecho fundamental de igualdad de tratamiento ». Esto significa que, aunque la mayoría de las personas de una cierta raza pueden estar más inclinadas a preferir anuncio A a anuncio B, no significa que sea permisible tratar a todas las personas de esa raza como si prefirieran A a B; todos tienen derecho a un trato igual como individuos independientemente de su raza.
La Corte Suprema enfatizó este punto nuevamente en Henderson v. Estados Unidos en 1950, otro caso de desegregación de ferrocarril bajo la ICA. Sostuvo que « la demanda limitada » no puede justificar la discriminación porque « no es una respuesta para el pasajero particular que se le niega el servicio … que, en promedio, las personas como él son atendidas ». Para llevar esto al contexto moderno, los algoritmos probabilísticos que gatekeep las oportunidades económicas no pueden justificar la orientación racial o de género diciendo que relativamente menos personas de la clase excluida están interesadas en esa oportunidad. Las autoridades de protección al consumidor de la Comisión de Comercio Interestatal (ICC) jugaron un papel central en el Movimiento de los Derechos Civiles. En 1955, la ICC emitió una decisión prohibiendo la segregación en autobuses interestatales después de que Sarah Keys, una soldado negra del Cuerpo de Mujeres del Ejército, se negó a dar su asiento en la parte delantera de un autobús a un soldado blanco. Luego en 1960, la Corte Suprema se basó en la ICA nuevamente para obligar la desegregación de los terminales de autobuses en el caso pionero, Boynton v. Virginia. Los Freedom Riders pusieron a prueba Boynton en 1961. La provisión de discriminación injusta de la ICA también fue la base para una provisión casi idéntica en la Ley de Comunicaciones de 1934, conocida como la Sección 202. Los tribunales y la Comisión Federal de Comunicaciones (FCC) han aplicado este lenguaje de protección al consumidor a la discriminación basada en raza, origen nacional y hasta ingresos. La administración Biden ha reiterado la aplicación de la Ley de Protección al Consumidor (FTC) contra vendedores de automóviles y farmacias que participaron en prácticas discriminatorias.
La protección al consumidor federal ha prohibido la discriminación durante más de un siglo
Mientras tanto, las leyes de protección al consumidor estatales utilizan rutinamente el mismo lenguaje y estructura estatutaria que la ley federal. Algunas leyes estatales incluso incorporan el precedente de la Ley de Protección al Consumidor (FTC) para ayudar a definir su propio alcance. Sin embargo, esto significa que a medida que el gobierno federal se aleja de la aplicación de los derechos civiles, especialmente contra las empresas de tecnología, hay una vía abierta para que la ley estatal tome el relevo. Los fiscales generales estatales y los defensores de los derechos civiles pueden y deben utilizar sus leyes estatales de protección al consumidor para investigar la discriminación algorítmica como una práctica comercial desleal. Una reclamación de práctica comercial desleal puede proporcionar una vía adicional de responsabilidad incluso cuando algunos tribunales comiencen a erosionar la responsabilidad de impacto desigual. La práctica comercial desleal es un principio legal fundamental con un test legal diferente de la responsabilidad de impacto desigual, incluso si ambos podrían aplicarse a algunas situaciones.
La decisión de la Corte Superior de Washington D.C. en ERC v. Meta es un reconocimiento de lo que muchos han sabido durante mucho tiempo: No hay forma de evitar el hecho de que la discriminación algorítmica es solo otra forma de discriminación
El empleo de sistemas probabilísticos y modelos de inteligencia artificial opacos no transforma la orientación racial en una circunstancia especial única que está más allá del alcance de nuestras leyes de derechos civiles y protección al consumidor. Como sostuvo la Corte Suprema 75 años atrás, no es una respuesta para el usuario particular que se le niega el servicio que, en promedio, las personas como él son atendidas.
