L’administration Trump a présenté son plan d’action pour l’IA en juillet, mettant l’accent sur la « dominance mondiale de l’IA ». Cette évolution marque un départ de la position des administrations précédentes, où l’équilibre entre l’innovation et les préoccupations concernant les dommages causés par l’IA était largement accepté. Malgré les différences idéologiques, il y a eu une continuité bipartite dans la reconnaissance de la nécessité de régulation interne du gouvernement fédéral dans l’utilisation et la mise en œuvre de l’IA. Cette continuité s’étend de la première administration Trump à la deuxième administration Trump et à la deuxième administration Biden.
Le gouvernement fédéral a commencé à aborder la nécessité de limitations sur l’utilisation de l’IA par le gouvernement pendant les derniers jours de la première administration Trump. Un ordre exécutif émis par l’administration Trump a établi le premier ensemble de principes de l’IA du gouvernement. L’administration Biden a suivi avec son Office of Science and Technology Policy (OSTP) et son Bill of Rights de l’IA, visant à garantir que « les systèmes automatisés servent aux Américains ». Cela a conduit à l’émission de deux mémoires obligatoires par l’Office of Management and Budget (OMB) : M-24-10 (surnommé le « mémoire AI de Biden ») et M-25-21 (surnommé le « mémoire AI de Trump »). Même si le mémoire AI de Trump est décrit comme avançant l’adoption de l’IA en réduisant les règles fastidieuses imposées par l’administration Biden, il existe plusieurs points d’accord entre les deux mémoires.
Cinq points d’accord bipartite
1. **Réguler et identifier de manière présumée des systèmes d’IA à impact élevé** : Les mémoires de l’OMB se concentrent sur les « systèmes d’IA à impact élevé », notamment ceux liés à l’emploi, à la santé et à la sécurité, à l’infrastructure critique et à d’autres systèmes affectant les droits ou la sécurité. Des systèmes spécifiques tels que les évaluations de risque pénal, les demandes de services fédéraux et les systèmes d’IA liés à la santé sont couverts de manière présumée. Cela indique un consensus sur l’importance d’identifier les systèmes à impact élevé en fonction de leurs impacts potentiels sur les droits et la sécurité.
2. **Créer des structures de gouvernance et de reporting systématiques au sein des agences** : Les deux mémoires établissent des structures de reporting au sein des agences, y compris les directeurs de l’IA (CAIO) et un conseil interagences pour garantir la coopération et la mise en œuvre cohérente des politiques au sein des agences. Ces structures fournissent un soutien et des lignes de responsabilité claires, avec la mise en œuvre gérée par la supervision de l’OMB.
3. **Interdire l’utilisation de systèmes d’IA à impact élevé sans mesures de protection** : Les mémoires imposent au gouvernement fédéral qu’il ne peut pas utiliser les systèmes d’IA couverts sans que des pratiques minimales spécifiées soient en place. Des processus d’extension et de dérogation sont fournis, garantissant que ces protections soient établies avant que les systèmes d’IA à impact élevé ne soient utilisés.
4. **Exiger des pratiques minimales spécifiques pour les systèmes d’IA à impact élevé** : Les deux mémoires identifient des pratiques minimales spécifiques pour les systèmes d’IA à impact élevé, notamment la testification, la consultation publique, la mitigation de la discrimination illégale, les évaluations d’impact, les examens indépendants, la surveillance continue, la supervision humaine, la revue et l’appel humains, et d’autres pratiques. Ces pratiques sont conçues pour être largement applicables tout en fournissant suffisamment de spécificité pour la vérification par l’OMB et le public.
5. **Fournir la transparence sur les cas d’utilisation de l’IA et les protections associées** : Les deux mémoires exigent une inventaire public de l’utilisation de l’IA par le gouvernement fédéral. Pour l’année de rapport 2024, plus de 1 700 cas d’utilisation de l’IA ont été identifiés, avec 227 indiqués comme étant à impact élevé. Ce mécanisme de transparence est crucial pour la responsabilité publique.
Deux points de désaccord
1. **Protections d’équité au-delà de la discrimination illégale** : Le mémoire AI de Biden a inclus des dispositions pour soutenir l’équité et atténuer proactivement la discrimination algorithmique. Le mémoire AI de Trump, en revanche, limite ses exigences à atténuer spécifiquement la discrimination illégale reconnue ailleurs dans la loi. De plus, un ordre exécutif instruit le gouvernement fédéral à ignorer le principe de l’impact disparate comme forme de discrimination illégale. Cela pourrait avoir des implications significatives pour les impacts discriminatoires de l’IA.
2. **Avertissement individuel de l’impact de l’IA** : Le mémoire AI de Trump s’écarte du cadre de droits de la période Biden pour un modèle de régulation de l’IA basé sur le risque. En particulier, le mémoire AI de Biden exigeait que les individus touchés par les systèmes d’IA à impact élevé reçoivent un avertissement. Le mémoire AI de Trump a supprimé cette exigence, laissant potentiellement les individus ignorer les décisions de l’IA qui les affectent, telles que la suppression de services gouvernementaux basées sur des déterminations de fraude.
En regardant à l’avenir
Les deux administrations ont convenu que l’utilisation de l’IA devrait inclure des protections de base contre les dommages causés par l’IA dans les contextes à impact élevé. Ces exigences de base incluent des lignes de responsabilité claires, une transparence publique et des pratiques de réduction des risques requises.
Position de l’administration Trump
La position de l’administration Trump sur la discrimination est contraire à la loi existante, et ses préférences de déréglementation peuvent affecter la mise en œuvre de ces exigences. Malgré les débats partisans, ces domaines d’accord peuvent servir de fondement pour que les législateurs d’État et fédéral construisent.
