Le développement de l’intelligence artificielle (IA) nécessite des ressources considérables. Les estimations indiquent que si les tendences actuelles se poursuivent, les plus grands entraînements pour les modèles d’IA avancée pourraient coûter plus de 1 000 millions de dollars d’ici 2027. Malgré les ressources limitées, les pays africains trouvent des moyens d’innover et de contribuer au paysage mondial de l’IA. Bien que l’Afrique ne soit pas actuellement à la tête du développement mondial de l’IA, elle ne peut ignorer la sécurité de l’IA en raison de sa vulnérabilité aux dommages liés à l’IA, surtout à mesure que les capacités de l’IA augmentent.
Différentes formes d’IA à accès ouvert ont été suggérées comme un moyen pratique pour que les contextes de la majorité mondiale participent à la sécurité de l’IA. L’IA à accès ouvert est définie comme toute forme de partage de modèles, y compris les libérations échelonnées, l’accès basé sur le cloud, l’accès via API et les modèles avec des poids largement disponibles. La recherche soutient que l’IA à accès ouvert favorise une approche plus inclusive pour définir le comportement acceptable du modèle. En particulier, elle fait avancer la recherche en matière de sécurité en permettant l’examen du modèle par des évaluateurs externes et des modifications telles que l’ajustement fin de la sécurité.
L’IA à accès ouvert gagne en traction sur le continent. Par exemple, la communauté de code ouvert d’Afrique subsaharienne est en croissance, avec des pays comme le Rwanda et le Nigeria connaissant une augmentation de plus de 45 % des développeurs entre 2022 et 2023. Cependant, le progrès d’une communauté de développeurs en expansion, qui comprend également des chercheurs en sécurité de l’IA, pourrait être entravé par les limitations de l’IA à accès ouvert en Afrique. Cet essai examine les limitations de l’IA à accès ouvert en tant qu’approche pour la sécurité de l’IA en Afrique. Il explique que la recherche en matière de sécurité de l’IA qui tire parti de l’IA à accès ouvert peut rencontrer des obstacles en raison des dynamiques de dépendance entre les partageurs de modèles et les développeurs de sécurité africains, ainsi que des défis systémiques de développement en Afrique. Ensuite, il recommande comment les chercheurs en sécurité africains peuvent maximiser stratégiquement le potentiel de l’IA à accès ouvert.
Dynamiques de dépendance
L’IA à accès ouvert prospère lorsqu’elle est le résultat d’incitations externes plutôt que de décisions volontaires. Contrairement à cela, les développeurs d’IA contrôlent unilatéralement quels composants d’IA partager et qui peut y accéder. Un défi dans la recherche en matière de sécurité de l’IA en Afrique est le scepticisme à demander l’accès aux modèles. De plus, les développeurs prennent la décision générale de maintenir le contrôle propriétaire sur leurs modèles. Par exemple, bien qu’OpenAI ait été fondée sur des principes de transparence, elle a reculé sur sa position en matière d’ouverture. En 2024, l’entreprise française Mistral, un fervent défenseur de l’IA à accès ouvert en Europe, a suivi la même voie. Plus préoccupant encore, les principales puissances de l’IA tendent vers des politiques nationalistes de l’IA pour gagner la suprématie en IA. Malheureusement, ce sont les pays en développement qui en souffriront le plus, car les stratégies nationalistes les privent des ressources pertinentes en IA. De plus, étant donné le rôle de plus en plus important de l’IA dans la sécurité nationale, les gouvernements deviendront probablement plus prudents quant au partage des informations sur les modèles propriétaires. Le « Cadre pour la Dissémination de l’Intelligence Artificielle » du Département du Commerce des États-Unis, Bureau de l’Industrie et de la Sécurité (BIS), en est un témoignage. La règle introduit une exigence mondiale de licence pour les poids des modèles entraînés avec plus de 1 026 FLOPs. Dans l’intérêt de la sécurité nationale des États-Unis, la réglementation restreint l’exportation, la réexportation ou le transfert dans le pays des poids des modèles. Cependant, elle crée une exception pour 18 alliés clés des États-Unis, aucun d’entre eux n’étant des pays africains, qui sont considérés comme des destinations à faible risque. Bien que les nouvelles réglementations sur l’exportation ne visent que les modèles avancés, elles indiquent un contrôle plus strict sur le partage des modèles à mesure que l’IA progresse. De plus, les gouvernements africains peuvent rencontrer des défis pour se conformer aux exigences de licence nécessaires, ce qui pourrait limiter l’accès futur aux poids des modèles des États-Unis. Par exemple, l’Afrique manque actuellement de la capacité de faire respecter les sauvegardes contre les risques associés à l’IA avancée, tels que les menaces chimiques, biologiques, radiologiques et nucléaires, qui sont une zone de préoccupation dans la règle de la BIS. La large participation de la Chine au développement de l’IA en Afrique soulève également des questions sur la future éligibilité de l’Afrique pour des licences. La réglementation de la BIS met l’accent sur l’indépendance de la chaîne d’approvisionnement des pays de la Troisième Catégorie, qui incluent la Chine, pour ses partenaires en IA. Cependant, la Chine est le plus grand exportateur de technologies d’IA en Afrique, la plupart des pays africains bénéficiant d’accords tels que les accords de l’Initiative de la Ceinture et de la Route (BRI). Des entreprises chinoises très influentes, comme Alibaba et Huawei, étendent leur présence sur le continent, Huawei annonçant en 2023 ses plans d’investir 430 millions de dollars dans l’infrastructure d’IA sur le continent au cours des cinq prochaines années. Certains chercheurs craignent que de telles investissements puissent permettre à la Chine d’exercer une influence et de limiter la collaboration africaine avec des partenaires occidentaux. Par conséquent, la dépendance des développeurs de sécurité de l’IA en Afrique à l’IA à accès ouvert approfondit encore les déséquilibres de pouvoir, laissant les développeurs africains à la merci des producteurs de modèles et des pays dans lesquels ils sont situés. Cela ne compromet pas seulement l’autonomie des pays africains, mais sape également la capacité des développeurs à contribuer de manière significative à la recherche en matière de sécurité de l’IA.
Les limites de l’IA à accès ouvert en Afrique
L’IA à accès ouvert est généralement créditée de réduire les coûts de développement. DeepSeek-R1, par exemple, rivalise avec des modèles propriétaires de pointe à une fraction des coûts d’inférence (environ seulement 3 %). Cependant, les ressources nécessaires pour utiliser l’IA à accès ouvert ne sont pas encore à portée de main dans les contextes africains. L’accès à l’infrastructure critique de l’IA, telle que les unités de traitement graphique (GPU) et les services de calcul en nuage, reste un défi crucial. Une étude réalisée avec des scientifiques des données de Zindi Africa a révélé que seulement 1 % d’entre eux ont un accès ‘sur place’ à des GPU. Bien que 4 % paient pour un accès en nuage à des GPU, ils ne peuvent se permettre qu’un accès d’environ 1 000 dollars par mois, ce qui se traduit par environ deux heures d’utilisation quotidienne pour une ancienne GPU Nvidia A100. Les 95 % restants dépendent de laptops standards sans GPU ou accèdent à des GPU via des outils en nuage gratuits, qui imposent des restrictions d’utilisation contraignantes. Bien que l’accès aux GPU soit un problème mondial, la situation en Afrique est critique. Pour contextualiser, un rapport a souligné le coût disproportionné élevé des GPU par rapport au PIB par habitant dans différents pays africains. Par exemple, le coût d’une GPU Nvidia A100 était de 22 % du PIB par habitant en Afrique du Sud, de 75 % au Kenya et de 69 % au Sénégal. De plus, l’accès de l’Afrique aux services publics fondamentaux pour l’IA, tels que l’énergie et l’infrastructure numérique, reste fortement limité. L’Afrique ne représente que 6 % de la consommation mondiale d’énergie. À la fin de 2022, seulement 51,5 % de la population en Afrique subsaharienne avait accès à l’électricité. De plus, les pays d’Afrique subsaharienne subissent en moyenne 87 pannes de courant par an, contre 1,34 en Amérique du Nord. Cela est étroitement lié à l’accès à Internet, qui varie en Afrique, les pays à faible revenu comme le Soudan du Sud, le Burundi et la République centrafricaine ayant une pénétration inférieure à 13 %. Cependant, de manière optimiste, l’élan pour la 5G est en croissance sur le continent. L’Afrique subsaharienne, par exemple, devrait avoir 226 millions de connexions 5G d’ici 2030, un taux d’adoption de 17 %. De plus, les développeurs africains risquent d’être exclus des réseaux de recherche en sécurité mondiale où les avancées de la connaissance de l’IA sont échangées de manière collaborative, en raison de facteurs tels que les restrictions financières et les exigences strictes en matière de visa. Le manque d’attention mondiale à la recherche en matière de sécurité de l’IA aggrave le problème. La recherche en matière de sécurité de l’IA ne constituait qu’un misérable 2 % du paysage général de la recherche en IA entre 2017 et 2022. En Afrique, le financement de l’IA semble principalement dirigé vers la recherche de solutions d’IA pour des défis de développement tels que les soins de santé, l’agriculture et l’éducation. Les politiques continentales et nationales suggèrent que cette tendance est susceptible de persister.
En résumé, les développeurs de sécurité de l’IA en Afrique qui cherchent à tirer parti de l’IA à accès ouvert sont confrontés à une série de restrictions de ressources profondément enracinées. En même temps, malgré l’investissement considérable dans l’IA dirigé vers le continent, les perspectives pour les développeurs de sécurité de l’IA en Afrique restent sombres en raison du manque d’intérêt pour la sécurité de l’IA au sein de la région.
Encadrer les problèmes de sécurité de l’IA
La théorie du cadrage suggère que les problèmes peuvent être interprétés à partir de différentes perspectives et avoir des implications pour plusieurs valeurs. Lier un problème aux valeurs des personnes favorise un sentiment de propriété, surtout lorsque les personnes perçoivent des intérêts possibles. En Afrique, tirer parti de l’IA pour un développement inclusif est hautement valorisé, compte tenu de ses conditions socio-économiques et de son histoire de subjugation par des économies dominantes. Pour aborder la pénurie de ressources, les chercheurs en sécurité de l’IA en Afrique pourraient sécuriser le financement de l’IA attribué aux défis de développement, en insistant sur les risques que les préoccupations de sécurité de l’IA posent pour ces solutions. Les développeurs africains pourraient, par exemple, plaider en faveur de la collaboration avec des parties prenantes de l’IA qui offrent des solutions éducatives en soulignant les effets néfastes que les capacités de désinformation et de désinformation pourraient avoir sur les performances du système, les expériences d’apprentissage des étudiants et, en fin de compte, la réputation organisationnelle. Cela nécessiterait une recherche plus approfondie sur le cadrage efficace.
Collaboration en recherche de sécurité de l’IA en Afrique
De plus, les développeurs africains devraient établir des réseaux de recherche en sécurité. Des réseaux comme le Réseau européen pour la sécurité de l’IA illustrent le pouvoir de la collaboration. De manière similaire, en Afrique, la collaboration basée sur des consortiums a été proposée comme un moyen de regrouper des ressources pour construire une capacité générale en IA. Des initiatives comme le programme Artificial Intelligence for Development (AI4D) ont été instrumentales pour soutenir les chercheurs, les innovateurs et les formulateurs de politiques en IA en Afrique, en fournissant un financement, des ressources et des opportunités de collaboration cruciales pour stimuler la recherche en IA. De telles initiatives pourraient servir de moyen pour coordonner les efforts de sécurité, par exemple, par le biais de l’apprentissage automatique distribué. Cette approche pourrait permettre aux chercheurs africains de mettre à l’échelle leurs algorithmes pour de grands ensembles de données, de partager des ressources informatiques, d’économiser du temps et de minimiser la redondance. De plus, l’Union africaine (UA) pourrait jouer un rôle pivot dans la promotion de la collaboration sur la sécurité de l’IA. Certains chercheurs proposent que l’UA et ses États membres établissent un accès à un calcul ouvert. De plus, l’UA pourrait soutenir davantage la sécurité de l’IA en promouvant des initiatives de recherche partagées entre ses États membres.
Développer une sécurité de l’IA spécifique au contexte africain
Les chercheurs en sécurité en Afrique pourraient également identifier des « besoins non couverts » dans l’évaluation des modèles et développer une expertise spécialisée autour d’eux pour améliorer les chances d’obtenir un accès aux modèles. De cette manière, les chercheurs en sécurité de l’IA en Afrique pourraient non seulement aborder les lacunes dans l’évaluation des modèles, mais aussi se positionner comme des contributeurs clés à l’écosystème mondial de l’IA, rendant plus probable que les parties prenantes externes fournissent un accès aux modèles en échange de précieuses perceptions et d’expérience. Par exemple, Anthropic embauche des travailleurs de crowdsourcing pour effectuer des tests de réseau et des sondes adverses sur ses modèles. Cependant, l’un des inconvénients de cela est que les évaluations peuvent être inconsistantes en raison des caractéristiques variables des évaluateurs humains. En s’appuyant sur des réseaux de recherche, les chercheurs africains pourraient établir des organisations avec des politiques standardisées pour les évaluations de modèles afin d’atténuer ce problème.
De plus, les pays et les développeurs africains possèdent des attributs distinctifs qui peuvent les rendre particulièrement adaptés à des tâches spécifiques. Par exemple, la riche diversité culturelle, linguistique et démographique de l’Afrique pourrait la rendre idéale pour effectuer des tests de robustesse. Les chercheurs en sécurité de l’IA en Afrique pourraient être fondamentaux dans la conception de « tests de stress » qui simulent des scénarios africains pour les modèles d’IA, ce qui serait utile pour construire des modèles plus résilients. Une autre opportunité survient dans le test de modèles multilingues. Malgré l’augmentation des modèles multilingues, la plupart des tests sont effectués en anglais. Le manque de tests dans d’autres langues pourrait conduire l’IA à utiliser des langues non anglaises dans ses capacités dangereuses telles que la désinformation et la désinformation. Par conséquent, il est nécessaire que les tests de modèles soient également effectués dans des langues autres que l’anglais. Établir des équipes d’évaluateurs africains qui reflètent la diversité linguistique de l’Afrique pour évaluer des modèles multilingues pourrait atténuer cette préoccupation et servir comme un autre point d’expérience qui pourrait inciter les producteurs de modèles à partager l’accès aux modèles avec les chercheurs en sécurité de l’IA en Afrique.
En résumé, bien que les chercheurs en sécurité de l’IA en Afrique puissent adopter des interventions interpersonnelles mineures pour contourner les obstacles de l’IA à accès ouvert, l’IA à accès ouvert ne peut garantir que les pays africains participent de manière significative à la gouvernance de la sécurité de l’IA. Des interventions systémiques intégrales sont nécessaires, telles que des engagements mondiaux de partage des bénéfices de l’IA. Les pays africains pourraient également envisager de négocier l’accès aux modèles dans des accords multilatéraux d’IA avec des partenaires leaders. Les experts prévoient que l’IA causera un changement sismique comme aucune autre technologie révolutionnaire historiquement. Étant donné la puissance socio-économique que l’IA exerce, il est crucial que le pouvoir de la gouverner soit distribué de manière équitable.
