El desarrollo de inteligencia artificial (IA) requiere recursos considerables. Las estimaciones indican que si las tendencias actuales continúan, los entrenamientos más grandes para modelos de IA avanzada podrían costar más de $1,000 millones para 2027. A pesar de los recursos limitados, los países africanos están encontrando maneras de innovar y contribuir al panorama global de la IA. Aunque África no lidera actualmente el desarrollo global de IA, no puede ignorar la seguridad de la IA debido a su vulnerabilidad a los daños relacionados con la IA, especialmente a medida que las capacidades de la IA crecen.
Diferentes formas de IA de acceso abierto han sido sugeridas como un medio práctico para que los contextos de la mayoría global participen en la seguridad de la IA. La IA de acceso abierto se define como cualquier forma de compartición de modelos, incluyendo liberaciones escalonadas, acceso basado en la nube, acceso a través de API y modelos con pesos ampliamente disponibles. La investigación sostiene que la IA de acceso abierto fomenta un enfoque más inclusivo para definir el comportamiento aceptable del modelo. En particular, avanza la investigación de seguridad permitiendo el escrutinio del modelo por evaluadores externos y modificaciones como el ajuste fino de seguridad.
La IA de acceso abierto está ganando tracción en el continente. Por ejemplo, la comunidad de código abierto de África Subsahariana está creciendo, con países como Ruanda y Nigeria experimentando un aumento de más del 45% en desarrolladores entre 2022 y 2023. Sin embargo, el progreso de una comunidad de desarrolladores en expansión, que también incluye investigadores de seguridad de IA, podría verse obstaculizado por las limitaciones de la IA de acceso abierto en África. Este ensayo examina las limitaciones de la IA de acceso abierto como un enfoque para la seguridad de la IA en África. Explica que la investigación de seguridad de la IA que aprovecha la IA de acceso abierto puede enfrentar obstáculos debido a las dinámicas de dependencia entre los compartidores de modelos y los desarrolladores de seguridad africanos, así como a los desafíos sistemáticos de desarrollo en África. A continuación, recomienda cómo los investigadores de seguridad africanos pueden maximizar estratégicamente el potencial de la IA de acceso abierto.
Dinámicas de dependencia
La IA de acceso abierto prospera cuando es el resultado de incentivos externos en lugar de la toma de decisiones voluntarias. Contrariamente a esto, los desarrolladores de IA controlan unilateralmente qué componentes de IA compartir y quién puede acceder a ellos. Un desafío en la investigación de seguridad de IA en África es el escepticismo al solicitar acceso a modelos. Además, los desarrolladores toman la decisión general sobre si mantener el control propietario sobre sus modelos. Por ejemplo, aunque OpenAI se fundó sobre principios de transparencia, ha retrocedido en su postura sobre la apertura. En 2024, la empresa francesa Mistral, un fuerte defensor de la IA de acceso abierto en Europa, siguió el mismo camino. Más preocupante aún, las principales potencias de la IA tienden hacia políticas nacionalistas de IA para ganar supremacía en IA. Desafortunadamente, los países en desarrollo son los que más perderán, ya que las estrategias nacionalistas los alejan de los recursos de IA pertinentes. Además, dado el papel cada vez más importante de la IA en la seguridad nacional, los gobiernos probablemente se volverán más cautelosos sobre compartir información de modelos propietarios. El «Marco para la Dispersión de la Inteligencia Artificial» del Departamento de Comercio de los Estados Unidos, Oficina de Industria y Seguridad (BIS), es un testimonio de esto. La regla introduce un requisito global de licencia para los pesos de los modelos entrenados con más de 1,026 FLOPs. En interés de la seguridad nacional de EE.UU., la regulación restringe la exportación, re-exportación o transferencia en el país de los pesos de los modelos. Sin embargo, crea una excepción para 18 aliados clave de EE.UU., ninguno de los cuales son países africanos, que se consideran destinos de bajo riesgo. Aunque las nuevas regulaciones de exportación solo tienen como objetivo modelos avanzados, señalan un control más estricto sobre la compartición de modelos a medida que avanza la IA. Además, los gobiernos africanos pueden enfrentar desafíos para cumplir con los requisitos de licencia necesarios, lo que podría limitar el acceso futuro a los pesos de los modelos de EE.UU. Por ejemplo, África actualmente carece de la capacidad para hacer cumplir salvaguardias contra los riesgos asociados con la IA avanzada, como amenazas químicas, biológicas, radiológicas y nucleares, que son un área de preocupación en la regla de BIS. La amplia participación de China en el desarrollo de IA en África también plantea preguntas sobre la futura elegibilidad de África para licencias. La regulación de BIS enfatiza la independencia de la cadena de suministro de los países de la Tercera Categoría, que incluyen a China, para sus socios de IA. Sin embargo, China es el mayor exportador de tecnologías de IA en África, con la mayoría de los países africanos beneficiándose de acuerdos como los acuerdos de la Iniciativa de la Franja y la Ruta (BRI). Empresas chinas muy influyentes, como Alibaba y Huawei, están ampliando su presencia en el continente, con Huawei anunciando en 2023 sus planes de invertir $430 millones en infraestructura de IA en el continente en los próximos cinco años. Algunos investigadores temen que tales inversiones puedan permitir que China ejerza influencia y limite la colaboración africana con socios occidentales. Por lo tanto, la dependencia de los desarrolladores de seguridad de IA en África de la IA de acceso abierto profundiza aún más los desequilibrios de poder, dejando a los desarrolladores africanos a merced de los productores de modelos y los países en los que están ubicados. Esto no solo compromete la autonomía de los países africanos, sino que también socava la capacidad de los desarrolladores para contribuir de manera significativa a la investigación de seguridad de la IA.
Los límites de la IA de acceso abierto en África
La IA de acceso abierto generalmente se acredita con reducir los costos de desarrollo. DeepSeek-R1, por ejemplo, rivaliza con modelos propietarios fronterizos a una fracción de los costos de inferencia (aproximadamente solo el 3%). Sin embargo, los recursos necesarios para utilizar la IA de acceso abierto aún no están al alcance en contextos africanos. El acceso a infraestructura crítica de IA, como unidades de procesamiento gráfico (GPU) y servicios de computación en la nube, sigue siendo un desafío crucial. Un estudio realizado con científicos de datos de Zindi África reveló que solo el 1% de ellos tiene acceso ‘en las instalaciones’ a GPUs. Mientras que el 4% paga por acceso en la nube a GPUs, pero solo puede permitirse un acceso de aproximadamente $1,000 por mes, lo que se traduce en aproximadamente dos horas de uso diario para una antigua GPU Nvidia A100. El 95% restante depende de laptops estándar sin GPUs o accede a GPUs a través de herramientas en la nube gratuitas, que imponen restricciones de uso engorrosas. Aunque el acceso a GPU es un problema global, la situación en África es crítica. Para contextualizar, un informe destacó el costo desproporcionadamente alto de las GPU en relación con el PIB per cápita en diferentes países africanos. Por ejemplo, el costo de una GPU Nvidia A100 fue el 22% del PIB per cápita en Sudáfrica, el 75% en Kenia y el 69% en Senegal. Además, el acceso de África a servicios públicos fundamentales para la IA, como la energía y la infraestructura digital, sigue siendo altamente limitado. África representa solo el 6% del consumo global de energía. A finales de 2022, solo el 51,5% de la población en África Subsahariana tenía acceso a electricidad. Además, los países de África Subsahariana experimentan un promedio anual de 87 apagones, en contraste con América del Norte, que promedia 1,34. Esto está estrechamente relacionado con el acceso a Internet, que varía en África, con países de bajos ingresos como Sudán del Sur, Burundi y la República Centroafricana teniendo una penetración por debajo del 13%. Sin embargo, de manera optimista, el impulso para el 5G está creciendo en el continente. África Subsahariana, por ejemplo, se espera que tenga 226 millones de conexiones 5G en 2030, una tasa de adopción del 17%. Además, los desarrolladores africanos corren el riesgo de ser excluidos de redes de investigación de seguridad global donde se intercambia colaborativamente el avance del conocimiento de la IA, debido a factores como las restricciones financieras y los requisitos de visa estrictos. La falta de atención global a la investigación de seguridad de la IA agrava el problema. La investigación de seguridad de la IA constituyó un mísero 2% del panorama general de la investigación de IA entre 2017 y 2022. En África, la financiación de la IA parece dirigirse principalmente a encontrar soluciones de IA para desafíos de desarrollo como la atención médica, la agricultura y la educación. Las políticas continentales y nacionales sugieren que esta tendencia es probable que persista.
En resumen, los desarrolladores de seguridad de IA en África que buscan aprovechar la IA de acceso abierto enfrentan una serie de restricciones de recursos profundamente arraigadas. Al mismo tiempo, a pesar de la considerable inversión en IA dirigida al continente, las perspectivas para los desarrolladores de seguridad de IA en África siguen siendo sombrías debido a la falta de interés en la seguridad de la IA dentro de la región.
Enmarcar problemas de seguridad de la IA
La teoría del encuadre sugiere que los problemas pueden interpretarse desde diferentes perspectivas y tener implicaciones en múltiples valores. Vincular un problema a los valores de las personas fomenta un sentido de propiedad, especialmente cuando las personas perciben posibles intereses. En África, aprovechar la IA para un desarrollo inclusivo es altamente valorado, dadas sus condiciones socioeconómicas y su historia de subyugación por economías dominantes. Para abordar la escasez de recursos, los investigadores de seguridad de IA en África podrían asegurar la financiación de IA asignada para desafíos de desarrollo, enfatizando los riesgos que las preocupaciones de seguridad de la IA plantean para estas soluciones. Los desarrolladores africanos podrían, por ejemplo, argumentar a favor de la colaboración con partes interesadas de IA que ofrecen soluciones educativas subrayando los efectos perjudiciales que las capacidades de desinformación y desinformación podrían tener en el rendimiento del sistema, las experiencias de aprendizaje de los estudiantes y, en última instancia, la reputación organizacional. Esto requeriría más investigación sobre el encuadre efectivo.
Colaboración en investigación de seguridad de IA en África
Además, los desarrolladores africanos deberían establecer redes de investigación de seguridad. Redes como la Red Europea para la Seguridad de la IA ejemplifican el poder de la colaboración. De manera similar, en África, la colaboración basada en consorcios se ha propuesto como un medio para agrupar recursos para construir una capacidad de IA general. Iniciativas como el programa Artificial Intelligence for Development (AI4D) han sido instrumentales para apoyar a los investigadores, innovadores y formuladores de políticas de IA en África, proporcionando financiamiento, recursos y oportunidades de colaboración cruciales para impulsar la investigación de IA. Tales iniciativas podrían servir como un medio para coordinar esfuerzos de seguridad, por ejemplo, a través del aprendizaje automático distribuido. Este enfoque podría permitir a los investigadores africanos escalar sus algoritmos para grandes conjuntos de datos, compartir recursos computacionales, ahorrar tiempo y minimizar la redundancia. Además, la Unión Africana (UA) podría desempeñar un papel pivotal en fomentar la colaboración sobre la seguridad de la IA. Algunos investigadores proponen que la UA y sus estados miembros establezcan acceso a computación abierta. Además, la UA podría apoyar aún más la seguridad de la IA promoviendo iniciativas de investigación compartidas entre sus estados miembros.
Desarrollar seguridad de IA específica del contexto africano
Los investigadores de seguridad en África también podrían identificar «necesidades no cubiertas» en la evaluación de modelos y desarrollar una experiencia especializada alrededor de ellas para mejorar las posibilidades de obtener acceso a modelos. De esta manera, los investigadores de seguridad de IA en África no solo podrían abordar las brechas en la evaluación de modelos, sino también posicionarse como contribuyentes clave al ecosistema global de IA, haciendo que sea más probable que las partes interesadas externas proporcionen acceso a modelos a cambio de valiosas percepciones y experiencia. Por ejemplo, Anthropic contrata a trabajadores de crowdsourcing para realizar pruebas de red y sondas adversarias en sus modelos. Sin embargo, uno de los inconvenientes de esto es que las evaluaciones pueden ser inconsistentes debido a las características variables en los evaluadores humanos. Basándose en redes de investigación, los investigadores africanos podrían establecer organizaciones con políticas estandarizadas para evaluaciones de modelos para mitigar este problema.
Además, los países y desarrolladores africanos poseen atributos distintivos que pueden hacerlos particularmente adecuados para tareas específicas. Por ejemplo, la rica diversidad cultural, lingüística y demográfica de África podría hacerla ideal para realizar pruebas de robustez. Los investigadores de seguridad de IA en África podrían ser fundamentales en el diseño de «pruebas de estrés» que simulen escenarios africanos para modelos de IA, lo que sería útil para construir modelos más resilientes. Otra oportunidad surge en la prueba de modelos multilingües. A pesar del aumento en los modelos multilingües, la mayor parte de la prueba se realiza en inglés. La falta de pruebas en otros idiomas podría llevar a la IA a utilizar idiomas no ingleses en sus capacidades peligrosas como la desinformación y la desinformación. Por lo tanto, es necesario que las pruebas de modelos también se realicen en idiomas que no sean el inglés. Establecer equipos de evaluadores africanos que reflejen la diversidad lingüística de África para evaluar modelos multilingües podría aliviar esta preocupación y servir como otro punto de experiencia que podría incentivar a los productores de modelos a compartir el acceso a los modelos con los investigadores de seguridad de IA en África.
En resumen, aunque los investigadores de seguridad de IA en África puedan adoptar intervenciones interpersonal pequeñas para sortear los obstáculos de la IA de acceso abierto, la IA de acceso abierto no puede garantizar que los países africanos participen de manera significativa en la gobernanza de la seguridad de la IA. Se requieren intervenciones sistemáticas integrales, como compromisos globales de compartición de beneficios de la IA. Los países africanos también podrían considerar negociar el acceso a modelos en acuerdos multilaterales de IA con socios líderes. Los expertos pronostican que la IA causará un cambio sísmico como ninguna otra tecnología revolucionaria históricamente. Dada la potencia socioeconómica que ejerce la IA, es crucial que el poder de gobernarla se distribuya de manera justa.
