Lo sviluppo dell’intelligenza artificiale (IA) richiede risorse considerevoli. Le stime indicano che se le tendenze attuali continuano, i più grandi addestramenti per modelli di IA avanzata potrebbero costare più di $1,000 milioni per il 2027. Nonostante le risorse limitate, i paesi africani stanno trovando modi per innovare e contribuire al panorama globale dell’IA. Anche se l’Africa non guida attualmente lo sviluppo globale dell’IA, non può ignorare la sicurezza dell’IA a causa della sua vulnerabilità ai danni legati all’IA, soprattutto man mano che le capacità dell’IA crescono.
Diverse forme di IA open source sono state suggerite come un mezzo pratico per i contesti della maggioranza globale per partecipare alla sicurezza dell’IA. L’IA open source si definisce come qualsiasi forma di condivisione di modelli, inclusi rilasci graduali, accesso basato su cloud, accesso tramite API e modelli con pesi ampiamente disponibili. La ricerca sostiene che l’IA open source promuove un approccio più inclusivo per definire il comportamento accettabile del modello. In particolare, avanza la ricerca sulla sicurezza permettendo l’esame del modello da parte di valutatori esterni e modifiche come il fine-tuning della sicurezza.
L’IA open source sta guadagnando trazione nel continente. Ad esempio, la comunità open source dell’Africa subsahariana è in crescita, con paesi come Ruanda e Nigeria che registrano un aumento di oltre il 45% di sviluppatori tra il 2022 e il 2023. Tuttavia, il progresso di una comunità di sviluppatori in espansione, che include anche ricercatori di sicurezza dell’IA, potrebbe essere ostacolato dalle limitazioni dell’IA open source in Africa. Questo saggio esamina le limitazioni dell’IA open source come approccio alla sicurezza dell’IA in Africa. Spiega che la ricerca sulla sicurezza dell’IA che sfrutta l’IA open source può incontrare ostacoli a causa delle dinamiche di dipendenza tra i condivisori di modelli e gli sviluppatori di sicurezza africani, nonché dei problemi sistematici di sviluppo in Africa. Successivamente, raccomanda come i ricercatori di sicurezza africani possono massimizzare strategicamente il potenziale dell’IA open source.
Dinamiche di dipendenza
L’IA open source prospera quando è il risultato di incentivi esterni piuttosto che di decisioni volontarie. Al contrario, gli sviluppatori di IA controllano unilateralmente quali componenti di IA condividere e chi può accedervi. Una sfida nella ricerca sulla sicurezza dell’IA in Africa è lo scetticismo nel richiedere l’accesso ai modelli. Inoltre, gli sviluppatori prendono la decisione generale se mantenere il controllo proprietario sui loro modelli. Ad esempio, sebbene OpenAI sia stata fondata su principi di trasparenza, ha fatto marcia indietro sulla sua posizione sull’apertura. Nel 2024, l’azienda francese Mistral, un forte sostenitore dell’IA open source in Europa, ha seguito lo stesso percorso. Ancora più preoccupante, le principali potenze dell’IA tendono verso politiche nazionaliste dell’IA per ottenere la supremazia nell’IA. Sfortunatamente, i paesi in via di sviluppo sono quelli che perderanno di più, poiché le strategie nazionaliste li allontanano dalle risorse pertinenti dell’IA. Inoltre, dato il ruolo sempre più importante dell’IA nella sicurezza nazionale, i governi probabilmente diventeranno più cauti nel condividere informazioni sui modelli proprietari. Il “Framework for the Dissemination of Artificial Intelligence” del Dipartimento del Commercio degli Stati Uniti, Ufficio per l’Industria e la Sicurezza (BIS), è un esempio di questo. La regola introduce un requisito di licenza globale per i pesi dei modelli addestrati con più di 1,026 FLOPs. Nell’interesse della sicurezza nazionale degli Stati Uniti, la regolamentazione limita l’esportazione, la re-esportazione o il trasferimento nel paese dei pesi dei modelli. Tuttavia, crea un’eccezione per 18 alleati chiave degli Stati Uniti, nessuno dei quali sono paesi africani, che vengono considerati destinazioni a basso rischio. Sebbene le nuove regolamentazioni sull’esportazione mirino solo ai modelli avanzati, indicano un controllo più stretto sulla condivisione dei modelli man mano che l’IA avanza. Inoltre, i governi africani potrebbero affrontare difficoltà nel rispettare i requisiti di licenza necessari, il che potrebbe limitare l’accesso futuro ai pesi dei modelli degli Stati Uniti. Ad esempio, l’Africa attualmente manca della capacità di far rispettare le salvaguardie contro i rischi associati all’IA avanzata, come le minacce chimiche, biologiche, radiologiche e nucleari, che sono un’area di preoccupazione nella regola del BIS. La vasta partecipazione della Cina nello sviluppo dell’IA in Africa solleva anche domande sulla futura idoneità dell’Africa per le licenze. La regolamentazione del BIS sottolinea l’indipendenza della catena di fornitura dei paesi della Terza Categoria, che includono la Cina, per i loro partner di IA. Tuttavia, la Cina è il maggiore esportatore di tecnologie dell’IA in Africa, con la maggior parte dei paesi africani che beneficiano di accordi come gli accordi dell’Iniziativa della Via della Seta (BRI). Aziende cinesi molto influenti, come Alibaba e Huawei, stanno espandendo la loro presenza nel continente, con Huawei che ha annunciato nel 2023 i suoi piani di investire $430 milioni in infrastrutture dell’IA nel continente nei prossimi cinque anni. Alcuni ricercatori temono che tali investimenti possano permettere alla Cina di esercitare influenza e limitare la collaborazione africana con partner occidentali. Pertanto, la dipendenza degli sviluppatori di sicurezza dell’IA in Africa dall’IA open source approfondisce ulteriormente gli squilibri di potere, lasciando gli sviluppatori africani alla mercé dei produttori di modelli e dei paesi in cui sono situati. Questo non solo compromette l’autonomia dei paesi africani, ma mina anche la capacità degli sviluppatori di contribuire in modo significativo alla ricerca sulla sicurezza dell’IA.
I limiti dell’IA open source in Africa
L’IA open source viene generalmente accreditata per ridurre i costi di sviluppo. DeepSeek-R1, ad esempio, rivaleggia con modelli proprietari di frontiera a una frazione dei costi di inferenza (circa solo il 3%). Tuttavia, le risorse necessarie per utilizzare l’IA open source non sono ancora alla portata dei contesti africani. L’accesso a infrastrutture critiche dell’IA, come le unità di elaborazione grafica (GPU) e i servizi di calcolo su cloud, rimane una sfida cruciale. Uno studio condotto con scienziati dei dati di Zindi Africa ha rivelato che solo l’1% di loro ha accesso ‘in loco’ a GPU. Mentre il 4% paga per l’accesso su cloud a GPU, ma può permettersi solo un accesso di circa $1,000 al mese, che si traduce in circa due ore di utilizzo giornaliero per una vecchia GPU Nvidia A100. Il restante 95% dipende da laptop standard senza GPU o accede a GPU tramite strumenti su cloud gratuiti, che impongono restrizioni d’uso ingombranti. Sebbene l’accesso a GPU sia un problema globale, la situazione in Africa è critica. Per contestualizzare, un rapporto ha evidenziato il costo sproporzionatamente alto delle GPU in relazione al PIL pro capite in diversi paesi africani. Ad esempio, il costo di una GPU Nvidia A100 era il 22% del PIL pro capite in Sud Africa, il 75% in Kenya e il 69% in Senegal. Inoltre, l’accesso dell’Africa a servizi pubblici fondamentali per l’IA, come l’energia e l’infrastruttura digitale, rimane altamente limitato. L’Africa rappresenta solo il 6% del consumo globale di energia. Alla fine del 2022, solo il 51,5% della popolazione in Africa subsahariana aveva accesso all’elettricità. Inoltre, i paesi dell’Africa subsahariana sperimentano in media 87 blackout all’anno, rispetto a 1,34 in America del Nord. Questo è strettamente correlato all’accesso a Internet, che varia in Africa, con paesi a basso reddito come il Sud Sudan, il Burundi e la Repubblica Centrafricana che hanno una penetrazione inferiore al 13%. Tuttavia, in modo ottimistico, l’impulso per il 5G sta crescendo nel continente. L’Africa subsahariana, ad esempio, si prevede che avrà 226 milioni di connessioni 5G nel 2030, con un tasso di adozione del 17%. Inoltre, gli sviluppatori africani corrono il rischio di essere esclusi da reti di ricerca sulla sicurezza globale dove si scambia collaborativamente l’avanzamento della conoscenza dell’IA, a causa di fattori come le restrizioni finanziarie e i rigorosi requisiti di visto. La mancanza di attenzione globale alla ricerca sulla sicurezza dell’IA aggrava il problema. La ricerca sulla sicurezza dell’IA costituiva un misero 2% del panorama generale della ricerca sull’IA tra il 2017 e il 2022. In Africa, il finanziamento dell’IA sembra essere diretto principalmente a trovare soluzioni di IA per sfide di sviluppo come la sanità, l’agricoltura e l’istruzione. Le politiche continentali e nazionali suggeriscono che questa tendenza è probabile che persista.
In sintesi, gli sviluppatori di sicurezza dell’IA in Africa che cercano di sfruttare l’IA open source affrontano una serie di restrizioni di risorse profondamente radicate. Allo stesso tempo, nonostante il considerevole investimento in IA diretto al continente, le prospettive per gli sviluppatori di sicurezza dell’IA in Africa rimangono cupe a causa della mancanza di interesse per la sicurezza dell’IA all’interno della regione.
Inquadrare problemi di sicurezza dell’IA
La teoria dell’inquadramento suggerisce che i problemi possono essere interpretati da diverse prospettive e avere implicazioni su valori multipli. Collegare un problema ai valori delle persone promuove un senso di proprietà, soprattutto quando le persone percepiscono interessi possibili. In Africa, sfruttare l’IA per uno sviluppo inclusivo è altamente valorizzato, date le sue condizioni socioeconomiche e la sua storia di sottomissione da parte di economie dominanti. Per affrontare la scarsità di risorse, i ricercatori di sicurezza dell’IA in Africa potrebbero assicurarsi il finanziamento dell’IA assegnato per le sfide di sviluppo, sottolineando i rischi che le preoccupazioni di sicurezza dell’IA pongono per queste soluzioni. Gli sviluppatori africani potrebbero, ad esempio, fare un caso per la collaborazione con le parti interessate dell’IA che offrono soluzioni educative sottolineando gli effetti dannosi che le capacità di disinformazione e disinformazione potrebbero avere sul rendimento del sistema, sulle esperienze di apprendimento degli studenti e, in ultima analisi, sulla reputazione organizzativa. Questo richiederebbe ulteriori ricerche sull’inquadramento efficace.
Collaborazione nella ricerca sulla sicurezza dell’IA in Africa
Inoltre, gli sviluppatori africani dovrebbero stabilire reti di ricerca sulla sicurezza. Reti come la European Network for AI Security esemplificano il potere della collaborazione. Allo stesso modo, in Africa, la collaborazione basata su consorzi è stata proposta come un mezzo per raggruppare risorse per costruire una capacità di IA generale. Iniziative come il programma Artificial Intelligence for Development (AI4D) sono state strumentali nel sostenere ricercatori, innovatori e formulatori di politiche dell’IA in Africa, fornendo finanziamenti, risorse e opportunità di collaborazione cruciali per promuovere la ricerca sull’IA. Tali iniziative potrebbero servire come un mezzo per coordinare gli sforzi di sicurezza, ad esempio, tramite l’apprendimento automatico distribuito. Questo approccio potrebbe permettere ai ricercatori africani di scalare i loro algoritmi per grandi set di dati, condividere risorse computazionali, risparmiare tempo e minimizzare la ridondanza. Inoltre, l’Unione Africana (UA) potrebbe svolgere un ruolo cruciale nel promuovere la collaborazione sulla sicurezza dell’IA. Alcuni ricercatori propongono che l’UA e i suoi stati membri stabiliscano l’accesso al calcolo aperto. Inoltre, l’UA potrebbe sostenere ulteriormente la sicurezza dell’IA promuovendo iniziative di ricerca condivise tra i suoi stati membri.
Sviluppare sicurezza dell’IA specifica del contesto africano
I ricercatori di sicurezza in Africa potrebbero anche identificare “bisogni non coperti” nella valutazione dei modelli e sviluppare una competenza specializzata intorno ad essi per migliorare le possibilità di ottenere accesso ai modelli. In questo modo, i ricercatori di sicurezza dell’IA in Africa non solo potrebbero affrontare le lacune nella valutazione dei modelli, ma potrebbero anche posizionarsi come contributori chiave all’ecosistema globale dell’IA, rendendo più probabile che le parti interessate esterne forniscano accesso ai modelli in cambio di preziose intuizioni ed esperienza. Ad esempio, Anthropic assume lavoratori del crowdsourcing per eseguire test di rete e sondaggi avversari sui loro modelli. Tuttavia, uno degli inconvenienti di questo è che le valutazioni possono essere inconsistenti a causa delle caratteristiche variabili negli valutatori umani. Basandosi su reti di ricerca, i ricercatori africani potrebbero stabilire organizzazioni con politiche standardizzate per le valutazioni dei modelli per mitigare questo problema.
Inoltre, i paesi e gli sviluppatori africani possiedono attributi distintivi che possono renderli particolarmente adatti per compiti specifici. Ad esempio, la ricca diversità culturale, linguistica e demografica dell’Africa potrebbe renderla ideale per eseguire test di robustezza. I ricercatori di sicurezza dell’IA in Africa potrebbero essere fondamentali nel progettare “test di stress” che simulano scenari africani per i modelli di IA, il che sarebbe utile per costruire modelli più resilienti. Un’altra opportunità emerge nella prova di modelli multilingue. Nonostante l’aumento dei modelli multilingue, la maggior parte della prova viene eseguita in inglese. La mancanza di prove in altre lingue potrebbe portare l’IA a utilizzare lingue non inglesi nelle sue capacità pericolose come la disinformazione e la disinformazione. Pertanto, è necessario che le prove dei modelli vengano eseguite anche in lingue diverse dall’inglese. Stabilire squadre di valutatori africani che riflettano la diversità linguistica dell’Africa per valutare modelli multilingue potrebbe alleviare questa preoccupazione e servire come un altro punto di esperienza che potrebbe incentivare i produttori di modelli a condividere l’accesso ai modelli con i ricercatori di sicurezza dell’IA in Africa.
In sintesi, sebbene i ricercatori di sicurezza dell’IA in Africa possano adottare piccole interventi interpersonali per superare gli ostacoli dell’IA open source, l’IA open source non può garantire che i paesi africani partecipino in modo significativo alla governance della sicurezza dell’IA. Sono necessari interventi sistemici integrali, come impegni globali di condivisione dei benefici dell’IA. I paesi africani potrebbero anche considerare di negoziare l’accesso ai modelli in accordi multilaterali di IA con partner leader. Gli esperti prevedono che l’IA causerà un cambiamento sismico come nessuna altra tecnologia rivoluzionaria storicamente. Data la potenza socioeconomica che esercita l’IA, è cruciale che il potere di governarla sia distribuito in modo equo.
