LATAM-GPT è un’iniziativa di intelligenza artificiale regionale in America Latina progettata per creare un grande modello linguistico che rifletta le lingue locali, le culture e le storie. Il progetto, coordinato dal Centro Nazionale per l’Intelligenza Artificiale (CENIA) del Cile, mira a spingere la regione dal consumo digitale alla creazione di AI. LATAM-GPT viene costruito con circa 50 miliardi di parametri, paragonabili a GPT-3,5, e si basa su un corpus di oltre 8 terabyte di testo raccolto da più di 30 istituzioni in America Latina. Questa iniziativa solleva la questione di se l’America Latina possa passare da essere un importatore di tecnologia a un architetto di tecnologia.
L’approccio tecnico di LATAM-GPT prevede un percorso di mezzo tra la costruzione di un modello da zero e l’adattamento di modelli esistenti. Il modello multilingue open-source (LLM) della Svizzera dimostra la fattibilità dell’intelligenza artificiale sovrana, che si allinea con gli interessi strategici nazionali, le norme legali ed etiche, le priorità culturali e le esigenze di sicurezza. Tuttavia, questo approccio richiede un investimento pubblico sostenuto, una forte coordinazione istituzionale e una capacità centralizzata.
L’adattamento di modelli esistenti offre un’alternativa più pragmatica. Tecniche come “head tuning” e Adattamento a Rango Basso (LoRA) consentono modifiche al layer finale del modello o l’inserzione di piccoli moduli addestrabili negli strati interni del modello, rispettivamente. Queste metodi plasmano il comportamento senza ricostruire il sistema. Ad esempio, un LATAM-GPT base con adapter LoRA potrebbe essere adattato per il linguaggio regionale e le routine specifiche del paese, adattandosi a un modello open-source ai contesti locali con meno potenza di calcolo e in un tempo più breve.
Tuttavia, l’adattamento eredita le ipotesi fondamentali del modello base, comprese le strategie di tokenizzazione, le meccaniche di attenzione e le pregiudiziali culturali incorporate. Un modello addestrato principalmente su testo inglese potrebbe avere difficoltà con la complessità morfologica dello spagnolo o la ricchezza contestuale delle lingue indigene, indipendentemente dalla sofisticazione dell’adattamento.
Il corpus di addestramento di LATAM-GPT
Il corpus di addestramento di LATAM-GPT include non solo lo spagnolo e il portoghese, ma anche le lingue indigene, ognuna con strutture grammaticali distinte. Ciò rappresenta ostacoli computazionali al di là dell’ampliamento lessicale. La logica federata di LATAM-GPT riconosce la diversità istituzionale della regione, fornendo una base condivisa che può essere adattata per le priorità nazionali. Questo modello open-source sarà disponibile al pubblico, riflettendo sia la necessità che la scelta strategica.
Nonostante la sua ambizione, LATAM-GPT incontra ostacoli strutturali. L’economia dell’attenzione richiede aggiornamenti costanti e rifiniture, che richiedono un investimento sostenuto. Il problema della fuga dei talenti, dove gli ricercatori di AI si spostano verso opportunità di lavoro più remunerative nel Nord Globale, rappresenta un significativo ostacolo. L’adozione da parte degli utenti presenta un classico dilemma gallo-egg, richiedendo supporto istituzionale e un ecosistema regionale.
La strada avanti per LATAM-GPT
La strada avanti per LATAM-GPT prevede la sovranità pragmatica, assicurando una rappresentazione significativa della piena diversità della regione, compresi i popoli indigeni, le comunità migranti e i gruppi marginalizzati. Il successo del modello sarà misurato non solo in parametri o metriche di prestazione, ma nella sua contribuzione allo sviluppo. Se LATAM-GPT aiuta gli insegnanti in Colombia rurale o i funzionari pubblici in Messico urbano a fare meglio il loro lavoro, sarà riuscito.
Infine, la sovranità AI dell’America Latina dipende dalla volontà politica di investire nel sviluppo tecnologico a lungo termine e dalla capacità istituzionale di sostenerlo. LATAM-GPT offre un inizio promettente, ma la vera prova si trova davanti a noi. L’obiettivo è costruire un’AI che serva alle esigenze e ai contesti dell’America Latina, piuttosto che semplicemente corrispondere alle capacità di Silicon Valley.
