¿AI para el mundo, o solo para el oeste? Cómo los investigadores están abordando las brechas globales de Big Tech

Desde el lanzamiento de ChatGPT de OpenAI en 2022, la inteligencia artificial (AI) se ha integrado profundamente en el tejido de nuestras vidas diarias. Sin embargo, el foco a menudo se centra en productos de AI diseñados para audiencias estadounidenses y europeas, a pesar de afirmaciones de ser herramientas universales que democratizan el acceso a la tecnología. Desde las aplicaciones que sirven hasta los idiomas que soportan, estas herramientas no siempre son tan globales como parecen.

En África, investigadores y tecnólogos están resistiendo esta tendencia, desafiando el statu quo y las dinámicas de poder más amplias dentro de la industria de AI. Su trabajo busca cambiar el enfoque hacia soluciones que realmente atiendan las necesidades y comunidades locales.

Un desequilibrio global de poder en AI

El Instituto de Investigación de AI Distribuida (DAIR) se erige como un faro de cambio, un colectivo internacional dedicado a "investigación de AI independiente y arraigada en la comunidad, libre de la influencia generalizada de las grandes tecnológicas." Tuve la oportunidad de hablar con miembros de DAIR que están creando soluciones de AI específicamente adaptadas para contextos africanos, abordando necesidades sociales en lugar de los intereses de corporaciones multinacionales o usuarios predominantemente occidentales.

Nyalleng Moorosi, investigadora senior en DAIR con base en Lesotho y miembro fundador de Deep Learning Indaba, es una de estas pioneras. Su experiencia en aprendizaje automático y enseñanza en escuelas públicas sudafricanas ha moldeado sus puntos de vista sobre la equidad en la tecnología. Como exeducadora en la Universidad de Forte—una de las pocas universidades en Sudáfrica que admitía estudiantes negros durante el apartheid—vio de primera mano cómo la pobreza afectaba las trayectorias educativas de los estudiantes. "Era alucinante imaginar hacer las cosas que hice durante la licenciatura y el posgrado cargada con tanta inseguridad," reflexionó.

Tras su paso por la enseñanza, Moorosi se unió a Google como una de las primeras empleadas en el laboratorio de investigación de AI de Google África en Ghana. Su rol como ingeniera de software le permitió desarrollar metodologías y tecnologías destinadas a garantizar un desarrollo responsable de AI. "Me uní a Google porque estaban construyendo una oficina en África, y yo quería estar en África," explicó Moorosi. "No quería simplemente ir a Google. Quería ir a Google África."

Sin embargo, una conversación con Timnit Gebru, fundadora de DAIR y excolíder del equipo de ética en AI de Google, llevó a Moorosi a cuestionar si Google era la plataforma adecuada para el tipo de trabajo enfocado en la equidad que ella imaginaba en el aprendizaje automático. Esto la llevó a unirse a DAIR, donde ella y Gebru buscaron empoderar a comunidades históricamente marginadas por la industria tecnológica, manteniendo y financiando expertos locales en el terreno.

El estudio de AI de DAIR

En 2018, Moorosi, Gebru y la colega de DAIR Raesetje Sefala emprendieron un proyecto para analizar imágenes satelitales de los municipios sudafricanos—barrios históricamente de clase trabajadora poblados por residentes negros. Su objetivo era entender cómo habían evolucionado estas áreas desde el fin del apartheid. Compilaron un conjunto de datos para evaluar si la calidad de vida de los residentes de los municipios había mejorado con el tiempo.

Los municipios sudafricanos, ubicados en las afueras de las ciudades, a menudo sufren subdesarrollo y condiciones de vida más pobres en comparación con los suburbios más ricos. Los datos del censo gubernamental, que tienden a favorecer áreas más prósperas, han hecho que los datos de los municipios sean casi invisibles, perpetuando un apartheid espacial y limitando el acceso a servicios esenciales como salud, educación y espacios verdes.

La investigación de DAIR enfrentó desafíos debido a las limitaciones de los modelos de AI sudafricanos existentes, que tenían dificultades para diferenciar los municipios de los suburbios. Para superar esto, los investigadores utilizaron millones de imágenes satelitales y datos geoespaciales para entrenar modelos de aprendizaje automático. Estos modelos clasificaron con éxito las áreas en clústeres de edificios ricos, no ricos y no residenciales, incluyendo terrenos vacíos o zonas industriales.

A pesar de estos esfuerzos, DAIR enfrentó resistencia al intentar publicar sus hallazgos. Instituciones académicas occidentales predominantemente blancas criticaron el estudio como meramente geográfico en lugar de investigación en aprendizaje automático. Moorosi expresó frustración: "Usamos las mismas métricas, algoritmos y métodos de comunicación, incluyendo gráficos y todo. Es tan loco porque entonces se usaban muchos conjuntos de datos de juguete, pero nosotros teníamos este conjunto de datos sobre cosas reales, y era demasiado específico."

Sin embargo, Moorosi enfatizó la relevancia del estudio: "Este seguimiento de cómo la segregación histórica afecta cómo vivimos está presente en muchas excolonias británicas. Está en Nairobi. Está en Lagos. En las colonias, era estándar que los blancos vivieran allí y los negros vivieran allá. Y la distribución de recursos era diferente entre allí y allá."

Ella destacó que el contenido del estudio, más que su calidad, parecía socavar su reconocimiento en una industria dominada por Occidente.

Proveer para comunidades desatendidas

Asmelash Teka Hadgu, cofundador y CTO de Lesan AI y colega de investigación en DAIR, reforzó este punto. Habló sobre Lesan, una herramienta diseñada para traducir y transcribir lenguas indígenas africanas. A diferencia de los gigantes tecnológicos estadounidenses, Lesan AI se centra en lenguas de bajos recursos como el amárico y el tigrinya. La conexión personal de Hadgu con estas lenguas le permitió construir un conjunto de datos robusto utilizando contenido de periódicos y radio locales reutilizados.

En el contexto africano, los modelos de lenguaje populares de gigantes tecnológicos como OpenAI y Anthropic no logran representar el diverso panorama lingüístico del continente. Según el artículo de Wei Rui Chen, Fumbling in Babel: An Investigation into ChatGPT's Language Identification Ability, las lenguas africanas reciben el menor soporte. "El ChatGPT de OpenAI está completamente roto, no ligeramente equivocado, sino creando galimatías en lenguas como el amárico y el tigrinya," señaló Hadgu. "Sin embargo, siguen apostando por esa vieja forma de pensar que se centra en encontrar soluciones para el inglés primero. Y asumiendo que otras lenguas se pondrán al día."

Lesan busca cerrar esta brecha proporcionando traducciones precisas para millones de usuarios, abriendo contenido web a estas comunidades. Hadgu enfatizó que estas lenguas no son meros complementos: "No gastamos el 95% de nuestros recursos en un puñado de lenguas y luego trabajamos en lo que ellos llaman lenguas de cola larga."

Las empresas de AI occidentales luchan por representar adecuadamente las lenguas de bajos recursos porque estas lenguas están menos disponibles para el raspado de datos en línea, especialmente en comparación con el contenido dominado por el inglés. Además, los datos utilizados para entrenar modelos de AI provienen predominantemente de Europa y América del Norte, con solo una pequeña fracción de África, según un estudio de la Iniciativa de Proveniencia de Datos.

Hadgu criticó el enfoque de proyectos como No Language Left Behind de Facebook, que describió como dependiente de un raspado de datos de "conveniencia" y métodos automatizados. Señaló que las lenguas africanas reciben un financiamiento mínimo en comparación con las iniciativas centradas en el inglés. Bloomberg informó que Orange SA, en colaboración con OpenAI y Meta Platforms Inc., está trabajando para abordar esto entrenando programas de AI en lenguas africanas como wólof, pulaar y bambara.

Sin embargo, muchas lenguas africanas dependen de sistemas tonales y tradiciones orales, que a menudo son pasadas por alto por los modelos de lenguaje de gran escala occidentales. Hadgu enfatizó la importancia de involucrar a ancianos y miembros de la comunidad para garantizar una representación precisa de los contextos locales.

Incluso cuando las grandes empresas tecnológicas colaboran con startups de AI más pequeñas para desarrollar modelos específicos para lenguas, a menudo explotan el trabajo de código abierto para capturar ideas y recursos. Georg Zoeller del Centro para el Liderazgo en AI en Singapur destacó este problema: "Al abrir el código de las herramientas básicas para AI, los hiperescaladores han permitido a las startups construir productos en el campo y lo han usado para reemplazar a los equipos internos como la principal fuente de I+D de productos."

El Dr. Paul Azunre, cofundador de Ghana NLP, compartió su experiencia de grandes empresas que toman datos sin compensación. Después de que Facebook usara sus datos para un modelo de código abierto, se acercaron a Ghana NLP para propuestas de financiamiento. "Una vez que Facebook vino a nosotros después de que lanzaron un modelo, que era de código abierto y estaba construido con nuestros datos. Luego, estaban haciendo una convocatoria abierta para propuestas. Vinieron a nosotros y dijeron, '¿Por qué no presentan una propuesta para financiamiento?' Y nosotros dijimos, 'Bueno, ya están usando nuestro trabajo.' 'Entonces, ¿qué más necesitamos probarles? Solo págannos,'" relató Azunre.

Ghana NLP se centra en llenar el vacío en productos de software como Google Translate desarrollando reconocimiento de voz, texto a voz y traducción de voz a texto en lenguas locales como twi, ewe, yoruba, fante y ga, con planes de expandirse a países vecinos. Azunre enfatizó la importancia de priorizar a las comunidades locales: "Como desarrollador que intenta crear productos autosostenibles, soy comprensivo con por qué ciertos productos o proyectos se priorizan de cierta manera. Vamos a lanzar twi primero porque en Ghana tenemos 30 millones de hablantes de twi… pero la diferencia entre lo que hacemos y los gigantes tecnológicos es que para nosotros, el principio guía es que las comunidades locales están en la cima de nuestras prioridades."

Él destacó la necesidad de mantener los empleos y el control de datos dentro de las comunidades de las que se extrae el conocimiento, abogando por la soberanía de datos de la comunidad y la creación de fuentes de datos locales para empoderar a las comunidades africanas y preservar sus identidades lingüísticas y culturales en las soluciones de AI.

¿Qué sigue para la AI en África?

La investigadora de gobernanza tecnológica Chinasa T. Okolo señaló que varios gobiernos africanos están desarrollando marcos de gobernanza de AI para contrarrestar la influencia de las corporaciones multinacionales. Siete países africanos han redactado estrategias nacionales de AI, aunque ninguno ha implementado aún estrategias formales de regulación de AI. El gobierno sudafricano ha publicado un Marco de Política Nacional de AI para garantizar un acceso equitativo a las tecnologías de AI, particularmente en áreas desatendidas y rurales. Además, 36 países africanos han establecido regulaciones de protección de datos, allanando el camino para marcos regulatorios de AI más completos.

Mientras tanto, las empresas de AI occidentales están comenzando a centrarse en modelos de lenguaje de gran escala específicos para regiones, como el modelo de Mistral para países de habla árabe en la región MENA y la expansión de Meta AI para soportar usuarios de habla árabe. Sin embargo, los paralelismos entre la extracción colonial y las tendencias actuales de desarrollo de AI son cada vez más evidentes. Karen Hao de MIT Tech Review señaló: "Aunque disminuiría la profundidad de los traumas pasados decir que la industria de AI está repitiendo las modalidades exactas de la violencia colonial hoy, ahora está utilizando otros medios más insidiosos para enriquecer a los ricos y poderosos a costa de los pobres."