Al principio, John Pasmore estaba emocionado por ChatGPT. El fundador en serie había estado en el espacio de inteligencia artificial desde al menos 2008. Recordaba los días en que los expertos declaraban que pasarían décadas antes de que el mundo viera algo como un ChatGPT. Avanzamos rápidamente: ese día ha llegado.
Pero hay un problema. ChatGPT, una de las herramientas de inteligencia artificial más poderosas del mundo, lucha con el matiz cultural. Eso resulta bastante molesto para una persona negra como Pasmore. De hecho, esta omisión ha provocado la indignación de muchas personas negras que ya no se veían representadas adecuadamente en los algoritmos que, se suponía, algún día salvarían al mundo. El ChatGPT actual ofrece respuestas demasiado generalizadas para preguntas específicas que atiendan a ciertas comunidades, ya que su entrenamiento parece ser eurocéntrico y occidental en su sesgo. Esto no es único: la mayoría de los modelos de IA no están construidos teniendo en cuenta a las personas de color. Pero muchos fundadores negros están decididos a no quedarse atrás.
Han surgido numerosas versiones de ChatGPT y chatbots propiedad de negros en el último año para atender específicamente a las comunidades negras y morenas, ya que los fundadores negros, como Pasmore, buscan capitalizar el desliz cultural de OpenAI. «Si le preguntas al modelo generalmente quiénes son algunos de los artistas más importantes en nuestra cultura, te dirá Leonardo da Vinci y Miguel Ángel», dijo Pasmore sobre ChatGPT. «No mencionará nada sobre India o China, África o incluso afroamericanos, porque tiene un sesgo centrado en la trayectoria europea de la historia». Por lo tanto, Pasmore lanzó Latimer.AI, un modelo de lenguaje para brindar respuestas adaptadas para reflejar las experiencias de personas negras y morenas. Erin Reddick comenzó ChatBlackGPT, un chatbot también centrado en las comunidades negras y morenas. A nivel mundial, está Spark Plug con sede en Canadá, que es una alternativa a ChatGPT para estudiantes negros y morenos. África también está viendo una gran innovación en este espacio, con modelos de lenguaje que aparecen para atender a las más de 2,000 lenguas y dialectos hablados en el continente que los modelos de IA occidentales aún pasan por alto.
Mientras tanto, Erin Reddick’s ChatBlackGPT aún está en modo beta con planes de lanzamiento en Juneteenth. Su producto funciona como suena: un chatbot donde uno puede hacer preguntas y recibir respuestas personalizadas sobre la cultura negra. «La base de lo que estamos haciendo es verdaderamente impulsada por la comunidad», dijo. Está en proceso de desarrollar la herramienta, preguntando a los usuarios cómo quieren que se vea y actúe. También se está asociando con instituciones educativas como colegios y universidades históricamente negros (HBCUs) para trabajar con estudiantes tanto para enseñar como para ayudar a capacitar su algoritmo. Ella dijo querer «crear una oportunidad de aprendizaje integral para que las personas negras y morenas tengan un espacio seguro para explorar la IA».
Por otro lado, Tamar Huggins creó Spark Plug para ofrecer también una experiencia más personalizada a las comunidades negras y morenas. Su plataforma traduce material educativo al inglés vernáculo afroamericano (AAVE), el etnolecto asociado con las comunidades negras estadounidenses. Huggins entrenó su algoritmo en las escrituras de autores negros del Renacimiento de Harlem, autores negros en educación e incluso en la terminología de su hija adolescente para capturar la esencia de AAVE. También trabaja con educadores, lingüistas y expertos culturales para revisar y validar las salidas de Spark Plug. Su producto tampoco se basa en ChatGPT. Es su propio modelo, lo que significa que los usuarios controlan sus datos.
Pasmore también tiene planes de construir un modelo fundamental separado para su Latimer.AI. En estos momentos, está trabajando para expandir su empresa en las escuelas, especialmente en las HBCUs, ya que más estudiantes recurren a ChatGPT todos los días para completar su trabajo. «Este es un mejor compañero de IA para gran parte del trabajo que se les asigna a los niños negros y morenos», dijo.
Uniendo a la diáspora
África se está viendo pasada por alto en el movimiento actual de IA. Por ejemplo, solo el 0.77% de las revistas de IA del mundo provienen del África subsahariana, en comparación con el 47.1% de Asia Oriental y el 11.6% de América del Norte, según un informe del Índice de Inteligencia Artificial de 2023. En cuanto a población, África constituye alrededor del 17% de la población mundial, en comparación con solo el 7% de América del Norte. Cuando llega el momento de extraer información y expertos sobre la IA, las probabilidades de que se utilice la investigación del África subsahariana son bastante bajas, lo que podría afectar el desarrollo de herramientas de IA globales.
Aunque África está viendo mucho desarrollo en la creación de modelos de lenguaje más inclusivos que sirvan mejor a la diáspora negra, en la actualidad, los modelos de IA actuales, desde ChatGPT hasta Gemini, no pueden soportar completamente las más de 2,000 lenguas habladas en África. Yinka Iyinolakan creó CDIAL.AI para abordar esto. CDIAL.AI es un chatbot que puede hablar y entender casi todos los idiomas y dialectos africanos, con un enfoque particular en los patrones de habla en lugar de texto.
Iyinolakan compartió con TechCrunch el mismo sentimiento que muchos afroamericanos —que los modelos de IA fundamentales se basan principalmente en datos de internet y en los idiomas más comúnmente hablados. Al igual que su cultura descendiente afroamericana, muchos idiomas y tradiciones africanos están ausentes de internet, ya que es una cultura que se ha comunicado históricamente de forma oral en lugar de escrita. Esto significa que los modelos de IA no tienen suficiente información sobre las culturas africanas para entrenarse, dejando así una brecha de conocimiento.
Para CDIAL.AI, Iyinolakan ha reunido a más de 1,200 hablantes nativos y lingüistas de toda África para recopilar conocimientos y percepciones para construir lo que él llama «el primer gran modelo de lenguaje multi-idioma primero de voz ajustado para lenguajes y contextos africanos». La empresa planea expandirse en los próximos 12 meses para incluir aún más idiomas y construir un modelo que admita textos, voces e imágenes.
“No sería raro ver modelos de IA específicos de culturas en el futuro, especialmente a medida que sigan apareciendo más alternativas de propiedad de negros. Después de todo, el mundo es vasto y más matizado —no tiene sentido intentar encajarlo en una sola caja negra”, dijo Iyinolakan.
Haciendo progresos
Enfrentar a los chatbots de IA no es la única innovación que los fundadores negros están tratando de abordar. Steve Jones y DeSean Brown fundaron la empresa pocstock para crear imágenes de stock de personas de color, ya que, durante décadas, ha habido una escasez de minorías representadas en las imágenes de stock. Esta es una de las razones por las que hoy en día los modelos generan principalmente imágenes de personas blancas cuando los usuarios les piden que generen imágenes de médicos o cantantes pop, por ejemplo.
“Todas las plataformas y herramientas deberían entrenarse a partir de datos completos, racialmente inclusivos y culturalmente precisos, o de lo contrario perpetuaremos los problemas de sesgo que enfrenta nuestra sociedad en general”, dijo Jones. Para abordar esto, pocstock ha pasado los últimos cinco años recopilando datos sobre diversidad y creando su propio sistema de etiquetado visual que contribuye a una base de datos que utilizan las empresas para ayudar a entrenar sus modelos de IA y producir imágenes más inclusivas.
Algunas mejoras están ocurriendo, aunque Jones dijo que ha notado que las grandes empresas de imágenes de stock que abastecen a empresas de IA están dando más pasos para aumentar la diversidad de su contenido. Pasmore también ve un futuro más brillante por delante, diciendo que la IA personalizada es el futuro de todos modos y que cuanto más interactúen los modelos de IA con sus usuarios, más comprenderán los deseos y necesidades de una persona específica, «lo que, creo, elimina mucho del sesgo».
Incluso puede haber espacio para modelos de IA más específicos culturalmente en el futuro, especialmente a medida que sigan surgiendo más alternativas de propiedad negra. Después de todo, el mundo es vasto y más matizado —no tiene sentido intentar encajarlo en una sola caja negra.
“Mi esperanza es que más fundadores de color se involucren en el desarrollo de sus propias plataformas de IA o creen nuevos trabajos relacionados con la IA tan pronto como sea posible en este próximo auge económico”, dijo Jones. “La IA creará trillonarios, y me encantaría ver a personas de color ocupar el puesto de productores y no solo de consumidores”.
