Joy Buolamwini

Quem é Joy Buolamwini e o que ela faz hoje?

Cargo atual (verificado em nov/2026):

• Fundadora e presidente da Algorithmic Justice League (AJL). A página institucional da AJL, atualizada em 2 de outubro de 2026, a identifica como “Founder and President”. A AJL se descreve como uma organização que combina arte e pesquisa para expor as implicações sociais e os danos da IA. A missão declarada é promover uma IA “equitativa e responsável”.
• Ligação com a University of Oxford. Um material do Institute for Ethics in AI de Oxford, de 25 de fevereiro de 2026, a apresenta como fellow do programa de aceleração do instituto. No LinkedIn, ela informa o cargo de Inaugural Senior Fellow em Ethics in AI, desde fevereiro de 2025. Essa data é informada por ela mesma.
• Nova função na AJL. O mesmo LinkedIn registra a função de Global AI Justice Award Steward na AJL, iniciada em outubro de 2026. É uma informação autorrelatada, sem confirmação em outra fonte até agora.

A AJL completa dez anos em 2026. A organização anunciou a celebração “Decade of Impact Masquerade” para 14 de novembro de 2026.

Por que o trabalho de Joy Buolamwini importa?

Segundo a história contada pela AJL, tudo começou quando um sistema de visão computacional não detectava bem o rosto dela. Essa experiência a levou a investigar discriminação em sistemas automatizados e, depois, a fundar a organização.

O estudo mais conhecido. O Gender Shades examinou diferenças de desempenho em sistemas comerciais de classificação facial segundo gênero e tom de pele. Desse trabalho vem o conceito de coded gaze (em português, algo como “olhar codificado”): o viés que fica embutido em dados, modelos e produtos de tecnologia.

Livro e documentário. Ela é autora de Unmasking AI: My Mission to Protect What Is Human in a World of Machines e figura central do documentário da Netflix Coded Bias, segundo a entrevista ao Design Matters.

Presença em guias de gestão de risco. O AI RMF Playbook do NIST, um guia de gestão de riscos de IA do instituto de padrões dos EUA, lista entre suas referências o trabalho “Bug Bounties for Algorithmic Harms?” (Algorithmic Justice League, 2022). Os autores são Josh Kenway, Camille François, Sasha Costanza-Chock, Inioluwa Deborah Raji e Joy Buolamwini.

Como isso conversa com você:

• 🌱 Sou novo nisso: um sistema de IA pode acertar muito com um grupo de pessoas e errar mais com outro. A ideia central do trabalho dela é que isso precisa ser testado. Não basta presumir.
• 🔎 Já uso: quando uma ferramenta analisa rostos, voz ou dados pessoais, vale perguntar se ela foi testada com pessoas como você e no seu contexto de uso.
• 🚀 Já sou mais avançado: o método do Gender Shades compara o desempenho entre grupos demográficos em uma tarefa específica. Uma pontuação geral de um modelo não substitui esse tipo de teste de disparidade.

O que Joy Buolamwini defende sobre a IA?

As posições abaixo estão nas fontes de 2026 sobre ela e sobre a AJL:

• Auditar os sistemas. Modelos e produtos devem ser avaliados com medições para identificar diferenças de desempenho entre grupos, em vez de serem tratados como neutros por padrão.
• Responsabilização. Empresas e órgãos públicos que criam ou usam sistemas automatizados devem responder pelos danos que esses sistemas causam. A AJL afirma trabalhar por uma tecnologia mais “equitativa e responsável”.
• As pessoas afetadas no centro. A AJL chama de excoded as pessoas excluídas ou prejudicadas por tecnologias automatizadas, como aparece no anúncio do evento de dez anos.
• Proteger o que é humano. O título do livro dela resume a ideia de que a governança da IA deve proteger a dignidade humana, e não só buscar desempenho técnico ou eficiência comercial.

Na entrevista ao Design Matters, publicada em 27 de julho de 2026, ela disse que o trabalho da AJL estava se tornando global.

Existem críticas ou debates sobre o trabalho dela?

Não encontramos, em fontes de 2026, uma crítica nova dirigida especificamente a Joy Buolamwini. Alguns pontos de debate ajudam a ler o trabalho dela com cuidado:

• Agendas diferentes. O foco dela está em viés, discriminação e responsabilização. Outras linhas de segurança de IA dão mais peso a riscos como uso malicioso, perda de controle, confiabilidade geral ou impactos econômicos. É uma diferença de prioridade, não uma prova de que uma abordagem esteja certa e a outra errada.
• Cada sistema pede seu próprio teste. Estudos sobre análise facial não medem automaticamente os riscos de modelos generativos, assistentes que lidam com texto e imagem ou sistemas de decisão automatizada. Para dizer se um modelo específico tem mais ou menos viés, é preciso testar esse modelo, com uma tarefa, uma população, uma métrica e uma versão definidas.
• Fontes sobre cargos. As informações sobre cargos e missão vêm da própria AJL e do LinkedIn dela. São fontes institucionais ou autorrelatadas, não avaliações independentes de impacto.

Onde ouvir Joy Buolamwini: entrevistas e palestras recentes?

• Design Matters (PRINT Magazine), 27 de julho de 2026. “Design Matters: Dr. Joy Buolamwini”. A conversa trata da carreira dela, da fundação da AJL, do livro Unmasking AI e do documentário Coded Bias.
• Mindful Mondays with Shudu (iHeart), 8 de novembro de 2026. “Unmasking AI: When the Machine Cannot See You”, com 81 minutos. O tema é o que significa proteger o humano em um mundo cada vez mais moldado por máquinas.
• UNESCO, 10 de novembro de 2026. A programação da UNESCO sobre legados da escravização e violência baseada em gênero incluiu a sessão “Old Patterns, New Tools: Artificial Intelligence, Racism and Technology-Facilitated Gender-Based Violence”, com Joy Buolamwini e Kutoma Wakunuma. A página confirma o tema e a participação, mas não traz transcrição.
• Dez anos da AJL, anunciado para 14 de novembro de 2026. O evento prevê uma apresentação dela e transmissão ao vivo nos EUA a partir das 18h30, horário do leste (ET).
• Sobre ela, 6 de novembro de 2026. O episódio “Joy Buolamwini, The Face of Truth”, do podcast The Other AI, revisita o Gender Shades, o depoimento dela ao Congresso e a criação da AJL. Pelo que está disponível, parece ser uma análise sobre a obra dela, e não uma entrevista com ela.