Stella Biderman

Quem é Stella Biderman e o que ela faz hoje?

• Cargo atual: Executive Director (diretora-executiva) da EleutherAI. A página oficial de equipe da EleutherAI confirma o cargo (verificado em 14 de novembro de 2026).
• Desde quando: segundo o perfil profissional dela no LinkedIn, atualizado em 3 de novembro de 2026, ela entrou na liderança executiva da EleutherAI em janeiro de 2023. Antes disso, a organização tinha começado como um grupo voluntário de pesquisa.
• O que a EleutherAI estuda: modelos de linguagem, interpretabilidade (entender como o modelo funciona por dentro), avaliação e acesso aos modelos, segundo a página da equipe.

Não encontramos, em fonte oficial atual, confirmação de outros cargos fixos fora da EleutherAI. Por isso, esta página não lista outras afiliações.

Por que Stella Biderman é importante para a IA?

Boa parte do trabalho dela é criar formas de testar modelos e comparar os resultados. Também ajudou a montar dados abertos para treinar modelos.

• 🌱 Sou novo nisso: antes de dizer que um modelo é bom, alguém precisa medir. Biderman ajudou a construir uma ferramenta pública que faz essas medições.
• 🔎 Já uso: quando você vê uma comparação entre modelos em muitas tarefas, ela pode ter sido feita com ferramentas como o lm-evaluation-harness, da EleutherAI.
• 🚀 Já sou mais avançado: ela aparece como coautora da versão v0.4.3 do lm-evaluation-harness (julho de 2024), segundo a lista de referências de um artigo no arXiv. Também é coautora do artigo do conjunto de dados The Pile, descrito como "An 800GB Dataset of Diverse Text for Language Modeling", citado em um relatório do CSET, de Georgetown.

Perfis profissionais também a associam aos projetos Pythia e GPT-NeoX, segundo o diretório Sophon. Essa é uma fonte secundária, e não documentação dos próprios projetos.

Uma página do MIT afirma que, entre 2021 e 2022, a EleutherAI treinou alguns dos modelos de linguagem abertos mais poderosos daquele período.

Os projetos lado a lado, com os mesmos critérios:

Esses quatro itens não são alternativas entre si: um é ferramenta de avaliação, outro é um conjunto de dados, e dois são de modelos e treinamento. Para comparar o lm-evaluation-harness com outras ferramentas de avaliação, não encontramos fonte oficial atual (verificado em nov/2026). Também não encontramos medição pública recente que compare esses projetos com os modelos comerciais de hoje.

O que Stella Biderman defende sobre IA aberta e segurança?

As ideias abaixo são dela, com a fonte de cada uma.

1. Pesquisa independente e pesos abertos. No podcast The Information Bottleneck, ela disse que o principal risco da IA não é só a tecnologia, mas a concentração de poder nas empresas. Na visão dela, instituições científicas independentes são necessárias para fiscalizar os laboratórios privados. Pesos abertos (open weights) são modelos cujos arquivos internos ficam disponíveis para outras pessoas estudarem ou rodarem. Na mesma conversa, ela não pede abertura sem limites. Ela combina abertura com:

• avaliações de capacidades perigosas;
• controles técnicos para os testes;
• mais transparência dos laboratórios.

2. Testes perigosos em ambientes isolados. Segundo ela, laboratórios de fronteira mostraram várias vezes que têm dificuldade para manter modelos contidos em ambientes de teste, os chamados sandboxes. Ela defende que avaliações perigosas sejam feitas:

• em redes isoladas, sem acesso à internet pública;
• em instalações protegidas, como as usadas para informação sensível;
• com padrões mais próximos da segurança nacional do que das práticas comuns de startups.

Na conversa, ela também falou de segurança por meio da filtragem de conhecimento perigoso no pré-treinamento, uma abordagem chamada "Deep Ignorance".

3. Cautela sobre pesquisa feita sozinha pela IA. Em post no X de 24 de agosto de 2026, ela escreveu que os modelos são bons em seguir instruções e em resolver problemas comuns. Mas disse que ainda não viu evidência significativa de que eles façam o trabalho intelectual independente de um coautor principal de artigo científico. É uma opinião de pesquisadora, não uma medição.

4. Avaliadores com poder real. Segundo o resumo do boletim Yesterday in AI, em texto de 3 de outubro de 2026 ela argumentou que dar acesso técnico a avaliadores externos não basta para corrigir uma empresa que decide agir de forma irresponsável. Ela propôs um mecanismo comparável a um "RICO para IA". RICO é a lei americana usada contra organizações criminosas. A ideia seria responsabilizar dirigentes quando uma empresa cria ou lança sistemas que atacam pessoas. É uma proposta dela, não uma lei em vigor nos EUA. A fonte não indica projeto de lei federal com esse nome.

Quais são as críticas e os debates em torno de Stella Biderman?

As posições dela geram debate. Estes são os pontos principais:

• Autorregulação das empresas: ela considera insuficiente depender só de avaliações internas ou de avaliadores convidados pelas próprias empresas, segundo o Yesterday in AI.
• Críticas diretas a laboratórios: no podcast, ela descreveu um incidente envolvendo um modelo da OpenAI e o Hugging Face como uma operação cibernética ofensiva. Essa é a leitura dela. A fonte é uma entrevista, não um relatório técnico independente.
• Abertura e segurança ao mesmo tempo: ela defende modelos abertos e, ao mesmo tempo, testes isolados e controles sobre capacidades perigosas. As duas ideias convivem com tensão.
• Agentes que fazem pesquisa: a cautela dela contrasta com visões mais otimistas sobre agentes (IA que executa tarefas com ferramentas) capazes de conduzir pesquisa científica.

Não encontramos uma resposta oficial detalhada da OpenAI, da Anthropic, do Google DeepMind ou do Hugging Face a essas críticas. Também não encontramos uma avaliação sistemática feita por críticos acadêmicos (verificado em nov/2026).

Onde ouvir Stella Biderman: entrevistas e palestras recentes

• Podcast The Information Bottleneck (2026): episódio "Stella Biderman (EleutherAI) — Open Source, AI Safety and Who We Can Trust". Temas: IA aberta, segurança, modelos abertos chineses, "IA soberana" (países que treinam os próprios modelos) e avaliação. O único link que encontramos é da página do episódio no Amazon Music da Índia. Não encontramos fonte oficial com a data exata do episódio. O programa está em plataformas de podcast. Procure pelo nome no app que você usa.
• Painel no MIT (outubro de 2026): sobre infraestrutura e pesquisa em IA, com Alexander Hicks, Jared Duker Lichtman e Bernie Wang, e moderação de Ravi Vakil. Biderman representou a EleutherAI. A página do MIT não traz transcrição nem dia exato.