Modelo pequeno de linguagem (SLM)

O que é um modelo pequeno de linguagem e de onde vem o termo?

É um [modelo de linguagem](/glossario/modelo-de-linguagem) compacto o bastante para rodar no seu próprio aparelho, sem depender de um servidor distante.

O tamanho de um modelo é medido em parâmetros, os números internos que o modelo ajusta durante o treino. Eles aparecem com a letra B, de billion (bilhão): um modelo "4B" tem cerca de 4 bilhões de parâmetros.

O termo ganhou força com famílias de modelos compactos com [pesos abertos (open weights)](/glossario/pesos-abertos), feitas para hardware de consumo. Um artigo no arXiv sobre o Muse Glimmer 30B (preprint) descreve esse cenário de "LLMs pequenos" com alguns exemplos:

• Gemma 4, do Google DeepMind: modelos densos de 2.3B a 31B parâmetros, mais uma variante Mixture-of-Experts (MoE, um modelo dividido em partes especializadas, das quais só algumas trabalham em cada resposta). Segundo o artigo, a família usa treino pensado para compressão e outras otimizações para caber em pouca memória e responder rápido.
• Qwen, da Alibaba: o relatório técnico da família Qwen (maio de 2025) (preprint) chama os modelos menores de modelos para a "borda", ou seja, para rodar no próprio aparelho. O relatório diz que eles superaram modelos de referência com mais parâmetros. A técnica usada é a destilação, em que um modelo grande ensina um menor.
• Muse Glimmer 30B: o próprio artigo apresenta esse modelo como um [agente](/glossario/agente) feito para rodar no aparelho.

Segundo uma página técnica independente de novembro de 2026, a família Qwen3.5 inclui modelos de 0,8B, 2B, 4B e 9B. Essa informação ainda não foi confirmada em documentação oficial da Alibaba (verificado em nov/2026).

Como se usa um modelo pequeno de linguagem no dia a dia?

• Modelo grande na nuvem: costuma ir melhor em tarefas difíceis, mas o seu texto sai do aparelho.
• SLM local: o texto fica no seu computador, mas o resultado tende a ser mais simples.

No relatório técnico da Apple de 2025 (preprint), o modelo que roda no aparelho ficou competitivo com modelos de tamanho parecido. Já o modelo de servidor da Apple ficou atrás dos modelos maiores.

O artigo do Muse Glimmer descreve outro caminho: colocar a proteção de privacidade dentro do próprio modelo, com dados de treino que ensinam a reconhecer informações sensíveis, usar só o necessário e preferir a execução local.

Quando vale usar: quando privacidade, uso sem internet ou rapidez pesam mais do que a máxima qualidade. Para tarefas complexas, compare com um modelo maior antes de decidir. E confira sempre o que importa (saúde, dinheiro, lei, fatos), porque modelos de qualquer tamanho podem ter [alucinações](/glossario/alucinacao).

Quais são as confusões mais comuns sobre modelos pequenos?

• "Pequeno" é relativo. Não existe um limite oficial de parâmetros. O Muse Glimmer tem 30B parâmetros e mesmo assim é apresentado como modelo para rodar no aparelho. A família Gemma 4 vai de 2.3B a 31B.
• Pequeno não é sinônimo de ruim. O relatório da Qwen afirma que seus modelos menores superaram outros com mais parâmetros. Ainda assim, nos testes da Apple, os modelos maiores seguiram à frente nas tarefas mais difíceis. Compare para a sua tarefa.
• Pesos abertos não é o mesmo que código aberto. Muitos SLMs liberam os pesos, ou seja, o modelo treinado, mas não necessariamente os dados ou todo o processo de treino.
• Local não é automaticamente seguro. Rodar no aparelho evita mandar seus dados para a nuvem. Mesmo assim, vale saber de onde vem o modelo e o que o aplicativo em volta dele faz com seus arquivos.