Llama GuardProteção aberta baseada em LLM para classificar conteúdo inseguro em conversas entre humanos e IA.

4.6 (5)

Avaliado por Daniel Nikulshyn·Atualizado maio de 2026

Open Source AI Safety Content Moderation LLM Guardrails Self-Hosted Developer Tools

Visão geral

Llama Guard é um classificador de segurança construído sobre os modelos Llama da Meta, projetado para avaliar tanto as solicitações dos usuários quanto as respostas do modelo quanto a conteúdo potencialmente nocivo. Ele gera um rótulo de segurança juntamente com as categorias de política específicas que foram violadas, tornando‑o útil como uma camada de proteção ao redor de chatbots e outros sistemas de IA generativa. O modelo é treinado contra uma taxonomia configurável que cobre categorias como violência, conteúdo sexual, ódio, automutilação e aconselhamento criminal. Como a taxonomia é fornecida no prompt, os desenvolvedores podem adaptar ou ampliar a política sem necessidade de re‑treinamento, ajustando a moderação à sua aplicação ou jurisdição específica. Distribuído com pesos abertos, o Llama Guard pode ser auto‑hospedado junto a uma pipeline LLM para filtrar entradas e saídas em tempo real, oferecendo uma alternativa às APIs de moderação fechadas para equipes que precisam de transparência, personalização ou implantação on‑premise.

Funcionalidades principais

Moderação de entrada e saída baseada em LLM
Classificação de danos em várias categorias
Taxonomia de política configurável por prompt
Pesos de código aberto da Meta
Compatível com pilhas Llama e outros LLM
Retorna etiqueta segura/insegura com categorias violadas

Preços

Modelo: Freemium
Categoria: Análise Preditiva de Dados
Avaliação: 4.6 / 5 (5)

Casos de uso

Moderação de entrada e saída de chatbot

Envolva um chatbot de produção com o Llama Guard para verificar prompts de usuário e respostas de modelo, bloqueando conteúdo inseguro antes que ele atinja os usuários finais.

Aplicação de política personalizada

Adapte a taxonomia baseada em prompt para corresponder às políticas específicas de um aplicativo ou requisitos jurisdicionais sem re-treinar o modelo de segurança.

Camada de conformidade auto-hospedada

Implante pesos abertos no local para auditar e moderar o tráfego LLM em ambientes regulamentados onde os dados não podem deixar a infraestrutura interna.

Red-teaming e filtragem de conjunto de dados

Use o Llama Guard para rotular conjuntos de dados de conversas para categorias inseguras, suportando avaliações de segurança, ajuste fino da curadoria de dados e análise de red-team.

Prós e contras

Prós

Pesos abertos permitem auto-hospedagem e auditoria
Taxonomia de segurança personalizável via prompt
Classifica tanto as entradas do usuário quanto as saídas do modelo
Integra-se facilmente a pipelines LLM existentes

Contras

Requer recursos de GPU para executar eficientemente
Pode produzir falsos positivos ou perder danos sutis
Expertise em configuração e ajuste necessária
Desempenho centrado em inglês

Histórico de batalhas

Em 4 batalhas no Panteão.

1.º

2.º

3.º

Last 4 battles

Avaliações

4.6

Média de 5 avaliações.

Entra para deixar uma avaliação.

Tomáš Novák

Apr 4, 2026

Use it every day

Honestly didn't expect to like it this much. Compatible with Llama and other LLM stacks is exactly what I needed, and integrates easily into existing LLM pipelines. but I reach for it almost every day now and it just clicks.

Ingrid Bauer

Mar 24, 2026

Solid for our team

We rolled this out across the team last quarter and open weights enable self-hosting and auditing. LLM-based input and output moderation fits neatly into how we already work, and compatible with Llama and other LLM stacks removed a step we used to do by hand. but it has held up under daily use.

Tariq Aziz

Feb 22, 2026

Use it every day

Honestly didn't expect to like it this much. Compatible with Llama and other LLM stacks is exactly what I needed, and open weights enable self-hosting and auditing. but I reach for it almost every day now and it just clicks.

Daniel Schmidt

Sep 6, 2025

Years in this space

I've evaluated a lot of these over the years. What stands out here is compatible with Llama and other LLM stacks — handled better than most — and open weights enable self-hosting and auditing. Requires GPU resources to run efficiently is my one real gripe. Worth the time if this is your use case.

Aaliyah Johnson

Jun 17, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: lLM-based input and output moderation and integrates easily into existing LLM pipelines. Where it lags: english-centric performance. On balance the feature set — especially lLM-based input and output moderation — justifies the 4 stars for our use case.

Perguntas e respostas

Is Llama Guard compatible with other LLM stacks?

Yes, Llama Guard is compatible with Llama and other LLM stacks, and can be self-hosted alongside an LLM pipeline.

Asked by Jarrah Whitlock · Sep 19, 2025

What are the system requirements to run Llama Guard?

Llama Guard requires GPU resources to run efficiently.

Asked by Sven Bergqvist · Aug 12, 2025

Can I customize the safety taxonomy?

Yes, the taxonomy is provided in the prompt itself, allowing developers to adapt or extend the policy without retraining, tailoring moderation to their specific application or jurisdiction.

Asked by Chioma Nwosu · Aug 11, 2025

What is Llama Guard used for?

Llama Guard is used for classifying unsafe content in human-AI conversations, evaluating both user prompts and model responses for potentially harmful content.

Asked by Faisal Rahman · Jun 19, 2025