Datasets:
PT-BR Moderation Eval
PT-BR Moderation Eval é um conjunto de avaliação para classificação multirrótulo de conteúdo textual em português brasileiro. A configuração default reúne 2.202 textos e doze categorias. Um texto pode receber mais de um rótulo positivo, e a cobertura da anotação muda conforme a categoria.
A versão descrita aqui é a que foi usada na avaliação pública do checkpoint HRB25/pt-br-moderation-bertimbau-v1. A revisão dos dados nessa medição é 949b41541412abf718987bbec166a904b59587f1. O SHA-256 de data/avaliacao_ampliada.jsonl é d6b5b5ad5bbdc53471cc94495aa5a40d9d76ae400ebd158ed631b2a1dd41767d.
A branch com-traduzidos conserva a versão anterior, com 3.764 textos, dos quais 1.665 são traduções. A configuração padrão deste repositório não inclui essas traduções.
Visão geral
| Item | Valor |
|---|---|
| Idioma | Português brasileiro |
| Tarefa | Classificação de texto, multirrótulo |
| Configuração | default |
| Partição | test |
| Textos | 2.202 |
| Categorias | 12 |
| Licença | MIT |
| Acesso | Público, com autorização manual |
Composição
| Origem | Textos |
|---|---|
| Anotação manual | 2.024 |
| Sintéticos | 178 |
| Total | 2.202 |
Os registros manuais foram coletados e anotados por pessoas. Os registros sintéticos foram gerados por modelo de linguagem e revisados por pessoas. O campo source usa manual ou sintetico; o campo synthetic repete essa distinção.
Categorias
| Rótulo | Categoria | Positivos | Textos anotados |
|---|---|---|---|
| hate | Ódio | 132 | 1.921 |
| hate/threatening | Ódio com ameaça | 120 | 1.921 |
| sexual | Conteúdo sexual adulto | 122 | 2.024 |
| sexual/minors | Conteúdo sexual com menores | 117 | 2.141 |
| illicit | Atividade ilícita | 233 | 1.982 |
| illicit/violent | Atividade ilícita violenta | 109 | 1.982 |
| violence | Violência | 388 | 1.947 |
| self-harm | Autolesão | 230 | 1.921 |
| self-harm/instructions | Instruções de autolesão | 100 | 1.921 |
| self-harm/intent | Intenção de autolesão | 79 | 1.921 |
| harassment | Assédio | 162 | 1.921 |
| harassment/threatening | Assédio com ameaça | 116 | 1.921 |
A soma dos positivos passa de 2.202 porque a anotação é multirrótulo. A coluna de textos anotados conta os registros em que a categoria entrou em annotated_categories na avaliação do checkpoint V1.
Esquema
| Campo | Definição |
|---|---|
| id | Identificador do registro. |
| text | Texto apresentado ao classificador. |
| labels | Categorias com rótulo positivo. |
| annotated_categories | Categorias efetivamente avaliadas naquele registro. |
| source | Origem: manual ou sintetico. |
| synthetic | Indicador booleano de origem sintética. |
| Colunas das 12 categorias | Indicadores binários. |
Nas categorias listadas em annotated_categories, 1 indica presença e 0 indica ausência. Nas outras categorias, o 0 completa a tabela e não é uma anotação negativa. As métricas do checkpoint V1 usam somente as categorias anotadas.
A cobertura não é uniforme. Os 103 registros de conteúdo sexual adulto acrescentados ao conjunto têm anotação para sexual e sexual/minors.
Resultados do checkpoint V1
O checkpoint HRB25/pt-br-moderation-bertimbau-v1 foi avaliado nestes 2.202 textos em 13 de outubro de 2026. A inferência usou CPU, float32, lotes de 16, truncamento em 128 tokens, sigmoide e os limiares originais do checkpoint. Não houve treino nem ajuste de limiar durante a medição.
| Conjunto | Textos | F1 micro | F1 macro |
|---|---|---|---|
| Completo | 2.202 | 57,57% | 54,17% |
| Manual | 2.024 | 59,45% | 51,98% |
| Sintético | 178 | 36,92% | 42,29% |
| Sem ambíguos marcados | 1.978 | 57,60% | 55,08% |
No conjunto completo, a precisão micro foi 56,38% e o recall micro foi 58,81%. O maior F1 foi o de autolesão, 85,98%. O menor foi o de sexual/minors, 3,36%.
| Categoria | Precisão | Recall | F1 |
|---|---|---|---|
| Ódio | 63,58% | 83,33% | 72,13% |
| Ódio com ameaça | 89,11% | 75,00% | 81,45% |
| Conteúdo sexual | 90,00% | 66,39% | 76,42% |
| Sexual com menores | 100,00% | 1,71% | 3,36% |
| Atividade ilícita | 85,25% | 22,32% | 35,37% |
| Ilícitos violentos | 76,19% | 29,36% | 42,38% |
| Violência | 86,91% | 61,60% | 72,10% |
| Autolesão | 91,22% | 81,30% | 85,98% |
| Instruções de autolesão | 29,39% | 77,00% | 42,54% |
| Intenção de autolesão | 36,27% | 88,61% | 51,47% |
| Assédio | 27,42% | 64,81% | 38,53% |
| Assédio com ameaça | 37,93% | 66,38% | 48,28% |
A precisão de 100% em sexual/minors vem de duas previsões positivas corretas e de nenhum falso positivo. O recall de 1,71% mostra que 115 dos 117 positivos sintéticos não foram recuperados. Os positivos dessa categoria são todos sintéticos.
Os arquivos da medição estão em evaluation/v1: resultado_e_legenda.md, avaliacao_manifesto.json, metricas_completo.csv, metricas_manual.csv, metricas_sintetico.csv e metricas_sem_ambiguos_marcados.csv.
Uso
O acesso ao conteúdo é autorizado manualmente. Depois de aceitar as condições do repositório, carregue a partição de teste com uma sessão autenticada:
from datasets import load_dataset
dataset = load_dataset(
"HRB25/pt-br-moderation-eval",
"default",
split="test",
token=True,
)
O classificador deve receber o campo text. Para repetir a avaliação do V1, fixe revision="949b41541412abf718987bbec166a904b59587f1". Commits posteriores deste cartão não alteram o SHA-256 do JSONL.
O arquivo data/avaliacao_sem_ambiguos_marcados.jsonl contém os 1.978 textos do recorte sem ambíguos marcados. Ele não faz parte da configuração default.
Limitações
Os 117 positivos de sexual/minors são sintéticos. O resultado dessa categoria descreve os exemplos disponíveis, não uma amostra de ocorrências reais.
A coleta dirigida não serve para estimar a prevalência das categorias no aplicativo. Exemplos sintéticos podem ser dependentes entre si. Ironia e falta de contexto alteram a leitura de um rótulo. A ausência de uma categoria em annotated_categories não deve ser tratada como negativo confirmado.
A concordância entre avaliadores não está resumida neste cartão. Os rótulos medem o julgamento registrado no conjunto, não o efeito de uma decisão de moderação sobre usuários.
Licença
A licença declarada é MIT. O conjunto contém conteúdo sensível e destina-se à pesquisa e à avaliação de moderação textual.
Documentação
- Downloads last month
- 108