opção

skill-comply

affaan-m/ECC affaan-m/ECC

Avalia automaticamente se os agentes de codificação seguem as competências, regras ou definições dos agentes, gerando cenários em vários níveis de rigor de prompt, executando os agentes, classificando as chamadas de ferramentas e gerando relatórios com as taxas de conformidade, acompanhadas de cronogramas completos.

...Expandir tudo
0
Tempo atualizado 2 de Outubro de 2026

skill-comply: Avaliação automatizada da conformidade

Avalia se os agentes de codificação realmente seguem as habilidades, regras ou definições de agente por meio de:

  1. Gerar automaticamente sequências comportamentais esperadas (especificações) a partir de qualquer arquivo .md
  2. Gerar automaticamente cenários com rigor decrescente das instruções (favorável → neutro → competitivo)
  3. Executar o claude -p e capturar rastros de chamadas da ferramenta via stream-json
  4. Classificar chamadas de ferramentas em relação às etapas das especificações usando LLM (não regex)
  5. Verificar a ordenação temporal de forma determinística
  6. Geração de relatórios autônomos com especificações, prompts e linhas do tempo

Alvos compatíveis

  • Habilidades (skills/*/SKILL.md): Habilidades de fluxo de trabalho, como search-first e guias de TDD
  • Regras (rules/common/*.md): Regras obrigatórias, como testing.md, security.md, git-workflow.md
  • Definições de agentes (agents/*.md): Se um agente é invocado quando esperado (verificação interna do fluxo de trabalho ainda não é suportada)

Quando ativar

  • O usuário executa o comando `/skill-comply `
  • O usuário pergunta: “essa regra está realmente sendo seguida?”
  • Após adicionar novas regras/habilidades, para verificar a conformidade do agente
  • Periodicamente, como parte da manutenção da qualidade

Uso

# Execução completa
uv run python -m scripts.run ~/.claude/rules/common/testing.md

# Simulação (sem custo, apenas especificações e cenários)
uv run python -m scripts.run --dry-run ~/.claude/skills/search-first/SKILL.md

# Modelos personalizados
uv run python -m scripts.run --gen-model haiku --model sonnet 

Conceito-chave: Independência do prompt

Avalia se uma habilidade/regra é seguida mesmo quando o prompt não a suporta explicitamente.

Conteúdo do relatório

Os relatórios são autônomos e incluem:

  1. Sequência comportamental esperada (especificação gerada automaticamente)
  2. Solicitações do cenário (o que foi solicitado em cada nível de rigor)
  3. Pontuações de conformidade por cenário
  4. Linhas do tempo das chamadas da ferramenta com rótulos de classificação do LLM

Avançado (opcional)

Para usuários familiarizados com hooks, os relatórios também incluem recomendações de promoção de hooks para etapas com baixa conformidade. Isso tem caráter informativo — o principal valor é a própria visibilidade da conformidade.

Ver no GitHub
---
name: skill-comply
description: Automatically measures whether coding agents follow skills, rules, or agent definitions by generating scenarios at multiple prompt strictness levels, running agents, classifying tool calls, and reporting compliance rates with full timelines.
---

# skill-comply: Automated Compliance Measurement

Measures whether coding agents actually follow skills, rules, or agent definitions by:
1. Auto-generating expected behavioral sequences (specs) from any .md file
2. Auto-generating scenarios with decreasing prompt strictness (supportive → neutral → competing)
3. Running `claude -p` and capturing tool call traces via stream-json
4. Classifying tool calls against spec steps using LLM (not regex)
5. Checking temporal ordering deterministically
6. Generating self-contained reports with spec, prompts, and timelines

## Supported Targets

- **Skills** (`skills/*/SKILL.md`): Workflow skills like search-first, TDD guides
- **Rules** (`rules/common/*.md`): Mandatory rules like testing.md, security.md, git-workflow.md
- **Agent definitions** (`agents/*.md`): Whether an agent gets invoked when expected (internal workflow verification not yet supported)

## When to Activate

- User runs `/skill-comply <path>`
- User asks "is this rule actually being followed?"
- After adding new rules/skills, to verify agent compliance
- Periodically as part of quality maintenance

## Usage

```bash
# Full run
uv run python -m scripts.run ~/.claude/rules/common/testing.md

# Dry run (no cost, spec + scenarios only)
uv run python -m scripts.run --dry-run ~/.claude/skills/search-first/SKILL.md

# Custom models
uv run python -m scripts.run --gen-model haiku --model sonnet <path>
```

## Key Concept: Prompt Independence

Measures whether a skill/rule is followed even when the prompt doesn't explicitly support it.

## Report Contents

Reports are self-contained and include:
1. Expected behavioral sequence (auto-generated spec)
2. Scenario prompts (what was asked at each strictness level)
3. Compliance scores per scenario
4. Tool call timelines with LLM classification labels

### Advanced (optional)

For users familiar with hooks, reports also include hook promotion recommendations for steps with low compliance. This is informational — the main value is the compliance visibility itself.

Instalar skill-comply

Baixe e descompacte os arquivos de habilidades no diretório .claude/skills/.

Baixar ZIP

Clone o repositório e copie os arquivos da habilidade para o seu projeto.

git clone https://github.com/affaan-m/ECC/tree/main/skills/skill-comply # Copy SKILL.md to your .claude/skills/ directory

Copiar Copiar
Configuração rápida: Copie a pasta da habilidade para .claude/skills/ O Claude detectará e utilizará automaticamente a habilidade
Repositório affaan-m/ECC

Habilidades relacionadas

web-search
Tempo atualizado 29 de Junho de 2026
webapp-testing
Tempo atualizado 29 de Junho de 2026
lark-base
Tempo atualizado 5 de Julho de 2026
agentmail
Tempo atualizado 29 de Junho de 2026
OR