opción

skill-comply

affaan-m/ECC affaan-m/ECC

Mide automáticamente si los agentes de codificación cumplen con las competencias, las normas o las definiciones de los agentes mediante la generación de escenarios con distintos niveles de rigor en las indicaciones, la ejecución de los agentes, la clasificación de las llamadas a herramientas y la elaboración de informes sobre los índices de cumplimiento con cronologías completas.

...Expandir todo
0
Tiempo actualizado 2 de octubre de 2026

skill-comply: Medición automatizada del cumplimiento

Mide si los agentes de codificación siguen realmente las habilidades, las reglas o las definiciones de los agentes mediante:

  1. Generar automáticamente secuencias de comportamiento esperadas (especificaciones) a partir de cualquier archivo .md
  2. La generación automática de escenarios con un nivel de rigor decreciente en las indicaciones (de apoyo → neutro → competitivo)
  3. Ejecutando claude -p y capturando trazas de llamadas a herramientas mediante stream-json
  4. Clasificar las llamadas a herramientas en función de los pasos de las especificaciones utilizando LLM (no expresiones regulares)
  5. Comprobando el orden temporal de forma determinista
  6. Generación de informes autónomos con especificaciones, indicaciones y cronologías

Objetivos compatibles

  • Habilidades (skills/*/SKILL.md): habilidades de flujo de trabajo como «search-first» y guías de TDD
  • Reglas (rules/common/*.md): reglas obligatorias como testing.md, security.md, git-workflow.md
  • Definiciones de agentes (agents/*.md): si un agente se invoca cuando se espera (la verificación interna del flujo de trabajo aún no es compatible)

Cuándo se activa

  • El usuario ejecuta «skill-comply »
  • El usuario pregunta: «¿Se está cumpliendo realmente esta regla?»
  • Tras añadir nuevas reglas o habilidades, para verificar el cumplimiento por parte de los agentes
  • Periódicamente, como parte del mantenimiento de la calidad

Uso

# Ejecución completa
uv run python -m scripts.run ~/.claude/rules/common/testing.md

# Simulación (sin coste, solo especificaciones y escenarios)
uv run python -m scripts.run --dry-run ~/.claude/skills/search-first/SKILL.md

# Modelos personalizados
uv run python -m scripts.run --gen-model haiku --model sonnet 

Concepto clave: Independencia de la indicación

Mide si se sigue una habilidad o regla incluso cuando la indicación no la admite explícitamente.

Contenido del informe

Los informes son autónomos e incluyen:

  1. Secuencia de comportamiento esperada (especificación generada automáticamente)
  2. Indicaciones del escenario (lo que se pidió en cada nivel de rigor)
  3. Puntuaciones de cumplimiento por escenario
  4. Cronologías de llamadas a la herramienta con etiquetas de clasificación del LLM

Avanzado (opcional)

Para los usuarios familiarizados con los «hooks», los informes también incluyen recomendaciones de promoción de «hooks» para los pasos con bajo nivel de cumplimiento. Se trata de información de carácter orientativo: el principal valor reside en la propia visibilidad del cumplimiento.

Ver en GitHub
---
name: skill-comply
description: Automatically measures whether coding agents follow skills, rules, or agent definitions by generating scenarios at multiple prompt strictness levels, running agents, classifying tool calls, and reporting compliance rates with full timelines.
---

# skill-comply: Automated Compliance Measurement

Measures whether coding agents actually follow skills, rules, or agent definitions by:
1. Auto-generating expected behavioral sequences (specs) from any .md file
2. Auto-generating scenarios with decreasing prompt strictness (supportive → neutral → competing)
3. Running `claude -p` and capturing tool call traces via stream-json
4. Classifying tool calls against spec steps using LLM (not regex)
5. Checking temporal ordering deterministically
6. Generating self-contained reports with spec, prompts, and timelines

## Supported Targets

- **Skills** (`skills/*/SKILL.md`): Workflow skills like search-first, TDD guides
- **Rules** (`rules/common/*.md`): Mandatory rules like testing.md, security.md, git-workflow.md
- **Agent definitions** (`agents/*.md`): Whether an agent gets invoked when expected (internal workflow verification not yet supported)

## When to Activate

- User runs `/skill-comply <path>`
- User asks "is this rule actually being followed?"
- After adding new rules/skills, to verify agent compliance
- Periodically as part of quality maintenance

## Usage

```bash
# Full run
uv run python -m scripts.run ~/.claude/rules/common/testing.md

# Dry run (no cost, spec + scenarios only)
uv run python -m scripts.run --dry-run ~/.claude/skills/search-first/SKILL.md

# Custom models
uv run python -m scripts.run --gen-model haiku --model sonnet <path>
```

## Key Concept: Prompt Independence

Measures whether a skill/rule is followed even when the prompt doesn't explicitly support it.

## Report Contents

Reports are self-contained and include:
1. Expected behavioral sequence (auto-generated spec)
2. Scenario prompts (what was asked at each strictness level)
3. Compliance scores per scenario
4. Tool call timelines with LLM classification labels

### Advanced (optional)

For users familiar with hooks, reports also include hook promotion recommendations for steps with low compliance. This is informational — the main value is the compliance visibility itself.

Instalar skill-comply

Descarga y descomprime los archivos de habilidades en tu directorio .claude/skills/.

Descargar ZIP

Clona el repositorio y copia los archivos de la habilidad a tu proyecto.

git clone https://github.com/affaan-m/ECC/tree/main/skills/skill-comply # Copy SKILL.md to your .claude/skills/ directory

Copiar Copiar
Configuración rápida: Copia la carpeta de la habilidad en .claude/skills/ Claude detectará y utilizará automáticamente la habilidad
Repositorio affaan-m/ECC

Habilidades relacionadas

web-search
Tiempo actualizado 29 de junio de 2026
webapp-testing
Tiempo actualizado 29 de junio de 2026
lark-base
Tiempo actualizado 5 de julio de 2026
agentmail
Tiempo actualizado 29 de junio de 2026
OR