옵션

skill-comply

affaan-m/ECC affaan-m/ECC

다양한 프롬프트 엄격도 수준에서 시나리오를 생성하고, 에이전트를 실행하며, 도구 호출을 분류한 후, 전체 타임라인과 함께 준수율을 보고함으로써 코딩 에이전트가 기술, 규칙 또는 에이전트 정의를 따르는지 자동으로 측정합니다.

...모든 것을 확장하십시오
0
업데이트 된 시간 2026년 10월 2일

skill-comply: 자동화된 규정 준수 측정

코딩 에이전트가 실제로 기술, 규칙 또는 에이전트 정의를 준수하는지 다음 방법을 통해 측정합니다:

  1. 임의의 .md 파일에서 예상되는 행동 시퀀스(사양)를 자동 생성
  2. 프롬프트의 엄격도가 점차 낮아지는(지원적 → 중립적 → 경쟁적) 시나리오를 자동 생성
  3. ` claude -p `를 실행하고 stream-json을 통해 도구 호출 추적을 캡처
  4. LLM(정규 표현식이 아님)을 사용하여 사양 단계에 따라 도구 호출을 분류
  5. 시간적 순서를 결정론적으로 확인
  6. spec, 프롬프트, 타임라인이 포함된 독립형 보고서 생성

지원 대상

  • 스킬 (skills/*/SKILL.md): search-first, TDD 가이드와 같은 워크플로우 스킬
  • 규칙 (rules/common/*.md): testing.md, security.md, git-workflow.md와 같은 필수 규칙
  • 에이전트 정의 (agents/*.md): 에이전트가 예상된 시점에 호출되는지 여부 (내부 워크플로 검증은 아직 지원되지 않음)

활성화 시점

  • 사용자가 /skill-comply 를 실행할 때
  • 사용자가 “이 규칙이 실제로 준수되고 있는가?”라고 묻는 경우
  • 새로운 규칙/스킬을 추가한 후, 에이전트의 준수 여부를 확인하기 위해
  • 품질 관리의 일환으로 주기적으로

사용법

# 전체 실행
uv run python -m scripts.run ~/.claude/rules/common/testing.md

# 시뮬레이션 실행 (비용 없음, 사양 및 시나리오만 포함)
uv run python -m scripts.run --dry-run ~/.claude/skills/search-first/SKILL.md

# 사용자 정의 모델
uv run python -m scripts.run --gen-model haiku --model sonnet 

핵심 개념: 프롬프트 독립성

프롬프트가 명시적으로 지원하지 않는 경우에도 스킬/규칙이 준수되는지 여부를 측정합니다.

보고서 내용

보고서는 독립적으로 구성되며 다음을 포함합니다:

  1. 예상 행동 순서 (자동 생성된 사양)
  2. 시나리오 프롬프트(각 엄격도 수준에서 요청된 내용)
  3. 시나리오별 준수 점수
  4. LLM 분류 레이블이 포함된 툴 호출 타임라인

고급 기능(선택 사항)

훅(hooks)에 익숙한 사용자를 위해, 보고서에는 준수도가 낮은 단계에 대한 훅 적용 권장 사항도 포함됩니다. 이는 참고용 정보이며, 주요 가치는 준수도 가시성 그 자체에 있습니다.

GitHub에서 보기
---
name: skill-comply
description: Automatically measures whether coding agents follow skills, rules, or agent definitions by generating scenarios at multiple prompt strictness levels, running agents, classifying tool calls, and reporting compliance rates with full timelines.
---

# skill-comply: Automated Compliance Measurement

Measures whether coding agents actually follow skills, rules, or agent definitions by:
1. Auto-generating expected behavioral sequences (specs) from any .md file
2. Auto-generating scenarios with decreasing prompt strictness (supportive → neutral → competing)
3. Running `claude -p` and capturing tool call traces via stream-json
4. Classifying tool calls against spec steps using LLM (not regex)
5. Checking temporal ordering deterministically
6. Generating self-contained reports with spec, prompts, and timelines

## Supported Targets

- **Skills** (`skills/*/SKILL.md`): Workflow skills like search-first, TDD guides
- **Rules** (`rules/common/*.md`): Mandatory rules like testing.md, security.md, git-workflow.md
- **Agent definitions** (`agents/*.md`): Whether an agent gets invoked when expected (internal workflow verification not yet supported)

## When to Activate

- User runs `/skill-comply <path>`
- User asks "is this rule actually being followed?"
- After adding new rules/skills, to verify agent compliance
- Periodically as part of quality maintenance

## Usage

```bash
# Full run
uv run python -m scripts.run ~/.claude/rules/common/testing.md

# Dry run (no cost, spec + scenarios only)
uv run python -m scripts.run --dry-run ~/.claude/skills/search-first/SKILL.md

# Custom models
uv run python -m scripts.run --gen-model haiku --model sonnet <path>
```

## Key Concept: Prompt Independence

Measures whether a skill/rule is followed even when the prompt doesn't explicitly support it.

## Report Contents

Reports are self-contained and include:
1. Expected behavioral sequence (auto-generated spec)
2. Scenario prompts (what was asked at each strictness level)
3. Compliance scores per scenario
4. Tool call timelines with LLM classification labels

### Advanced (optional)

For users familiar with hooks, reports also include hook promotion recommendations for steps with low compliance. This is informational — the main value is the compliance visibility itself.

skill-comply 설치

스킬 파일을 다운로드하여 .claude/skills/ 디렉터리에 압축을 풀어주세요.

ZIP 다운로드

저장소를 클론하고 스킬 파일을 프로젝트에 복사하세요.

git clone https://github.com/affaan-m/ECC/tree/main/skills/skill-comply # Copy SKILL.md to your .claude/skills/ directory

복사 복사
빠른 설정: 스킬 폴더를 .claude/skills/로 복사하세요. Claude가 해당 스킬을 자동으로 감지하여 사용할 것입니다.
저장소 affaan-m/ECC

관련 스킬

web-search
업데이트 된 시간 2026년 6월 29일
webapp-testing
업데이트 된 시간 2026년 6월 29일
lark-base
업데이트 된 시간 2026년 7월 5일
agentmail
업데이트 된 시간 2026년 6월 29일
OR