원클릭으로
learn-eval-deep
深度 skill 品質驗證 — 對單一 learned skill 跑三系統客觀評估(結構審計 + 觸發品質 + 消融實驗),結果映射回 learn-eval 的 5 維度評分。適合在 /learn-eval 後手動確認品質。
Codex 또는 Claude로 설치 이 Prompt를 복사해 Codex, Claude 또는 다른 어시스턴트에 붙여 넣으면 Skill 페이지를 검토하고 설치를 진행할 수 있습니다.
메뉴
深度 skill 品質驗證 — 對單一 learned skill 跑三系統客觀評估(結構審計 + 觸發品質 + 消融實驗),結果映射回 learn-eval 的 5 維度評分。適合在 /learn-eval 後手動確認品質。
Codex 또는 Claude로 설치 이 Prompt를 복사해 Codex, Claude 또는 다른 어시스턴트에 붙여 넣으면 Skill 페이지를 검토하고 설치를 진행할 수 있습니다.
SOC 직업 분류 기준
本 repo 自持 agent 定義目錄索引(complexity-triage / doc-reviewer / doc-updater / tdd-guide),供 design、update 等 skill 的 general-purpose subagent 呼叫時引用定義與檢查清單;本身非直接可呼叫的 skill,不會出現在指令清單中。
萬用助手 — 自動分析情境、盤點可用資源、智慧路由至最佳 agent/skill 組合,一鍵完成複雜工作流。
開發設計 — 自動盤點可用資源,透過 Plan agent 建立完整實作計畫,輸出至 plans/active/<slug>.md 供使用者確認後才進入實作。
更新知識庫 — 依序執行文件更新、審查、context 整理、pattern 提取,將本次 session 的變更沉澱為文件與知識。
貼上 Notion URL,自動抓取頁面需求內容,串接 /design 建立實作計畫。
產生跨 context 接手 prompt — 萃取本次對話的目標、進度、決策、未完成項目,輸出可直接貼到新 session 或 /compact 之後使用的自包含 prompt。
| name | learn-eval-deep |
| description | 深度 skill 品質驗證 — 對單一 learned skill 跑三系統客觀評估(結構審計 + 觸發品質 + 消融實驗),結果映射回 learn-eval 的 5 維度評分。適合在 /learn-eval 後手動確認品質。 |
| allowed-tools | Bash, Read, Glob, Grep, AskUserQuestion |
| argument-hint | [skill 路徑或名稱,留空則自動選最近儲存的 skill] |
在 /learn-eval 給出自評分數後,用這個指令做客觀交叉驗證。
有引數時: 直接使用指定路徑或名稱。若引數是名稱而非路徑,搜尋:
ls ~/.claude/skills/learned/*{引數}*.md 2>/dev/null
ls .claude/skills/learned/*{引數}*.md 2>/dev/null
無引數時: 找最近修改的 learned skill:
ls -t ~/.claude/skills/learned/*.md | head -1
確認目標後告知使用者:目標:{skill_name} ({line_count} 行)
提供三種模式讓使用者選:
選擇驗證深度:
- structural — 結構分析(即時,0 tokens)
- trigger — + 描述品質 + 觸發查詢生成(~6K tokens)
- full — + 消融實驗,驗證 skill 是否真的有幫助(~18K tokens;僅 1 case × 1 run,統計力有限,只供 sanity check)
預設:1(直接按 Enter)
python3 ~/Documents/skills-ecosystem-eval/src/learn_eval_bridge.py \
"{skill_path}" --mode {mode}
如果 bridge 不存在,提示先 clone:~/Documents/skills-ecosystem-eval/
Bridge 輸出完整性檢查: 呈現分數前,用確定性工具確認輸出包含所有必要欄位:
| 模式 | 必要欄位 |
|---|---|
| structural | s3_score, code_score, density, section_score, redundancy_penalty |
| trigger | + s1_score, description_quality |
| full | + s2_delta, with_skill_score, without_skill_score |
若有欄位缺失,停止計算並警告:[警告] Bridge 輸出缺少欄位:{缺失欄位列表},分數計算不完整,映射結果不可靠。缺失欄位的對應維度分數標記為 N/A,不以 0 代入計算。
| 系統 | 分數 | 說明 |
|---|---|---|
| System 3 (結構) | X/10 | 前置格式 + 章節 + 程式碼範例 + 內容密度 |
| System 1 (觸發) | X/10 | 描述品質(+ trigger F1 如有) |
| System 2 (消融) | delta | with_skill vs without_skill(full 模式才有) |
將三系統分數映射為 learn-eval 的 5 維度(1-5),與 learn-eval 自評並排顯示,每個維度旁標註資料來源可靠度:
| 維度 | 客觀分數 | learn-eval 閾值 (≥3) | 資料覆蓋率 |
|---|---|---|---|
| Specificity | X.X/5 | ✓/✗ | 高 — S3 結構分析(確定性,1 次掃描) |
| Actionability | X.X/5 | ✓/✗ | 低 — S2 delta 基於 1 case × 1 run,僅供 sanity check |
| Scope Fit | X.X/5 | ✓/✗ | 中 — S1 描述品質分析(LLM 語意判斷,補充性) |
| Non-redundancy | X.X/5 | ✓/✗ | 高 — S3 結構分析(確定性) |
| Coverage | X.X/5 | ✓/✗ | 高 — S3 結構分析(確定性) |
總分:XX.X/25 — Gate: PASS/FAIL
覆蓋率等級:高=確定性工具(grep/glob/AST),結果可重現;中=LLM 語意判斷,結果可能因 prompt 變化而浮動;低=單一 case 消融實驗,統計力不足以做強結論。
[低統計力] 標記,避免誤判根據結果給出具體建議:
| 結果 | 建議 | 驗證信心度 |
|---|---|---|
| Gate PASS + 無 issue | 品質確認,無需動作 | 取決於使用的模式(structural 最低,full 最高) |
| Gate PASS + 有 issue | 列出改善項(如:加 code example) | 中(LLM 語意判斷補充) |
| Gate FAIL | 列出必要修正,問使用者是否要現在修 | 高(結構性驗證) |
| 冗餘度高 | 建議合併或差異化,列出重疊 skill | 高(grep 確定性搜尋) |
| delta ≤ 0 (full 模式) | skill 可能沒有實際幫助,建議檢視內容是否已被模型的 parametric knowledge 覆蓋 | 低 [低統計力] — 1 case 消融僅供方向參考,不宜直接退役 |
如果使用者同意修改: 直接讀取 skill 檔案,根據建議進行修改(加 code examples、改 description 等),修改後重跑 bridge 驗證。
Bridge 將三系統分數轉為 learn-eval 5 維度的邏輯:
| 維度 | 來源 | 計算 |
|---|---|---|
| Specificity | S3 code_score + density | 1 + (code/10)×2 + (density/10)×2 |
| Actionability | S2 delta + S3 structural | 3 + delta×2 + (structural-5)×0.2 |
| Scope Fit | S1 description_quality | 1 + (desc_quality/10)×4 |
| Non-redundancy | S3 redundancy_penalty | 5 - penalty |
| Coverage | S3 section_score + density | 1 + (section/10)×2 + (density/10)×2 |
(所有值 clamp 到 1.0-5.0)
structural 模式只看檔案結構,不呼叫 LLMtrigger 模式生成查詢但不實際跑觸發測試(需要 run_eval.py 的 .claude/commands/ 機制)full 模式的消融只跑 1 case × 1 run(統計力有限,但夠做 sanity check)~/.claude/agents/)的結構和 learned skills 不同,部分維度不適用