| name | nomon |
| description | Rubric-first evaluation harness. Define what good looks like before writing. verifier โ writer, not the other way. |
/nomon
Nomon โ ๋
ธ๋ชฌ. ํด์๊ณ ๋ฐ๋์ฒ๋ผ, ๋ฌด์์ ์ธก์ ํ ์ง ๋จผ์ ์ธ์ด๋ค.
rubric ์์ด๋ ์์ํ์ง ์๋๋ค. verifier๊ฐ ๋จผ์ ๋ค.
Usage
/nomon:setup
์ค์น ๋ฐ ํ๊ฒฝ ์ด๊ธฐํ. ๋ฉฑ๋ฑ.
/nomon:rubric
์ ์์
์ rubric.yaml์ ์ ์ํ๋ค. ๊ฐ ํญ๋ชฉ์ ์ธก์ ๋ฐฉ๋ฒ ๋ผ๋ฒจ ํ์: [์ ๋ / ํ๋ฅด์๋-LLM / ์ฌ๋]
LLM 100%๋ฉด ์ง์
์ฐจ๋จ.
Example: /nomon:rubric "์นด๋๋ด์ค 10์ฅ ์์ฑ"
/nomon:verify-check
verifier dry-run. dummy input์ผ๋ก PASS/FAIL ์ ํธ๊ฐ ์ค์ ๋ก ๋จ์ด์ง๋์ง ๋จผ์ ๊ฒ์ฆ.
Example: /nomon:verify-check rubric.yaml
/nomon:run
rubric.yaml์ด ์๊ณ verify-check ํต๊ณผ ํ์๋ง ์ง์
๊ฐ๋ฅ.
writer๊ฐ verifier๋ฅผ ํต๊ณผํ ๋๊น์ง ๋ฃจํ.
Example: /nomon:run rubric.yaml
/nomon:calibrate
๊ฒฐ๊ณผ๋ฌผ N๊ฑด ์ง์ ์ฑ์ vs LLM ์ฑ์ ์๊ด๊ณ์ ๊ณ์ฐ.
0.7 ๋ฏธ๋ง์ด๋ฉด rubric ๊ฐ์ ์์ฒญ.
Example: /nomon:calibrate rubric.yaml --samples 5
/nomon:status
์คํ ์ํ ํ์ธ.
/nomon:cancel
์คํ ์ค์ง.
Rubric.yaml ํฌ๋งท
task: "์นด๋๋ด์ค 10์ฅ ์์ฑ"
persona: "25-35์ธ ์ง์ฅ์ธ"
criteria:
- name: "ํฐํธ ํฌ๊ธฐ"
measurement: "์ ๋"
spec: "๋ชจ๋ ํ
์คํธ >= 24pt"
- name: "์ดํด๋"
measurement: "ํ๋ฅด์๋-LLM"
spec: "ํ๋ฅด์๋๊ฐ 5์ด ์์ ํต์ฌ ์์ฝ ๊ฐ๋ฅ"
- name: "์ด๋ฏธ์ง ์ฐ๊ด์ฑ"
measurement: "์ฌ๋"
spec: "๋ด์ฉ ํค๊ณผ ์ด๋ฏธ์ง ํค ์ผ์น"
taste_residue_gate: 0.7
LLM-only ํญ๋ชฉ์ด ์ ์ฒด์ 70% ์ด๊ณผ ์ ๊ฒฝ๊ณ .