Skip to main content

UKGovernmentBEIS/inspect_evals

SkillsMP は UKGovernmentBEIS/inspect_evals から 17 件の skill を収集しています。skill を開くとソースと詳細を確認できます。

記録された最新のソース活動
SkillsMP カタログ更新
収集済み skills
17
GitHub スター
625
GitHub フォーク
400

収集済み skill 17 件中 17 件を表示しています。

職業分類
ソフトウェア開発者
説明

Crawl repository PRs, issues, and review comments to distill institutional knowledge into a shared knowledge base. Run periodically by "context agents" to maintain agent_artefacts/repo_context/REPO_CONTEXT.md. Trigger only on specific request.

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Use Inspect Scout to analyze agent trajectories from evaluation log files. Runs default and custom scanners to detect external failures, formatting issues, reward hacking, and ethical refusals. Use when user asks to check/analyze agent trajectories. Trigger…

原文の言語: 英語

更新
職業分類
ソフトウェア品質保証アナリスト・テスター
説明

CI and GitHub Actions maintenance workflows — fix a failing test from a CI URL, fix a failing smoke test, add @pytest.mark.slow markers to slow tests, or review a PR against agent-checkable standards. Use when user asks to fix a failing test, fix a smoke…

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Fix code quality issues identified in a code quality review stored in agent_artefacts/code_quality/<topic>/. Systematically addresses issues found by the code-quality-review-all skill for ANY code quality topic, with validation and testing at each step. Use…

原文の言語: 英語

更新
職業分類
ソフトウェア品質保証アナリスト・テスター
説明

Review all evaluations in the repository against a single code quality standard. Checks ALL evals against ONE standard for periodic quality reviews. Use when user asks to review/audit/check all evaluations for a specific topic or standard. Do NOT use for…

原文の言語: 英語

更新
職業分類
ソフトウェア品質保証アナリスト・テスター
説明

Fix or review a single evaluation against all EVALUATION_CHECKLIST.md standards. Use "fix" mode to refactor an eval into compliance, or "review" mode to assess compliance without making changes. Use when user asks to fix, review, or check an evaluation's…

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Create an evaluation report for a README by selecting models, estimating costs, running evaluations, and formatting results tables. Use when user asks to make/create/generate an evaluation report. Trigger when the user asks you to run the "Make An Evaluation…

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Generate asset-actions.yaml from ASSETS.yaml by classifying assets into priority tiers. Use when the user asks to regenerate, update, or refresh the asset actions.

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Prepare a new release of inspect_evals by creating a release branch, collecting changelog fragments, and opening a PR. Use when user asks to cut/prepare/create a new release or version bump.

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Prepare an evaluation for PR submission as an entry to the register. Use when user asks to prepare an eval for submission or finalize a PR. Trigger when the user asks you to run the "Prepare Evaluation For Submission" workflow.

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

View and analyse Inspect evaluation log files using the Python API. Trigger whenever you need to look at a .eval file yourself without using pre-written scripts.

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Write an Architectural Decision Record (ADR) to document a significant design choice. Use when user asks to write/create/document an ADR, or to record an architectural decision.

原文の言語: 英語

更新
職業分類
ソフトウェア品質保証アナリスト・テスター
説明

Review a single evaluation's validity — whether its claims hold up, whether its name is accurate, whether samples can be both succeeded and failed at, and whether scoring measures ground truth. Use when user asks to check validity of an eval, or as part of…

原文の言語: 英語

更新
職業分類
ソフトウェア開発者
説明

Redirect to the inspect-evals-template for creating new evaluations. New evals are no longer created in this repository — they live in standalone repos. Use when user asks to create/implement/build a new evaluation.

原文の言語: 英語

更新
職業分類
ソフトウェア品質保証アナリスト・テスター
説明

Ensure test coverage for a single evaluation - both reviewing existing tests and creating missing ones. Analyzes testable components, checks tests against repository conventions, reports coverage gaps, and creates or improves tests. Use when user asks to…

原文の言語: 英語

更新
職業分類
情報セキュリティアナリスト
説明

Audit a third-party Inspect AI evaluation for security risks before running it locally. Decide whether the eval is safe by checking for malicious host-side code, externally-fetched files that aren't quality-controlled, sandbox-breakout instructions, weak…

原文の言語: 英語

更新
職業分類
データサイエンティスト
説明

Investigate datasets from HuggingFace, CSV, or JSON files to understand their structure, fields, and data quality. Trigger whenever you need to explore or inspect a dataset yourself without using pre-written scripts.

原文の言語: 英語

更新
収集済み skill 17 件中 17 件を表示しています。