| name | gitlab-efficiency-metrics |
| description | GitLab のイシュー・MR からエージェント活用による効率(コスト削減)を定量化する。成果物バイト数・投稿量・差し戻し/破棄回数・推定レビュー時間を収集し、人手とエージェントのコストを比較して削減額・削減率を算出する。リポジトリ別・ユーザー別・AI/人別の内訳を出せる。「エージェントの効率を測って」「どれだけコスト削減できた?」「GitLab の生産性メトリクス/ROI を出して」で発動する。 |
| metadata | {"version":"1.4.0","tier":"experimental","category":"analytics","tags":["gitlab","metrics","efficiency","cost-savings","roi"]} |
gitlab-efficiency-metrics — GitLab 効率性メトリクス
GitLab のイシュー・MR の活動量を収集し、エージェントを使ったことで人のコストをどれだけ削減できたか を推定する。
リポジトリ別・ユーザー別・AI/人別 の軸で内訳を出し、状態ファイルで増分集計・差分・再解析ができる。
中核は決定論的な収集・算出スクリプト scripts/efficiency.py。収集と計算はスクリプトが行い、
エージェントは前提値の確認・結果の解釈・レポート提示を担う。
前提条件
- Python 3.8+(stdlib のみ)
- GitLab パーソナルアクセストークン(
read_api で十分)→ GITLAB_TOKEN 環境変数 または connections.yaml
- 同じ skills ディレクトリに
gitlab-idd スキルが必要(GitLab 接続・認証の gl.py を再利用する)
- 対象は git remote origin / connections.yaml から解決する。複数リポジトリも指定可能
接続が未設定の場合は gitlab-idd スキルの configure で設定する。
何を測るか(生メトリクス)
| メトリクス | 定義 | GitLab ソース |
|---|
成果物バイト数 deliverable_bytes | マージ済み MR の差分で追加された行のバイト数 | MR changes の diff |
投稿バイト数 agent_comment_bytes | イシュー・MR に投稿されたコメントのバイト数 | issue/MR notes(system 除外) |
差し戻し回数 rework_count | イシューの reopen + status:needs-rework ラベル付与の回数 | resource_state_events / resource_label_events |
破棄した MR discarded_mr_count | マージされずにクローズされた MR の数 | MR state=closed かつ merged_at なし |
推定レビュー時間 review_minutes_est | マージ済み MR の変更量から見積もったレビュー時間 | MR の追加バイト数 × レビュー速度 |
リードタイム(時間軸) time | AI 実測: 総(起票→クローズ・滞留込み)と正味(着手→クローズ・滞留除く)。人: 同 AI 成果物の実働日見積もり(成果物量÷日産×手戻り係数)。差=時間削減(総/正味) | issue created_at/closed_at、着手は worker-node-id 着手コメント / status:in-progress |
3 つの軸と AI/人 の判定
各メトリクスは (リポジトリ, ユーザー, 種別=ai/human) のセルに割り当てられ、以下に集計される:
totals: 全体。by_kind(ai / human)の内訳付き。コスト削減推定は ai 種別 に対して計算する
by_repo: リポジトリ別(--axis に repo)
by_user: ユーザー別(--axis に user)。差し戻しはユーザー帰属しないため by_user の推定には含めない
- 成果物バイト数は MR 作成者(実装者)に帰属。推定レビューコストは既定で MR が closes する元イシューの作成者(リクエスター)に帰属する(
--review-credit、紐付け不可なら MR 作成者へフォールバック)。mr-author で実装者帰属に切替可。帰属先を変えても totals・純削減額は不変
AI / 人の判定は投稿・MR ごとに行う(アカウントを共有していても判別できる):
- 本文に AI マーカー が含まれれば ai(既定: gitlab-idd の
worker-node-id 等のマーカー、Co-Authored-By: Claude、🤖 Generated with など)
- または作成者が
--agent-users 集合(既定は認証ユーザー)に含まれれば ai
- それ以外は human
マーカーは --ai-markers(|| 区切りの正規表現)で置換、対象ユーザーは --agent-users(カンマ区切り、空文字でマーカー判定のみ)で変更する。
ワークフロー
Step 1: 前提を確認する
コスト推定は前提値に強く依存する。実行前に最低限これらをユーザーに確認するか、既定値で進めてよいか合意する:
- 対象期間(既定: 直近 30 日。状態ファイルがあれば前回の続きから増分)
- エージェント判定(AI マーカー+
--agent-users。アカウント共有なら特に重要)
- 対象リポジトリ(単一 /
--projects / --conn-labels)
- 人件費(既定 6,000 JPY/h)と実装スループット(LOC/人日)
前提の意味は references/cost-model.md を参照する。
Step 2: 収集・算出を実行する
python scripts/efficiency.py collect --days 30 --format markdown
python scripts/efficiency.py collect --projects ns/a,ns/b --axis repo,user
python scripts/efficiency.py collect --conn-labels default,work --format markdown
python scripts/efficiency.py collect --days 30 --agent-users bot-node-a,bot-node-b
python scripts/efficiency.py collect --days 30 --params-file my_params.json
python scripts/efficiency.py collect --days 30 --get totals.estimate.savings.mid
python は環境に応じて python3 / py に読み替える。収集の内訳は --verbose(stderr)。
Step 3: 状態を記録して増分・差分・再解析する
--state-file でリポジトリ毎の処理済み時刻(カーソル)とラン履歴を記録する。呼び出し側が状態を持つことで、
範囲を柔軟に指定して増分集計・差分・再解析ができる。
python scripts/efficiency.py collect --state-file s.json --save-state --format markdown
python scripts/efficiency.py history --state-file s.json
python scripts/efficiency.py diff --state-file s.json
python scripts/efficiency.py diff --state-file s.json --a 0 --b -1
python scripts/efficiency.py collect --since 2026-05-01 --until 2026-06-01 --state-file s.json
--since を明示した場合はカーソルより優先される(=再解析)。--save-state を付けたときだけ状態を更新する。
Step 4: 結果を提示・解釈する
--format markdown がそのままレポートになる(全体サマリ+AI/人の生メトリクス+リポジトリ別+ユーザー別)。提示時は必ず:
- 削減はレンジで示す(楽観/最頻/悲観)。単一値を断定しない
- 前提を明記する(人件費・スループット・レビュー速度・AI 判定方法)
- 削減率の母数は「人手のみで作った場合の総コスト」、推定は ai 種別 に対するもの
- 異常値(成果物バイト数が極端に大きい等)は原因を指摘する(生成物・vendor・大量自動生成の混入など)
出力形式(JSON, collect)
{
"window": { "since": "...", "until": "..." },
"repos": ["ns/a", "ns/b"],
"classification": { "agent_users": ["..."], "ai_markers": ["..."] },
"totals": {
"raw_metrics": { "deliverable_bytes": 0, "...": 0 },
"by_kind": { "ai": { "...":
savings.low(楽観)は人の生産性が高い前提=削減が小さい側、savings.high(悲観)は削減が大きい側。
時間軸の time_saved_days(総)/ time_saved_net_days(正味=滞留除く)も同様(low=人が速い前提で削減小)。人の見積もりは実働日なので、比較は正味の方が同次元に近い。time は totals / by_repo に付き、イシュー単位のため by_user には付かない。
ガードレール
| 制限 | 内容 |
|---|
| 前提依存の明示 | コストは前提値次第。既定値のまま断定せず、前提を併記して「前提を変えれば再計算可能」と伝える |
| レンジで示す | 単一値の削減額だけを提示しない。最頻+楽観/悲観を出す |
| 読み取り専用 | このスキルはデータ収集のみ。イシュー・MR の変更や投稿は行わない(状態ファイルへの書き込みは除く) |
| バイト数の解釈 | deliverable_bytes は追加行の総バイト数であり「価値」ではない。自動生成物の混入に注意する |
| AI 判定の限界 | マーカーが無い AI 投稿は username 集合に頼る。判定方法を結果に明記する |
| 因果の断定回避 | 差し戻し・破棄が多い=悪、と短絡しない。学習・探索の結果であり得る点を添える |
行動指針
- 収集はスクリプトに任せる — 生メトリクスの算出は
efficiency.py が決定論的に行う。手作業で API を叩き直さない
- 前提を先に握る — 期間・AI 判定・対象リポジトリ・人件費を確認し、合意した前提を結果に明記する
- 削減の母数を明確に — 削減率は「人手のみ delivery の総コスト」に対する比率で、推定は ai 種別が対象
- レビューは共通費 — 人手シナリオでもエージェントシナリオでも人のレビューは必要。削減は主に「実装工数の置き換え」から生じる(references/cost-model.md)
- 状態で増分・再解析 — 継続運用では
--state-file --save-state で増分集計し、diff で期間比較する。再解析は --since/--until を明示する
- 異常値を疑う — 桁外れの成果物バイト数や削減率は生成物混入や前提のズレを示唆する。鵜呑みにせず原因を添える