| name | video-understand |
| description | 拉片——把一条对标视频拆成可复刻 SOP。管线:下载→whisper逐字稿→抽帧(粗览+按需密抽)→判型→逐段填表→产出①逐段拉片报告(它怎么做的,工具链带置信度)+②复现SOP(你怎么抄)。用于"学习/复刻优秀博主的爆款视频"。触发词:"拉片"、"拉这条视频"、"拆解爆款视频"、"复刻对标博主"、"理解这条视频"、"这个视频在讲什么"、"学习博主视频"、"video understand"、"看懂小红书视频"。 |
| metadata | {"deps":"ffmpeg, whisper(openai-whisper); note 模式复用同仓库 xhs-crawler"} |
video-understand — 小红书视频理解管线
crawler 只能拿到视频的直链 + 元数据,给不了"理解"。真正读懂一条视频要走多模态管线,
而且分工明确:口播交给 whisper,画面交给视觉模型(就是你/agent 直接 Read 关键帧),两条模态合起来才叫理解。
何时用
- 想"学习某个博主的爆款视频/同类视频"的钩子、选题、视觉、工作流、卖点
- 拿到一个小红书 note_id / 视频直链 / 本地 mp4,要产出一份结构化《视频拆解》
- 给我们(揭小贤文创)做创意参考(视觉/工作流)+ 内容分析(该做什么/对标谁)
核心:拉片 = 拉两样东西
"拉片"= 把一条对标视频拆成可复刻的 SOP。它拉的是两层:
- 拉内容(讲了什么):选题 / 开头钩子 / 段落结构 / 每句话时间轴 / punchline —— 看一遍就能复刻个大概,不难。
- 拉技术(怎么做出来的):怎么拍 / 什么图形动效 / 怎么剪 / 什么节奏 / 用了什么 AI 工具 —— 盯着成片一百遍也看不出来,这才值钱。本 skill 主攻这层。
标准拉片六步
STEP1 定维度 → STEP2 拆素材(脚本) → STEP3 判型 → STEP4 两遍细看(粗览→密抽) → STEP5 逐段填表 → STEP6 双报告+复现SOP
STEP1 定维度
先定这次要拉哪些维度,勾什么出什么:台词 / 节奏卡点 / 特效动效 / 版式镜头 / 字体 / 调色 / 配乐 / 工具链。默认全勾;只关心某几个就只拉那几个(省 token、更聚焦)。
STEP2 拆素材(确定性脚本)
python3 prep_video.py --note 6a0b295c00000000350296a1
python3 prep_video.py --url http://...rednotecdn.com/...mp4
python3 prep_video.py --file ./clip.mp4
产出 clip.mp4 / audio.txt / audio.json(带时间戳) / kf-*.jpg(粗帧) / aligned.md(★音画对齐) / manifest.json。
音画对齐:帧时间戳(ffmpeg)+ 口播分段时间(whisper json)融合进 aligned.md——每帧标"该时刻在说什么"。
STEP3 判型(★判错后面全白拆)
先判这是哪类片,选对应"眼光"——三类三套拆法:
| 类型 | 长什么样 | 重点看什么 |
|---|
| 口播/教程 | 录屏 ± 露脸、讲操作 | 工具链 / 操作步骤 / 屏幕信息 → 配合下面【枚举软件模式】抓工具指纹 |
| 叙事/剧情/vlog | 实景、有情节 | 镜头/运镜/转场/配乐/情绪曲线 → 重画面与节奏,whisper 次要 |
| 混剪/图文卡点 | 快切、卡点、大字版式 | 卡点节奏 / 字体版式 / 转场样式 |
STEP4 两遍细看(自适应抽帧)★ 本 skill 最值钱的一步
均匀稀疏抽帧会漏关键段(实测漏过绑骨段、视频里展示的 blog 段)且贵。改两遍:
- 粗览:读
aligned.md + 粗帧(kf-*.jpg,约每 9s),标出有戏/看不懂的时间段(动效在变、版式在切、出现新软件 UI、信息密集处)。
- 密抽:只对这些段密集抽帧再看懂:
python3 prep_video.py --file clip.mp4 --out-dir <与粗览同目录> --densify "65-80,120-135" --densify-fps 5
→ dense.md(密帧 d-*.jpg ↔ 时间 ↔ 口播,复用同目录 whisper 分段)。还看不懂就调高 --densify-fps 或缩窄区间。
STEP5 逐段填表
按段对齐成表,每段一行:时间码 | 画面(代表帧) | 台词 | 图形/特效 | 节奏 | 作用。
STEP6 双报告 + 复现 SOP(两份产出)
产出① 逐段拉片报告(它怎么做的)
- 封面:标题 / 时长·段数·切点 / 一句话定性
- 一句话结论:这片到底怎么做的,说死
- 可复刻度评分(分维度 0–10):拍摄 / 图形层 / 节奏 / 工具链
- 关键发现 ×3–5(如:0 切点、1.5s 一句、语义卡点)
- 配帧逐段表(STEP5)
- 图形层部件清单 + 工具链推断,每项带置信度:✅事实(画面水印/UI 铁证)| ⚠️推断(像但无铁证)| ❓不知道。三者划清,别糊成一团。
产出② 复现 SOP(你怎么抄)
- 适用场景 + 工具栈(每环节给推断)
- 流水线分段(按型不同,如口播型:
逐字稿 → 实拍 → 图形层 → 剪辑 → 收尾)
- 每段写清:素材怎么备 / 怎么拍 / 图形怎么做 / 节奏怎么卡
- 可抄要点 ×5(开场 N 秒钩子 / 结构套路 / 降门槛 …)
- 对揭小贤项目:① 创意参考(视觉/3D工作流)② 内容分析(选题/对标)③ 直接复刻成自己的视频
方法论来源:对标博主 yan的ai世界《用 Claude Code 拉片》(2026-06)。成本参考:30min 视频全量拉片 ≈ $25(Opus 主力 + Haiku 跑杂活),普通视频约 40 万 token;拆一个博主 3–5 条即可摸清其工作流。
枚举视频用到的「所有软件」(工具清单模式) ★
这是一个独立模式,不要用上面的稀疏关键帧来做。 实测教训:要列全一条教程视频用到的所有软件
(如"混元3D网页 + 桌面DCC + ..."),稀疏场景帧(十来张、还缩到640宽)必漏——因为软件常出现在
静态/过渡帧,而判定软件靠的是窗口标题栏/菜单栏这种小字,缩放后糊掉、稀疏采样跳过。
症状就是"软件一个一个挤出来、永远列不全"。
正确三步:
- 密集 + 原生分辨率抽帧:
bash enumerate_tools.sh <video.mp4> <out> 1/2(每2秒一帧,不缩放)。
- 逐帧 OCR:脚本用
ocr.swift(macOS Vision,中英)抓屏上文字/面板名 → <out>/ocr.txt。
OCR 抓得到网页面板文字,但桌面软件的窗口标题/菜单是小字,OCR 常漏 → 必须第3步。
- 逐帧视觉枚举(必须):让 agent / Workflow fan-out 分批
Read 所有 d-*.jpg,
对每帧判"哪个软件的UI"(窗口标题/菜单/面板布局/时间线样式);桌面 DCC 判到具体是
Blender/Maya/C4D/3ds Max/Houdini/ZBrush 哪个;最后合并去重。
两种并行编排方式(都验证过,结论一致=本视频2个软件:混元3D网页+Cinema 4D):
A. harness dynamic workflow(首选,可复现+落 dashboard):video_understand.star,一条命令跑完
全片视觉枚举 + 内容理解,run 被 journal、能在 Agent Dashboard 回看:
需先安装 harness CLI(workflow 工具),来自 https://github.com/cyl19970726/multi-agent-harness;
见 author-workflow skill 与该仓库 README。版本要与该仓库的 workflow API 对应。
bash skills/video-understand/enumerate_tools.sh <video.mp4> /tmp/vu_dense 1/2
harness workflow run-script <此目录>/video_understand.star \
--args '{"frames_dir":"/tmp/vu_dense/","frame_count":72,"aligned":"/tmp/vu_hunyuan/aligned.md","batch":8}' \
--start-runtime --progress
程序里:视觉 scan 批用 provider="claude",合并去重 + 读逐字稿做内容理解用 provider="codex"(省成本)。
--dry-run 可先验证语法;--start-runtime 自动拉起 provider runtime。
B. Workflow 工具(ultracode 下临时 fan-out):parallel 分批,schema 用标准 JSON Schema
({type:'object',properties:{...},required:[...]}),再一个 synthesize agent 合并。
⚠️ 两个坑:① codex 不能读图,视觉枚举必须 claude;codex 只跑文本/合成步。
② schema 约定不同:harness run-script 用扁平 {key:"hint"}(列表靠"每行一个"+splitlines);
Workflow 工具用标准 JSON Schema。别混。
坑(实测)
- 直链有时效 + 防盗链:
download_video 已带 UA+Referer;note 模式会逐个试 best+backup 直链。rnote API 偶发 502/503/429 时,可改用上一轮抓到的 CDN 直链走 --url。
- 取视频直链兼容性:note 结构有两种(note/image=
data.data[0].note_list[0]、note/video=data.data[0]直接是note);mp4 有的在 n['video'] 有的散在别处。_find_note/extract_video 已兼容(搜整条 note)。
- whisper 输出可能是繁体:脚本已加
--initial_prompt 引导简体;要更准用 --model medium。
- 关键帧 token 成本:默认场景切变抽 ≤12 张并缩到 640 宽;别无脑加密集帧。封面图是最便宜的"先看一眼"。
- 真·剪辑/节奏理解(转场/运镜/卡点)关键帧给不全,需要时换原生视频模型(Gemini 2.x / Qwen2.5-VL video),只对要复刻形式的 top 爆款用。
