| name | video-recap |
| description | 从输入视频端到端生成中文解说成片。用户提供 .mp4 / .mov / .mkv / .webm,并要求添加旁白、 配音、总结、短剧/电视剧/电影/纪录片/科普解说时使用。负责编排 video-* 技能链:视频理解 → Agent 制定故事与视听方案 → 剪辑 → 配音 → 合成。触发词:视频解说、视频旁白、生成解说、 视频 recap、video recap、voiceover、narration、auto-dub、recap。
|
1. 定位与流程
本技能是五个独立技能的轻量编排器。各技能只通过 work_dir 中的 JSON / MP4 产物通信,不共享代码:
video-understanding ─▶ Agent 按 video-script 制定方案并写稿 ─▶ [video-cut] ─▶ video-voiceover ─▶ video-assemble
流程支持断点续跑:写好 narration.json 后重复同一条命令即可继续。第二阶段会校验
recap_run_manifest.json,拒绝复用来自其他源视频或其他运行参数的旧工作目录;视频理解产物也只在来源一致时复用。
2. 创作职责
这不是单纯的 JSON / 渲染流水线。Agent 是本次内容的创作负责人,在进入昂贵的下游处理前,必须按顺序完成五次判断:
- 导演判断:确定观众承诺、POV、戏剧问题、情绪终点,以及哪些信息要保留到后面揭示。
- 故事编辑:比较至少两个可行的剪辑假设,选择一条主线,并把 beat 定义为“发生了什么变化”,而不是场景摘要。
- 画面剪辑:选择真正值得保留的具体时刻、人物反应、入点与出点。
- 声音/旁白:先分配画面、原声、沉默和旁白的任务,再写解说词。
- 观众复核:分别检查无旁白、只听声音和第一次观看时的体验,优先修改回报最高的问题。
执行前阅读本技能的 references/creative-editing-playbook.md,并把简洁的创作决定写入:
recap_story_plan.json:导演意图、备选假设、选定主线和基于变化的 beat 图。
visual_audio_board.json:每拍的画面任务、表演/反应选择、原声锚点、audio_owner 与 narration_job。
这两个文件只记录可审计的决定,不记录冗长思维过程;它们不会增加服务或渲染依赖。现有工具可以忽略它们,Agent 与建议型解说评审会用它们保持创作一致。建立这条内容基线不需要平台数据。
3. 环境与脚本路径
export MIMO_API_KEY=***
同一个 MiMo key 驱动:
- ASR:
mimo-v2.5-asr
- VLM:
mimo-v2.5
- TTS:
mimo-v2.5-tts
tp-* Token Plan 密钥默认使用中国区集群,可用 MIMO_TOKEN_PLAN_CLUSTER 覆盖。
可选能力:
--mimo-video-overview:按场景块补充 MiMo 视频理解。
--mimo-qc pre-assemble|post-render|both:在合成前、成片后或两个阶段给出建议型复核。
MiMo QC 默认关闭;每个选定阶段最多请求一次,写入 mimo_qc.json。任何凭证缺失、限流、超时、格式错误或采样失败都只记录状态,不阻断流程。详细可覆盖配置见 references/config-playbook.md。
下面的 scripts/... 均相对于本技能目录。若执行器从仓库根目录启动,请给脚本路径加上本技能的绝对目录。脚本启动后会自行定位兄弟技能和资源。
4. 标准解说流程
4.1 背景调研
若能识别影片、剧集或主题,先按本技能的 references/research-guide.md 调研并写入
work_dir/background_research.json。视频理解会把人物名和剧情背景折入 VLM 上下文,避免只得到“黑衣男子”一类模糊描述。无法识别来源时可跳过。
4.2 分析并暂停创作
python3 scripts/recap.py <video> --work-dir <work_dir> --context "背景"
命令完成视频理解、写出 agent_narration_brief.md,然后暂停。此时按以下顺序执行 video-script:
- 查看创作 brief 与原片故事板。
- 写
recap_story_plan.json 和 visual_audio_board.json。
- full 模式写
narration.json;cut 模式第一阶段只写 clip_plan.json。
- cut 模式第二阶段查看剪后故事板,补充输出时间与声音分工,再写
narration.json。
不要从标题或旁白句子开始;先锁定故事体验和素材选择。
时间线有两条不可降级的硬约束:原声只能在可靠句末/静音边界被切入、切出或恢复;旁白必须使用
完整逐段音频,任何 clip 映射裁段、TTS 裁尾或剪映引用更长的加速前素材都阻断。Agent 收到
interrupts_source_sentence / unsafe_clip_sentence_boundary / no_safe_fit /
timeline_audio_mismatch 时,应移动边界、缩短整句或删除该块,而不是增加抢断 override。
4.3 多视频与素材库
多视频只支持 cut 模式。项目 brief 会列出稳定的 source_id,clip_plan.json 中每个片段都必须填写来源:
python3 scripts/recap.py ep1.mp4 ep2.mp4 --edit-mode cut --target-duration 10m --work-dir work_dir_multi_ep
可选文件系统素材库:
python3 scripts/recap.py ep1.mp4 --material-library-dir .video-materials --save-materials
python3 scripts/recap.py ep1.mp4 ep2.mp4 --edit-mode cut --material-library-dir .video-materials --use-materials
素材检索只是对 JSON / MD / JSONL 做 grep,例如 grep -R "keyword" .video-materials。当前版本不复制原始媒体,也不提供数据库、向量或语义搜索。
4.4 继续生成成片
写好所需产物后,重复同一条命令:
python3 scripts/recap.py <video> --work-dir <work_dir>
流程会校验当前阶段的硬输入(clip_plan.json / narration.json);两份创作计划仍是 Agent 与建议型评审使用的工作记录,不是渲染门禁。cut 模式随后生成 edited_source.mp4,再合成旁白并输出 recap_<name>.mp4。
若需要建议型 MiMo 复核:
python3 scripts/recap.py <video> --work-dir <work_dir> --mimo-qc both
合成前复核会读取脚本、计划和 TTS 元数据;成片后还会读取最多六张临时 JPEG。相同输入命中内容缓存,--mimo-qc-refresh 可强制刷新。帧的 base64 与凭证不会写入磁盘。
4.5 字幕与克隆旁白
若要把旁白字幕固定在原片字幕区域,先在仓库根目录运行:
python3 tools/measure_subtitle.py <video>
再传入测得的 --subtitle-y-top/--subtitle-y-bot。坐标基于 ffmpeg 自动旋转后的显示画布,区间为半开 [top, bot),并要求底对齐 ASS 样式;显式设置后,该区域默认使用 60% 透明度的旁白窗口遮罩。
解说模式如需克隆参考声音,使用 --voice-ref <audio>;它与 dub 模式不同。
5. 英译中原声复刻模式
--edit-mode dub 把英文视频翻译为中文,并用原说话者的克隆音色替换人声;它不是在压低原声上叠加解说。
python3 scripts/recap.py <video> --edit-mode dub --work-dir <work_dir>
准备阶段会转写英文、提取一段参考音频,并写出 dub_brief.md 与 dub_transcript.json。Agent 随后写:
[{"start": 0.0, "end": 2.0, "zh": "中文译文"}]
要求:
- 逐句忠实翻译,不删钩子、不合并、不擅自压缩;原文重复,译文也按时间重复。
- 每句沿用原声
[start, end],相邻句不重叠。
- 译文尽量控制在约 5 字/秒,使其能在原时间窗内说完。
重复同一命令后输出 dub_<name>.mp4。每句单独克隆并贴回原时间线;只有即将覆盖下一句时才局部加速。当前版本只支持单说话者、整轨替换,不分离背景音乐。
6. 自检命令
python3 scripts/recap.py --doctor
7. 输出与参数
主要输出:
recap_<video>.mp4:最终成片。
subtitles.srt / subtitles.ass:字幕。
work_dir/:全部中间产物,契约见 references/data-schema.md。
work_dir/recap_story_plan.json / visual_audio_board.json:Agent 创作意图与剪辑决定。
work_dir/mimo_qc.json:可选的建议型复核,不作为发布门禁。
可透传参数:
--context、--scene-threshold、--style、--edit-mode {full,cut,dub}、--target-duration、
--skip-asr、--mimo-video-overview、--mimo-qc {off,pre-assemble,post-render,both}、
--mimo-qc-refresh、--consolidate、--consolidate-asr、--mimo-tts-voice、--voice-ref、
--allow-partial-tts、--review-narration、--no-review-narration、--require-narration-review、
--subtitle-y-top、--subtitle-y-bot、--no-burn-subtitles、--output-dir、
--export-jianying、--jianying-bundle-media、--jianying-no-bundle-media、
--material-library-dir、--use-materials、--save-materials。
--style 是原样传给 Agent 的自由文本指导,不是 preset、枚举、开关或有限风格分类。
8. 能力边界
- 编排器不代替 Agent 写
narration.json / clip_plan.json;具体写作遵循创作 brief 与写作阶段契约。
- 语义评审默认建议型、失败开放;只有调用方显式启用严格解说评审时,事实矛盾、残句或评审不可用才会在 TTS 前阻断。确定性校验阶段始终负责硬校验。
- MiMo QC 不能阻断、自动修复或改变退出状态,只提供定位建议。
- 建立内容质量基线不依赖平台分析、留存遥测或发布接入。
- 本技能不是无人值守调度器,不会向任何平台发布内容。
- 各阶段技能不共享代码,只通过
work_dir 产物通信。