online-content-collector

name	online-content-collector
description	对 Obsidian 仓库进行自动素材媒体剪藏，本地化特定 tag 标注的网页、视频及附件
license	Apache-2.0
author	github/cafe3310
depends_on_skill	[]
depends_on_binary	["yt-dlp","pandoc","ffmpeg","python3"]

技能：线上素材收集器 (Online Content Collector)

概述

此技能旨在实现从“发现链接”到“本地化存档”的完全自动化。它扫描 Obsidian 仓库中带有特定标签的链接，将其汇总并下载为包含文本、图片、视频及附件的完整本地 Markdown 存档。

核心配置解析

此技能依赖用户 Vault 根目录下的 AGENTS.md。Agent 在执行脚本前，必须首先读取此文件，并解析出以下路径：

• 下载列表目录位于: 用于传递给 --list-dir。
• 下载内容目录位于: 用于传递给 --archive-dir。

---

核心工作流

第一阶段：扫描与汇总 (Discovery & Aggregation)

1. 配置读取: Agent 读取 AGENTS.md，确定目标路径。
2. 执行脚本: 调用 scripts/collect_links.py，传入 --vault-path 和 --list-dir。
3. 元数据提取与更新: 脚本扫描包含 #Marker-待下载 的文件，提取 time 和 source，生成 YAML 格式的任务列表 [yyyy-mm-dd-hh 下载列表整理.md]，并将原始文件标签更新为 #Marker-下载中-YYYYMMDD。

第二阶段：用户确认 (User Confirmation)

1. 停止并检查: Agent 输出 YAML 列表文件路径，等待用户确认。

第三阶段：执行下载与剪藏 (Execution & Archival)

1. 执行脚本: 调用 scripts/process_downloads.py，传入 --list-file 和 --archive-dir。
2. 任务处理与分发:
   • YouTube / X (Twitter): 使用 yt-dlp 下载。请求最高画质，必须下载并保留全量 JSON 元数据（--write-info-json）。
   • 未知站点: 如果无法识别域名或未配置下载方式，则直接标记为“下载失败（未识别站点）”，不进行尝试。
3. 隔离目录创建: 为每个下载任务创建独立目录，命名规范：[YYYY-MM-DD-HH] {分类} {描述/ID}。
4. 内容本地化:
   • 主文档: 在目录下创建一个同名的 .md 文件。
   • 资产存放: 所有的 .mp4, .json, .jpg 等资产全部存放在该任务目录下。
   • 引用关联: Markdown 文件中使用本地相对路径链接同目录下的视频。

第四阶段：状态汇报与闭环 (Reporting & Closing)

1. 列表回写: 脚本在 YAML 列表中更新状态为“下载完成”或“下载失败”。
2. 标签同步: Agent 根据脚本输出，将原始文件中的链接标签更新为 #Marker-已下载-YYYYMMDD。

---

依赖工具

• yt-dlp: 视频抓取。
• MarkItDown / Pandoc: 网页转 Markdown。
• ffmpeg: 视频合并。

最佳实践

• 路径对齐: 始终从 agents.md 读取路径，不要硬编码。
• 元数据保留: 在剪藏的 Markdown 头部记录原始 URL 和收集时间。
• 异常容错: 下载失败时记录错误原因，不中断后续任务。