clean-links-mapper

name	clean_links_mapper
description	清理文本中的链接（HTTP/HTTPS/FTP）。当用户提到清理链接、删除URL、去除超链接、清理网页链接等需求时使用此skill。 即使用户没有明确说出"链接"，只要任务涉及从文本中删除或替换URL链接，就应该使用此skill。
name_zh	清理文本中的链接（HTTP/HTTPS/FTP）算子
input_params	[{"name":"input_path","type":"string","required":true,"description":"输入JSON文件路径"},{"name":"output_path","type":"string","required":true,"description":"输出JSON文件路径"},{"name":"repl","type":"string","required":false,"default":"","description":"替换字符串（默认为空，即删除）"}]
output_params	[{"name":"output_path","type":"json_file","description":"清理链接后的JSON文件"}]
tag	数据转换
publisher	COMMUNITY

Clean Links Mapper

清理文本中的HTTP、HTTPS、FTP链接。

本SKILL使用依赖data_juicer，请在调用前安装好python环境并安装data_juicer，你可用同以下指令进行安装：

pip install py-data-juicer

核心参数

参数	类型	必填	默认值	说明
input_path	string	是	-	输入JSON文件路径
output_path	string	是	-	输出JSON文件路径
repl	string	否	空字符串	替换字符串（默认为删除）

使用方法

python scripts/run_clean_links_mapper.py --input_path <input_path> --output_path <output_path> [--repl <replacement>]

实现原理

参照测试代码 test_clean_links_mapper.py 中的 _run_clean_links 函数：

# 1. 初始化算子
op = CleanLinksMapper()  # 删除链接
# 或
op = CleanLinksMapper(repl='<LINKS>')  # 替换为指定字符串

# 2. 将数据转为Dataset，使用 op.run(dataset) 处理
dataset = Dataset.from_list(samples)
result_dataset = op.run(dataset)

输入输出格式

输入格式 (JSON数组)

[
  {"text": "访问 https://www.example.com 了解更多信息"},
  {"text": "FTP服务器：ftp://ftp.example.com"}
]

输出格式 (JSON数组)

[
  {"text": "访问  了解更多信息"},
  {"text": "FTP服务器："}
]

示例

示例1：删除链接（默认）

python scripts/run_clean_links_mapper.py --input_path example_input.json --output_path output.json

示例2：替换为占位符

python scripts/run_clean_links_mapper.py --input_path example_input.json --output_path output.json --repl "<LINKS>"

注意事项

• 默认行为是删除链接
• 可以指定 repl 参数来替换为其他字符串
• 支持HTTP、HTTPS、FTP协议的链接
• 不区分大小写（HTTP、Http、HTTP都会被识别）