菜单
本地格式化器。类用于从本地文件或本地目录加载数据集。 本SKILL使用依赖data_juicer，请在调用前安装好python环境并安装data_juicer，你可用以下指令进行安装： pip install py-data-juicer 当用户提到加载本地数据集、读取本地文件、格式化本地数据、数据集加载等需求时使用此skill。
默认使用会先检查来源的 Prompt；你也可以切换为直接命令，或下载本地副本。
决定是否安装前，请先阅读 SKILL.md，以及 SkillsMP 当前展示的配套文件。
用 Codex 或 Claude 帮你安装 复制这段 Prompt，粘贴到 Codex、Claude 或其他助手里，让它检查 Skill 页面并帮你完成安装。
直接命令不会经过审查 Prompt；运行前请先检查来源。
npx skills add https://github.com/cas-bigdatalab/piflow --skill local-formatter命令会保持在同一行。复制前请横向滚动并检查完整内容。
想先保存到本地？可下载 SkillsMP 当前能够提供的文件。
Dataspace 文件输入源算子。用于根据 Dataspace 数据源实例 ID 和空间内文件路径下载单个文件，并将该文件作为工作流输入提供给下游算子。该算子没有上游输入，必须作为 DAG 的起始节点使用。
Dataspace 文件输出终止算子。用于接收上游算子的单个文件输出，按指定相对目录上传到 Dataspace 空间目录中，实际文件名自动沿用输入文件名。该算子必须作为 DAG 的终止节点使用。
用于编辑或创建 Gaussian 输入文件（.gjf），支持添加 Link 0 指令（%chk、%oldchk、%nprocshared、%mem）、Route 行关键词、电荷和多重度。可对已有 gjf 文件进行参数填充，也可从零创建新的 gjf 文件。
基于 SOC 职业分类
正在显示 SKILL.md
| name | local_formatter |
| description | 本地格式化器。类用于从本地文件或本地目录加载数据集。 本SKILL使用依赖data_juicer，请在调用前安装好python环境并安装data_juicer，你可用以下指令进行安装： pip install py-data-juicer 当用户提到加载本地数据集、读取本地文件、格式化本地数据、数据集加载等需求时使用此skill。 |
| name_zh | 本地格式化器算子 |
| input_params | [{"name":"input_path","type":"string","required":true,"description":"数据集文件或目录路径"},{"name":"output_path","type":"string","required":true,"description":"输出JSONL文件路径"},{"name":"suffixes","type":"list","required":false,"description":"指定后缀列表，如 ['.json', '.csv']"},{"name":"text_keys","type":"list","required":false,"default":"['text']","description":"文本字段名列表"},{"name":"add_suffix","type":"bool","required":false,"default":false,"description":"是否添加文件后缀信息"},{"name":"num_proc","type":"int","required":false,"default":1,"description":"并行处理的进程数"}] |
| output_params | [{"name":"output_path","type":"jsonl_file","description":"格式化后的JSONL数据集文件"}] |
| tag | 数据转换 |
| publisher | COMMUNITY |
该算子用于从本地文件或本地目录加载数据集，支持多种数据格式（JSON、CSV等），并格式化为统一的数据集格式。
| 参数 | 类型 | 必填 | 默认值 | 说明 |
|---|---|---|---|---|
| input_path | string | 是 | - | 数据集文件或目录路径 |
| output_path | string | 是 | - | 输出JSONL文件路径 |
| suffixes | list | 否 | None | 指定后缀列表，如 ['.json', '.csv'] |
| text_keys | list | 否 | ['text'] | 文本字段名列表 |
| add_suffix | bool | 否 | False | 是否添加文件后缀信息 |
| num_proc | int | 否 | 1 | 并行处理的进程数 |
输入可以是：
/path/to/data.json/path/to/data_directory/支持的文件格式由 suffixes 参数指定，默认为自动识别。
输出为 JSONL 格式，每行一个样本。
# 加载本地JSON文件
python scripts/run_local_formatter.py \
--input_path /path/to/input.json \
--output_path /path/to/output.jsonl
# 加载目录中指定后缀的文件
python scripts/run_local_formatter.py \
--input_path /path/to/data_directory \
--output_path /path/to/output.jsonl \
--suffixes .json \
--suffixes .csv \
--text_keys text
# 添加文件后缀信息
python scripts/run_local_formatter.py \
--input_path /path/to/data_directory \
--output_path /path/to/output.jsonl \
--add_suffix
--input_path: 输入数据集文件或目录路径--output_path: 输出JSONL文件路径--suffixes: 目标后缀，可重复指定多个--text_keys: 文本字段名，可重复指定多个（默认 ['text']）--add_suffix: 是否添加文件后缀信息--num_proc: 并行进程数，默认1