메뉴
乱码修复工具。自动检测并修复因编码错误解释导致的乱码文本（Mojibake），支持 GBK/UTF-8、Latin-1/UTF-8、 Big5、Shift_JIS 等 11 种编码链自动尝试，通过字符合理度评分自动选择最佳修复结果。 当用户提到乱码修复、编码修复、mojibake、文字乱码、编码错误等需求时使用此skill。
Codex 또는 Claude로 설치 이 Prompt를 복사해 Codex, Claude 또는 다른 어시스턴트에 붙여 넣으면 Skill 페이지를 검토하고 설치를 진행할 수 있습니다.
SOC 직업 분류 기준
PiFlow 技能生成器。当用户完成了一次完整并成功的数据处理任务时调用，根据当前 skills/generated 的本地约定和 references/piflow_skill_template.md 通用模板创建、更新或校验 PiFlow-compatible skill，包括 UTF-8 编码的 SKILL.md、DAG 可读的 input_params/output_params、version/category/tag 元数据、skill.json、scripts/references/assets 资源目录，以及本地校验脚本。仅在用户明确要求生成或保存 skill，或某次数据处理任务已经完成并需要把已验证成功的操作流程沉淀为 skill 时使用；默认不要因为“可能需要 skill”或“当前能力不足”而优先触发此 skill。
LLM 文件转换算子。用于读取一个文本文件，按照给定指令调用大模型进行内容转换，并输出新的文本文件。
领域缩略语展开 Skill：按内置或外部词典将独立缩略语替换为全称，可选在全称后保留原缩写。 适用于技术文本、论文摘要和业务记录中的缩写清洗；不负责模糊缩写消歧或大小写无关替换。
括号类型统一工具。读取结构化数据文件，执行中文/全角括号到 ASCII 半角括号的映射，输出括号已统一的结构化数据文件。 当用户提到括号统一、全角括号转半角、中文括号转换、括号规范化等需求时使用此skill。 即使用户没有明确说出"bracket_normalizer"，只要任务涉及括号类符号统一，就应该使用此skill。 不负责全角字母数字转换、Unicode正规化或其他通用全半角处理。
跨字段比较校验工具。读取结构化数据文件（CSV、TSV、Excel等），检查两个字段之间的逻辑约束关系 是否满足（如 start < end、min ≤ max、price >= cost），支持六种比较运算符，多约束可组合使用。 当用户提到跨字段校验、字段间比较、逻辑约束检查、大小关系验证等需求时使用此skill。 即使用户没有明确说出"跨字段"，只要任务涉及验证两个字段值之间的逻辑关系，就应该使用此skill。
结构化表格重复行检测工具。仅检查CSV/TSV/Excel等表格型数据中的完全重复记录或指定列子集重复， 标记后续重复行并保留首次出现；不处理文本片段清理、文档去重或其他字段质控。
| name | mojibake_repairer |
| description | 乱码修复工具。自动检测并修复因编码错误解释导致的乱码文本（Mojibake），支持 GBK/UTF-8、Latin-1/UTF-8、 Big5、Shift_JIS 等 11 种编码链自动尝试，通过字符合理度评分自动选择最佳修复结果。 当用户提到乱码修复、编码修复、mojibake、文字乱码、编码错误等需求时使用此skill。 |
| name_zh | 乱码修复算子 |
| input_params | [{"name":"input_path","type":"string","required":true,"description":"输入文件路径"},{"name":"output_path","type":"string","required":true,"description":"输出文件路径"},{"name":"text_columns","type":"string","required":false,"description":"处理的文本列，逗号分隔"},{"name":"min_score","type":"string","required":false,"default":"0.6","description":"最小修复评分阈值(0-1)"},{"name":"chain","type":"string","required":false,"description":"手动指定编码修复链，如 gbk:utf-8"}] |
| output_params | [{"name":"output_path","type":"csv_file","description":"乱码修复后的结构化数据文件"}] |
| tag | 清洗 |
自动检测文本中的编码乱码（Mojibake），尝试 11 种编码修复链（gbk→utf-8、latin-1→utf-8、shift_jis→utf-8 等），通过字符合理度评分选择最佳结果。支持中、日、韩、西文等多语言乱码场景。
| 参数 | 说明 |
|---|---|
--input_path | 输入文件路径 |
--output_path | 输出文件路径 |
| 参数 | 说明 | 默认值 |
|---|---|---|
--text_columns | 处理的文本列，逗号分隔；不填则处理全部字符串列 | 全部字符串列 |
--min_score | 最小修复评分阈值(0-1) | 0.6 |
--chain | 手动指定编码修复链，如 gbk:utf-8 | 自动检测 |
输入为结构化表格，至少包含一个可疑乱码文本列：
id,text
1,"François visited São Paulo for café research."
python scripts/mojibake_repairer.py \
--input_path <输入文件> \
--output_path <输出文件> \
[--text_columns col1,col2] \
[--min_score 0.6] \
[--chain gbk:utf-8]
| 参数 | 必填 | 说明 |
|---|---|---|
--input_path | 是 | 输入文件路径 |
--output_path | 是 | 输出文件路径 |
--text_columns | 否 | 处理的文本列 |
--min_score | 否 | 最小修复评分（默认0.6） |
--chain | 否 | 手动指定编码链 |
[REPAIR] 共修复 3 处乱码:
[text][行0] gbk→utf-8 (score=1.00)
娴嬭瘯鏁版嵁 → 测试数据
[text][行1] latin-1→utf-8 (score=1.00)
café résumé → café résumé
[OK] 乱码修复完成 -> output.csv (模式=自动检测, min_score=0.6)
使用仓库内 Python 环境运行，无额外第三方依赖；读取/写入复用共享 data_io。
--chain 手动指定编码链覆盖自动检测