| name | QC16_TimeMissing |
| description | 数据时序完整性检查工具。读取时间序列数据,设定数据记录频率(如每2分钟、30分钟或60分钟),
以此频率为基准遍历数据的时间范围,检查数据时序是否完整,发现缺失与多余数据点,最后输出为相同格式的文件。
当用户提到时序完整性检查、时间序列缺失检查、时间点完整性、数据遗漏检验等需求时使用此skill。
即使用户没有说出"时序完整性",只要任务涉及检查时间序列数据是否有遗漏或多余的时间点,就应该使用此skill。
|
| name_zh | QC16_数据时序完整性检查算子 |
| input_params | [{"name":"input_path","type":"string","required":true,"description":"输入文件路径"},{"name":"origin_output_path","type":"string","required":true,"description":"原始数据输出路径"},{"name":"error_output_path","type":"string","required":true,"description":"异常数据输出路径(缺失/多余时间点)"},{"name":"data_frequency","type":"int","required":true,"description":"数据记录频率(分钟,如30表示每30分钟)"},{"name":"time_field","type":"string","required":true,"description":"时间字段名"},{"name":"time_format","type":"string","required":true,"description":"时间格式(如:%Y-%m-%d %H:%M:%S)"},{"name":"mark_field_name","type":"string","required":false,"default":"QC0000","description":"质控标识字段名"}] |
| output_params | [{"name":"origin_output_path","type":"csv_file","description":"处理后原始数据文件,带质控标识"},{"name":"error_output_path","type":"csv_file","description":"异常数据文件,包含缺失/多余时间点记录"}] |
| tag | 数据校验 |
| publisher | COMMUNITY |
QC16_TimeMissing 数据时序完整性检查Skill
功能概述
本skill用于检查时间序列数据的时序完整性。具体来说:
- 根据设定的时间频率(如每30分钟)生成预期的时间戳序列
- 遍历数据的实际时间范围,识别缺失的时间点(数据遗漏)
- 识别多余/不匹配的时间点(不在预期频率上的数据)
- 标记异常数据并输出
触发条件
当用户请求以下任务时,应使用此skill:
- 时序完整性检查
- 时间序列缺失检查
- 时间点完整性检验
- 数据遗漏检验
- 检查时间序列是否有缺失时间点
- 检查时间序列是否有非预期时间点
处理逻辑
- 读取输入的时间序列数据
- 设定数据记录频率(如30分钟)
- 计算数据时间范围内的预期时间点数量
- 生成预期时间戳序列
- 通过对比识别缺失时间点
- 通过对比识别多余/不匹配时间点
- 为异常数据添加质控标识
- 输出处理后的数据文件(原始数据 + 异常数据)
支持的文件格式
- CSV (.csv)
- TSV (.tsv)
- Excel (.xls, .xlsx)
- SPSS (.sav)
使用方法
步骤1:获取用户输入输出路径及参数
向用户确认:
- 输入文件路径
- 原始数据输出路径
- 异常数据输出路径
- 数据记录频率(分钟,如30表示30分钟)
- 时间字段名
- 时间格式
- 质控标识字段名(默认:QC0000)
步骤2:执行时序完整性检查脚本
在 scripts/ 目录下找到 QC16_TimeMissing.py,使用Python执行:
python scripts/QC16_TimeMissing.py \
--input_path <输入文件> \
--origin_output_path <原始数据输出文件> \
--error_output_path <异常数据输出文件> \
--data_frequency <数据频率(分钟)> \
--time_field <时间字段> \
--time_format "<时间格式>" \
--mark_field_name <质控字段名>
步骤3:返回结果
告知用户处理完成。
参数说明
| 参数 | 必填 | 说明 |
|---|
--input_path | 是 | 输入文件路径 |
--origin_output_path | 是 | 原始数据输出路径 |
--error_output_path | 是 | 异常数据输出路径(缺失/多余时间点) |
--data_frequency | 是 | 数据记录频率(分钟,如30表示每30分钟) |
--time_field | 是 | 时间字段名 |
--time_format | 是 | 时间格式(如:%Y-%m-%d %H:%M:%S) |
--mark_field_name |