Skip to main content

arkcli-datasets

使用 ArkCLI 创建、校验、查询、更新、删除、版本化和下载 Dataset。用户提到 Dataset、数据集、ds-*、dsv-*、训练集/验证集复用、数据格式校验或把 Dataset 接入精调任务时使用。

소스 정보

저장소
volcengine/ark-cli
최근 소스 활동
2026년 8월 27일 15:34
감지된 SKILL.md 언어
중국어
스타
140
포크
15

설치 방법

기본적으로 소스를 먼저 확인하는 Prompt가 선택됩니다. 직접 명령으로 전환하거나 로컬 사본을 다운로드할 수도 있습니다.

소스 파일 검토

설치 여부를 결정하기 전에 SKILL.md와 SkillsMP에 표시된 보조 파일을 읽어 보세요.

파일 탐색기
3 개 파일

SKILL.md 표시 중

SKILL.md
소스 지침 · 읽기 전용 미리보기
name
arkcli-datasets
description
使用 ArkCLI 创建、校验、查询、更新、删除、版本化和下载 Dataset。用户提到 Dataset、数据集、ds-*、dsv-*、训练集/验证集复用、数据格式校验或把 Dataset 接入精调任务时使用。
# ArkCLI 数据集 先读取 [`../arkcli-shared/SKILL.md`](../arkcli-shared/SKILL.md),遵循认证、输出、安全、Client Preview 和二次确认规则。 ## 能力范围 - 创建 Dataset 及首个 `V1`,或为已有 Dataset 创建新版本。 - 从本地 `.jsonl` 文件或同一 TOS bucket 下的对象映射数据。 - 根据基础模型的精调配置解析准确 `DatasetSchema` 并执行服务端校验。 - 查询、更新、删除 Dataset,查询版本,下载版本中的 TOS 对象。 - 为 `train finetune create` 产出稳定的 `<dataset-id>:<version-id>` 引用。 只处理精调任务本身时改用 [`../arkcli-train-finetune/SKILL.md`](../arkcli-train-finetune/SKILL.md)。不要用 Raw API 模拟已有的 `dataset` 产品命令。 ## 执行守卫 1. 先执行 `arkcli auth status`;认证失败时按 shared skill 恢复。 2. 执行前读取目标叶子命令的 `--help`,以当前安装版本为准。 3. `--dataset-format` 只接受 `LLMSft`、`LLMPretrain`、`LLMDPO`、`LLMRL`、`EmbeddingSft`、`ImageGenSft`、`VideoGenSft`;不要发送展示文案或其他后端 SchemaType。 4. `--local` 与 `--tos-uri` 互斥。本地输入只接受 `.jsonl`,最多 20 个文件;多个 TOS URI 必须属于同一 bucket。`--tos-uri` 必须能被当前身份列举且至少包含一个 `.jsonl`;不能复用 CLI 上传结果中的 `ds-ds/*` 暂存路径,应使用已注册版本的 `ark/dataset/<dataset-id>/<dataset-version-id>/` 路径或其他可读数据路径。 5. 创建和新增版本会先逐个校验输入;`ValidateDataset.StorageRawLocation.Storage` 不发送 `AccountID`,但随后两种工作流的 `CreateDatasetVersion.Storage` 都必须发送当前账号的数值型 `AccountID`。`CreateDatasetVersion` 不发送可选的 `Name`,CLI 也不提供该参数;正式版本号完全以服务端响应中的 `Version` 为准。任一步失败都保留已上传对象或已创建 Dataset,不臆造回滚。 6. `dataset version get <dataset-id> <Vn|dsv-*> --preview` 读取每个对象最多 100 KiB(102400 字节)内容,与控制台 Dataset 预览上限一致;版本 SID 仍可省略 Dataset ID。下载既支持 `dataset download ... --version ...`,也支持 `dataset version download <dataset-id> <Vn|dsv-*>`,且都不覆盖已有文件。 7. 删除前先展示版本数、存储路径数以及可获取时的对象数和总字节数,再单独确认。 8. 创建、版本创建、校验、下载、更新、删除支持叶子级 `--dry-run`。只读的 list/get 不使用 `--dry-run`;`version get --preview` 是真实只读查询,不是 Client Preview。 9. Client Preview 只展示离线计划;它不上传、不校验服务端数据,也不代替删除确认。 Volc 本地上传使用当前 profile 对应区域的 TOS endpoint,并启用 bucket rename。 ## 工作流 - 创建、维护、校验、下载:读取 [`references/commands.md`](references/commands.md)。 - Dataset 接入精调:完成 Dataset 后读取 [`../arkcli-train-finetune/references/create.md`](../arkcli-train-finetune/references/create.md)。 - 维护者评测:读取 [`references/evals.md`](references/evals.md)。 只加载当前任务需要的 reference。
GitHub에서 보기