ai-data-security

name	ai-data-security
description	AI 系统数据安全测试方法论。当需要评估 LLM/AI 系统的数据泄露风险、训练数据安全、 或 RAG/向量库数据完整性时触发。覆盖: System Prompt 泄露(元 Prompt/角色扮演/关键字定位)、 训练数据推导与提取、成员推断攻击、模型反演攻击、RAG 数据投毒、API 信息泄露、 级联幻觉攻击、外部数据源信息泄露。
metadata	{"tags":"ai data security, data leakage, prompt leakage, training data extraction, membership inference, model inversion, rag poisoning, 数据泄露, 训练数据, 成员推断, 模型反演, 数据投毒, api 泄露","category":"ai-security"}

AI 数据安全测试方法论

攻击面总览

阶段	攻击类型	目标
应用层	System Prompt 泄露、API 信息泄露、PII 窃取	配置/接口/用户数据
模型层	训练数据推导、成员推断、模型反演	训练数据/模型参数
部署层	RAG 投毒、向量库越权、缓存泄露	知识库/基础设施

与 prompt-leak 的边界

prompt-leak 专注 System Prompt 泄露的 6 类技巧（直接请求、格式化、间接诱导、反射、侧信道、多轮提取）。本 skill 将 Prompt 泄露作为应用层攻击面之一，重点覆盖训练数据、模型层、RAG 数据链路等更广泛的数据安全问题。需要深入 Prompt 泄露时直接调用 prompt-leak。

---

Phase 0: 数据资产识别

测试前先摸清 AI 系统的数据资产边界：

• 训练数据 — 预训练语料、微调数据集、RLHF 标注数据
• RAG 知识库 — 文档库、向量数据库、检索索引
• API 端点 — 推理接口、管理接口、内部调试端点
• 缓存与日志 — 对话历史、中间推理结果、审计日志

Phase 1: 应用层数据泄露

• System Prompt 泄露 — 详见 prompt-leak skill，此处不再展开
• API 信息泄露 — 构造 prompt 诱导模型输出 API 端点、模型版本、参数配置；探测 /v1/models、/debug、 等常见端点暴露内部信息