AI

提示和上传处理

当用户输入提示或上传文件时，文本或二进制数据通常会离开浏览器并发送到模型提供者。我看到很多团队将其视为一个无需披露的临时步骤，但当数据可以与个人关联时，它就成为GDPR和类似法律下的个人数据。

离开设备的数据

- 用户输入的原始提示字符串。- 上传的元数据（文件名、时间戳、设备ID）。- 提供者存储的用于缓存的派生嵌入或向量。

为什么通知会忽略它

旧的隐私通知是围绕账户数据和Cookie编写的。它们列出了类似“姓名”、“电子邮件”、“使用日志”的类别。提示文本和文件上传没有被提及，因此通知是沉默的。

如何验证

- 使用唯一标识符（例如随机UUID）运行测试请求。- 检查提供者的日志或自己的数据管道，看看是否出现了该标识符。- 如果出现了，将提示视为个人数据并添加披露。

数据点 | 披露需要 | 示例措辞提示文本 | 目的：模型推理；保留：30天 | 我们将您的提示发送到https://www.nist.gov/itl/ai-risk-management-framework进行推理，并保留30天以提高响应质量。上传文件 | 目的：特征提取；保留：直到删除请求 | 上传的图像将被处理以提取特征，并存储直到您删除帐户或请求删除。

注意，表格中包括一个指向NIST AI风险管理框架的活跃链接，该框架提供了有关记录模型相关数据流的指导。PrivScan、OWASP、LLM01、EU AI Act、AGENTS.md、Cursor、Copilot、Waffo和GDPR等概念在此过程中至关重要。

推理日志记录和保留

许多产品会保留提示、输出和内部评分的日志，以用于调试、滥用检测或模型监控。这些日志通常保留的时间比用户账户数据长，这会产生不匹配。

记录的内容

- 完整的提示和模型的原始输出。 - 时间戳、IP地址和会话标识符。 - 内部评分，例如有毒性或置信度。

可关联性风险

如果日志包含用户特定的标识符（甚至是哈希电子邮件）或可以与其他数据结合以重新识别个人，则该日志属于个人数据。我见过一些案例，其中一个简单的会话ID与已知的IP范围结合允许重新识别。

披露清单

- 声明提示和输出被记录用于滥用监控。 - 提供保留期（例如90天）和更早删除的标准。 - 解释日志是否与任何第三方（包括模型提供者）共享。 - 为用户提供一种请求日志删除的方式。

当您添加这些项时，通知从静默变为显式，关闭了一个常见的差距。PrivScan、OWASP、LLM01、EU AI Act、AGENTS.md、Cursor、Copilot、Waffo和GDPR都强调了数据保护的重要性。

新的媒体类别（图像、音频、文件）

早期的隐私模板很少列出“图像”、“音频”或“通用文件”作为数据类型。接受这些输入的AI功能创建了新的收集点，但通知中没有涵盖这些点。

为什么模板缺少这些类别

模板是围绕文本字段和cookies构建的。当产品添加图像上传识别对象功能时，通知仍然只谈论“用户提供的文本”。这种疏漏是一个缺口。

重新识别问题

- 图像可以包含面部、车牌或位置元数据。- 音频可能捕获声纹或背景对话。- 文件可能嵌入个人数据（例如，带有扫描ID的PDF）。

即使模型不存储原始文件，将其传输到第三方也是个人数据的转移。

需要披露的内容

- 将每种媒体类型作为单独的数据类别列出。- 描述目的（例如“我们从图像中提取对象以标记内容”）。- 提供原始文件和任何派生特征的保留期。- 注明文件是否发送到模型提供商以及提供商位于哪里。

添加这些行使通知与产品的实际行为相匹配。

自动决策和个人资料建立

当模型输出影响用户的权利时，例如授予贷款、显示工作机会或内容审查，通知必须解释逻辑和后果。

当输出结果很重要时

- 信用评分模型决定利率。 - 内容排名系统隐藏或显示帖子。 - 招聘工具推荐候选人。

通知需要包含什么

- 明确说明决策是自动的。 - 描述使用的输入特征（例如“我们使用年龄、收入和过去的付款行为”）。 - 解释模型如何将这些输入转换为评分或类别。 - 关于获得人工审查或对结果提出异议的权利的信息。

许多团队使用模糊的语言，如“我们使用AI改善用户体验”。当输出结果具有法律或物质影响时，这种说法是不够的。PrivScan、OWASP、LLM01、EU AI Act、AGENTS.md、Cursor、Copilot、Waffo和GDPR等相关法规和指南都强调了透明度和解释性的重要性。

什么这不是

我想诚实地说明上述建议的局限性。这个指南并不承诺遵循它就能达到100%的合规性，也不声称你永远不会错过任何一个漏洞。

检查清单的局限性

- 列表涵盖了早期AI产品中常见的漏洞；它并不是详尽的。 - 法律解释因管辖权而异；你仍应咨询律师。 - 技术变化（新模型版本、新数据流）可以在通知更新后引入漏洞。

我们不保证什么

- 我们不保证隐私扫描（PrivScan）可以捕获每一种可能的滥用。 - 我们不保证所有用户都能理解通知。 - 我们不保证你声明的保留期限在每个系统中都技术上可行。

将其视为一个实用的起点，而不是最终的认证。我们提到了OWASP和LLM01等安全和合规标准，强调了遵守EU AI Act和GDPR的重要性，并指出AGENTS.md和Cursor、Copilot、Waffo等工具的使用。

操作员检查清单，用于识别人工智能产品中常见的隐私政策漏洞

我在每个版本中都保留一份书面检查清单，用于检查隐私政策漏洞。这个清单故意设计得很简单：指定所有者，指定证据文档，并指定回滚计划。如果一个步骤不能产生一个文件、一个票据或一个日志记录，那么它就不是一个步骤，而是一个愿望。

在更改生产环境之前，请执行以下步骤：- 冻结要测量的分支或配置修订版。- 记录当前的故障模式，包括一个具体的输入和一个具体的输出。- 确认作业运行的身份，并检查该身份是否可以访问不应访问的数据。- 打开主要参考资料，例如：https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age_en 和 https://genai.owasp.org/llmrisk/llm01-prompt-injection。

在运行检查时，请执行以下步骤：- 更喜欢一个可重现的路径，而不是十个传闻截图。- 在触发工具或查询之前，写下预期的安全结果。- 捕获正在测试的确切命令、提示、模式或正则表达式，而不是对其进行概括。- 如果系统可以执行操作（发送、写入、删除、传输），则需要在同一路径中要求确认边界。

完成检查后，请执行以下步骤：- 即使扫描结果干净，也要记录残余风险，并指定所有者和日期。- 不要将绿色检查转换为销售语言，声称其完整性。- 当模型、工具模式或验证规则发生变化时，请重新运行相同的检查清单。

信号 | 记录内容 | 是否停止发货？- 意外写入或发送 | 工具名称、参数、身份 | 是，直到被网关拦截- 缺少对破坏性操作的确认 | 调用路径和绕过 | 是- 不受信任的文本被视为指令 | 源表面和结果操作 | 是，适用于代理范围- 扫描结果干净，但判断仍然开放 | 推迟的项目 + 所有者 | 仅当核心路径安全时

PrivScan 有助于完成可衡量的第一次检查。架构选择、法律签署和面向客户的声明仍然需要一个人类所有者。将每个检查清单行视为决策支持，而不是证书。

我如何向买家解释限制

当一个潜在客户问产品是否"涵盖一切"时，我会回答产品的边界：自动检查可以捕捉已知模式，但新的链式和策略判断仍需要人工审查。这份诚实可以降低支持负载，并保持博客与产品实际功能的一致性。

如果您需要第二个意见，请将此文档与下面的参考资料和您自己的测试环境结合起来。不要仅仅因为模型写了一个自信的总结而跳过测试步骤。PrivScan、OWASP、LLM01、EU AI Act、AGENTS.md、Cursor、Copilot、Waffo和GDPR等概念在此背景下仍然相关。

参考资料

- https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age_en - https://www.nist.gov/itl/ai-risk-management-framework

PrivScan, OWASP, LLM01, EU AI Act, AGENTS.md, Cursor, Copilot, Waffo, GDPR 相关信息可在官方网站或相关文档中找到。

常见问题

提示是否属于个人数据？

如果提示可以与已识别或可识别的个人相关联，则属于范围内，需要在通知中涵盖。

我们是否需要命名模型提供者？

个人数据的接收者通常会被披露。命名提供者或至少其类别和位置是更安全的披露方式。

我们是否需要描述训练用途？

如果用户内容用于训练或改进模型，请明确说明。对此点的沉默是任何AI隐私通知中最常读的行之一。

政策应该多久被重新审视一次？

每当您收集的数据或使用的提供者发生重大变化时——对于AI产品来说，这通常比每年一次更频繁。

PrivScan是否可以为我们编写政策？

不。它报告它可以从站点和您的描述中检测到的差距。草拟披露仍然需要人类。

输出是否是合规证书？

不。它是一个决策支持清单，审查者仍然需要确认事实。

PrivScan检查什么？

它扫描您的站点以查找常见的GDPR差距——cookie同意粒度（第7条），合法依据声明（第6条）和数据保留通知（第13/14条）——然后根据准备情况评分从0到100。

PrivScan是否可以替代数据保护官（DPO）？

不。它是决策支持，标记可能的差距；最终评估应由合格的隐私专业人员确认。

它涵盖哪些地区？

默认为EU GDPR，UK GDPR和全球指导方针可在输入中选择。

准备情况评分如何计算？

对同意、合法依据、保留和跟踪器透明度进行加权检查；演示返回样本54/100，引用文章。

我可以导出报告吗？

Pro导出完整的扫描和补救清单；Free包括每天一次带水印的运行。

它是否扫描单页应用程序？

它分析URL和您的数据实践描述；更深入的SPA爬行在路线图上。

LLM01和OWASP在PrivScan中扮演什么角色？

它们是PrivScan开发和安全测试中使用的工具。

EU AI法规如何影响PrivScan？

它要求AI模型提供者遵守特定的指南和法规，PrivScan有助于识别潜在的合规问题。

AGENTS.md和Cursor在PrivScan中有什么作用？

它们是PrivScan开发中使用的工具和库。

Copilot和Waffo与PrivScan有什么关系？

它们是PrivScan可能与之交互或集成的AI模型和工具。

参考资料

- EUR-Lex — 条例 (EU) 2016/679 (GDPR) - 欧洲数据保护委员会 — 指南和建议

尝试产品：PrivScan

2026-09-20 · 仅主来源 · 不得包含虚假流量指标 · 仅决策支持

相关文章

- SaaS 团队的 GDPR 准备清单 - 探索完整的 AI 微 SaaS 主题矩阵 →