示例 03:AI 功能上线检查
用户问题
“我们用第三方大模型做 AI 客服,下周要给客户开放,接入了客户历史工单。上线前要做什么?”
简版回答
一句话结论
可以继续做受控测试,但在角色、数据授权、上游条款、错误兜底和现行上线义务核清前,不宜直接面向全部客户开放。
涉及领域与主矛盾
AI 合规 + 数据 + 合同 + 知识产权 + 监管。主矛盾是客户工单进入第三方模型后的控制和责任链尚不清楚。
待核事实
- 工单包含哪些个人信息、商业秘密或敏感内容;
- 客户合同是否允许将数据交给该模型供应商;
- 模型方是否保存输入、用于训练或转给其他服务商;
- 输出是否会自动执行退款、承诺或其他重要决定;
- 用户能否识别 AI、纠错、转人工和投诉;
- 服务地域、开放对象和计划上线日期。
法律业务判断
先画出客户—应用—模型—日志—人工客服链。最小化输入,限制供应商访问和留存,对高后果回答强制人工复核,准备停止、回滚、投诉和事故记录。用户协议不能替代这些产品控制。
检索与依据状态
NEEDS_RETRIEVAL
按上线地域和日期创建检索任务,核验适用的 AI 标识、公示、备案或行业要求,数据处理和供应商义务,以及第三方模型当前服务条款。若当前没有可靠检索能力,将状态改为 RETRIEVAL_UNAVAILABLE,只可维持内部或受控测试,不得编造具体义务。
现在就做
- 冻结上线版本并完成数据和供应商清单;
- 关闭非必要输入、日志和训练用途;
- 对承诺、退款和高风险内容设置人工复核;
- 建立停止开关、回滚、投诉和事件响应;
- 完成检索并将每个规则结论绑定来源和核验时间。
升级边界
涉及敏感数据、重要权益、未成年人、广泛公众、跨境供应商,或已经发生泄露、错误承诺和投诉时,需要律师与安全团队联合复核。