AI 产品业务判断
负责范围
处理 AI 功能角色、开放范围、模型与数据链、生成内容、用户预期、人工控制、投诉和事故响应。
不在本文件保存 AI 法规、备案名单、算法清单、标识细则、监管公告或平台条款；这些内容必须按上线地域和日期外部检索。
先补关键事实
- AI 仅供内部员工使用，还是面向客户、消费者或公众；
- 产品是模型提供者、应用提供者、集成商、内容发布者还是受托处理方；
- 使用自研、开源或第三方模型，模型和接口条款是什么；
- 输入、训练、检索增强和日志分别涉及什么数据；
- 输出用于娱乐、办公，还是影响健康、财产、就业、教育等重要利益；
- 用户能否识别 AI 参与、纠正输出、投诉、退出或转人工；
- 是否已有错误输出、侵权、泄露、滥用或监管联系。
产品上线七问
- 谁负责：向用户提供功能、决定目的和控制关键风险的是谁；
- 给谁用：内部、受控客户、未成年人或不特定公众的风险暴露不同；
- 做什么决定：辅助建议与自动作出重要决定需要不同控制；
- 吃什么数据：输入来源、授权、敏感性、跨主体流动和留存；
- 产出什么：内容类型、可预测错误、侵权、误导和安全后果；
- 如何控制：过滤、权限、人工复核、回滚、申诉、监测和日志；
- 如何证明：版本、提示、模型、数据、测试、用户操作和处置记录能否还原。
风险分层
- 低暴露：内部辅助、无重要决定、数据受控、有人复核、输出不直接对外；
- 中暴露：面向特定客户、会进入业务流程、依赖第三方模型或处理客户数据；
- 高暴露：面向公众、影响重要权益、处理高敏感数据、可生成高风险内容或缺少人工兜底。
分层只用于确定测试和治理强度，不代替法律适用判断。
高频误区
- 认为调用第三方模型就把全部责任转给上游；
- 把“测试版”“仅供参考”当作免责；
- 先收集全部日志和用户内容，再考虑目的与留存；
- 只做一份用户协议，没有产品控制、投诉和事件流程；
- 把模型测评当作真实场景安全证明；
- 产品更新后不重新检查数据、输出和用户预期。
上线前动作
- 画出模型、数据、内容、用户和供应商链；
- 列出可预见失败及其业务后果；
- 设置最小权限、人工复核、停止开关和回滚方案；
- 校准宣传、用户提示、投诉与转人工路径；
- 审查上游模型、数据、内容和分包合同；
- 建立版本、测试、事件、投诉和改进留痕；
- 将具体标识、备案、许可和公示义务拆成检索任务。
必须检索的命题
截至上线日期的适用 AI 规则、标识或公示要求、备案登记状态、行业许可、未成年人规则、监管公告、上游模型名单与服务条款、当地或行业特殊要求。
升级条件
产品影响重要权益；处理敏感或大规模数据；已发生泄露、危险输出、广泛投诉或监管关注；使用来源不明模型或数据；准备面向多地或境外提供服务。