1 AI 治理与合规要回答什么
某团队用公开的电信客户流失数据训练分类模型，希望提前识别可能离开的客户。输入包括客户任期、月费用、合同类型、网络服务类型和付款方式，输出是未来流失的预测分数。离线测试的 AUC 看起来不错，但准备试用时，业务负责人提出了几个问题：数据允许用于当前用途吗？预测错误会影响谁？谁能批准上线？发生投诉时，能否找回当时的模型和输入？这些问题不能靠继续调参回答，它们属于 AI 治理与合规的范围。
AI 治理是围绕 AI 系统建立决策规则、责任分工和持续检查的方法。合规则关心这些活动是否满足适用的法律、合同、组织制度等要求。两者有关，但不能互相代替：满足某张检查表，不代表模型适合所有场景；模型效果良好，也不能证明数据使用获得授权。本课把治理理解为让模型的用途、证据、责任和处置方式可以被检查，而不是在发布前临时补写几份文档。
先界定系统的用途。流失模型可以用于向服务人员提供待核实的联系建议，也可能被用于决定优惠资格。这两种用途使用相同的预测分数，却会带来不同后果。前者仍需关注无效打扰和资源分配，后者还涉及客户是否受到不合理差别待遇。治理的起点不是给算法贴上“安全”标签，而是写清使用者、受影响人群、允许的行动、禁止的用途和错误造成的损失。
再划清证据的边界。公开的 IBM Telco Customer Churn 样例数据适合学习表格分类和治理记录，但它不能直接证明真实电信业务中的效果。记录其发布页面、获取日期、版本及可核实的许可说明，与确认它是否代表当前客户群体，是不同工作。“网上能下载”只说明获取路径存在，不代表已经确认训练、再分发或商业使用条件。遇到授权缺口，应将其标为待解决事项，限制后续使用范围。
本课始终围绕 4 个治理问题展开：什么用途值得做，什么证据支持做，谁有权决定做，出现问题如何停止或修正。它们分别对应用途边界、证据材料、责任角色和运行控制。初学阶段不必建立庞大制度，但要让每个关键判断都有记录、负责人和下一步动作。这样，治理才会影响系统行为，而不只是影响文档篇幅。
2 责任、透明与可追溯
责任首先是对具体决定负责。数据负责人确认来源和使用条件，模型负责人说明训练与评估，业务负责人解释预测结果如何进入工作流程，审批负责人判断风险是否可以接受。人数较少时，同一人可以兼任多个角色，但仍要把角色写开。否则，“大家都看过”很容易变成“没有人负责”。批准模型上线，也不等于同时批准新增数据来源、扩大受众或改变决策用途。
以流失预测为例，模型负责人可以提出将分数超过 0.6 的客户交给服务人员核实，但不能独自决定对这些客户收取不同费用。业务负责人需要解释联系频率和人工复核办法，数据负责人需要确认联系方式的使用依据。审批记录应写明批准了什么版本、什么用途、什么期限，以及附带哪些条件。只保留“同意上线”几个字，无法判断后续改动是否仍处于批准范围。
透明意味着向不同读者提供足以理解和质疑系统的信息。开发者需要特征处理、数据划分和指标计算方式；业务使用者需要知道分数含义、适用范围和常见误差；受影响者可能更关心系统参与了什么决定、如何提出异议。透明不要求把所有训练样本或个人信息公开。应根据阅读目的提供说明，同时避免在解释材料中泄露敏感记录、内部凭据或受限制的数据。
可追溯则要求能够把某次输出与相应证据连起来。至少应关联数据快照标识、划分清单、特征定义、训练配置、模型版本、阈值版本和批准记录。假设客户在 9 月收到联系建议，团队需要能判断建议来自哪个模型，以及当时使用了怎样的阈值。如果只保存最新模型、每天覆盖旧文件，后来即使重算出不同结果，也无法解释最初为何采取了那个行动。
追溯记录也有数据边界。日志可以优先保存事件编号、时间、版本标识、必要的结果摘要和访问审计，原始个人信息是否保留、保留多久，应由明确目的和适用要求决定。记录越多不一定越好：无差别复制输入可能扩大泄露面，还会产生新的删除和访问管理负担。需要复现时，可以通过受控位置引用数据快照，而不是把完整样本散落在日志和聊天记录里。
责任、透明和可追溯需要共同工作。只有责任名单却没有版本证据，负责人也难以解释事故；只有完整日志却没有处置权限，异常可能长期无人处理；只有通俗说明却没有可验证材料，解释容易变成口头承诺。实用做法是为每项关键决定建立“决定—依据—负责人—日期—复查条件”的记录，使治理人员与工程人员讨论的是同一个对象。
3 数据授权与模型卡片
数据授权记录回答“这些数据从哪里来，为什么可以这样使用”。对公开数据集，应记录发布主体、准确名称、原始页面、下载位置、获取日期、文件版本或摘要，以及当时能够取得的许可文本。若数据经由镜像站或教学仓库获得，还要追到原始来源。镜像附带的描述不能自动替代原发布方条件；数据集名称相同，也不能证明文件内容和使用条件相同。
审查时要区分事实和判断。“文件包含任期、月费用和流失标签”属于观察事实；“许可允许用于本次内部实验”属于需要依据的判断；“可以用于面向客户的自动决策”则可能需要额外审查。将依据链接、判断人和待确认点分开填写，可以防止一句“公开数据”掩盖多项不同问题。存在疑问时，可继续开展不依赖该数据的流程设计，但不能把疑问写成已获许可。
还要检查字段与用途之间的关系。客户编号通常只用于关联和去重，不应未经分析就作为预测特征。流失之后才产生的停机原因、最终退款金额或销户状态，可能直接暴露答案，造成数据泄漏。即使这些字段合法取得，也不代表它们适合训练。治理不仅关注能否拥有数据，还要关注在预测发生的时刻，系统是否确实能够取得这些特征。
模型卡片是面向使用和审查的模型说明，通常包含预期用途、禁止用途、训练数据概况、输入输出、评估方法、已知限制和维护责任。它不是某种认证证书，也不能代替授权文件。卡片中的“已测试”应指向实际报告，卡片中的“存在局限”应说明具体条件，例如对长期合同客户样本不足，或者尚未验证新地区客户的效果，不能只写泛泛的“结果仅供参考”。
在教学实验中，可以固定随机种子，将样本按流失标签分层划为训练集 70%、验证集 15%、测试集 15%。训练集用于拟合模型，验证集用于选择参数与阈值，测试集留到方案确定后评估。缺失值处理、类别编码等步骤只在训练集上拟合，再应用到另外 2 个集合。如果同一客户有多条记录，应按客户分组划分；若目标是预测未来，则还应考虑按时间划分，避免未来信息进入过去。
模型卡片需要同时报告 precision、recall、F1 和 AUC 的含义与条件。precision 表示被判为流失的客户中，真正流失的比例；recall 表示真正流失的客户中，被识别出来的比例；F1 综合前两者；这里的 AUC 明确指 ROC-AUC，用于描述分数排序能力。前 3 项依赖阈值，ROC-AUC 不能直接说明联系名单有多准确。类别不平衡时，准确率可能被多数类主导，还应查看正类数量、混淆矩阵，必要时补充 PR-AUC。
4 动手：整理一份模型事实清单
现在为流失预测实验整理事实清单。目标不是编造漂亮结果，而是让陌生同事能够判断模型处于什么状态。可以使用 Markdown 表格或受控表单，每项都写“事实、证据位置、负责人、状态”。状态至少区分已确认、待确认和不适用；不适用也要说明理由。没有证据时保留空缺并说明阻塞事项，比填入没有依据的“通过”更有价值。
先填写用途边界：“使用公开样例数据学习流失预测，只输出供课堂讨论的客户分数，不连接真实客户联系系统。”接着列出输入：任期、月费用、合同类型、付款方式和网络服务类型；列出目标：数据集中给出的流失标签。客户编号保留用于去重与追踪，排除出模型特征。再逐项说明预测时是否可取得输入，标签代表的观察时间是否清楚。数据说明不足的地方必须写成限制。
接着建立数据依据行，记录来源页面、获取日期、许可文本位置和文件摘要。此时不要凭数据集的知名度补写许可结论。再建立样本检查行，记录总样本量、流失样本量、缺失值、重复记录和各集合类别比例。具体数字应由实际实验提供，本课不把未执行的检查写成结果。如果只有数据集介绍中的统计，应注明它来自介绍页面，而不是本次文件检查。
然后记录划分与训练过程。保存固定的划分清单，写明是否分层、是否按客户分组，以及为什么适合当前任务。以逻辑回归作为入门基线，记录类别编码、数值处理和缺失值规则。所有需要从数据学习的处理步骤均限定在训练集。先看验证集结果，再选择阈值；测试集只用于最终评估。调完阈值后反复查看测试结果并继续修改，会让测试集逐渐承担验证集的角色。
为了练习阅读指标，假设某份演示报告包含 1000 条测试记录，其中 200 条真实流失。某个已固定阈值下，模型给出 250 条流失预测，其中 150 条正确。因此 TP 为 150、FP 为 100、FN 为 50、TN 为 700，precision 为 0.60，recall 为 0.75，F1 约为 0.67。这里的数字仅用于说明报告结构，不是对公开数据集训练所得的成绩。ROC-AUC 需要所有样本的分数，不能由这张混淆矩阵推出。
最后填写发布条件和维护记录。即使只是课堂原型，也应写明下一步需要什么证据，例如完成许可核实、检查泄漏、获得独立测试报告。若进入真实试点，还要补充人工复核、访问权限、日志保留和暂停条件。清单完成的标志不是所有格子都显示绿色，而是每项结论有依据，每个缺口有负责人，且系统当前允许进行的活动与证据状态一致。
5 创新速度与治理力度取舍
治理力度应随用途、影响、数据敏感性和可逆性变化。用公开样例数据在本地比较 2 个分类器，与将模型接入真实客户服务流程，需要的证据范围不同。前者可以用简明来源记录、固定划分和基本评估支持学习；后者需要进一步确认真实数据的使用依据、人员权限、错误处置和运行表现。不能因为训练代码相同，就认为它们可以使用相同的批准条件。
风险分层可以从 4 个问题开始：输出是否直接触发行动，错误是否容易纠正，受影响人是否能够提出异议，系统是否处理敏感或受限制的数据。答案用于确定审查深度，而不是生成一个看似精确的“合规分数”。例如，将流失分数供受训人员参考，仍需明确人工会检查什么；如果人员只是机械点击确认，人工环节并没有实质降低风险。
速度与质量之间也不是简单的直线交换。清晰的模板、自动保存版本、复用已审核的数据源和统一评估报告，通常可以同时减少等待和遗漏。真正需要取舍的是在证据尚不充分时，允许系统进入多大范围、触发多强的行动。合理做法是缩小试点、限制权限、设置到期复查，再根据观察决定是否扩大，而不是先全量发布，再把风险登记表补齐。
阈值选择体现了这种取舍。降低阈值，通常会扩大待联系名单，提高 recall，但也可能降低 precision，增加无效联系。提高阈值，通常会减少名单规模，却可能漏掉更多真实流失客户。团队应在验证集上查看多个阈值的混淆矩阵，并结合每日人工处理容量讨论，再固定阈值到测试集评估。不能把“recall 越高越合规”或“F1 最大就能上线”当作通用规则。
交互中的审查档位只展示教学流程：从内部探索，到有限试点，再到业务使用，所需材料逐步增加。它不计算法定风险等级，也不宣称花更多审查时间就一定安全。对来源不明、用途越界或关键证据缺失的情况，应先解决阻塞条件；缩小样本量、提高阈值或添加免责声明，都不能把授权缺口变成可接受的小风险。
6 常见坑：政策条文未落到控制
最常见的问题是把原则直接当作执行结果。制度写着“确保数据使用合法”，但训练脚本可以从任何个人目录读取文件，发布时也没人检查来源记录。此时原则没有对应的控制。应把它改写成可检查的要求：每个进入训练的数据版本必须关联来源与授权记录；缺少必填证据时，发布流程停止；例外由指定角色记录理由、范围和有效期。
另一个问题是控制存在，却没有有效证据。文档说“发布前经过人工审查”，但只有群聊中的表情回复，没有对应模型版本，也没有审查内容。可执行的控制应该说明检查对象、执行时机、通过条件和记录位置。审查者应能找到对应的模型卡片、划分清单及评估报告，并确认它们描述的是同一次实验，而不是不同时间拼起来的材料。
只报告总体指标也会掩盖问题。流失类别较少时，全部预测为不流失可能获得较高准确率，却无法完成识别目标。总体 F1 达到门槛，也可能同时存在某类合同客户 recall 很低的情况。应根据用途选择有意义的切片，如合同类型、任期区间和服务类别，报告每组样本量与指标。小样本切片波动较大，不能看到差异就直接断言歧视，也不能因为难解释就忽略差异。
还有团队把删除敏感字段当作全部治理工作。即使移除了某个字段，其他特征也可能与它相关；反过来，为评估群体差异收集额外属性，也需要合理目的与使用依据。本课不展开复杂公平性算法，但应记住：评估需要结合人群、用途和具体损失，不能凭“模型没有读取这个字段”证明不存在不合理影响。无法取得某类评估资料时，应明确说明评估边界。
最后是把上线当作终点。真实用户的合同类型、费用水平或流失基线可能变化，形成分布偏移；输入字段的生成规则也可能改变。可以监测缺失率、未知类别比例、分数分布、预测正类比例和人工反馈。真实标签通常延迟到达，因此输入变化只能触发调查，不能直接等同于效果下降。标签到齐后，还需按约定窗口复核 precision、recall、F1 和 ROC-AUC。
7 案例：无法说明训练数据来源
某团队准备把流失模型交给另一部门试用。交接时只能找到一个名为“final_data.csv”的文件和训练好的模型。开发者记得数据来自公开网站，但没有保存原始页面、下载日期、许可说明和预处理记录。模型报告写着 ROC-AUC 为 0.88，却没有固定的测试划分，也无法确认训练文件是否混入了客户销户之后生成的字段。这个案例的数字是情境设定，不代表任何真实实验结果。
问题首先不是指标够不够高，而是证据链断开。团队无法确认数据是否允许用于试点，也无法判断报告测量的是否是实际预测能力。如果测试集包含训练阶段已经见过的客户，或者某列直接暗示销户结果，0.88 可能高估模型表现。审批者既不应把它当作可信上线依据，也不应因为“重新训练很麻烦”就将来源缺失标为低优先级。
处理的第 1 步是暂停向新用途发布，并保存当前模型、文件标识、已有报告和批准记录，避免继续覆盖证据。暂停的是受影响的使用路径，现有其他系统如何处理，应依据实际关联和风险确定。第 2 步是梳理数据进入路径：谁获取、从何处下载、是否经过合并、哪些脚本修改过字段。不要把含有客户信息的原始文件发送给更多人来“帮忙认来源”。
如果找回了原始页面，还需确认它与现有文件确实对应，并核实相应用途的条件。若原始来源无法确认，应将该数据及其衍生模型维持在受限制状态，按照适用要求决定保留、删除或其他处置。团队可以改用来源与条件清楚的数据重建实验，但替换文件后必须重新划分、训练和评估。旧模型的指标不能转移给新模型，文件改名也不会补上历史证据。
恢复前应由相应负责人复核来源记录、特征时间点、划分方式和新报告，再记录新的批准决定。如果系统已经影响真实客户，还需要评估受影响范围，按适用制度处理沟通、纠正或其他义务。这个案例的核心教训是，治理缺口会同时削弱使用依据和技术可信度。证据应在数据进入、实验运行和批准发生时产生，事后回忆只能作为调查线索。
8 把治理要求写进合规方案
方案应先声明评估对象。写清模型名称、版本、使用场景、输入字段、输出形式、使用者和受影响人群，再列出适用要求的来源。法律、合同、内部制度和自愿采用的框架应分开标识，避免把框架建议写成法定义务。NIST AI RMF 可以帮助组织治理、理解情境、测量和管理风险，但引用框架名称本身不能证明已经满足当地法律或某项合同。
随后建立从要求到控制的对应关系。每行至少包括要求、风险、控制、证据、负责人和检查时机。例如，来源要求对应“训练数据必须登记来源与使用条件”，证据是数据登记记录与原始依据；防止泄漏的要求对应“检查特征生成时间并固定划分”，证据是字段表、划分清单和流水线配置。写到这里，审查者应能判断具体要看什么，工程人员也应知道需要实现什么。
评估门槛应由用途决定，并说明失败后的动作。若人工每天只能检查 100 条建议，可以在验证集上比较满足容量约束的阈值，再讨论相应 precision 和 recall 是否支持试点。所需门槛由项目制定，不能照抄本课演示数字。测试结果未满足门槛时，动作可以是继续实验、缩小用途或停止发布；不能只把指标标红，却允许发布流程不受影响。
运行要求也要能够执行。例如，未知合同类型比例超过项目约定范围时通知模型负责人；出现字段含义变化时暂停自动生成联系建议；标签到达后按月复核指标。每条要求要说明观察窗口、最小样本条件、通知对象和恢复依据。观察到变化后先调查数据质量与业务变化，再决定是否重训。未经评估直接自动重训，可能把错误字段或反馈偏差带入新模型。
方案最后列出例外和变更规则。新增数据来源、扩大人群、变更标签定义或让分数直接触发行动，通常需要重新评估对应部分。小修复也应保留版本和验证记录，但不必机械重复无关审查。例外必须有负责人、范围、补救动作与到期时间；“临时先上线”若没有截止条件，实际就成了长期绕过。能够拒绝不满足条件的发布，是方案有效的重要表现。
9 从AI 治理与合规走向前沿论文导读（A58）
读治理或可靠性相关论文时，可以沿用本课的事实清单。先问研究解决什么问题，数据来自哪里，任务设定是什么，结论适用于哪些人群与用途。论文在公开短文本数据上改善某项分类指标，不等于它已经解决真实客服文本中的隐私、授权和申诉问题；图像分类在固定测试集表现更好，也不等于面对新设备、不同光照和新拍摄地点仍然可靠。
再查看实验是否支持结论。训练、验证、测试是否分离，同一主体的近似样本是否跨集合，比较方法是否使用相近条件，阈值在哪里确定，是否报告类别比例和关键切片。论文若只给出总体准确率，你就应追问它在类别不平衡时说明了什么。论文若报告 ROC-AUC 改善，还需看实际阈值下 precision、recall 和使用成本是否发生有意义的变化。
对于治理主张，还应区分模型能力、流程效果与制度结论。某种解释方法让使用者更容易阅读，不代表解释忠实反映了模型决策；某次人工复核减少错误，不代表所有团队在所有负荷下都有同样效果。评估指标、参与者、工作流程和限制条件都影响结论。初学者不必立即理解全部推导，但应能复述证据支持到哪一步，哪些部分仍是假设。
进入 A58 时，可以带着 1 份结构清楚的模型卡片阅读论文：把新方法写入候选改进，把作者报告的结果标为外部证据，把尚未在当前场景验证的部分标为待验证。只有完成本地评估，才能把外部结论转成当前项目的依据。这种阅读方式让前沿成果进入可检查的工程流程，也避免把论文标题或排行榜名次直接当作上线许可。
放进方案里
本方案拟使用流失预测模型向服务人员提供待核实的联系建议，输入包括任期、月费用、合同类型、付款方式和网络服务类型，输出为预测分数及候选名单。模型不直接决定收费或优惠资格。课堂阶段使用公开样例数据；进入真实业务前，另行确认业务数据的使用依据、适用人群和联系规则。
每个数据版本均登记来源、获取日期、文件摘要和使用条件依据，未确认事项进入问题清单。客户编号仅用于关联与去重，特征需通过预测时可用性检查。实验采用训练集 70%、验证集 15%、测试集 15% 的固定划分；存在重复客户或时间依赖时，调整为相应的分组或时间划分，并记录理由。预处理只在训练集拟合，阈值由验证集选择。
模型卡片列明用途、限制、数据概况和责任人，评估报告记录样本量、类别比例、混淆矩阵、precision、recall、F1 与 ROC-AUC，并检查关键合同类型和任期区间。项目根据人工处理容量与错误成本确定试点门槛。数据负责人确认来源依据，模型负责人确认实验材料，业务负责人确认人工复核流程，审批负责人记录版本、范围和有效期。
运行期间记录必要的版本关联与访问审计，按约定目的设置日志权限和保留期限。监测缺失率、未知类别比例、分数分布和人工反馈，真实标签到达后复核效果。来源证据缺失、字段含义变化或指标不满足门槛时，暂停受影响用途并调查；恢复前补齐证据并重新批准。新增数据源、扩大人群或改变决策方式时，重新评估相应要求。
10 小结：下一步前沿论文导读（A58）
AI 治理与合规把用途、数据依据、实验结果、责任和处置连接起来。模型卡片帮助说明系统，事实清单帮助暴露缺口，控制与证据让要求进入实际流程。可用的方案应回答：谁检查什么，依据在哪里，什么条件阻止发布，出了问题怎样恢复。
进入 A58 前，可以自查：能否解释为什么公开可下载不等于已确认使用条件？能否指出测试集反复参与调参的后果？能否为“确保透明”写出具体控制与证据？带着这些问题阅读论文，更容易区分作者证明的结果、当前项目需要的验证和仍未解决的治理问题。