AI 治理框架：如何制定一份负责任的 AI 计划

AI 治理框架，是一整套责任人、政策、控制措施和复核机制，用来决定您的组织如何使用 AI，以及 AI 出错时怎么办。搭建的办法是：列出每一个自动化决策的系统，按影响大小给这些系统排序，给每个系统指定一位责任人，再让控制措施与风险相匹配。如果您在欧盟运营，《人工智能法案》（AI Act）规定了时间表。针对招聘和信用评分等系统的高风险规则，现在从 2027 年 12 月 2 日起适用。

企业用 AI 筛选求职者、识别欺诈、管理供应链和制定价格。我见过招聘平台仅仅因为候选人有过职业空白期，就把合格的人拒之门外。我见过决策系统把错误的规则用在整个客户群体上。这些案例的共同点是，没有人为系统应当如何运行、没做到时该怎么办，定下清晰的政策。

这是管理上的失败，不是技术上的失败。多数企业答不上三个最基本的问题：

1. 谁来批准 AI 的使用方式？
2. 谁来检查它是否按预期工作？
3. 它出错时会怎样？

治理就是回答这些问题。做得好的治理不会拖慢进度。它确保您所依赖的系统被负责任地使用。

1. 01列出每个系统只要它在自动做决策，就在范围之内
2. 02按影响排序先从招聘、信贷、定价和客户评分入手
3. 03指定一位责任人是一个人，而不是一个委员会
4. 04让控制措施匹配风险测试、人工复核节点和告警
5. 05按固定周期复核关键系统每月一次，其余每季度一次

把失败和边缘案例反馈回控制措施

以为软件供应商会处理好合规的团队，通常想错了。依据欧盟《人工智能法案》，部署系统的组织自身也承担义务。

框架	适用地区	现状与要求
欧盟《人工智能法案》（EU AI Act）	欧盟	自 2024 年 8 月起成为法律。基于风险分级：禁止某些用途，对高风险系统设定义务，对其他系统设定透明度规则
GDPR	欧盟	合法性基础、数据最小化，以及围绕影响个人的自动化决策的权利
ISO/IEC 42001	全球	可认证的 AI 管理体系标准，2023 年 12 月发布
NIST AI RMF	美国	自愿性框架，建立在治理（Govern）、映射（Map）、衡量（Measure）和管理（Manage）四个职能之上
美国各州法律	美国	没有全面的联邦 AI 法律；各州法律越来越多，联邦层面也在推动以联邦规则凌驾于这些州法之上
新加坡模范 AI 治理框架（Model AI Governance Framework）	新加坡	关于可解释性和问责的自愿性指引
OECD AI 原则	OECD 成员国	不具约束力的国际原则

加拿大拟议的《人工智能和数据法案》（Artificial Intelligence and Data Act）在 2025 年 1 月议会休会（prorogue）时失效，所以不再属于这张清单。

2026 年数字综合法案（Digital Omnibus）之后的欧盟《人工智能法案》时间表

欧盟于 2026 年 7 月通过《AI 数字综合法案》（Digital Omnibus on AI），即法规 (EU) 2026/1744，修订了《人工智能法案》，推迟了高风险规则。以下是欧盟委员会 AI 法案时间表中的现行日期：

日期	适用内容
2024 年 8 月 1 日	《人工智能法案》生效
2025 年 2 月 2 日	禁止性做法和 AI 素养义务
2025 年 8 月 2 日	通用 AI 模型规则；成员国主管机构和处罚
2026 年 8 月 2 日	其余大部分规则，包括第 50 条的透明度义务；开始执法
2026 年 12 月 2 日	针对未经同意的性深度伪造内容和儿童性虐待材料的新禁令
2027 年 12 月 2 日	附件 III 系统的高风险规则，例如就业、信用评分和基本服务
2028 年 8 月 2 日	内置于欧盟产品安全法所涵盖产品中的 AI 的高风险规则（附件 I）

推迟只是争取了时间，工作并没有消失。如果您用 AI 筛选候选人或给信用评分，那么为 2027 年 12 月准备的文档、人工监督和监控，其搭建所需的时间比多数团队预想的更长。采购这类系统时，现在就去问供应商，它将如何满足高风险要求。

1. 范围与政策

首先要弄清楚，哪些地方的系统在做决策。多数团队跳过这一步，或者以为 IT 部门手里有一份清单。通常并没有。

一个部门一个部门地过。看看那些筛选申请人、审批交易或给客户评分的工具。只要它在自动做决策，就在范围之内，不管有没有人称它为 AI。如果您运行 SAP，也要把您已经启用的 AI 功能纳入进来，比如 Joule 和嵌入式预测场景。

然后用大家会遵守的平实语言写政策。“我们重视合乎伦理的 AI 使用”不是政策。

2. 责任归属

无论系统表现多好，总得有人对结果负责。责任共担，意味着没人行动。

给每个系统指定一位责任人，由他在实际工作中使用该系统、批准关键变更、保管文档，并在出问题时负责回应。事先决定好，接到投诉后由谁来暂停系统。

在我合作过的一家公司，三个人各自以为是别人在负责。结果是围绕一个无人处理的关键问题，沉默了好几个月。

3. 风险评估与控制措施

每个系统都带有风险。关键在于风险是否看得见。

不要照搬通用的风险清单。问问您的系统是否可能不公平地拒绝候选人、推荐错误的价格，或者把客户归错类。然后建立控制措施：部署前测试、使用中的人工复核节点，以及结果超出预期范围时的告警。在每份风险政策里放两三个贴近现实的场景，让大家理解它为什么存在。

4. 监控与审计

系统会变。输入数据会漂移，更新会改变系统的行为。我记得有个财务团队，推荐工具里出现了一个悄无声息的错误，过了两周才被发现。一次定期审计，第二天就能发现。

设定固定的复核周期：关键系统每月一次，其余每季度一次。我合作过的一个团队，只是因为每月抽查几条输出样本，就发现了一个重大的定价错误。要记录失败和边缘案例，并把它们反馈回控制措施。

5. 透明度

与系统打交道的人，以及在受监管领域里受系统影响的人，需要理解它做了什么。用平实的语言解释输入和决策。既记录优点，也记录局限。把系统吹得过头，会导致误用。

6. 培训

即使一切都有文档，人们在日常使用中仍会犯错。要培训业务用户，而不只是技术人员，用您自己的数据和案例。我合作过的一个 HR 团队，每年做两次 30 分钟的复训，用的是过往候选人筛选中的真实反馈。并不复杂，但让使用者更有信心，也更有责任感。

最有用的第一份成果，是一份登记册。我见过的一些最有效的框架，起点就是电子表格，然后逐步长大。对每个系统，记录以下内容：

1. 系统和用途：它决定或推荐什么，针对谁。
2. 责任人：一位明确的负责人，外加一名副手。
3. 风险等级：例如高（影响人们的工作、金钱或获得服务的机会）、中或低，如适用，再加上欧盟《人工智能法案》中的类别。
4. 所用数据：来源、涉及的个人数据、同意和保留期限。
5. 供应商还是自研：以及供应商提供哪些文档。
6. 控制措施：部署前测试、人工复核节点、告警。
7. 复核周期：每月、每季度或每年，以及上次复核的日期。
8. 事件处理路径：通知谁，谁可以暂停系统，如何告知用户。

先给高影响的系统填：招聘、定价、信贷和客户评分。低风险的内部工具可以往后放。

从高影响用例入手。我曾合作过一家公司，一个自动化工具以含糊不清的理由筛掉了求职者。直到收到好几起投诉，他们才意识到。一次复核会议，就能早早发现。

让监督力度匹配风险。我合作过的一个团队，对一个内部聊天机器人和对一个定价引擎，采用了同样深度的复核。这把治理团队拖得精疲力竭，也拖慢了开发，却没带来多少好处。

决策当下就写文档。事后补写的文档行不通，因为人们已经忘了当时的背景。一个共享文件夹，里面放着带日期的一页纸决策记录，胜过一套没人更新的复杂系统。

不要等完美的框架。我见过团队花几个月打磨政策措辞，最后没人用。从一条规则、一位责任人和一个复核周期开始，再逐步调整。

预期会有阻力，并回应它。在使用工具的团队看来，治理像是官僚主义。把它和他们在意的事联系起来：客户信任、避免的罚款、被阻止的公开事故。

没有监督的自动化决策，可能失败得又快又贵。2012 年，Knight Capital 的自动订单路由系统运行着有缺陷的代码，45 分钟内发出了 400 多万笔订单，公司损失超过 4.6 亿美元（SEC）。Amazon 在发现一款实验性招聘工具会对提到女性组织的简历降分之后，放弃了它。更安静的失败其实更常见：一个系统漂移了好几个月，直到有投诉或审计才被发现。

ISO/IEC 42001 是 AI 管理体系的可认证标准，2023 年 12 月发布。NIST 的 AI 风险管理框架（AI Risk Management Framework）是多数美国组织使用的自愿性参考。对个人而言，IAPP 的人工智能治理专业人员（Artificial Intelligence Governance Professional，AIGP）认证是最知名的资质。

也有专门的工具，例如 IBM watsonx.governance、Fiddler AI，以及 Azure Machine Learning 中的 Responsible AI 仪表板。对多数组织来说，务实的起点更简单：上面那份登记册、日志、访问控制和复核周期。想更深入地了解风险评分，请看我的 AI 风险管理框架指南。如果您的 AI 运行在 SAP 里，我写的SAP 实施中的 AI 治理一文讲了 SAP 特有的控制措施，我的 AI 治理框架页面则说明了我如何帮助组织把这套框架落地。

什么是 AI 治理框架？

一整套责任人、政策、控制措施和复核周期，决定组织如何使用 AI、系统如何测试和监控，以及出问题时怎么办。它还让决策能够向监管机构和受影响的人解释清楚。

欧盟《人工智能法案》的高风险规则何时适用？

在《AI 数字综合法案》（法规 (EU) 2026/1744）之后，附件 III 系统的高风险规则，例如用于就业、信用评分和基本服务的 AI，自 2027 年 12 月 2 日起适用。内置于欧盟产品安全法所涵盖产品中的 AI，其高风险规则自 2028 年 8 月 2 日起适用。禁止性规定自 2025 年 2 月起适用，透明度义务自 2026 年 8 月起适用。

为什么 AI 治理在 SAP 环境中很重要？

SAP 系统现在包含会做出或影响决策的 AI，比如 Joule、财务和供应链中的预测场景，以及 HR 中的候选人筛选。一个有偏见或错误的输出，可能在没人察觉之前就扩散到各个相互集成的流程中。治理让这些功能承担与它们所取代的手工流程同样的问责。

谁来负责 AI 治理？

这是跨职能的工作：合规、IT 与安全、数据团队、法务与风险，以及高管。最重要的结构性决定，是每个 AI 系统一位明确的责任人。是一个人，而不是一个委员会。

AI 治理有哪些认证？

对组织而言，ISO/IEC 42001 是可认证的 AI 管理体系标准。NIST AI RMF 是自愿性框架，而不是认证。对个人而言，IAPP 的 AIGP 认证是最知名的 AI 治理资质。

忽视 AI 治理会怎样？

看得见的失败包括：Amazon 放弃了一款对女性降分的招聘工具，Knight Capital 因一套有缺陷的自动交易系统，在 45 分钟内损失超过 4.6 亿美元。更常见的失败则安静得多：一个系统漂移了好几个月，直到有投诉或审计，才有人发现。