一、ISO/IEC 42001:2023 9.3 标准原文
9.3.1 总则:最高管理者应按计划间隔评审组织的人工智能管理体系,以确保其持续的适宜性、充分性和有效性。
9.3.2 管理评审输入:管理评审应包括:a) 以往管理评审的措施状态;b) 与人工智能管理体系相关的外部和内部事项的变化;c) 与人工智能管理体系相关的利益相关方的需求和期望的变化;d) 有关人工智能管理体系绩效的信息,包括以下方面的趋势:1) 不符合和纠正措施;2) 监视和测量结果;3) 审核结果;e) 持续改进的机会。
9.3.3 管理评审输出:管理评审的结果应包括与持续改进机会相关的决定以及人工智能管理体系变更的任何需要。组织应保留文件化信息作为管理评审结果的证据。
二、条款解读说明
2.1 管理评审在AI治理中,实质上是一场高层治理校准
管理评审在很多体系里容易被做成例行汇报,但在ISO/IEC 42001中,它的重要性明显更高。原因在于,AI治理牵涉组织的战略方向、风险容忍度、社会责任、资源投入、客户信任和创新边界,很多关键取舍都不是一线团队能够单独决定的。管理评审就是要求最高管理者基于体系运行事实,重新审视AIMS是否仍适合当前环境、是否有足够资源和控制覆盖、是否需要改变目标、范围、控制或治理方式。
这意味着9.3并不是“把各部门报表拼在一起开个会”。真正有效的管理评审应该回答几个高层问题:当前AI应用和依赖是否已超出既有治理能力;外部监管、客户要求和社会预期是否发生变化;历史问题是否真的被解决;关键风险和影响是否得到控制;是否需要增加资源、调整方针、收紧边界或加速改进。管理评审如果只是确认“总体运行平稳”,往往说明它没有触及AIMS真正重要的问题。
2.2 9.3条的输入和输出意味着什么
| 类别 | 标准要求 | 在AI治理中的意义 | 典型材料 |
|---|---|---|---|
| 输入 | 历史措施状态 | 确认上次决定是否落实,避免问题长期悬空 | 行动跟踪表 |
| 输入 | 内外部事项变化 | 评估监管、技术、业务和组织环境变化 | 环境变化报告 |
| 输入 | 相关方需求变化 | 确认客户、用户、监管等要求是否发生变化 | 需求变化清单 |
| 输入 | 绩效信息趋势 | 判断体系是在改善、停滞还是退化 | 监测结果、审核结果、不符合趋势 |
| 输出 | 改进机会和体系变更需要 | 把评审结论转化为资源、控制、目标和结构调整 | 决议和行动计划 |
2.3 管理评审的关键,不是会开得多正规,而是管理判断够不够真实
AI治理中最常见的一个问题是,管理层往往只看到“AI项目进展”和“模型效果”,却没有看到治理能力是否真的跟上。9.3条之所以重要,正是因为它要求管理层系统地看趋势和变化,而不是只看单点成绩。比如,模型上线数量增加了,但高影响系统的人工监督资源是否同步增加;客户对透明度要求提高了,但用户告知机制是否跟得上;重大问题都关闭了,但同类问题是否仍在反复发生;外部大模型依赖加深了,但供应商问责和退出能力是否足够。这些都需要管理层在评审中做出真实判断。
因此,管理评审的成熟度,往往决定AIMS是“部门级体系”还是“组织级治理机制”。如果评审真正能够引发资源调整、职责调整、目标更新和控制强化,AIMS就能不断适应变化;如果评审只是听报告、不作决定,那么体系很快就会在快速变化的AI环境中变得形式化。
三、实施要点
3.1 提前定义管理评审输入结构
- 不要到开会前再临时收集材料。应提前固定输入结构,覆盖措施状态、内外部变化、相关方需求、绩效趋势和改进机会。
- 这样可以保证历次评审之间可比较,也方便高层持续跟踪。
- 输入结构稳定,评审结论通常更有质量。
3.2 用趋势和重点问题支撑管理判断
- 对监测结果、审核发现、不符合和纠正措施,建议至少展示趋势、重复问题和高风险未解决事项。
- 不要只给管理层一堆原始数据,而应突出哪些变化值得决策关注。
- 趋势导向是管理评审区别于普通汇报的关键。
3.3 让管理评审覆盖真正的AI治理议题
- 评审不应只谈项目数量、收益和技术表现,还应覆盖高影响场景、相关方信任、供应商依赖、残余风险、资源是否充足等问题。
- 这些议题越真实,管理评审越能体现高层治理责任。
- 必要时可设置专题评审议题,而不是所有内容平均分配时间。
3.4 输出必须形成明确决定和行动
- 9.3.3要求输出包括改进机会相关决定以及对AIMS变更的需要,因此评审不能停留在“已知悉”。
- 应明确哪些事项决定采纳、谁负责、何时完成、后续如何跟踪。
- 有决定、可跟踪,管理评审才算真正结束。
3.5 跟踪上次评审措施状态
- 这是标准列明的必选输入。组织应确保上次评审提出的事项能够被跟踪、关闭或升级。
- 如果同一议题每次都被提到但始终没有结果,说明管理评审没有形成治理力量。
- 行动状态回看是检验评审有效性的第一道关口。
四、常用工具与实施方法
| 工具/方法 | 适用目的 | 实施建议 | 输出成果 |
|---|---|---|---|
| 管理评审输入模板 | 统一评审材料结构 | 覆盖标准要求的全部输入项 | 评审材料包 |
| 趋势仪表盘 | 向高层展示关键绩效和问题变化 | 聚焦风险、事件、审核和整改趋势 | 图表和结论 |
| 行动跟踪表 | 跟踪历次评审决议落实情况 | 对逾期和高风险事项重点标记 | 措施状态清单 |
| 专题议题机制 | 深入讨论重点AI治理问题 | 对高影响系统或重大变化单独评审 | 专题结论 |
| 决议归档与责任分配 | 确保输出可执行 | 明确责任人和期限 | 评审纪要和行动项 |
五、典型案例
案例一:管理评审只看项目进度,错过治理能力不足
- 背景:某企业每季度向高层汇报AI项目数量和业务收益。
- 问题:高影响项目越来越多,但人工监督和供应商管理能力没有同步提升。
- 改进:在9.3中增加治理资源、风险趋势和高影响场景覆盖情况。
- 结果:高层开始基于治理能力而非仅基于扩张速度做判断。
案例二:每次评审都提同样问题,却从不关闭
- 背景:审核多次指出同一类文档和变更控制问题。
- 问题:管理评审会议知道问题存在,但没有明确责任和期限。
- 改进:组织建立行动跟踪表,把上次措施状态作为固定首项议题。
- 结果:管理评审开始真正推动问题关闭。
案例三:客户要求变化未进入管理评审
- 背景:客户对AI透明度和技术文档要求明显提高。
- 问题:这些变化没有进入高层评审,导致一线长期用旧要求交付。
- 改进:组织把相关方需求变化纳入固定输入项。
- 结果:AIMS开始更快适应外部要求变化。
六、成文信息管理要求
9.3.3明确要求保留文件化信息作为管理评审结果的证据。为了让评审真正可追溯,组织最好同时保留输入材料、讨论结论、决议和后续落实情况,而不仅是简短会议纪要。
| 建议文件或记录 | 关键内容 | 用途 |
|---|---|---|
| 管理评审计划 | 频次、参与角色、议程安排 | 证明评审按计划开展 |
| 管理评审输入材料 | 措施状态、变化事项、需求变化、绩效趋势 | 证明输入完整 |
| 管理评审纪要 | 讨论重点、判断依据、结论 | 证明高层已完成评审 |
| 管理评审决议 | 改进机会、体系变更需求、资源或控制调整 | 证明输出具有管理效力 |
| 行动跟踪记录 | 责任人、完成期限、状态更新 | 证明评审结果被落实 |
七、常见误区及踩坑提醒
| 误区 | 问题表现 | 正确做法 |
|---|---|---|
| 把管理评审做成例行汇报 | 管理层听完信息,但没有真实判断和决策 | 聚焦趋势、变化和高风险议题 |
| 输入不完整 | 只汇报成绩,不汇报问题和变化 | 按标准要求系统准备输入项 |
| 只看单次结果,不看趋势 | 难以识别体系长期退化或重复问题 | 展示多期趋势和问题演变 |
| 评审输出停留在“已知悉” | 没有形成可执行的改进和变更决定 | 明确决议、责任人和时限 |
| 不跟踪上次措施状态 | 同类问题反复出现,评审失去推动力 | 将行动状态回看设为固定输入项 |