一、ISO/IEC 42001:2023 9.2 标准原文
9.2.1 总则:组织应按计划间隔进行内部审核,以提供有关人工智能管理体系是否:a) 符合:1) 组织自身对其人工智能管理体系的要求;2) 本标准的要求;b) 有效实施和保持。
9.2.2 内部审核方案:组织应策划、建立、实施和保持审核方案,包括频率、方法、职责、策划要求和报告。在制定内部审核方案时,组织应考虑相关过程的重要性和以往审核的结果。
该组织应:a) 确定每次审核的审核目标、审核准则和范围;b) 选择审计员并实施审核,以确保审核过程的客观性和公正性;c) 确保将审核结果报告至相关管理人员。
组织应保留文件化信息作为审核方案实施和审核结果的证据。
二、条款解读说明
2.1 AI管理体系内部审核为什么不能照搬普通文件检查
内部审核在所有管理体系里都是自我校准的重要机制,但在人工智能管理体系中,它的难度更高。原因在于,AIMS不仅涉及制度文件,还涉及模型、数据、供应商、运行监控、人工监督、用户告知、影响评估和事件处理等多个维度。也就是说,审核员如果只按常规文控思路检查“有没有制度、有没有记录”,很容易得出表面合格、实质失真的结论。真正有效的AI内审,应当既检查文件是否齐全,也检查控制是否在实际场景中被执行,风险判断是否贴近现实,相关方信息是否真实传达,运行证据是否支持管理结论。
因此,9.2条中的“符合”和“有效实施和保持”应分开理解。符合,更多是检查AIMS是否满足组织自身规则和标准要求;有效实施和保持,则要求审核能够判断制度是不是落在了系统、流程和岗位上。很多组织的弱点恰恰出现在后者:文件齐全,但人工监督流于形式;风险评估完成,但后续处置无证据;用户告知文案存在,但前线人员不知道怎么使用。内部审核必须能够把这些问题找出来。
2.2 9.2条要求审核方案具备哪些核心要素
| 要素 | 标准要求 | 在AI内审中的具体含义 | 典型证据 |
|---|---|---|---|
| 频率 | 按计划间隔 | 高风险系统或薄弱过程可增加审核频率 | 年度审核计划 |
| 方法 | 确定审核方法 | 文件审查、访谈、抽样、现场观察、系统验证结合 | 审核方案 |
| 职责 | 明确职责 | 谁策划、谁审核、谁跟踪整改 | 角色分配表 |
| 客观公正 | 选择审计员确保客观性和公正性 | 避免审核员审核自己直接负责的AI系统 | 审核员指派记录 |
| 报告与证据 | 报告结果并保留证据 | 发现、结论、整改要求和跟踪状态可追溯 | 审核报告和整改记录 |
2.3 AI内审要重点审什么
一套成熟的AIMS内部审核,通常会重点审查以下几个方面:范围和职责是否清楚;风险评估和影响评估是否按要求执行并更新;控制措施是否真正落地;变更是否按程序进行;运行监控是否能发现问题;用户和相关方沟通是否真实发生;外部依赖是否受到控制;不符合和纠正措施是否闭环。除此之外,审核还应特别关注高影响AI系统,因为这些场景最容易出现“制度有、证据有、但真实风险更高”的情况。
在方法上,AI内审不宜只看文档。审核员往往需要看系统界面、工单流转、日志片段、抽样记录、模型变更证据、供应商文档、培训效果甚至访谈一线使用者,才能判断控制是否真的发挥作用。对AIMS来说,真实证据比漂亮文件更重要,这也是9.2条能否体现价值的关键。
三、实施要点
3.1 以风险和过程重要性制定审核方案
- 标准要求考虑相关过程的重要性和以往审核结果,因此高影响系统、问题多发过程和发生重大变化的领域应优先审核。
- 不建议简单按章节平均分配审核资源。
- 风险导向的审核方案更符合42001的治理逻辑。
3.2 审核范围和准则要写得具体
- 每次审核都应明确审核对象、系统范围、涉及过程、审核准则和重点问题。
- 例如,是审核整个AIMS,还是审核某一高影响AI系统的开发和运行控制,这些都应写清楚。
- 范围清晰,审核才能有效取证和形成结论。
3.3 结合文件、访谈和运行证据开展审核
- AI内审不能只看制度文件,应结合访谈、系统观察、记录抽样和实际运行证据。
- 特别是风险处置、人工监督、用户告知和供应商管理这类事项,更需要看真实执行痕迹。
- 多证据交叉验证能显著提升审核质量。
3.4 确保审核独立性和必要能力
- 审核员不应审核自己直接负责的过程或系统,以维护客观性和公正性。
- 必要时可采用跨部门审核、联合审核或引入外部支持,但组织仍应保有审核主导权。
- 独立性是审核可信度的底线。
3.5 审核结果要进入整改和管理层视野
- 发现的问题应有清晰分级、责任人、整改要求和跟踪机制,并及时报告给相关管理人员。
- 高风险发现应进入管理评审或专项改进机制,而不应停留在审核报告归档。
- 发现后不闭环,审核价值会迅速归零。
四、常用工具与实施方法
| 工具/方法 | 适用目的 | 实施建议 | 输出成果 |
|---|---|---|---|
| 年度AI内审方案 | 安排审核频率、对象和重点 | 按风险和过程重要性排序 | 审核方案 |
| 条款-证据核查表 | 帮助审核员系统取证 | 同时覆盖文件证据和运行证据 | 检查清单 |
| 审核抽样计划 | 抽取系统、记录和场景进行验证 | 对高影响场景适度加大抽样深度 | 抽样记录 |
| 发现分级与整改跟踪表 | 推动问题闭环 | 明确责任人和完成期限 | 整改台账 |
| 联合审核机制 | 补足跨学科审核能力 | 必要时让技术、业务、合规联合参与 | 联合审核纪要 |
五、典型案例
案例一:审核只看文件,遗漏实际运行偏差
- 背景:某组织内审时确认制度、表单和记录基本齐全。
- 问题:后来才发现一线团队长期绕过人工复核流程,审核并未发现。
- 改进:内审增加现场访谈和运行抽样检查。
- 结果:审核不再停留在文件层面。
案例二:审核频率平均分配,结果抓不住重点
- 背景:组织对所有过程按同样频率审核。
- 问题:高风险AI场景和低风险后台流程投入相同审核资源,导致高风险区域关注不足。
- 改进:调整为风险导向审核方案,对高影响系统增加审核频率和深度。
- 结果:审核资源与风险程度更匹配。
案例三:审核发现形成报告,但整改始终拖延
- 背景:组织每次都能按时出具审核报告。
- 问题:整改责任不清,多个问题在不同审核周期重复出现。
- 改进:建立发现分级、责任追踪和管理层复核机制。
- 结果:内审开始真正推动改进,而不仅是完成检查。
六、成文信息管理要求
9.2明确要求保留文件化信息作为审核方案实施和审核结果的证据。因此组织不仅要有审核报告,还要保留审核方案、抽样记录、发现和整改跟踪等完整证据链。
| 建议文件或记录 | 关键内容 | 用途 |
|---|---|---|
| 内部审核方案 | 频率、方法、范围、职责、重点 | 证明审核已系统策划 |
| 审核计划与核查表 | 审核目标、准则、抽样对象、证据点 | 证明每次审核安排明确 |
| 审核实施记录 | 访谈、抽样、现场观察、证据引用 | 证明审核实际执行 |
| 审核报告 | 发现、结论、分级和建议 | 证明审核结果已形成 |
| 整改与验证记录 | 责任人、措施、时限、关闭证据 | 证明问题得到闭环处理 |
七、常见误区及踩坑提醒
| 误区 | 问题表现 | 正确做法 |
|---|---|---|
| 把内审当成文档检查 | 现场控制失效却未被发现 | 结合文件、访谈和运行证据审核 |
| 审核方案不区分风险 | 高影响系统和低风险流程一视同仁 | 按过程重要性和历史问题分配资源 |
| 审核员缺少必要理解 | 只能发现格式问题,难以判断AI治理风险 | 补足审核能力或采用联合审核 |
| 审核员审核自己负责的系统 | 客观性和公正性受影响 | 保持独立性和职责分离 |
| 审核发现不闭环 | 同类问题反复出现 | 建立整改责任、时限和验证机制 |