一、ISO/IEC 42001:2023 7.1 标准原文
原文:组织应确定并提供建立、实施、保持和持续改进人工智能管理体系所需的资源。
注:表 A.1 的 A.4 中提供了人工智能资源的控制目标和控制。这些控制措施的实施指南见第 B.4 条。
二、条款解读说明
2.1 AI管理体系中的“资源”远不止预算和人员
很多组织看到7.1,第一反应往往是“要准备预算、安排人手”。这当然没错,但对ISO/IEC 42001来说明显不够。人工智能管理体系中的资源至少应覆盖五大类:数据资源、工具资源、系统和计算资源、人力资源,以及支撑这些资源运行的架构和文档化能力。原因很简单,AI系统的行为高度依赖数据、模型、算力和环境配置,任何一类资源缺失或不可控,都可能直接影响模型性能、输出可靠性、运行安全和责任追溯。
例如,一个组织明明采购了成熟的大模型服务,却没有记录具体使用了哪些模型、接入了哪些外部知识库、依赖了哪家云区域、由哪些岗位负责监控和维护。表面上看,资源已经有了;但从治理角度看,资源并没有被真正识别和管理。一旦出现输出异常、服务中断、合规争议或供应商变更,组织就很难迅速判断影响范围和补救路径。7.1要求的正是这种“资源可识别、可解释、可调用”的能力。
2.2 7.1与附录A.4、B.4的关系
| 资源类别 | 标准提示 | 在AI治理中的意义 | 建议管理方式 |
|---|---|---|---|
| 数据资源 | A.4.3、B.4.3 | 决定模型训练、验证和运行输入质量 | 建立数据来源、类别、用途和质量记录 |
| 工具资源 | A.4.4、B.4.4 | 决定开发、训练、评估和部署方式 | 记录算法、框架、工具链和版本信息 |
| 系统和计算资源 | A.4.5、B.4.5 | 影响运行稳定性、性能和部署约束 | 记录硬件、云资源、位置和容量要求 |
| 人力资源 | A.4.6、B.4.6 | 决定设计、运行、监督和改进是否可持续 | 建立角色与能力清单 |
| 整体资源架构 | B.4.2 | 帮助组织理解资源依赖和影响范围 | 利用系统图、数据流图和资源台账统一管理 |
2.3 AI资源管理的核心,不是“堆资源”,而是“知道自己依赖什么”
7.1条的真正难点在于,很多AI资源并不完全由组织自己拥有。数据可能来自客户、共享平台或第三方采购;模型可能依赖外部供应商;算力可能部署在云平台;运维支持可能来自外包团队。也就是说,组织即使没有直接拥有这些资源,也必须知道这些资源是什么、由谁提供、在哪个阶段使用、对系统风险和影响有什么意义。这种透明度是AIMS得以运转的基础。
对审核和日常治理来说,最重要的不是资源目录做得多漂亮,而是组织能否回答几个具体问题:当前关键AI系统依赖哪些核心资源;这些资源缺失、失效或变化时会发生什么;由谁负责维护和复核;资源记录是否及时更新;第三方提供的关键资源是否已纳入自己的治理范围。能够回答这些问题,7.1才算真正落地。
三、实施要点
3.1 按生命周期盘点资源,而不是只盘点项目启动时的投入
- 建议按设计、开发、验证、部署、运行、更新、停运等阶段分别识别资源需求。
- 同一个AI系统在不同阶段所需资源可能完全不同,例如开发期重算力和数据集,运行期重监控工具和支持能力。
- 生命周期视角能避免“上线后没人管资源”的常见问题。
3.2 把外部提供资源也纳入治理视野
- 凡是第三方提供且会影响AI系统行为、性能、责任或合规性的资源,都应纳入识别和记录范围。
- 这包括外部模型、云服务、数据集、标注平台、评估工具和支持服务。
- 资源可见性比资源所有权更重要,因为治理首先要知道依赖在哪里。
3.3 资源记录应能支持风险和影响分析
- 资源台账不应只列名称,还应能支撑后续风险评估和影响评估。
- 例如,数据资源应能追溯来源、类别、更新时间和偏差问题;工具资源应能说明用途和版本;系统资源应能说明部署位置和容量限制。
- 记录得越接近实际运行,后续评估越有依据。
3.4 将关键资源的责任人和维护节奏写清楚
- 每类关键资源都应明确责任部门、维护人、更新频率和异常处理方式。
- 否则即使盘点了资源,也可能很快失效,沦为一次性文件。
- 对高影响系统,建议把资源复核纳入定期评审和重大变更流程。
3.5 关注资源充分性,而不只是资源存在性
- 资源管理不只是“有没有”,还要判断“够不够、稳不稳、适不适用”。
- 例如,人手不足会导致监督流于形式,算力不足会让验证无法完成,数据不足会让模型泛化失真。
- 资源充分性是7.1最容易被忽视但最影响体系有效性的判断点。
四、常用工具与实施方法
| 工具/方法 | 适用目的 | 实施建议 | 输出成果 |
|---|---|---|---|
| AI资源台账 | 集中记录数据、工具、系统和人员资源 | 按系统和生命周期阶段分层管理 | 资源清单 |
| 数据流图/系统架构图 | 展示资源依赖关系 | 标识外部来源、关键节点和责任边界 | 依赖结构图 |
| 资源充分性评审 | 判断现有资源是否足以支撑控制要求 | 在立项、上线和重大变更前执行 | 评审记录 |
| 关键资源负责人矩阵 | 明确维护责任和更新节奏 | 与岗位职责和供应商管理联动 | 责任映射表 |
| 资源变更跟踪表 | 持续记录模型、数据和算力变化 | 纳入6.3变更管理流程 | 变更记录 |
五、典型案例
案例一:有模型、没台账,导致问题定位缓慢
- 背景:某企业多个部门并行接入外部大模型服务。
- 问题:发生异常输出后,组织无法迅速确认受影响的是哪个模型版本、哪些业务系统、哪些知识库接口。
- 改进:按7.1建立资源台账和依赖图,把模型、接口、部署位置和责任人统一登记。
- 结果:后续异常排查时间显著缩短,变更管理也更可控。
案例二:算力资源不足导致验证流于形式
- 背景:某团队计划对视觉模型进行重新训练和验证。
- 问题:实际可用算力不足,导致验证集覆盖被压缩,上线判断失去充分依据。
- 改进:组织将算力和存储列为关键系统资源,设定最低验证资源保障要求。
- 结果:验证过程恢复完整,风险接受决策更有依据。
案例三:外包运维未纳入资源识别
- 背景:某组织将运行监控外包给第三方团队。
- 问题:审核时无法说明外包团队具备哪些AI运维能力、如何联系、出现事件时谁负责响应。
- 改进:将外部支持团队作为人力资源的一部分纳入记录,并补充服务级别和责任说明。
- 结果:AIMS对运行阶段的资源保障更完整。
六、成文信息管理要求
7.1本身虽然没有列出固定文件名称,但结合附录A.4和B.4,组织至少应保留能够证明资源已识别、已提供、已维护和可支持风险管理的记录。缺少这些证据,资源条款很容易被审核视为口头承诺。
| 建议文件或记录 | 关键内容 | 用途 |
|---|---|---|
| AI资源总台账 | 系统、数据、工具、算力和人员资源清单 | 证明资源已被系统识别 |
| 数据资源记录 | 来源、类别、更新日期、预期用途、质量信息 | 支撑数据治理和风险评估 |
| 工具资源记录 | 算法、框架、评估工具、版本和用途 | 支撑开发和验证可追溯 |
| 系统和计算资源记录 | 部署位置、硬件、网络、存储、容量要求 | 支撑运行和连续性管理 |
| 人力资源与能力清单 | 岗位、能力、外部支持、培训状态 | 证明资源充分性和责任安排 |
七、常见误区及踩坑提醒
| 误区 | 问题表现 | 正确做法 |
|---|---|---|
| 把资源等同于预算和人数 | 忽略数据、工具、算力和外部依赖 | 按附录A.4建立全量资源视图 |
| 只记录内部资源 | 外部模型和云平台依赖处于盲区 | 把第三方关键资源纳入台账和责任管理 |
| 资源清单只做一次 | 系统变化后记录很快失效 | 将资源更新纳入变更和评审机制 |
| 只证明资源存在,不证明资源够用 | 验证、人审和监控实际无法执行 | 同时评估资源充分性和可持续性 |
| 运行阶段无人负责资源维护 | 上线后资源记录与实际脱节 | 明确责任人、维护周期和异常响应机制 |