本指南不构成法律意见。
概述
现行 NIST AI 风险管理框架为 AI RMF 1.0，于 2023 年 1 月 26 日发布。这是一套自愿采用的框架，帮助组织识别并管理 AI 系统设计、开发、采购和使用中的风险。NIST 另于 2024 年 7 月 26 日发布 NIST-AI-600-1，即《人工智能风险管理框架：生成式人工智能应用说明》。截至 2026 年 10 月 5 日核查时，NIST 表示正按白宫 AI 行动计划修订 AI RMF 1.0。
框架分为四项功能：
| 功能 | 提出的要求 |
|---|---|
| 治理 | 在整个组织内制定 AI 政策，明确角色分工和问责安排。 |
| 梳理 | 了解使用背景：AI 系统用于什么、由谁使用，以及可能出什么问题。 |
| 衡量 | 评估并跟踪风险，包括准确性、可靠性、隐私及安全。 |
| 管理 | 按优先级处理风险，并持续监测。 |
对 AI 与数据提出哪些要求
- 明确每套 AI 系统及其决策的责任归属
- 了解数据流向及访问权限
- 衡量输出准确率是否满足用途要求
- 保留记录，便于审核系统执行的操作
- 出现问题时的处理机制
- 针对生成式 AI，考虑虚构信息、数据隐私、有害或存在偏差的输出、滥用及信息完整性等风险；适合具体用途时参考 NIST-AI-600-1 应用说明
Matrix 如何协助
| 功能 | Matrix 如何协助 |
|---|---|
| 治理 | 所有账号由您的团队持有，应用与文件的使用权限也由您的团队设置。 |
| 梳理 | 开始工作前，每个工作流都须书面约定任务、输出及审核人。 |
| 衡量 | 按您的标准测量准确率。工作流报告置信度，标出不确定项供审核。 |
| 管理 | 本地审计日志支持审核与导出。模型和软件仅通过您批准的更新变更。 |
| 数据与隐私 | Matrix 在现场运行，默认离线，只有经您的 IT 团队批准才会访问外部服务，从而收窄了数据可流向的范围。 |
本地部署不意味着 AI 系统获得 AI RMF 认证。组织仍须针对每个应用场景落实该框架。
您仍需承担的责任
- 组织的 AI 政策、风险容忍度及治理角色
- 决定哪些 AI 用途可以接受
- 按您的要求审核输出与审计记录
- 员工培训
- 将框架应用于所有使用的 AI 系统，不只 Matrix
- 跟踪 NIST AI RMF 修订，决定何时更新内部控制措施
评估 AI 供应商时该问什么
- 数据在哪里处理与存储，谁能访问？
- 如何衡量我们具体任务的准确率？
- 系统不确定时如何处理？
- 系统保留哪些记录，由谁持有？
- 模型与软件如何持续变更，由谁批准？