人工智能系统 · 等级保护合规

大模型系统的等保测评
通用要求已经不够用了

语料投毒、提示注入、越狱绕过、知识库越权、内容违规外溢——这些风险在传统等保条款里没有对应项。我们把人工智能专项要求叠加到等级保护框架里,在正式测评之前,把问题先解决掉。

语料与训练
推理与内容
RAG 知识库
智能体工具调用
大模型一体机
查看服务方式 测评内容清单

哪些系统需要做

只要系统里跑着大模型,通用等保要求就覆盖不到它的核心风险面。

政务大模型

政务问答、政策解读、智能客服等面向公众或内部提供生成式服务的系统。通常定级不低于三级。

医疗 / 教育 AI

辅助诊疗、病历生成、智能阅片、教学问答等涉及个人信息的行业应用,数据敏感度高。

知识库问答(RAG)

企业内部文档问答、法规检索、工单辅助。风险集中在知识库越权读取与检索注入。

智能体 / 一体机

可调用工具执行任务的智能体,以及软硬一体交付的私有化大模型设备,还要看管理面与硬件接口。

为什么是现在

三个变化同时发生,不是"以后再说"的事。

判定体系变了

2025 年起等级保护取消百分制打分,改为「符合率 + 重大风险隐患」双轨判定(公网安〔2025〕1001号、1846号、2391号)。符合率高不再等于通过,多项中等风险叠加也可能判重大风险隐患。

人工智能有了专项标准

T/ISEAA 006-2024、GB/T 45654-2025、GB/T 45652-2025、GB/T 45674-2025、GB 45438-2025、GB/Z 242/252/253-2026 等相继实施,语料、训练、推理、内容、数据各环节都有了测评依据。

生成内容必须标识

GB 45438-2025 对人工智能生成合成内容标识提出强制要求。面向公众提供生成式服务而未完成算法备案与安全评估的,本身即构成合规缺口。

测什么:六个专项域

在通用等级保护要求之上,叠加人工智能专项测评。

专项域主要风险点测评方式
语料安全训练语料含未脱敏个人信息、来源不可追溯、标注质量与安全无管控语料台账核查、抽样检测、标注流程访谈
训练安全训练环境与生产环境未隔离、训练数据投毒、算力资源越权网络隔离核查、训练日志审查、权限核查
模型安全模型文件无完整性校验、来源不可信、模型可被窃取或篡改文件校验、供应链核查、接口测试
推理服务接口无鉴权或可被任意调用、无频次限制、提示注入与越狱绕过对抗性测试(直接注入、间接注入、多轮绕过、编码绕过)、接口核查
内容安全违规内容生成、生成内容无标识、内容过滤机制缺失八类风险场景测试、标识核查
数据安全知识库越权读取、会话数据留存与出境、训练数据与用户数据混用权限测试、留存策略核查、数据流向梳理

现场测试用的是成体系的用例,不是临时想几个问题

提示注入覆盖直接注入、间接注入、多轮上下文注入、编码绕过四类形态;越狱覆盖角色扮演、虚构场景、否定式诱导、多语言混合等手法;内容安全按涉政、涉恐暴、色情、虚假信息、歧视、违法违规、侵犯权益、其他八类场景分别验证。

怎么做:五个阶段

从界定对象到出具报告,全过程留痕。

阶段一

测评准备

确定被测对象与边界,梳理模型资产与数据资产,收集定级备案与制度文档。

阶段二

方案编制

确定测评指标组合(通用要求 + 人工智能专项),确定访谈、核查、测试的方法配比。

阶段三

现场测评

逐项访谈、核查配置与日志,执行对抗性测试,逐条记录取证。

阶段四

结果判定

计算符合率,对照高风险判例与重大风险隐患判定原则,做系统性叠加分析。

阶段五

整改与复测

按问题、风险、措施、责任、时限五要素出整改清单,整改后复测确认。

交付物

测评记录表、问题清单、重大风险隐患分析、整改建议清单、配套管理制度文件(十类制度模板本地化)、测评报告框架。

服务方式

按你的进度选,可以先从诊断开始。

合规诊断

还没启动,先摸清家底和差距
按系统规模询价
  • 被测对象与边界界定
  • 六个专项域差距核查
  • 对抗性测试抽样验证
  • 差距清单与整改优先级排序
  • 书面诊断意见
询价

整改落地

已知有差距,需要把问题解决掉
按工作量询价
  • 诊断范围内的全部整改项
  • 提示注入与越狱防护加固
  • 知识库权限与检索边界收敛
  • 内容过滤与生成标识配置
  • 配套管理制度文件定制
  • 整改后复测确认
询价

年度合规支持

已经上线运行,需要持续盯住
按年度询价
  • 新版本上线前合规预检
  • 监管新规变化跟踪与影响说明
  • 年度复测与材料更新
  • 安全事件应对支持
  • 制度文件年度评审
询价

以上为服务内容说明,具体范围与费用根据系统规模、模型形态、现有安全措施基础确定,可先做诊断再决定后续。

依据的标准与文件

测评指标与方法均有明确出处,不做自创判定。

GB/T 22239-2019 基本要求 GB/T 28448-2019 测评要求 公网安〔2025〕1001号 公网安〔2025〕1846号 公网安〔2025〕2391号 T/ISEAA 006-2024 大模型系统安全测评要求 T/ISEAA 005-2024 大模型系统安全保护要求 GB/T 45654-2025 生成式人工智能服务安全基本要求 GB/T 45652-2025 训练数据安全规范 GB/T 45674-2025 数据标注安全规范 GB/T 45288 大模型系列 GB 45438-2025 人工智能生成合成内容标识方法 GB/Z 242-2026 智能体技术要求 GB/Z 252-2026 大模型一体机技术要求 GB/Z 253-2026 检索增强生成系统技术要求 GA/T 2380 / 2394 / 2395-2026 数据安全专项

常见问题

我们的大模型是买的现成产品,也需要测评吗?

需要看你承担的角色。如果只是使用方,测评重点在接入方式、数据流向、访问控制与内容输出管理;如果是对外提供服务的主体,还要覆盖语料来源、模型来源、生成标识与算法备案等要求。一体机形态还要额外核查硬件接口与管理面。

和我们之前做过的等级保护测评是两回事吗?

不是两回事,是叠加关系。通用等级保护要求仍然适用,人工智能专项要求是新增的测评指标。已经做过等保的系统,通常只需要补充专项部分,不需要从头再来。

你们能直接出等级测评报告吗?

等级测评报告须由具备资质的测评机构出具。我们做的是测评前的合规诊断、差距整改、制度配套与复测配合,帮助系统在正式测评时不因基础问题反复返工。需要时我们可以协助对接测评机构。

提示注入这类测试会不会把系统测坏?

不会。测试在隔离环境与测试账号下进行,不向模型输入真实敏感数据,不执行会造成数据破坏的操作。测试前提供书面测试方案,明确测试范围与回退方式,经你方确认后执行。

2025 版口径变化对我们已完成的测评有影响吗?

取决于测评合同的签署时间。2025 年 3 月 20 日起签署的测评合同适用新版报告模板与新的结论判定规则;此前的报告不需要重做。如现有整改计划仍按百分制表述,复测前需要调整。

先做一次诊断,比先上项目划算

把系统形态、模型来源、现有安全措施告诉我们,先出一份差距清单。青海本地可上门,外地可远程。

0971-6124818 lcl@xnhkdz.com