哪些系统需要做
只要系统里跑着大模型,通用等保要求就覆盖不到它的核心风险面。
政务大模型
政务问答、政策解读、智能客服等面向公众或内部提供生成式服务的系统。通常定级不低于三级。
医疗 / 教育 AI
辅助诊疗、病历生成、智能阅片、教学问答等涉及个人信息的行业应用,数据敏感度高。
知识库问答(RAG)
企业内部文档问答、法规检索、工单辅助。风险集中在知识库越权读取与检索注入。
智能体 / 一体机
可调用工具执行任务的智能体,以及软硬一体交付的私有化大模型设备,还要看管理面与硬件接口。
为什么是现在
三个变化同时发生,不是"以后再说"的事。
判定体系变了
2025 年起等级保护取消百分制打分,改为「符合率 + 重大风险隐患」双轨判定(公网安〔2025〕1001号、1846号、2391号)。符合率高不再等于通过,多项中等风险叠加也可能判重大风险隐患。
人工智能有了专项标准
T/ISEAA 006-2024、GB/T 45654-2025、GB/T 45652-2025、GB/T 45674-2025、GB 45438-2025、GB/Z 242/252/253-2026 等相继实施,语料、训练、推理、内容、数据各环节都有了测评依据。
生成内容必须标识
GB 45438-2025 对人工智能生成合成内容标识提出强制要求。面向公众提供生成式服务而未完成算法备案与安全评估的,本身即构成合规缺口。
测什么:六个专项域
在通用等级保护要求之上,叠加人工智能专项测评。
| 专项域 | 主要风险点 | 测评方式 |
|---|---|---|
| 语料安全 | 训练语料含未脱敏个人信息、来源不可追溯、标注质量与安全无管控 | 语料台账核查、抽样检测、标注流程访谈 |
| 训练安全 | 训练环境与生产环境未隔离、训练数据投毒、算力资源越权 | 网络隔离核查、训练日志审查、权限核查 |
| 模型安全 | 模型文件无完整性校验、来源不可信、模型可被窃取或篡改 | 文件校验、供应链核查、接口测试 |
| 推理服务 | 接口无鉴权或可被任意调用、无频次限制、提示注入与越狱绕过 | 对抗性测试(直接注入、间接注入、多轮绕过、编码绕过)、接口核查 |
| 内容安全 | 违规内容生成、生成内容无标识、内容过滤机制缺失 | 八类风险场景测试、标识核查 |
| 数据安全 | 知识库越权读取、会话数据留存与出境、训练数据与用户数据混用 | 权限测试、留存策略核查、数据流向梳理 |
现场测试用的是成体系的用例,不是临时想几个问题
提示注入覆盖直接注入、间接注入、多轮上下文注入、编码绕过四类形态;越狱覆盖角色扮演、虚构场景、否定式诱导、多语言混合等手法;内容安全按涉政、涉恐暴、色情、虚假信息、歧视、违法违规、侵犯权益、其他八类场景分别验证。
怎么做:五个阶段
从界定对象到出具报告,全过程留痕。
测评准备
确定被测对象与边界,梳理模型资产与数据资产,收集定级备案与制度文档。
方案编制
确定测评指标组合(通用要求 + 人工智能专项),确定访谈、核查、测试的方法配比。
现场测评
逐项访谈、核查配置与日志,执行对抗性测试,逐条记录取证。
结果判定
计算符合率,对照高风险判例与重大风险隐患判定原则,做系统性叠加分析。
整改与复测
按问题、风险、措施、责任、时限五要素出整改清单,整改后复测确认。
交付物
测评记录表、问题清单、重大风险隐患分析、整改建议清单、配套管理制度文件(十类制度模板本地化)、测评报告框架。
服务方式
按你的进度选,可以先从诊断开始。
以上为服务内容说明,具体范围与费用根据系统规模、模型形态、现有安全措施基础确定,可先做诊断再决定后续。
依据的标准与文件
测评指标与方法均有明确出处,不做自创判定。
常见问题
我们的大模型是买的现成产品,也需要测评吗?
需要看你承担的角色。如果只是使用方,测评重点在接入方式、数据流向、访问控制与内容输出管理;如果是对外提供服务的主体,还要覆盖语料来源、模型来源、生成标识与算法备案等要求。一体机形态还要额外核查硬件接口与管理面。
和我们之前做过的等级保护测评是两回事吗?
不是两回事,是叠加关系。通用等级保护要求仍然适用,人工智能专项要求是新增的测评指标。已经做过等保的系统,通常只需要补充专项部分,不需要从头再来。
你们能直接出等级测评报告吗?
等级测评报告须由具备资质的测评机构出具。我们做的是测评前的合规诊断、差距整改、制度配套与复测配合,帮助系统在正式测评时不因基础问题反复返工。需要时我们可以协助对接测评机构。
提示注入这类测试会不会把系统测坏?
不会。测试在隔离环境与测试账号下进行,不向模型输入真实敏感数据,不执行会造成数据破坏的操作。测试前提供书面测试方案,明确测试范围与回退方式,经你方确认后执行。
2025 版口径变化对我们已完成的测评有影响吗?
取决于测评合同的签署时间。2025 年 3 月 20 日起签署的测评合同适用新版报告模板与新的结论判定规则;此前的报告不需要重做。如现有整改计划仍按百分制表述,复测前需要调整。
惠康电子