(来源:启明星辰集团)

近日,全国网络安全标准化技术委员会(TC260)正式发布《政务大模型应用安全规范》(TC260-004)(以下简称《规范》)。该技术文件由中央网信办指导,国家工业信息安全发展研究中心牵头组织编写,启明星辰集团作为起草单位之一,深度参与规范研制工作,将多年在人工智能安全领域的技术积累与实践经验融入标准内容,为“人工智能+”行动在政务领域的落地提供坚实安全保障。

《规范》系统性地规定了政务大模型在选用、部署、运行、停用全生命周期的安全要求与测试方法,旨在为政府部门、企事业单位采取针对性的安全防护措施、强化大模型应用输入输出安全管控能力建设,提供统一的参考标准和依据。
作为深耕AI安全领域的先行者,启明星辰集团在《规范》研制中,紧扣“全生命周期安全”核心需求,以“AI赋能安全”与“AI应用安全防护”双轮驱动为导向,将其在构建大模型应用全生命周期安全防线中的前沿技术成果与实战经验,转化为标准制定的关键支撑,确保规范兼具技术先进性与实践可操作性。
面对大模型业务应用场景,启明星辰集团“以AI技术对抗AI威胁”的技术路径,从用户访问到模型服务到监管评测等方面,构筑起大模型应用的全闭环、全生命周期安全防线。其中,MAF大模型应用防火墙作为核心大模型安全护栏,提供针对大模型数据安全、模型安全、内容安全、应用安全及多模态内容实时识别、防护拦截及代答;MASB大模型访问安全代理提供基于用户角色的输入输出拦截以及越权提问及回复管控,严格贯彻最小权限原则;政务领域大模型护栏套件(拦截套件、清洗套件)面向训练语料、知识库提供清洗过滤管控以及大模型运行时交互信息提供合规监管管控;MAVAS大模型应用安全评估与加固系统提供对大模型生成内容风险及组件资产脆弱性进行多维度自动化持续安全评估与安全加固管理;MADA Mask大模型访问脱敏罩提供数据脱敏防护能力,实现数据访问控制与敏感信息动态脱敏;MACCW大模型应用内容合成水印系统确保AI生成内容可标识、可追溯。这些产品协同运作,共同精准响应《规范》在数据安全、模型可靠性与内容合规等方面的关键要求。

此次深度参编《政务大模型应用安全规范》,既体现行业对启明星辰集团在AI安全领域技术实力与实践经验的高度认可,也使其将大模型应用安全防护的解决方案理念与实践经验融入国家标准,为各级政务部门及企事业单位筑牢安全根基提供清晰可操作的实施指南。
后续,启明星辰集团将继续积极配合国家网络安全标准化工作,持续优化AI安全产品线与解决方案,携手更多生态伙伴共同推动《规范》落地实施,为构建安全可靠高效的政务人工智能应用生态、支撑我国数字政府建设提供坚实保障。