欢迎访问深圳市南山区数字经济产业协会!

深圳市南山区数字经济产业协会

Shenzhen Nanshan Digital Economy Industry Association

【会员动态】首批、唯一网安企业!奇安信QAX-GPT安全机器人获公安部三所大模型安全认证
来源: | 作者:数字媒体人 | 发布时间: 2024-11-11 | 232 次浏览 | 分享到:
11月6日,公安部网络安全等级保护评估中心(简称:等保中心)对外发布了首批大模型系统安全能力验证结果。奇安信QAX-GPT安全机器人系统和浪潮、百度、腾讯等四家大模型系统率先通过测评,成为首批获得安全测评报告及“大模型系统安全能力评价证书”的企业,同时也是唯一一家通过此项测评的网络安全企业。

近年来,以ChatGPT为代表的大模型快速崛起,推动了AI技术应用的大爆发,其展现出来的能力和效果震惊世界。然而,AI与大模型本身带来了数据安全、模型安全,以及内容安全、AI伦理问题等各类风险点,业内对潜在影响的研究与重视程度仍远远不足。全球知名应用安全组织OWASP发布了大模型应用的十大安全风险,包括提示注入、数据泄漏、沙箱不足和未经授权的代码执行等。这些风险给大模型系统的行业应用埋下了不可忽视的安全隐患。

为深入落实国家网络安全战略,推动大模型系统的安全评估体系建设,提升大模型系统的安全风险防控能力,2024年5月,国家工程研究中心和公安部第三研究所组织开展首批“大模型系统安全能力验证活动”,本次验证依据《大模型系统安全保护要求(T/ISEAA005-2024)》和《大模型系统安全测评要求(T/ISEAA006-2024)》相关要求,面向大模型系统通用安全、大模型全生命周期开展大模型系统安全能力验证。

本次大模型系统安全测评要求非常严格和详细,测评维度包括通用安全(如物理、网络、边界、身份、审计等),以及设计开发安全、测试安全、部署与运行安全、退役安全等大模型生命周期等。最终,奇安信QAX-GPT安全机器人系统与浪潮海若大模型系统、百度文心大模型系统和腾讯混元大模型系统等四个大模型系统,凭借在各维度整体的优秀表现,成为首批获得“大模型系统安全能力评价证书”的产品

奇安信QAX-GPT安全机器人系统是奇安信自研的安全领域大模型,奇安信QAX-GPT大模型能够接入网络流量检测告警,甄选高价值告警,并提供具体的处置建议。通过安全机器人智能处理,自动生成待办任务,最终与大模型应用框架协同,实现智能研判、调查和任务管理等多种智能化功能,提高客户的安全运营效率。综合其测评结果及能力得分,奇安信QAX-GPT安全机器人系统在通用安全层面和部署与运行安全层面的安全能力表现优秀。

等级保护中心表示,通过对参与“大模型系统安全能力验证”的大模型系统开展安全评估工作,验证了大模型系统现阶段安全保护措施的有效性,发现大模型新技术新应用所存在的安全问题,通过测试评估、安全整改等闭环流程促进大模型系统提升其安全保护能力和水平,助力各类企业和机构优化大模型的安全应用。

截至目前,QAX-GPT安全机器人系统凭借优秀的表现,在多个权威机构屡获殊荣。不久前,在中国电子信息产业发展研究院、中国软件评测中心(工业和信息化部软件与集成电路促进中心)主办的2024年数据安全关键技术研究及产业应用成果评价大会上,“QAX-GPT安全机器人系统”荣获“2024年大模型安全实践优秀案例”。今年4月,QAX-GPT安全机器人获评国内首批“大模型安全评定证书”,被认定符合二级评定资格要求,这也是迄今为止大模型安全服务能力的最高级别认证,处于业界领先水平。

作为唯一一家网络安全企业,奇安信QAX-GPT安全机器人首批获得公安部三所大模型安全认证,势必将为推动大模型产业健康发展、共建大模型系统安全生态等贡献更多力量。