深圳市南山区数字经济产业协会
Shenzhen Nanshan Digital Economy Industry Association
为深入落实国家网络安全战略,推动大模型系统的安全评估体系建设,提升大模型系统的安全风险防控能力,2024年5月,国家工程研究中心和公安部第三研究所组织开展首批“大模型系统安全能力验证活动”,本次验证依据《大模型系统安全保护要求(T/ISEAA005-2024)》和《大模型系统安全测评要求(T/ISEAA006-2024)》相关要求,面向大模型系统通用安全、大模型全生命周期开展大模型系统安全能力验证。
本次大模型系统安全测评要求非常严格和详细,测评维度包括通用安全(如物理、网络、边界、身份、审计等),以及设计开发安全、测试安全、部署与运行安全、退役安全等大模型生命周期等。最终,奇安信QAX-GPT安全机器人系统与浪潮海若大模型系统、百度文心大模型系统和腾讯混元大模型系统等四个大模型系统,凭借在各维度整体的优秀表现,成为首批获得“大模型系统安全能力评价证书”的产品。
奇安信QAX-GPT安全机器人系统是奇安信自研的安全领域大模型,奇安信QAX-GPT大模型能够接入网络流量检测告警,甄选高价值告警,并提供具体的处置建议。通过安全机器人智能处理,自动生成待办任务,最终与大模型应用框架协同,实现智能研判、调查和任务管理等多种智能化功能,提高客户的安全运营效率。综合其测评结果及能力得分,奇安信QAX-GPT安全机器人系统在通用安全层面和部署与运行安全层面的安全能力表现优秀。