im电竞
安全系统零部件
名称:360发布安全大模型30 大模型迈入“实战”阶段
发布时间:2024-05-18 01:33:40 来源:IM电竞官网注册 作者:im电竞平台官网



说明:

  年初,360集团创始人周鸿祎表示,在许多垂直领域,其实不需要千亿规模的大模型,百亿大模型足够赋能百行千业,中国发展大模型的一个重要方向应该是借助产业和场景的优势,将大模型与业务流程、产品功能相结合,寻求多场景应用、垂直化和产业化的落地。

  360集团首席科学家兼360数字安全集团CTO潘剑锋表示,去年8月,360发布了安全大模型1.0版本,当时提供了安全问答、安全副驾驶等功能,引入了智控系统来对接外部的安全产品及安全工具;后来到了2.0阶段,360又大幅改进了安全智能体。

  “而这次3.0版本,我们参考了人类大脑的运行逻辑,实际应用中,在多个专业任务效果上已经超过GPT-4”。潘剑锋说道。

  在安全行业,存在很多问题至今都没有很好的解决思路,比如产品协同困难、安全能力不足、运营效率低下、安全人才稀缺等。

  而大模型技术的出现,为解决这些问题带来了转机。不过,潘剑锋指出,有些安全企业的尝试是在通用大模型上微调一些私有的安全预料,这样做的结果可能在很多场景还不如“通用大模型+专用提示词+RAG”的方式。

  这带来的一个实际问题是,大模型在应用中的价值并不高。然而,大模型目前的部署成本又很高,所以要想真正落地,就需要大模型在一些以前其他技术做不到或者很难做到的高价值场景发挥作用。

  基于此,潘剑锋提出,安全大模型需要走一条新的道路,也就是需要一套全新的作战方法。而360根据过往经验,总结了一套安全大模型的核心战法,主要包括四点,分别是数据制胜、小切口大纵深、类脑分区协同(CoE)和工具增强(TAG)。

  具体而言,数据制胜,是指为训练出高水平的安全大模型,需要有高质量的安全专业数据和事件数据作为语料,并配合专业的技术手段进行训练;小切口大纵深,是指将复杂的安全任务拆分成多个场景,瞄准传统方法无法聚焦的小场景做小切口,做深做透;

  类脑协同分区,则是在大模型设计上,采用类脑分区协同(CoE)设计,以多个类脑分区协同工作,解决高难度安全问题;工具增强(TAG),是指以安全智能体为基础,通过调度各种安全产品与工具,为大模型提供纠错反馈机制,持续增强大模型安全能力。

  潘剑锋向记者表示,360安全大模型3.0框架在构建时充分参考人类大脑的运行逻辑,基于数据、专业知识、算力优势等,训练出了语言、规划、判别、道德、记忆五大功能中枢。

  其中,语言中枢实现语言翻译、文本摘要、意图识别能力;规划中枢实现程序生成、方案规划、目标拆解能力;判别中枢实现信息抽取、逻辑推理、是非判断、研判检测能力;道德中枢实现情感分析、道德法律能力;记忆中枢实现信息记忆能力。

  此外,基于类脑分区协同设计的安全大模型框架,不仅可以解决任务冲突问题,达到多任务最优性能,而且实现了能力突破,在多个专业任务效果上超过了GPT4。

  目前,360安全大模型已经在很多场景中得到应用。360数字安全集团安全大脑负责人余凯告诉记者,360信息运营部通过使用大模型赋能本地安全大脑平台和探针的产品体系,使得告警检测、态势监测、分析研判、自动化处置、威胁狩猎、剧本编排、分析报表等日常运营工作都完成了自动化重塑,且获得了相当不错的成果。

  余凯还列举了几个数据,比如安全大模型对于安全告警的平均分析准确度已经达到85%以上;而在进行安全事件的复盘总结时,安全大模型则可以提升运营人员300%以上的效率。

  “尤其是针对网络侧的报文,终端侧、主机侧的进程进行解读的能力,安全大模型更达到了终极安全专家的水平。这就大大解决了安全运营最常碰到的安全告警多,专家人工研判分析时间长、成本高等安全运营中的核心痛点问题”。余凯表示。

  除了内部应用, 360数字安全集团副总裁张锦章告诉记者,360安全大模型从去年开始就已经在服务外部客户。目前客户主要聚焦在四个类型,分别是金融行业、政府部门、央企和在华的外企。

  张锦章表示,安全大模型在安全领域最后能够胜出的决定性因素肯定是场景,而不是大模型本身,拥有场景的公司才能在未来大模型产业中占据领先地位。


im电竞
im电竞官网注册_im电竞平台官网 版权所有  沪icp备12037774号-14