一文读懂 | AI Agent安全智能体如何引领智能化安全服务新范式

VSole2024-01-29 13:55:45


2022年,ChatGPT的发布引领了大模型应用突破;2023年,“百模大战”开启了AIGC元年。作为大模型落地场景之一,安全行业垂直大模型发展迅速,与此同时,安全大模型的能力边界逐渐显现,“像专家一样运营安全”成为行业对安全大模型的新期待。由此,Agent智能体进入大众视野,在基于大模型的AI Agent赋能下,安全行业迎来了智能主义时代。

 


一、安全大模型发展步入深水区


2023年被称为AIGC元年,大模型浪潮席卷全球,B端产业垂直大模型逐渐成为主战场。据IDC调查显示,网络安全是生成式人工智能影响最大的行业之一,国内外安全厂商积极探索大模型应用,安全大模型百花齐放。


然而,经过一段时间的发展,安全大模型的能力边界逐渐显现。


在功能方面,仅有安全问答、告警解读等单一功能的安全大模型难以解决用户痛点;在认知方面,缺乏海量安全语料库训练的大模型存在知识瓶颈,安全专业能力差强人意;在成本方面,安全大模型训练微调和部署的资源消耗依然较大,中小企业难以承担高昂的投入。 


基于此,安全大模型的推广落地亟需优化升级,Agent智能体进入人们视野。基于大模型的AI Agent展现出自主思考决策和执行安全工具的能力,有望从根本上解决用户痛点问题,由此步入智能主义时代。



二、让大模型像人一样工作,AI Agent开启智能化安全服务新范式


2.1 AI Agent:更独立、更智能的AI应用


Agent智能体是一种能够感知环境、进行决策和执行动作的智能实体。大模型时代的到来加速了AI技术的平民化,也为Agent的突破带来契机,Agent跨入基于大模型的智能体阶段。目前,大部分AI与人类的交互模式,已从工具型AI发展至助理式AI,各类AI副驾不再是机械地完成人类指令,而是可以参与人类工作流,与人类协同工作。而基于大模型的AI Agent则更加独立,可以在一定业务场景中自主调用资源完成任务,人类在其中更多起到监督和评估作用,尽管AI Agent会承担大部分工作量,但人类仍然发挥主导作用。



相较于大模型回答效果与用户指令的强相关,AI Agent只需给定一个目标,即可针对目标独立思考、获取知识、自主研判并做出行动,它会根据给定任务详细拆解计划步骤,并依靠来自外界反馈和专家引导,通过自主思考,自己给自己创建指令,来实现目标。


2.2 安全Agent:自动化运营核心驱动力


智能体可以拆分为大模型、规划、记忆与工具使用四个组件部分。大模型是能够理解任务并进行决策的“大脑”;规划模块则负责分解任务、制定行动计划,以及检查、监督和改进计划;记忆模块负责存储上下文信息、专家知识、用户干预信息等,确保任务执行过程中前后目标一致;工具使用模块则是智能体的“双手”,能利用外部资源或工具执行任务。


随着大模型展现出上下文学习、推理和思考链等多种类似于人类思考方式的能力,以安全大模型为核心的安全智能体,使解决垂直领域复杂问题、实现自然语言交互任务成为可能。安全智能体综合利用大模型的生成能力和专家的经验,灵活自适应地编排任务方案,实现对安全工具的调用,从而形成智能化运营的能力


相较于简单的AI工具,AI智能体具有更广泛的应用、更灵活的交互以及更强大的能力,使其更全面的满足用户需求并适应不断变化的环境,帮助用户从日常任务和重复劳动中解放出来。同时,通过训练的安全垂直类的智能体可以实现低成本规模化复制,其独立分析、计划和解决问题的优势,进一步降低技术门槛,真正帮助用户提升安全能力、提高运营效率。


2.3智能化安全服务开启数字安全新范式


在基于智能体的智能系统中,人类负责设定目标、提供资源和监督结果;智能体负责完成任务拆分、工具选择和进度控制,智能体和各类工具的调用组合,可以实现场景自动化能力。


在安全领域,安全智能体+安全工具的组合形成基于智能体的自动化安全运营服务,正式开启“智能主义”的数字安全新范式。其中,安全智能体负责规划分解、任务执行、工具调用、记忆增强等工作;安全工具负责漏洞扫描、样本检测、流量分析等具体功能的实现。两者构成了一个有机的整体,随着智能体水平的不断提升和安全工具的持续扩充,整个系统的安全能力不断提高。


对于安全智能体来说,大量高质量的安全数据、样本、特征等数据语料喂养的安全大模型,是智能体产出正确安全知识的基础,基于大模型,智能体对任务进行分解和规划,并通过反思和自省不断优化提升;其次,拥有广泛实战对抗能力的专家对智能体的干预和引导,则帮助智能体优化编排剧本,持续提升处置能力;第三,将实战经验沉淀的丰富的技战术知识图谱与大模型相结合,可以帮助智能体确保解决已知安全问题的精度;最后,智能体与大模型最大区别在于能够使用外部工具拓展模型能力,所以,丰富优质的安全工具是帮助智能体体系化解决复杂安全问题的关键



三、未来已来,360安全智能体引领安全跨时代


3.1 从安全大模型到安全智能体的跃进


2023年6月,360发布认知型通用大模型360智脑4.0,并宣布360智脑已接入360旗下产品全家桶;8月,360发布国内首个可交付的安全行业大模型——360安全大模型。


2024年,《仅需一分钟,360安全智能体完成了智能化APT猎杀》使360安全智能体进入大众视野:某金融单位疑似遭到APT组织攻击,几乎同一时间,安全运营人员就收到了来自360安全智能体的告警信息和包含攻击溯源、受害资产等内容的完整分析报告。


360安全智能体,是基于360安全智脑大模型的智能体系统,能提供目标理解、逻辑推理、效果评估和知识记忆等能力,支持连接、配置、驱动、协同各类安全工具产品,显著提升单个产品和系统整体的安全能力。至此,360率先完成从安全大模型到安全智能体的跃进。


3.2 360安全智能体:引领智能化安全服务


360安全智能体以360安全智脑大模型为核心,以任务编排引擎、任务生成引擎、监督评测引擎、指令调度引擎、记忆存储、执行反馈等为组件,综合利用360安全智脑大模型的生成能力和专家经验,灵活自适应地编排任务方案,实现对安全工具的准确调用,从而形成智能化安全运营的能力。


提及影响安全智能体的“数据、专家、工具”三大要素,360已沉淀多年,久经市场考验。展开来说:首先,360积累了全球规模最大的安全大数据、最广泛的样本、最丰富的威胁行为特征,并将这些数据、样本、特征训练到大模型中,使得360安全智能体具有先天的安全基因优势;其次,360安全专家拥有近20年攻防实战经验,沉淀形成攻防技战术图谱,一方面内化为安全大模型的能力,另一方面储存至安全智能体记忆模块,持续增强安全智能体编排能力;最后,基于360深耕安全垂类场景,360安全智能体可以适配、控制、协作各类型安全工具,体系化地解决复杂安全运营问题。

 

3.3 小切口、大纵深,安全智能体稳步向前


大模型步入深水区,安全智能体的发展道阻且长。为此,360立足“小切口、大纵深”方法论,以“安全场景适用度”为指标依据,构造适合大模型特性的高价值安全场景,推进安全智能体的落地应用。


目前,360安全智能体已经突破了自动化威胁狩猎、自动化安全运营等场景的各难点步骤,实现了场景自动化。运营人员负责设定目标、提供资源和监督结果,安全智能体完成任务拆分、工具选择和进度控制等,把执行结果返回给运营人员,安全技术门槛进一步降低,真正实现安全能力的提升和运营效率的提高。


人工智能发展路上,智能体崭露头角。360安全智能体引领安全跨进智能时代,360探索数字安全的脚步从未停止,时间将是最好的答案。




人工智能范式
本作品采用《CC 协议》,转载必须注明作者和本文链接
人工智能的2024年
2024-01-02 14:09:39
步入2024年,人工智能的未来展现出前所未有的潜力。生成式人工智能时代超越了语言界限,拥抱多模式功能,重新定义了创新格局。由先进AI模型提供支持的AIOps和自主运营正在重塑组织管理IT基础设施的方式。生成式人工智能与特定行业的人工智能战略之间的共生关系,意味着一种全面利用人工智能全部潜力的方法。
人工智能技术是释放数字化叠加倍增效应、加快战略新兴产业发展、构筑综合竞争优势的必然选择。纵观全球,国内外人工智能相关不断强化,持续推动释放人工智能红利;以深度学习为代表的人工智能技术飞速发展,新技术开始探索落地应用;工程化能力不断增强,在医疗、制造、自动驾驶等领域的应用持续深入;可信人工智能技术引起社会广泛关注。人工智能治理受到全球高度关注,各国规制进程不断加速,基于可信人工智能的产业实践不断深入
人工智能密码学”为观察人工智能与密码系统的互动、影响提供新视角,也为当下后量子密码技术探索提供新方案,无疑是一个值得探究的新方向。
但AI在缓解这些不断增长的暴露方面,发挥了重要作用。然而,部署AI提高网络安全工作,并不意味着没有挑战。虽然前景诱人,在网络环境中实施AI有其自身的风险。本报告探讨了AI和网络安全重叠部分的认知。在处理现代网络安全挑战的复杂性方面,AI被寄予厚望。使用当前和新兴的威胁情报,AI能实现事件检测自动化。Newman认为,AI主要在三个领域能带来网络安全风险。
在大模型的落地过程中,业界人士逐步意识到,大模型的价值不仅在于本身的强大智慧,更在于与各行业、各企业具体业务场景的紧密结合。将大模型能力通用化、产业化和垂直化,并深度融入不同行业场景的实际需求中,是提升大模型应用效果的关键所在。
与此同时,生成式人工智能被滥用带来的数据泄露、虚假信息等风险挑战也纷至沓来,各国陆续推出或完善针对生成式人工智能的监管方案。从这些要求看,《办法》基本涵盖了生成式人工智能服务在应用过程中可能暴露出来的安全及伦理问题。三是在模型输出信息出现违法内容时,要求提供者采取模型优化训练等措施进行整改,体现了《办法》与生成式人工智能技术特点及关键环节的高度适应。
2022年1月14日,中国信息通信研究院云计算与大数据研究所主办的“2021年可信AI成果发布会”通过线上方式召开。目前该标准正在中国通信标准化协会以行标报批状态、在中国人工智能产业发展联盟以团标发布状态同步推进中。截至2022年1月,人工智能开发平台共开展了两轮功能评测,评测主要依托《人工智能开发平台系统功能要求》标准进行。测试观察5人工智能开发平台正在成为大规模AI应用的基础设施。
2022年8月16日,在“2022可信AI峰会”上,中国信息通信研究院云计算与大数据研究所所长何宝宏正式发布并解读了“2022 人工智能十大关键词”。在应用方面,生成式AI既是生产要素,也是生产工具。AI新基建主要包括数据基础设施、算力基础设施和AI软件设施。因此,AI软件设施在近两年成为产业焦点,AI开源框架生态、预训练大模型体系、AI软件平台生态等内
编者按 2021年,全球范围内对于人工智能的监管已经开始从理论探讨走向实际的立法和执法阶段,标志性的事件就是欧盟提出了《欧洲议会和理事会关于制定人工智能统一规则(《人工智能法》)和修正某些欧盟立法的条例》的提案,以及我国国家互联网信息办公室发布的《互联网信息服务算法推荐管理规定》。
在互联网尚未普及的时代,机构唯一需要担心的就是内网中员工使用的办公电脑。而现在,远不只是在写字楼,员工会在机场、咖啡店、酒店办公,由于疫情时代,居家办公更是常态。 与在公司内网上对终端进行保护相比,居家办公的终端面临的威胁完全不一样。恶意软件泛滥的游戏设备、连接互联网的电视、音箱、摄像头……这些智能设备的软件可能上一次更新是在几年前,都与你的办公电脑处在同一个局域网。
VSole
网络安全专家