人为智能安全2023年度总结及2024年瞻望

颁布功夫 2024-01-09

科技海潮滔滔向前，，，2023年人为智能（Artificial Intelligence,简称AI）飞速发展，，，从图像鉴别到天然说话处置，，，从智能制作到智慧医疗，，，AI的触角已延长至社会出产生涯的方方面面。。。


随着AI的宽泛利用，，，其安全性、、隐衷�；ぜ奥桌砦侍庖仓鸩酵瓜�。。。这一年，，，我们见证了诸多关于AI安全的政策出台及钻研成就颁布，，，从数据安全到算法平正性，，，从隐衷�；さ紸I伦理，，，安全问题已贯通于AI发展的全链条。。。


在这岁末岁首之际，，，我们将对从前一年火热的人为智能在安全领域的进展进行简要回首，，，并对新一年的人为智能安全发展趋向进行预测。。。等待可能更好地平衡人为智能技术的发展与安全风险，，，共同构建一个越发安全、、可信任的AI未来世界。。。



人为智能安全2023年度总结



1、、大模型成为安全行业关注焦点，，，安全企业纷纷推出基于大模型的安全利用


2022岁暮ChatGPT的横空出世，，，彻底引发了大模型热潮。。。


据统计截至2023年11月29日，，，国内已颁布10亿参数规模以上的大模型254个，，，并涌现出以ChatGLM、、Baichuan等为代表的可免费贸易授权的开源大模型，，，极大降低了大模型的商用门槛。。。


持久以来，，，安全行业面对告警数据量大、、事务分析措置严重依赖专业安全人员经验等挑战，，，而大模型阐发出的通用人为智能个性正是应对挑战的梦想解决规划，，，从而引发了安全行业的高度关注。。。


这波安全大模型海潮中，，，工业界走在了学术界的前面，，，国内外互联网公司和安全企业纷纷颁布了基于大模型的安全利用，，，学术界在这一领域的声音并不凸起。。。


2、、智能助手成为主流的安全大模型利用状态


当前颁布了安全大模型的厂商，，，在产品状态上多数选取了智能助手的大局，，，即通过在对话窗口中进行天然说话交互，，，提供告警解读、、调查取证、、措置建议等方面的能力。。。


这重要是利用了大模型所具备的语义理解、、世界知识和思想链的能力，，，使得利用可能理解安全人员的问题，，，并通过与本地数据的交互，，，产生有关问题的答案。。。


3、、传统机械学习模型依然在特定安全场景中阐扬作用


固然大模型持续火爆，，，但这并不料味着大模型可能解决所有的安全分析问题。。。


当前的大模型是“大说话模型”的简称，，，这个名字自身就说了然大模型性质上还是说话模型，，，不合用于所有的工作。。。一些特定的安全分析场景，，，如基于行为特点鉴别加密通讯上所承载的利用、、基于终端实体间接见关系鉴别恶意过程等，，，很难通过说话模型的大局进行问题抽象，，，更适合用经典的行为序列分析、、图结构分析等算法进行处置。。。


“尺有所短，，，寸有所长”，，，一些专用的小模型依然在特定安全场景中阐扬关键作用。。。


4、、 大模型利用场景中的数据安全问题引刊行业关注


新兴技术往往具备“双刃�！！！毙вΓ�，，大模型也不例外。。。


固然大模型在多个利用领域中展示出可能大幅提升工作效能的巨大潜力，，，但媒体也不断爆出韩国三星因员工使用chatGPT泄露贸易奥秘、、意大利因隐衷�；の侍獬晌蚴赘鼋胏hatGPT的国度等新闻。。。


要想让大模型成为出产力工具而不仅仅是玩具，，，就必必要让大模型可能接见到工作内容。。。而工作内容中又不成预防存在贸易奥秘或隐衷数据，，，这似乎是一个两难的困境。。。



当前人为智能安全利用中存在的问题



1、、受算力问题困扰，，，安全大模型在企业级用户难部署


大模型的训练和推理必要较多的算力资源。。。


一些企业级用户在选取大模型规划时，，，由于数据安全问题无法使用公有云的算力，，，更偏差执行大模型的私有化部署。。。


但受限于国外对我们在高端芯片领域的出口管束，，，这些企业往往无法采购到满足自身需要的显卡资源，，，无法充分享受大模型的盈利。。。


2、、 大模型不足与安全环境的交互接口，，，限度了大模型能力阐扬


若是大模型不能与用户本地环境交互，，，只能以助手的方式进行安全知识问答，，，那么大模型在安全分析和运交易务中可能阐扬的作用就大打折扣了。。。


要想让安全大模型像一名真正的安全专家，，，直接或辅助实现安全数据分析、、安全战术下发、、安全设备管控等操作，，，就要买通大模型与安全数据和安全设备的交互接口。。。


当前多样化的安全数据状态、、复杂的安全设备系统，，，使得安全大模型很难全面对接，，，限度了安全大模型在整个安全业务流程中阐扬更大的价值。。。



人为智能安全2024年瞻望


   

1、、大模型利用的门槛进一步降低，，，更多安全企业和用户在产品规划当选取安全大模型


随着大模型技术及生态的进一步成熟，，，大模型训练、、优化、、部署的技术门槛进一步降低。。。数据身分市场化的推动，，，也为基于高质量语料库进行大模型优化提供了新通道。。。


这使得不足专业技术人员、、垂直领域数据堆集的用户，，，也有可能通过市场化伎俩逾越技术和数据的壁垒，，，从而让更多的用户在安全建设当选择基于安全大模型的产品或解决规划。。。


2、、巨细模型协同的齐全解决规划更受安全行业青睐

   

安全厂商在解决完大模型的有无问题之后，，，下一步要关注的就是若何让安全大模型在现实业务中阐扬更大价值。。。


如前所述，，，大模型不能解决所有的安全问题，，，面向特定业务场景的专用小模型仍阐扬着重要作用。。。


若何基于具体的业务场景，，，打造巨细模型协同的解决规划，，，并可能基于使用过程中沉淀的数据持续对巨细模型的能力进行优化，，，会成为大模型利用落地过程中重点思考的环节。。。


3、、国产化代替成为安全大模型落地的重要保险

  

随着国外芯片管束对我国的进一步升级，，，依附国外算力资源发展国内大模型技术的路线执行难题，，，这也给了国内芯片行业巨大的发展空间。。。


陪伴着国内昇腾、、海光等GPU显卡的颁布，，，以及配套的软件开产生态逐步美满，，，越来越多的大模型利用将会基于国产化算力资源部署，，，这也为安全大模型的落地利用提供了重要保险。。。


4、、面向安全行业的多模态大模型


当前主流的大模型多数是“大说话模型”，，，或者在训练过程当选取了音视频、、图片等模态数据的多模态大模型。。。


安全领域在业务中也会用到多模态数据，，，只是这里的“多模态”，，，与主流人为智能领域的“多模态”有性质差距，，，安全领域的“多模态”是指剧本、、源代码、、二进制文件、、流量、、系统日志等分歧状态的安全数据。。。


在安全检测和分析中，，，必要处置各类模态的安全数据；大模型也只有可能理解这些模态的安全数据，，，能力不借助外部工具解决复杂的安全问题。。。


截至文本成稿时，，，我们关注到清华大学颁布了全球首个机械说话大模型MLM，，，我们预测将来会有更多的面向安全行业的多模态大模型面世。。。


5、、大模型利用中的数据安全问题解决规划逐步美满

   

数据安全问题是使用大模型、、尤其是云端大模型服务时绕不开的话题。。。仅仅凭借大模型服务提供商的一纸申明，，，无法彻底撤销用户的安全顾虑。。。


相信随着大模型利用的遍及，，，通过对大模型的输入和输出进行数据安全检测预防敏感数据泄露，，，或者通过密态推算、、多方安全推算等技术伎俩解决用户的隐衷�；の侍猓�，，会逐步成为大模型利用配套的数据安全解决规划。。。