第一经济网欢迎您!
当前位置:首页>聚焦 > 滚动 > 正文内容

AI小作文 环球今头条

计算机行业专题AI+安全投资机遇


【资料图】

安全+AI大模型有望变革网络安全行业,成为安全建设新范式。

伴随ChatGPT的持续火热,大模型技术开始逐步应用于各个领域,其中大模型技术在网络安全领域具有广阔的应用前景。3月,微软发布由AI赋能的安全分析工具——Microsoft Security Copilot,结合OpenAI大模型与微软安全模型,大幅提升安全事件响应效率。此外,深服在国内率先展示安全GPT应用,基于“大模型算法+威胁情报+安全知识”训练而成,具有自主可控、数据不出境等特性。我们认为,AI技术将推动网络安全产业迎来重要变革,网络安全厂商将以自然语言交互方式提供安全能力,可以实现对网络安全威胁分析和响应的更加主动与智能化,将推动网络安全建设迎来新范式,同时AI技术也将促进网络安全产品和服务的创新和发展,激发政企机构对于安全技术的投入意愿与力度。

生成式AI应用带来潜在的数据安全等问题,内容监管逐步提上日程。

AI大模型在训练、推理过程中涉及用户数据调用,部分案例表明ChatGPT或导致企业机密、个人隐私泄露等问题。以意大利、加拿大为代表的多国政府、隐私保护机构开始关注ChatGPT相关的数据安全问题,三星电子、苹果公司等公司也限制员工在工作场景使用ChatGPT。与此同时,由于AI大模型在生成内容上的概率统计原理,其内容可靠性可能存在问题,AI生成的内容也可能反映社会上的偏见或成见,或被用于诈骗等网络犯罪相关活动,如虚假息制造、欺诈行为等。因此,围绕生成式AI潜在的数据安全及生成内容如何被合理使用引发市场关注,催生相关的安全需求。我们认为,应结合数据采集、传输、存储等全生命周期,通过加密、数据水印等技术手段保护用户隐私数据,并且对AI生成内容进行标记,同时利用鉴别技术对AI生成内容的可靠性及传播链路进行把关。

投资策略关注三类安全厂商。

一方面,AI技术带来的效率提升有望激发政企对新兴技术的购买意愿;另一方面,生成式AI带动外界对数据安全问题的关注,包括大模型训练、调优所使用数据的安全问题,以及大模型生成内容的可靠性、使用方式。推荐1)数据安全解决方案提供厂商;2)内容监管能力提供厂商;3)密码技术提供厂商。

风险提示

大模型开发进展不及预期;大模型结合网络安全技术进度不及预期;AI生成内容遭到滥用;监管政策落地进度不及预期;市场竞争进一步加剧;行业需求不及预期。

5月18日,深服安全GPT首秀,未来将持续投入AI大模型研发。深服在安全领域应用GPT技术具备天然优势1)拥有大量的算法、安全、调优算力人才;2)对威胁情报和攻防技术拥有深刻理解。深服安全GPT由“大模型算法+威胁情报+安全知识”训练而成,具有检测效果好、专业性强、可个性化配置、迭代快速等特点,大幅提升对流量和日志的安全检测效果,可自动分析用户安全现状并生成处置建议,自动化调查、分析、研判以提升安全运营效率,自然语言交互以提高用户体验。此外,深服安全GPT不依赖开源模型服务,做到完全自主可控,且训练数据部署在深服托管云上,本土采集的安全大数据不出境,在合规前提下实施匿名化和去标识化,以坚持网络安全和数据安全底线。

美亚柏科推出AIGC检测平台,对生成式AI产生内容进行检测识别和鉴定。在AI监管产品方面,美亚柏科发布了AI-3300“慧眼”视频图像鉴真工作站,可以对深度合成伪造的视频图像、AIGC生成视频图像进行监测鉴定。AI-3300“慧眼”视频图像鉴真工作站涵盖40余种视频图像真伪鉴定算法,近10种深伪鉴定算法,同时具有智能鉴定和专业鉴定两种鉴定模式,支持卷宗管理和三种鉴定文书生成,为司法鉴定人员提供一站式视频图像检验鉴定服务。

奇安表示将基于ChatGPT相关技术和自身积累的海量安全数据,训练专有的类从chatGPT安全大模型;安恒息已将类ChatGPT的AI算法与数据分类分级、告警处置分析等多安全场景相结合;三六零已将国内领先的安全大数据及安全专家能力赋能360安全AI。

关键词:

标签阅读