当前位置:商业频道首页 > 财讯 > 正文

奇安信董事长齐向东:大模型应用密集落地,数据安全市场在多重挑战中静待“引爆”(2)

需要注意的是,据齐向东介绍,在相关产业,接触上述数据的大模型开发工程师、训练微调工程师、模型运维工程师、数据管理员、数据标注员等都拥有很高的数据访问权限,因此权限滥用、身份盗取等情况更难防范,安全风险更为严峻。齐向东直言,对企业来说,一旦精华小数据被窃取、泄露、篡改,企业常年积累的核心竞争力会瞬间崩塌。

第二重挑战是,在企业积极部署落地的同时,大部分大模型都在“裸奔”。据他介绍,大模型在深度融入智慧城市、工控系统、智慧政务等领域时会将风险串联成网,一旦被攻击就是“牵一发动全身”。然而,通过奇安信资产测绘鹰图平台的监测数据,在8971个Ollama大模型服务器中有6449个活跃服务器,其中近九成都在“裸奔”。

“这就导致任何人,不需要任何认证就可随意调用,或是在未经授权的情况下访问服务,甚至可以发送指令删除所部署的DeepSeek、Qwen等大模型文件,进而导致与大模型关联的应用业务中断。”齐向东称。

第三重挑战是用户对AI的过度依赖。“随着人工智能在各行业深入应用,大模型的本领会越来越强,(用户)会对人工智能的辅助决策和判断(能力)过度依赖。从外部攻击视角看,黑客可以通过利用漏洞、数据‘投毒’等方式干扰大模型的决策,披着大模型的外衣作恶。从内部运营视角看,一旦内部员工在更新知识库时引入错误信息,就会污染模型学习环境,使其输出错误结论。”齐向东称。

不过,即便明知大模型有幻觉、长期使用会有依赖,大模型也已经势不可当地进入了千行百业,用户该如何应对这些风险,安全领域的玩家们又该如何“接招”?

《每日经济新闻》记者注意到,与前一轮互联网浪潮时的安全产品略有不同,此次不少公司选择了加码硬件来抵抗风险。以奇安信为例,据齐向东介绍,奇安信推出了大模型安全空间以及奇安天界大模型安全一体机等解决方案。其中,一体机产品可通过一体化交付、一体化运维和一体化管理来满足大模型的安全和合规需求,已在超千家政企客户中成功部署。

热点推送

本周关注

MORE