当前位置:商业频道首页 > 财讯 > 正文

1.5万平方米展区,外滩大会规模创新高,AI开始进入千家万户(3)

在数科Deepfake展台前,参观者正跃跃欲试,想要体验AI换脸技术如何被识破。Deepfake技术基于深度学习算法,能够从大量视频和图像数据中学习,伪造出逼真的面部动画和语音,不仅增加了公众识别视频真伪的难度,也滋生了诈骗等违法犯罪活动的风险。

一位参观者上传自己的照片,通过AI换脸合成虚假人脸视频,然后尝试使用合成视频进行刷脸验证。系统准确识别出这是AI合成视频,并阻止了风险操作。这场“伪造与鉴伪”的技术博弈,正是当前AI安全领域的前沿战场。

ZOLOZ作为蚂蚁数科的安全科技品牌,搭建了端云一体的技术体系,对摄像头状态、设备及网络环境、输入图像等进行严格审查。现场工作人员介绍,ZOLOZ通过GAN模型生成超过30万个测试样本并进行判别训练,每月还进行超过2万次的攻防测评,模拟上百种伪造攻击情况,以保持技术的领先性。

在蚂蚁蚁天鉴展台,人们可以看到一套完整的大模型安全解决方案。包括大模型基础设施测评、智能体安全扫描、MCP安全扫描、AIGC滥用检测、证照伪造检测、智能体零信任防御等技术链条,为行业AI应用提供全方位智能化的安全扫描和防御。

业内专家指出,随着大模型应用的普及,模型安全已经成为一个不容忽视的问题。从训练数据投毒到提示词注入攻击,从模型提取到成员推理攻击,大模型面临的安全威胁日益复杂化、多样化。

在AI事实核查领域,蚂蚁在本届外滩大会上首发了factcheck产品“支真假”。这是蚂蚁安全实验室推出的一款面向公众的AI事实核查智能体,专注于健康领域的谣言辨识与科学解释。

用户只需输入文字问题或上传截图,“支真假”便可自动识别图片文字内容,锁定关键信息点,调用高信誉度信息源进行交叉验证。现场观众输入“多走路能降血糖吗?”或“虾和橙子一起吃会中毒吗?”等问题,可以实时看到AI的检索与判断过程。

热点推送

本周关注

MORE