当前位置:商业频道首页 > 头条推荐 > 正文

Sora震撼来袭,AI动画以假乱真了吗?专家:仍存硬伤(2)

中国人工智能产业联盟安全治理委员会专委会副主委、浙江大学教授潘恩荣认为,生成式AI从文本到图像再到视频,是一个快速发展的过程。从目前Sora官方所发布的样片来看,其强大的图像视频生成能力在某种程度上确实能达到以假乱真的效果。虽然客观实践并不会因人工智能变得虚幻,但是人的认知发生了改变。

“可以认为我们改变了一些传统的观念,比方说‘眼见为实’。”潘恩荣告诉南都记者,这也会带来社会生活的一系列问题,例如视频证据要如何举证,如何证明视频证据的有效性等。“所以从人的认知的角度来讲,这个‘真实’就不存在了。”

Sora问世前,已经出现过多起不法分子利用AI技术伪造视频诈骗的事件。今年年初,有诈骗分子用AI假造香港特首李家超和马斯克的视频向香港市民推介一项投资计划。为此,1月24日香港特区政府紧急发布新闻公告,严正澄清。去年2月,浙江省一派出所接到报案。诈骗分子截取陈先生好友“阿诚”在社交平台已发布的视频,利用“AI换脸”技术,用合成的新视频假冒好友与陈先生聊天,从而实施诈骗。

Sora如果实现大规模推广,将大大降低普通人利用AI合成高质量视频的难度。据中国科学院信息工程研究所正高级工程师韩冀中介绍,Sora应用的技术与此前的深度伪造技术相互承接,又有所不同。深度伪造技术引起公众注意是从2018年开始的,当时的人脸“换脸”技术主要是基于GAN(生成式对抗网络)。后来,Transformer和扩散模型被成功用在文本生成图片和语音生成任务中,出现很多开源软件及成熟的工具平台。普通人简单学习之后就可以很快掌握并生成多媒体,比如让“孙燕姿”唱歌、“郭德纲”说英文等,技术的进步大大降低了普通大众进行自媒体创作的门槛。

热点推送

本周关注

MORE