当前位置:商业频道首页 > 财讯 > 正文

雷军、刘德华等人成受害者!最新调查曝光→

从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货,甚至还有不法分子利用AI深度合成视频,进行诈骗。过去一年,AI深度合成音视频侵权现象愈演愈烈。

此前就曾有网友曾利用AI制作的刘德华声音,为自己博取流量,刘德华电影公司还紧急发布声明提醒网民,不要落入伪造刘德华声音的AI语音合成技术骗局。近日记者调查发现,实现AI深度合成音视频并不算难事,甚至在一些购物平台,AI深度合成技术已经成为众多网店牟利的工具,只需花费几十元,就可定制AI深度合成名人音视频。

网络主播直播教学

用开源工具AI深度合成

这些AI深度合成的声音和换脸是如何制作出来的?记者调查发现,相应的深度合成软件在网络上下载并不算难,而且还有一些网络主播会开直播教网友如何使用。

记者在手机应用商城搜索换脸换声,会出现众多工具。不过记者发现换脸工具,设定了固定的场景,且从效果看逼真度不高。那么网店制作的逼真度高的AI深度合成的声音和换脸是如何做到的?

雷军、刘德华等人成受害者!最新调查曝光→

中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧:当前,有很多开源的软件和工具都可以实现换声换脸的效果,供网民自由下载,在自己的电脑上进行安装和使用。

雷军、刘德华等人成受害者!最新调查曝光→

专家表示此类软件目前在网络上有数十种,不过不论换声还是换脸软件,不同的场景需要调整相应的参数,步骤较多,属于半专业软件,有一定的技术门槛,所以不被网民熟知。但是记者发现目前在短视频平台有众多主播在教网民使用相关软件。

未经授权

合成制作他人视频声音属侵权

在网络购物平台使用AI深度合成技术,制作出售名人的音视频,是否触犯相关法律呢?专家表示,相关法律法规明确规定,未经授权,不得深度合成制作发布他人信息。网店接单AI深度合成制作名人视频,已经属于侵权行为,并应该承担相应的法律责任。

中国计算机学会计算机安全专业委员会委员吕延辉:《中华人民共和国民法典》规定,自然人享有肖像、声音等权益,任何组织或个人利用信息技术伪造都是侵权行为。2023年国家网信办、工信部、公安部联合发布出台的《互联网信息服务深度合成管理规定》要求,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法(征求意见稿)》也提出,对AI生成合成内容要进行标识,以便公众识别和区分,防止误导性信息传播。

网店使用AI深度合成技术制作名人的视频,应该承担什么样的法律责任?

雷军、刘德华等人成受害者!最新调查曝光→

北京航空航天大学法学院副教授赵精武:在司法实践中,国内已经审结了首例AI生成声音人格权侵权案。在这个案子里,原告作为配音演员,在没有经过授权的情况下,他的声音被AI生成后对外出售。法院在审理中认为,我国的民法典已经在第四编人格权中,将自然人的声音视为一种人格权益,具有人身专属性。所以,法院最终认定被告的行为构成侵权。

热点推送

本周关注

MORE