作 者丨肖潇 王俊

编 辑丨王俊

图 源丨AI

直播带货公司“三只羊”的风云又起。

一段疑似集团创始人卢文庆醉酒后的音频流出，音频说到客服投诉、竞争对手和三位女主播联系，一时引发了很多评论。

9月26日，安徽合肥市公安局高新分局承认，相关网传音频为AI假造，在犯罪嫌疑人（男，25岁）的电脑、手机和制造AI音频的网站中发现了假造相关音视频的依据，并经部、省专业组织查验判定。现在犯罪嫌疑人被依法采纳刑事强制方法。

27日清晨，深圳言域科技有限公司发文称，三只羊事情运用的是“Reecho睿声”大模型，由卢文庆30秒的直播片段克隆生成，现在在加强安全管控方法。

一石再激千层浪。

传神的口气、脏话、安徽口音让许多人不行相信音频为AI生成，而这家好像“名不经传”的公司则错综复杂——上一年12月树立，注册资本100万元，面向C端的产品能够瞬时克隆声线，声响商场中现已有刘亦菲、杨幂等人物能够加进“购物车”……

AI声响克隆开展到哪一步了，是不是普通人就能随意完结“以假乱真”？AI内容的标识方法行将出台，这次深度假造事情又意味着哪些法令应战？

“没有哪个产品敢为所欲为克隆人声”

天眼查数据显现，深圳言域科技有限公司在上一年12月刚刚树立，注册资本100万元。产品官网显现，商业伙伴现已有Keep、央视网等。

21世纪经济报导记者实测了旗下To C产品“Reecho睿声”，克隆声响的流程十分简略：首要上传一段音频文件，作为练习资料；随后AI主动学习这段音频，生成一个克隆人物；最终就能够输入文本，用克隆人物的声响念出任何内容。

简略来说，这是一套不必十分钟能够完结个性化定制的文生音模型。假如是“瞬时克隆”，用户只需求上传5～8秒的声响样本；假如是精度更高的“专业克隆”，需求1分钟～60分钟的练习资料。

专业克隆的本钱门槛不高，198元就能够定制一个人物，千元出面能定制6个人物。

但这套技能和产品形式或许要打上一个问号。

AI技能博主数字生命卡兹克在文章中剖析，现在的声响克隆技能首要有两种：一种叫TTS（Text-to-speech），即文生音。只需求几十秒的资料练习AI模型，再让大模型念出指定文本。长处是本钱低、时刻快，而缺陷是心情、中止、口气都不行传神。

另一种为SVC，也能够理解为AI变声。区别是并非把文本简略转为音频，而是需求真人先录制一段音频，再用AI替换声线。上一年爆红的AI孙燕姿歌唱，运用的便是SVC克隆技能。

一位看到新闻后去试用了睿声产品的AI业界人士告知21世纪经济报导记者，“他们的大模型质量一般，（生成的音频）10秒以内的还能听，10秒以上就不行了。”

他剖析，要到达假造卢文庆音频的传神作用，AI无法做到一键生成，但假如用户有心“一段一段生成去硬凑，也是能够做到的。”

长时间用该产品配音的用户踯躅说，生成音频的重音、口气并不天然，“原始音频是什么口气，后边（生成的）台词便是什么口气，我都是生成之后用修音软件重新处理”。而睿声的首要吸引力是能够彻底仿照音色。

更大的问题或在于此——在这款向一切人免费敞开的产品里，用户能够“仿照”任何人的音频文件，并且能揭露发布。

睿声产品主页专门有一个“声响商场”板块，21世纪经济报导记者在9月27日下午进入商场时，现已看到了杨幂、刘亦菲、丁真、成龙等人的声响。虽然生成的音频听起来不行天然，但运用十分便利，只需像参加购物车相同，把克隆声响添加到人物库里即可。

“其实在国内，根本没有能够为所欲为克隆声响的产品敞开（给用户）的。”前述业界人士有些惊奇于这款产品的“粗野”。

业界更常提起的模范生做法是剪映和豆包。本年年初，剪映和豆包AI别离上线了音色克隆功用，卖点都是几秒内创立自己的克隆声响，但在运用过程中，用户需求点击话筒，实时录制一段自己的声响。

前述业界人士表明，“这样就限制了条件，你只能克隆你自己的声响，没方法为所欲为克隆别人。”而睿声答运用户上传任何现已录制好的音频文件练习AI，无疑埋下了危险。

现在国内的深声科技、小米、华为、百度、字节跳动等公司，都有布局人声克隆技能，但罕见现已成形的产品。像深声科技的声响定制服务，产品面向的也是企业端，而非一切普通用户。

垦丁律师事务所联合创始人欧阳昆泼剖析称，声响克隆或许触及民事侵权，声响也归于一种品格权益，具有人身专特点。未经授权的情况下运用别人声响能够构成民事侵权。本年4月，北京互联网法院一审就开庭宣判了全国首例AI生成声响品格权侵权案，确定在具有可识别性的前提下，天然人声响权益的维护规模可及于AI生成声响。

渠道是否应担责？

问题不仅仅在于声响侵权，而是更广规模内运用的不行控性。

“跟着AI技能开展，生成组成技能不仅在传神程度上日臻成熟，技能东西的可及性及易用性极大进步。当人人均可低本钱地制造、传达深度假造的内容时，实际与虚拟的边界不再清楚明了，互联网信息传达的根本逻辑遭到应战。”欧阳昆泼指出。

Data Bridge商场研讨剖析，在2021年到2028年间，声响克隆的商场规模将到达约4446.08亿美元，并以挨近26%的复合年增加率增加。如何将这些深度组成技能关进笼子现已成为全球规模内的课题。

欧阳昆泼向21世纪经济报导记者解说称，关于渠道的职责确定，现在仍首要以红旗准则和避风港准则为参阅。一方面，为了促进技能开展和表达自在，关于渠道课加的职责仍应是抑制的。

另一方面，也跟着渠道对社会大众的影响力越来越大，加之AI、算法等的开展，渠道对其上内容的监管正变得越来越重要。

我国施行的《互联网信息服务深度组成办理规矩》《生成式人工智能服务办理暂行方法》中均对运用AI技能施行违法犯罪行为进行了规制，旨在要求深度组成服务提供者应当执行信息安全主体职责。

具体来看，渠道具有事前防备的职责，《深度组成办理规矩》设立了安全评价、算法存案、内容审阅等事前防备方法；此外，渠道也有过后应对职责——假如深度假造的流言没有在生成之前被阻拦，则需由服务者设置的用户申述和大众投诉、告发进口，并经过现已树立的驳斥谣言机制采纳及时方法进行驳斥谣言。

深圳言域科技有限公司宣称，在收到合肥警方调查取证后，公司启动了内部审阅机制。记者在产品的运用文档中看到，假如要用专业克隆功用，现在需求进行支付宝人脸实名认证，但仍然没有束缚实名制用户克隆声响的规模。

运用文档的底部，有提示用户——“请勿运用咱们的服务克隆或生成任何侵略版权的内容”“咱们生成的一切内容均带有具体日志，主动/人工复审，以及可溯源的隐形音频水印，若发现您违反了相关规矩，咱们保存停止您的服务并上报公安机关等组织的权力。” 但在运用界面，记者没有看到有关提示。

值得一提的是，21世纪经济报导记者也没有在互联网信息服务算法体系上，找到深圳言域科技有限公司的存案信息。

欧阳昆泼表明，睿声公司若没有实行存案职责，对内容审阅、安全评价等职责也没有做到位的情况下，是有或许被监管机关追查相关法令职责的。

欧阳昆泼还弥补道，关于深度组成技能的标识职责，已有相关法规要求在运用组成内容时进行标识，各个交际渠道也已采纳了相关方法，会在AI生成的内容旁标示类似于“本内容为AI生成”的内容。但是，在实际操作中，对AI生成内容标识仍存在必定应战。例如，组成内容经二次传达后，标识就或许被省掉或忽视，导致接收方对内容来历产生误解。这会是接下来各个渠道需求处理的课题。

SFC

本期修改 刘雪莹

21君荐读