近日，美国歌手泰勒·斯威夫特“说”中文的短视频在网上疯传，引发热议。视频中，泰勒·斯威夫特“说”一口流利的中文，声音与母语相似，连口型都一模一样。此前特朗普的视频中，也说了中文。类似的视频还有很多，不少外国人“说”地道的中文，不少中国艺人“说”流利的英语……其实，这些视频都是由AI（人工智能）生成的。

在小红书等平台上，南都记者看到“老外”朗读着关于家庭生活的短篇故事，虽然是英文，但内容明显是通俗笑话，有睿智的“洋老人”，有理性的“洋美女”，声音、口型、肢体动作都无可挑剔。原来，非专业技术人员也能利用AI换脸制作日常视频。如果不是他们所说的内容太过短暂，每次的姿势都很相似，南都记者只看一遍，很难分辨真假。

图片来自网络

人工智能“翻译”与真实翻译难以区分

网友担心视频是假的

此前，直播间就曾出现AI实时换脸现象，AI换脸“杨幂”、“迪丽热巴”卖货引发热议。稍加辨别，不难发现，卖货的“明星”大多是“换脸”的主播。

一款AI人像视频工具，只需要上传视频、选择语言，即可生成一段自动翻译、音色调整、唇形匹配的新视频。经过AI“翻译”后重新配音的新视频，与原视频相比，不仅准确度更高，而且声音、情绪近乎逼真，唇形也十分接近，真假难辨。对此，有网友表示，这项技术看上去很酷，应用场景很广泛，未来或许会越来越成熟，比如翻译配音就会非常自然、生动。

不过也有网友表示担忧，“这会不会被用来模仿声音诈骗？”“再加上换脸，以后网络上什么都信不过了。”“以后造假视频会越来越容易。”还有网友表示，“希望人工智能技术的发展能控制在正确的轨道上，滥用技术会酿成灾难。”

AI换脸及语音技术

让已故演员重返银幕

近年来，AI技术在短视频的二次创作中被广泛应用，例如AI换脸、AI换声等，可以说AI技术是一把“双刃剑”。

一方面，AI换脸、变声技术对于提升工作效率有非常强的作用。清华大学新闻与传播学院司若教授举了一个例子，称AI换脸、变声技术可以让已故演员、历史人物通过换脸技术重新出现在屏幕上，AI变声技术还可以用于不同国家语言的实时翻译。

另一方面，近年来一些不法分子为牟利，利用AI技术实施诈骗，如利用AI换脸、冒充熟人实施诈骗，甚至将“魔爪”伸向儿童，或编造、发布虚假新闻混淆大众，赚取流量。

此外，AI换脸、AI换声也存在法律风险。近日，网上流传多起相声演员“说”英文相声、小品演员“表演”英文小品的视频。对此，北京岳成律师事务所高级合伙人岳珊珊表示，利用AI技术为他人换声、做“翻译”并发布视频，可能涉嫌侵权，主要体现在三个方面：第一，版权。网友利用AI软件将相声、小品等“翻译”成其他语言，需要得到版权人的授权，否则存在侵权问题。第二，肖像权。网友利用他人形象制作视频发布在网站上，需要取得肖像权人的同意，否则涉嫌侵权。第三是声音权。使用他人声音需要得到声音权人的同意。

从技术和法律角度来看

加强人工智能技术监管

人工智能技术的发展需要多层次的制约和规范，在源头上，需要进一步加强公民个人信息保护。专家建议加强公民信息特别是生物识别等隐私信息的技术和司法保护。

在技​​术层面，数字水印认证等技术需要进一步普及和利用，例如AI生成的视频需要带有不可消除的“AI生成”水印。

在法制层面，进一步完善人工智能领域相关法律法规。今年8月15日，《生成性人工智能服务管理暂行办法》正式实施。《办法》规定，提供、使用生成性人工智能服务，应当尊重他人合法权益，不得损害他人身心健康，不得侵犯他人肖像权、名誉权、荣誉权、隐私权和个人信息权。

中国科学技术大学公共事务学院、网络空间安全学院教授左晓东表示，总体来看，生成人工智能尚处于发展初期，风险尚未充分暴露，应用前景难以估计。因此，应采取包容审慎的态度，坚持发展与安全的平衡，把促进创新与依法治理结合起来，采取有效措施鼓励生成人工智能创新发展。

据了解，我国人工智能产业蓬勃发展，核心产业规模达5000亿元，企业数量超过4300家。随着各项措施、法规的出台，我们预计未来人工智能发展将更加健康、更加规范，多方面助力人们的工作、生活。

网友：

我们应该容忍新技术的应用

同时，应该有监管措施

对此，网上有话题说有博主利用人工智能工具将明星视频片段转换成英文、日文等，或将国外明星视频转换成中文。这些“AI替口”几乎接近真人的语调语调，翻译水平也近乎专业。你对“AI替口”有什么看法？

也有网友对此表示点赞。比如网友“盲人Clio”就表示：希望这种翻译以后能直接让人类无障碍交流。还有网友“May Sunny”则表示：人工智能的应用当然要落实相关法规和制度，但对新技术的新应用、新发展也最好多一些包容，以免扼杀创造的可能性。网友“都是小顿的错”则表示：如果以后这种技术能用在配音电影上，观影体验应该会大大提升。想想演员们能说一口完美流利的中文，就觉得很酷。

不过也有网友表示担忧。例如网友“yooukip”表示：“我对人工智能（AI）的发展感到担忧。事实已经证明，喂饱大量素材的AI，可以通过获取他人信息伪造新信息，进行违法犯罪活动。希望尽快出台监管措施，防止AI成为犯罪滋生地。”

您的生物特征数据

加强安全保障

有专家表示，防范“AI换脸诈骗”，还要加强人脸、声纹、步态、指纹等生物特征数据的安全防护。中国科学技术大学公共事务学院、网络空间安全学院教授左晓东提醒，在使用互联网服务或者社会生活中需要我们输入人脸等生物特征数据时，要核查对方对我们生物特征数据的收集是否符合数据安全法，是否按照个人信息保护法的要求合法、正当和必要。

通过面部动作识别AI换脸。图片来自网络

识别AI换脸方法

让对方做脸上的动作

可以发现合成缺陷

目前的视频换脸技术并非完美无缺，视频通讯中的一些动作可能会暴露漏洞。

深圳安络科技副总裁肖建伟介绍说：“这次操作，如果我再用第三幅图像来干扰，就相当于让他在拍视频的时候，用手捂住脸，手一动，就会干扰图像的合成。从演示中我们可以看到效果，我把手放到上面之后，我们可以清楚的看到，他的眼睛在抖，鼻子在抖，而且我的手不见了，他的嘴巴也消失了。”

肖建伟介绍，用软件进行识别也是可以的，比如眼睛、鼻子、嘴巴、轮廓换了，像素大小不一样，色域不一样，这些肉眼是看不出来的，但可以通过软件算法检测出来。

整合/撰稿：南方都市报记者陈欣