新华社
AI明星换脸,是利用人工智能把视频或图片中的人物面部替换成另一张脸;AI合成声,则是根据文字、音频样本或语音特征生成接💫近某个人的声音。两者结合后,可以制作出“某📌位明星正在说话、唱歌或出现在某个场景中”的内容,但画面和声音都不一定来自真实拍摄。
当换脸、合成声、口型同步和背景生成同时使用时,内容会更接近完整的虚拟表演。它可以用于影视后期、角色配音、虚拟主播、历史场景演示和经授权的广告制作,🎊但也可能被用于误导、冒充和传播未经证实的信息。
对于普通观看者,最安全的做法是把无法核实的合成内容当作待确认信息;对于创作者和商家,则应把授权、标识、可追溯记录和人工审核放在生成效果之前。
单个视觉瑕❤️疵不能直接证明视频是假的,因为压缩、补帧、滤镜和低清画质也会造成类似问题。但如果多个异常同时出现,就应降低信任程度。
AI明星换脸与AI合成声最容易制造的是“像本人”的感觉,而不是“本人确实说过或做过”的证据。脸像、声音像、画面清晰,都只能说明生成效果较好,不能🎇证明内容来源真实。凡是涉及名人声明、产品推荐、募捐、投资、账号操作或社会热点,先验证来源和上下文,再决定是否相信、转发或采取行动。