凤凰网
有些内容会故意使用“人工”“造梦”“AI明星”等模糊词,弱化“虚拟生成”或“二次制作”的事实,让用户误以为是明星本人参与的真实内容。标题中的“令人意外”“事件背后”等词,也可能只是💎为了制造点击,并不意味着存在已经得到证实的新闻事件。
如果内容带有侮辱、诽谤、骚扰、色情暗示或未经同意的私密化呈现,风险更高。即使画面是人工生成的,并非真实拍摄,也不能因此认为可以随意传播。虚假合成可能损害当事人的社会评价和个人尊严,传播者也可能因制作、上传、转发或牟利承担相应平台处置和法律责任。
判断一条内容是否存在风险,可以重点看三点:是否清楚标注为AI生成,是否取得相关授权,是否容易让普通用户误认为是真实事件或本人行为。只要存在明显误导,或者把真实人物用于不当场景,就不适合继续扩散。
相关内容一般采用人脸替换、图像扩散生成、视频重绘、声音克隆或多种技术混合制作。制作方可能只使用公开照片,也可能把影视剧片段、直播画面和其他素材进行重新合成。经过剪辑后,画面中的人物动作、表情、声音和场景都可🤔能不是原始记录。
辨别时不要只看脸是否相似,应同时检查🚀来源、时间、画面和声音。可以按下面的顺序进行:
更稳妥的判断方式是:先确认内容来源,再核对完整上下文,最后查看是否有可靠的官方说明。对于无法证实的图片、视频和音频,应按照“未经证实的🔑合成内容”处理,而不是当作鞠婧祎本人真实经历进行传播。