AI换脸与数字替身:身份一致性的三条技术路线
让同一个人出现在十个不同场景里——换装、换景、换语言——是广告和短视频里最硬的需求之一。但”每张脸都像,又都不完全像”的尴尬经常出现:五官对了,气质不对;单帧像了,动起来又变了。目前业界主要有三条技术路线,各自解决”身份一致性”的方式完全不同。
第一步:路线一,表演驱动——把脸”贴”到真人表演上
第一条路线不直接生成人脸,而是找一个真人演员完成表演,再用模型把目标身份的脸迁移过去:模型逐帧分析演员的表情、头部姿态和口型,把目标脸的五官”扭”成同样的状态再贴回去。它的优势是表演质量有真人兜底,动态一致性天然好;短板是依赖表演素材,且大幅度侧脸、遮挡时贴回的边缘容易露馅。适合对表演要求高的成片级制作。
第二步:路线二,身份嵌入——把一张脸变成一串向量
第二条路线从”生成”入手:先用一个人脸识别编码器把参考照片压缩成一串”身份向量”,在扩散模型生成时把这条向量注入进去,相当于告诉模型”照着这个人的长相画”。这类方法一张照片就能用,出图灵活、场景自由;代价是身份还原度有上限——像不像取决于向量的信息量,侧脸特征、眼型这类细节经常被”平均化”,同一身份的多张图之间也会有微妙差异。适合平面素材和预演。
第三步:路线三,定制训练——为这张脸单独练一个小模型
第三条路线最重也最像:收集目标人物的十几到几十张多角度照片,用 LoRA 微调让一个底座模型”专门记住”这个人,训练出的权重就是他的数字替身。优势是身份还原度和跨场景一致性都最高,同一权重反复出图风格稳定;成本在于每个身份都要单独训练,还要准备合规的素材。适合需要长期复用的代言人替身、品牌数字人。
第四步:视频里的”身份漂移”是另一道坎
静态图里”像”已经不易,视频还要多扛一个变量:时间。同一段素材,第 1 秒和第 5 秒的脸如果由模型独立生成,五官会缓慢”漂移”——下颌线变宽、眼距变化,观众未必说得出哪里不对,但就是觉得”换人了”。三条路线对此的应对不同:表演驱动逐帧跟着真人走,漂移最小;身份嵌入靠关键帧锚定加帧间传播;定制训练则在视频模型上做时序维度的微调,让身份向量贯穿整个镜头。这也是为什么成片级数字替身项目,工时大头永远在视频而非出图。
第五步:三条路线正在融合
实际项目里三条路线经常组合:用 LoRA 替身生成多场景底片,再对关键镜头做表演驱动精修;视频方向则普遍以”生成首帧 + 表演驱动”的混合管线为主。无论哪条路线,出片后都应做身份相似度比对——用同一套人脸识别模型量化打分,而不是靠肉眼。
选型时先问一个问题:要几个镜头、要多少角度?单个正面镜头的口播视频,身份嵌入加口型同步就能覆盖;多角度、多场景的叙事片,必须上定制训练。照片素材量也是硬约束——手头只有三五张照片,就不要指望 LoRA 训出稳定替身。
结论
给两条可操作建议:追求”单帧像、平面用”选身份嵌入,追求”动起来也像、成片级”选表演驱动或定制训练,别指望一条路线通吃。同时必须守住合规底线:数字替身涉及肖像权,须取得本人书面授权,成片按规范加 AI 生成标识。在 AI广告 项目里,数字替身的授权链路和生成标识要写进合同;正规 AIGC广告 团队也会把相似度比对设为质检的固定关卡。