通义实验室发布并开源了首个支持影视级多场景配音的多模态大模型Fun-CineForge,旨在解决AI配音在影视、动画和游戏制作中长期面临的关键挑战。该模型需通过口型同步、情绪表达、音色一致和时间对齐四大严苛考验,而传统方法常受限于高质量多模态数据集稀缺和模型能力不足。Fun-CineForge创新性地引入“时间模态”,结合视觉、文本、音频信息,显著提升了在复杂场景(如多人对话、面部遮挡)下的配音表现。配套开源的高质量数据集构建流程(CineDub)进一步强化了模型训练基础。实验显示,其在语音自然度、情感表达、音画同步等指标上优于现有开源模型,目前已支持30秒内视频片段的中英文配音。
© 版权声明
文章版权归作者所有,未经允许请勿转载。

