11 月 8 日,智谱推出新清影:10s时长、4k、 60 帧超高清画质、任意尺寸,自带音效,以及更好人体动作和物理世界模拟。
3 个月前,作为国内头个面向公众开放的视频生成产品,清影上线清言App,只需一段指令或图片, 30 秒就能生成AI视频。为人类影视创作带来了更多创新玩法,如广告制作、短视频、表情包梗图等。
清影发布后不久,GLM技术团队先后开源了CogVideoX 2B和5B版本两个模型,可在消费级显卡上峰畅运行,性能领先的CogVideoX-5B模型自开源以来受到广泛的关注,并衍生出如CogVideoX-factory等大量的二次开发项目。
基于CogVideoX模型的比较新技术进展和智谱比较新推出的音效模型CogSound,新清影在以下 5 个方面实现了提升。
· 模型能力全面提升:在图生视频的质量、美学表现、运动合理性以及复杂提示词语义理解方面能力明显增强。
· 4K超高清分辨率:支持生成 10s、4K、 60 帧超高清视频,视觉体验拉到较好的,动态画面更加流畅。
· 可变比例:支持任意比例的图像生成视频,超宽画幅也能轻松Hold住,从而适应不同的播放需求。
· 多通道生成能力:同一指令/图片可以一次性生成 4 个视频。
· 带声效的AI视频:新清影可以生成与画面匹配的音效了。音效功能将很快在本月上线公测。
即日起,新清影在智谱清言App上线,为了支持广大开发者,智谱同时将CogVideoX v1.5-5B、CogVideoX v1.5-5B-I2V进行了开源。
生成视频将为影视工作者、短视频创作者提升产量、产能,在其生产流程中发挥重要作用。不到一年时间,生成视频技术在视频时长、生成速度、分辨率、一致性等方面已经显示出长足进步。新清影往前又迈进了一步,未来,智谱也将携手视觉中国等合作伙伴,基于更丰富的视觉内容,产出更好的AI生成视频工具。
“默片 Sora”进入“有声电影时代”
智谱认为真正的智能一定是多模态的,听觉、视觉、触觉等共同参与了人脑认知能力的形成,因此,智谱希望包括文字、图像、语音和视觉等模态在内的智谱多模态大模型矩阵,能够进一步提高大模型的应用和工具能力。
因此,GLM模型家族逐步从文字拓展至图片、视频、声音,以及音效。今天,GLM家族加入了新成员——音效模型CogSound和音乐模型CogMusic。即将上线与大家见面的音效模型CogSound能根据视频自动生成音效、节奏等音乐元素,它是基于GLM-4V的视频理解能力,能够准确识别并理解视频背后的语义和情感,在此基础上生成与之相匹配的音频内容,甚至生成复杂音效,如爆炸、水流、乐器、动物叫声、交通工具声等。
音效模型的出现能够实现视频与声音的同步创作。同时该模型在电影行业也具有广泛的应用前景,比如可以生成电影中的大规模战斗场景和灾难场景的声音,大大缩短了制作周期,降低了制作成本。
「CogVideoX + CogSound」由清影生成画面,音效模型配音
两周前,智谱刚刚发布比较新的GLM-4-Voice情感语音模型。今天,随着音效模型的加入,GLM大模型在声音模态领域实现了人声、音效、音乐的多链路布局,基于图像、视频和声音的多模态模型矩阵由此更加完整,意味着智谱在多模态和工具两个维度上都朝着AGI的目标迈出了一小步。
音效模型将于本月上线清言App,与新清影一起生成有声AI影片。智谱的理想状态是,只需一个好的创意,剩下的事AI都能辅助搞定,轻松将一个idea、一张图,变成一段自带bgm的影片。相信这个组合能给创作者和用户带来AI生视频的全新体验。
当前,AI生成视频用于影视创作仍需要多种不同的创作工具串联使用。但基于智谱多模态的比较新成果,实现这种一站式AI原生多模态工作流,这样的前景无疑是激动人心的。