国科网

2024-06-26 14:24:35  星期三
立足国科融媒,服务先进科技
谷歌AI新星转投Pika:视频生成Lumiere一作,担任创始科学家

点赞

0
发布时间:2024年02月26日 浏览量:98次 所属栏目:人工智能 发布者:田佳恬

视频生成进展如火如荼,Pika迎来一位大将——

谷歌研究员Omer Bar-Tal,担任Pika创始科学家

一个月前,还在谷歌以共同一作的身份发布视频生成模型Lumiere,效果十分惊艳。

图片

当时网友表示:谷歌加入视频生成战局,又有好戏可看了。

图片

Stability AI CEO、谷歌前同事等在内一些业内人士送上了祝福。

图片
图片

Lumiere一作,刚硕士毕业

Omer Bar-Tal,2021年本科毕业于特拉维夫大学的数学与计算机系,随后前往魏茨曼科学研究所攻读计算机硕士,主要聚焦于图像和视频合成领域的研究。

其论文成果多次被顶会接收,比如Text2LIVE(ECCV 2022 Oral)、MultiDiffusion(ICML 2023)、TokenFlow(ICLR 2024)。

以TokenFlow为例,他们提出了一种框架,基于扩散模型实现文本驱动的视频编辑,支持视频编辑任务无需任何训练或微调。

图片

此次加盟Pika前,他曾是谷歌研究院以Student Researcher身份待了9个月,最终经过7个月的研究以共同一作身份推出了Lumiere。这时候硕士应该还没有毕业。

图片

Lumiere的创新点在于,提出了时空U-Net(STU-Net)架构:将视频在空间和时间两个维度同时进行下采样和上采样,在网络的中间层得到视频的压缩时空表示。

在学习了3000万视频之后,Lumiere可支持文生视频、视频编辑修复、图片转视频以及视频风格化等多种功能。

当时Jeff Dean盛赞:多模态视频生成革命正在发生

图片

威尔史密斯吃面(Pika版)

官宣加盟Pika消息之后,官方以及投资人等也送上了祝福。

图片

前几天,还有位Pika华人研究员Yilun Du发布了篇文章, 不过应该刚从MIT博士毕业(也可能还没毕业),论文单位仍是MIT。

图片

另外在官网还在继续招人中。

图片


分享说明:转发分享请注明出处。

    热点图讯
    最新图讯
    相关图讯
    网站简介  |   联系我们  |   广告服务  |   监督电话
    本网站由国科网运营维护 国科网讯(北京)技术有限公司版权所有  咨询电话:010-88516927
    地址:北京市海淀区阜石路甲69号院1号楼1层一单元114
    ICP备案号:京ICP备15066964号-8   违法和不良信息举报电话:010-67196565
    12300电信用户申诉受理中心   网络违法犯罪举报网站   中国互联网举报中心   12321网络不良与垃圾信息举报中心   12318全国文化市场举报网站
    代理域名注册服务机构:阿里巴巴云计算(北京)有限公司