衡宇 发自 凹非寺世博体育app下载

量子位 | 公众号 QbitAI

最新音书，扎克伯格再次从OpenAI重磅挖角了别称华东谈主商量员。

此次是——宋飏（Yang Song）！

宋飏，何许东谈主也？

16岁裸分上清华的少年天才，扩散模子崛起&攻克扩散模子短板的重要孝顺者之一，OpenAI计谋探索团队的带队东谈主。

此次是简直要用“惶恐”来抒发我内心的感受了（吃惊脸.jpg）……

翻看他本东谈主在上的最新一篇推文，照旧上个月因GPT-OSS而慷慨。

当今再听闻他的音书，也曾是宋飏于本月初转会至Meta的MSL旗下，向MSL首席科学家赵晟佳申诉。

他被撬动这件事，咱听到后指天画地一句“惶恐”真不是夸张，并且投降大部分东谈主听到这个音书险些第一反映都这样。

业内东谈主士称他是Meta从OpenAI挖来的最雄伟脑之一，还说“许多OpenAI的一又友得知他离开，都惊呆了”。

Meta前前后后束缚歇挖来的这样多牛东谈主，他们到底看中的是什么？

有网友评价谈，他们并非隧谈为了财富利益，“一朝你达到一定的财富水平，财富就不再出手你的决策”——尤其是关于那些在OpenAI职责了3年以上的职工来说。

执续攻克扩散模子短板

宋飏于2022年博士毕业后加入OpenAI，担任商量科学家，于今3年零2个月。

他的中枢商量标的是提高模子处理大范围、复杂、多模态数据集的才略，以及探索何如让模子在不同模态（图像、文本、代码等）之间进行更高效、更智能的交互。

离开OpenAI前，宋飏是公司计谋探索团队（Strategic Explorations Team）的认真东谈主。

这个团队莫得具体的开拓时期，是看成OpenAI合座组织的一部分从公司开拓以来放心发展起来的，主要认真前瞻性商量标的探索，要点在模子才略拓展、跨模态数据处理等。

在OpenAI时代，宋飏最出名的效果是一致性模子。

2023年4月，宋飏、清华学友路橙以及Ilya等开源了比扩散模子更快、性能更好的一致性模子Consistency Models，只需要3.5秒驾御就能生成64张驾御256×256的图像。

旧年10月，宋飏和路橙再次简化了一致性模子，刻毒更动版的连气儿时期一致性模子（Continuous-Time Consistency Models），经管了早期一致性模子在解析性和可彭胀性上的问题。

仅用两步采样，就能让生成质料与扩散模子收尾相忘形，同期生成图像的速率是扩散模子的50倍。

他们告捷将连气儿时期一致性模子的西宾范围彭胀到了前所未有的15亿参数，并竣事了在512×512折柳率的ImageNet数据集上的西宾。

基于这项商量，在单张A100 GPU上，参数15亿的模子无需任何推理优化，即可在0.11秒内生成一个样本。

这两篇论文和开源代码被大都援用，是近两年生成模子范畴的明星效果。

业内有扣问称，这个标的有可能成为“有可能驱逐扩散模子”的新标的。

但要知谈，在此之前，雷同亦然因为宋飏的职责，才出现了扩散模子如DALL-E 2、Stable Diffusion、Imagen的怒潮。

扩散模子崛起的重要东谈主物之一

来到OpenAI之前，宋飏在斯坦福大学攻读算计机博士，师从斯坦福算计机系副流露Stefano Ermon。

这位导师团队曾连气儿两年得回ICLR了得论文奖。

其中一次，一作恰是宋飏。

而要被视看成扩散模子提供早期孝顺的，还要属被NeurIPS 2019继承并作念理论论说的职责《Generative Modeling by Estimating Gradients of the Data Distribution》。

那时，GAN还在以传神生成立场席卷群众，但繁多科学家仍受困于很难西宾、无法竣工采样等困难。

斯坦福大学博士后Sohl-Dickstein受物理学启发，哄骗扩散旨趣开发了生成建模算法——

访佛于从一滴墨水形成漫射淡蓝色的水，最初将西宾数据鸠合的复杂图像滚动为节略的噪声，然后教系统何如回转这个经过，将噪声滚动为图像。

如斯一来就能竣事对扫数这个词散布进行采样。

但那时，这样作念会让西宾经过太慢，性能效果也远远过期于GAN。

这时候，宋飏和他的导师Stefano Ermon出现了。

他们刻毒了一种新体式，不推测数据的概率散布，而是推测散布的梯度，最终效果竣事了对GAN的特等。

不外，其后宋飏坦言：

那时根底不知谈扩散模子。

他本东谈主是在论文发布后，从Sohl-Dickstein的邮件才知谈，我方的商量与扩散模子有相配缜密的商量。

在此前，宋飏都不知谈这场受物理学启发的扩散模子风潮，会和我方商量，并成为显学。

16岁裸分上清华的少年天才

不外说来真理，早在高中时期，宋飏就展现了他在物理和信息学方面的天禀。

宋飏高中时期就读于江苏省新海高档中学，得回过世界物理奥赛、信息学奥赛的一等奖。

14岁时，他在清华保举生口试现场，有一段经典的排比句自我先容：

我是奥赛宋飏，我得回了物理以及信息学的世界一等奖；

我是斥候宋飏，我的理念念是作念别称物理学家，当今我也曾自学了高校里的高等数学以及平日物理学；

我照旧文艺宋飏，我也曾通过了钢琴十级磨真金不怕火，在班级的羽毛球招架赛上，也有我活跃的身影。

最终，他以17位评委全票通过的得益，入选“清华大学新百年领军决议”。

次年高考时，他考出425分的裸分得益，以连云港市理科状元的身份入读清华大学数理基础科学班。

这个得益也超出他我方的估分，称“我认为也就在400分驾御吧，都备出乎料念念”。

本科时期，宋飏追随清华算计机科学与技能系流露朱军学习。

并与Raquel Urtasun（多伦多大学算计机科学系流露）和Richard Zemel（曾在多伦多大学和哥伦比亚大学任教）等学术大咖有过学术互助。

2016年，宋飏从清华毕业，拿下数学与物理本科学位，尔后赴斯坦福深造。

读博时代，他在微软、Uber、Google都有过实习阅历。

比及博士毕业，他就被OpenAi收入囊中了。

收尾本文推送，宋飏的领英和页面都还保执在“于OpenAI职责”的景况。

One More Thing

当今，宋飏在Meta MSL的+1是赵晟佳。

昔时十余年间，他俩之间简直十分有缘——

同是清华学友，同在斯坦福师从Stefano Ermon，同在OpenAI职责。

当今，两东谈主又先后跳槽，形成了小扎的石友大将。

妙啊，妙。

参考衔接：[1]https://mp.weixin.qq.com/s/3h_mxCij5_owicnfsHhp_Q[2]https://www.wired.com/story/meta-poaches-openai-researcher-yang-song/[3]https://x.com/Yuchenj_UW/status/1971088866095603858[4]https://www.linkedin.com/in/yang-song-machine-learning/details/experience/[5]https://openreview.net/pdf/ef0eadbe07115b0853e964f17aa09d811cd490f1.pdf?ref=news-tutorials-ai-research

— 完 —

量子位 QbitAI · 头条号

矜恤咱们世博体育app下载，第一时期获知前沿科技动态

— 完 —

量子位 QbitAI · 头条号

矜恤咱们，第一时期获知前沿科技动态