第一百九十一章 分成两段的人生
碧落天刀小说推荐阅读:和离后,神医王妃野翻全京城、越界心动、NBA:开局满级力量,库里被我惊呆了、龙族:从西游记归来的路明非、狐说、服软、她和暗恋的大佬官宣了、人民的财产(电视剧突围原著)、和穿来的儿子上综艺后爆红了、这游戏也太真实了、鲤鱼王的精灵模拟器、轻负、印卡是游戏王的一部分
沈丛云放下手机,把目光放在了电脑屏幕上。
浏览器打开,上面是一个人的LinkedIn主页。
Songran Jiang,连个照片也没有,上面的工作履历也非常简单。
2011年到2020年在谷歌工作,在TPU团队担任Staff Engineer(L6),对应鼎盛的P8,高级专家。
2020年跳槽到一个晶片创业公司做Head of Infrastructure(基础设施负责人),一直到现在。只有一个职位,具体的工作内容完全空白。
关掉浏览器,沈丛云又打开了桌面上的一个文件夹。这里面是沈丛云从其他渠道搜集到的、关於江松然的资料。
江松然在谷歌的时候一直在TPU团队,从软体到硬体都有涉猎,带过几个大项目,升职速度堪称坐火箭。
跳槽後,他是那家创业公司的一号员工,从零到一把一套千卡级别的显卡训练集群带了出来。这种活儿全球做出来过的人不超过两位数,他是其中之一。
简单来说,这是一个极度低调的圈内大佬。在AI基础设施的领域里成就斐然,但是出了圈子就不太知名。
这样的人物离职回国,的确牵动了整个AI圈老板和猎头的心,不差他沈丛云一个。别说鼎盛了,就他所知,鹏城那边也有人专门飞过来,就为了劝江松然加盟。
这样的人才,韩路一一定不想错过,可是沈丛云这边已经黔驴技穷了。
电话打不进去,微信加不上,邮件不回,你还有什麽办法,总不能去他家堵他吧,问题是你也得知道他家在哪啊?
沈丛云把这些资料打包好,飞书发给了韩路一。
很快,韩路一回复了:「来十三楼一趟。」
沈丛云赶紧在那条信息上点了个大拇指,收起笔记本电脑出了办公室。
到了十三楼,韩路一和赵文渊正并排坐在电脑前面,屏幕上正开着沈丛云刚发过去的资料。
韩路一先挥手示意沈丛云坐在面前的空椅子上,然後开门见山的问道:「怎麽了,不太顺利?」
「韩总,电话不接,邮件不回,连联系都联系不上。」沈丛云的声音低低的,他觉得是自己办事不力。
韩路一转头问赵文渊:「文渊,你认识吗?」
赵文渊摇摇头,他入职谷歌的时候江松然已经离职了。两人工作的领域也不太一样,一个偏理论研究,一个偏工程实践。虽然都在矽谷,两人可能有共同的朋友,但没有直接的交集。
突然他想起什麽,拿出微信搜了一下江松然的名字。
赵文渊有几个谷歌华人微信群,什麽吃喝玩乐群、徒步群、摘樱桃群,都是他在谷歌那几年陆陆续续加的,也许江松然也在里面。
这一搜还真搜出来了,是一个叫【海城人在谷歌】的群,从赵文渊加进去里面就没人说话。
赵文渊顺着点进江松然的名片,又点开他的朋友圈,只展示最近六个月,里面只有一条,是一张在医院病房里的照片,只拍了病床,没拍人,底下配了一句话——「你永远不知道明天和意外哪个先来。」
韩路一在旁边看了全程,没说话。
倒是沈丛云开口了:「韩总,江松然的微信号我这也查到了,但是他没接受我的好友申请。」
赵文渊问:「要不我从群里加他?他可能会通过。」
韩路一没说好也没说不好,拿过赵文渊的手机,又看了那条朋友圈。
……
上午十点刚过。
海城某三甲医院神经外科,普通病房。
这里很安静。
江松然坐在病床旁边的摺叠椅上,膝上放着笔记本电脑。
他留着短发,瘦削的脸上没有表情,静静地看着屏幕,双眼里有密密麻麻的血丝。
旁边的床上躺着一位老人,和江松然的容貌有五六分相像,只是更瘦、更苍老。老人的左手插着留置针,呼吸很轻,床头的监控仪器规律的间隔发出「嘀」的一声,像是在提醒病房里的人时间的流逝。
父亲脑梗发作那天,他正在矽谷的办公室里加班。
突然接到了母亲的越洋电话,他已经回忆不起自己当时的想法,或者干了什麽。
整个人好像进入了一种自动导航模式。
江松然买了能买到的最早的机票回国,只带了一个小箱子装了几件衣服,一台私人电脑。
他当时不知道自己还能不能见到父亲最後一面。
十几个小时的奔波之後,等到在ICU的玻璃门外看到父亲的那一刻,他的眼泪夺眶而出。
万幸,抢救回来了。
在ICU待了十几天,脱离了危险期之後,父亲转到了普通病房,还是睡觉的时间多,清醒的时间少。
医生的建议是先静养,恢复的好的话再观察一个月就可以出院了。
和医生聊完,江松然做出了一个决定,没和任何人商量。
他不回美国了。
决定之後,他和公司的CEO打了一个视频电话,说明了他的想法。
CEO在视频那边沉默了好久,最後连挽留的话都没有说,只是祝福他的父亲赶紧好起来,如果将来他想回来随时欢迎。
江松然注意到,这个当初和他一起在车库创业,合作了好几年的白人老头红了眼眶。
然後又拜托在美国的朋友打理一下房子,留意一下卖房的经纪。
从接到母亲电话的那一刻起,他的生活好像被从中间分成了两段。
前半段是他疯狂努力证明自己,想让父母骄傲的人生。
後半段是什麽,他还不知道。
江松然在等着母亲来和他换班。
江松然无聊的刷着新闻,刷到一篇新闻——
《算力国产化,是未来五年最大的变量》。
看到这个标题江松然久违的在心里笑了一下。
这些媒体估计都不知道自己在说什麽。
算力国产化,国家级战略资源,这话当然谁都会说。
但是对於像他这样专门干这一行的人来说,就像是个笑话。
无他,门槛太高了。
这就像是在说我们应该解决气候问题一样,是句正确的废话。具体要做什麽?怎麽做?花多少钱?周期多长?代价是什麽?没人说的出来。
关掉新闻,江松然又在电脑上点开了一个新的页面,arXiv。
这是一个免费发布论文的网站,尤其是在AI和计算机系统这个圈子,几乎所有的新研究都会先往上面发布。不用等期刊评审,不用等会议接收,写完了发上去,当天全世界就都能读到。
圈里人管这叫「挂上去」。
每天早晨刷一遍arXiv,看看自己关注的几个分类底下有没有新东西,是这个圈子里研究人员大部分人的基本习惯。
江松然这个习惯保留了十几年,从上学的时候到谷歌再到创业公司。
回国陪床这两个多月,工作上的事他已经全放掉了,但每天刷刷arXiv的习惯还保留着。
目光快速划过,一篇新发布的论文题目吸引了他的注意力。
《On Adapting Memory-Efficient Attention to Non-CUDA Heterogeneous Accelerators: A Single-Operator Case Study》(非CUDA硬体上的注意力算子适配:一个单算子的案例研究)
作者只有一个名字,Wenyuan Zhao。
江松然在脑子里把这个名字过了一遍,没什麽印象。
他本来想直接划走。
非CUDA适配这种东西arXiv上一搜一大把,大多是国产晶片厂出钱让自家工程师挂名做的样子工程,没什麽真东西。
但他还是点开了。
因为是单作者。
非CUDA适配这种活儿,正常挂名至少四五个:硬体厂的人挂、软体团队挂、算法挂、做评测的挂。
单作者意味着两种可能,要麽是没团队,要麽是作者把所有人都压下去了,只给自己署名。
这两种可能都挺有意思的,值得看看这篇论文。
PDF加载出来。
摘要的第一句话是:
「本文报告了一款国产的非CUDA加速器上内存高效注意力机制的端到端实现:在单节点8卡配置下,吞吐达到对应cuDNN参考实现的83%,数值误差在2.3e-6以内。」
江松然把屏幕字体调大一点,接着往下翻。
背景写得简洁,没注水。
实现那一节贴了具体的优化方法和代码片段,不是泛泛而谈。
评估那一节有完整的对照、不同上下文长度下的吞吐曲线、还把每一项优化的贡献单独拆出来量化。这些是做评估的人最容易偷懒的几个地方,他都没偷懒。
最让江松然多看了两遍的,还是局限性那一节。
作者自己写道:「本工作只完成了单算子(SDPA),没涉及LayerNorm、Softmax、各类Optimizer等数十个其他算子;没涉及多卡通信库;也没涉及训练场景下的反向传播与混合精度,不构成一套可用的训练栈。」
非常诚实,不像是来刷脸的。
他又翻上去,看了一下团队,Source Intelligence AI。
是个没听过的公司。
江松然往後靠在摺叠椅上,把眼睛揉了揉。
国内居然还真有人在做这种事。
这种吃力不讨好的事。
做出来发不了顶会,打不响知名度,也融不到资金,做的时候也没人知道你在做什麽、做的有多难。
最关键是,因为其他的配套都没有,单做一个出来也是真没什麽用。
这种活儿他熟,谷歌TPU团队的前两年就是这麽熬出来的。
只不过谷歌当年有几百个工程师。
8张卡,一个算子。
江松然在心里量了一下,从这里到「能跑一个能用的训练系统」中间还差什麽。
剩下的几十上百个算子,多卡通信库,分布式训练框架,编译器,容错和检查点。
每一项,都是三五十人的工程团队、两到三年的活儿。
他在矽谷那家公司就做这套东西,做了五年。
如果国内真能有几百个团队,都像这一个一样,安静地做这种没人鼓掌的事。
那国产化也未必没有可能。
可惜,没有几百个这样的团队。
正想着,母亲从外面进来了,一进来就开始唠叨。
「松然,累坏了吧,快回去睡会,你在医院陪床的时候也得注意休息,别你爸还没醒过来,自己就先病倒了……」
江松然也确实是累坏了。
他和母亲交代了几句,稍微收拾了一下,拿上电脑,走出了病房。
一路走到住院部一楼,他看到一个瘦高帅气的年轻人站在大门的位置,背着一个双肩包,好像在找人。
江松然正看着,正好那个年轻人也看了过来,好像看到了他,冲他笑着点了下头,向他走来。
那人的眼神亮的惊人。
江松然不确定他是不是冲着自己来的,也回应了一个点头。
http://www.biluotiandao.com/yt127308/48867585.html
请记住本书首发域名:www.biluotiandao.com。碧落天刀手机版阅读网址:www.biluotiandao.com
浏览器打开,上面是一个人的LinkedIn主页。
Songran Jiang,连个照片也没有,上面的工作履历也非常简单。
2011年到2020年在谷歌工作,在TPU团队担任Staff Engineer(L6),对应鼎盛的P8,高级专家。
2020年跳槽到一个晶片创业公司做Head of Infrastructure(基础设施负责人),一直到现在。只有一个职位,具体的工作内容完全空白。
关掉浏览器,沈丛云又打开了桌面上的一个文件夹。这里面是沈丛云从其他渠道搜集到的、关於江松然的资料。
江松然在谷歌的时候一直在TPU团队,从软体到硬体都有涉猎,带过几个大项目,升职速度堪称坐火箭。
跳槽後,他是那家创业公司的一号员工,从零到一把一套千卡级别的显卡训练集群带了出来。这种活儿全球做出来过的人不超过两位数,他是其中之一。
简单来说,这是一个极度低调的圈内大佬。在AI基础设施的领域里成就斐然,但是出了圈子就不太知名。
这样的人物离职回国,的确牵动了整个AI圈老板和猎头的心,不差他沈丛云一个。别说鼎盛了,就他所知,鹏城那边也有人专门飞过来,就为了劝江松然加盟。
这样的人才,韩路一一定不想错过,可是沈丛云这边已经黔驴技穷了。
电话打不进去,微信加不上,邮件不回,你还有什麽办法,总不能去他家堵他吧,问题是你也得知道他家在哪啊?
沈丛云把这些资料打包好,飞书发给了韩路一。
很快,韩路一回复了:「来十三楼一趟。」
沈丛云赶紧在那条信息上点了个大拇指,收起笔记本电脑出了办公室。
到了十三楼,韩路一和赵文渊正并排坐在电脑前面,屏幕上正开着沈丛云刚发过去的资料。
韩路一先挥手示意沈丛云坐在面前的空椅子上,然後开门见山的问道:「怎麽了,不太顺利?」
「韩总,电话不接,邮件不回,连联系都联系不上。」沈丛云的声音低低的,他觉得是自己办事不力。
韩路一转头问赵文渊:「文渊,你认识吗?」
赵文渊摇摇头,他入职谷歌的时候江松然已经离职了。两人工作的领域也不太一样,一个偏理论研究,一个偏工程实践。虽然都在矽谷,两人可能有共同的朋友,但没有直接的交集。
突然他想起什麽,拿出微信搜了一下江松然的名字。
赵文渊有几个谷歌华人微信群,什麽吃喝玩乐群、徒步群、摘樱桃群,都是他在谷歌那几年陆陆续续加的,也许江松然也在里面。
这一搜还真搜出来了,是一个叫【海城人在谷歌】的群,从赵文渊加进去里面就没人说话。
赵文渊顺着点进江松然的名片,又点开他的朋友圈,只展示最近六个月,里面只有一条,是一张在医院病房里的照片,只拍了病床,没拍人,底下配了一句话——「你永远不知道明天和意外哪个先来。」
韩路一在旁边看了全程,没说话。
倒是沈丛云开口了:「韩总,江松然的微信号我这也查到了,但是他没接受我的好友申请。」
赵文渊问:「要不我从群里加他?他可能会通过。」
韩路一没说好也没说不好,拿过赵文渊的手机,又看了那条朋友圈。
……
上午十点刚过。
海城某三甲医院神经外科,普通病房。
这里很安静。
江松然坐在病床旁边的摺叠椅上,膝上放着笔记本电脑。
他留着短发,瘦削的脸上没有表情,静静地看着屏幕,双眼里有密密麻麻的血丝。
旁边的床上躺着一位老人,和江松然的容貌有五六分相像,只是更瘦、更苍老。老人的左手插着留置针,呼吸很轻,床头的监控仪器规律的间隔发出「嘀」的一声,像是在提醒病房里的人时间的流逝。
父亲脑梗发作那天,他正在矽谷的办公室里加班。
突然接到了母亲的越洋电话,他已经回忆不起自己当时的想法,或者干了什麽。
整个人好像进入了一种自动导航模式。
江松然买了能买到的最早的机票回国,只带了一个小箱子装了几件衣服,一台私人电脑。
他当时不知道自己还能不能见到父亲最後一面。
十几个小时的奔波之後,等到在ICU的玻璃门外看到父亲的那一刻,他的眼泪夺眶而出。
万幸,抢救回来了。
在ICU待了十几天,脱离了危险期之後,父亲转到了普通病房,还是睡觉的时间多,清醒的时间少。
医生的建议是先静养,恢复的好的话再观察一个月就可以出院了。
和医生聊完,江松然做出了一个决定,没和任何人商量。
他不回美国了。
决定之後,他和公司的CEO打了一个视频电话,说明了他的想法。
CEO在视频那边沉默了好久,最後连挽留的话都没有说,只是祝福他的父亲赶紧好起来,如果将来他想回来随时欢迎。
江松然注意到,这个当初和他一起在车库创业,合作了好几年的白人老头红了眼眶。
然後又拜托在美国的朋友打理一下房子,留意一下卖房的经纪。
从接到母亲电话的那一刻起,他的生活好像被从中间分成了两段。
前半段是他疯狂努力证明自己,想让父母骄傲的人生。
後半段是什麽,他还不知道。
江松然在等着母亲来和他换班。
江松然无聊的刷着新闻,刷到一篇新闻——
《算力国产化,是未来五年最大的变量》。
看到这个标题江松然久违的在心里笑了一下。
这些媒体估计都不知道自己在说什麽。
算力国产化,国家级战略资源,这话当然谁都会说。
但是对於像他这样专门干这一行的人来说,就像是个笑话。
无他,门槛太高了。
这就像是在说我们应该解决气候问题一样,是句正确的废话。具体要做什麽?怎麽做?花多少钱?周期多长?代价是什麽?没人说的出来。
关掉新闻,江松然又在电脑上点开了一个新的页面,arXiv。
这是一个免费发布论文的网站,尤其是在AI和计算机系统这个圈子,几乎所有的新研究都会先往上面发布。不用等期刊评审,不用等会议接收,写完了发上去,当天全世界就都能读到。
圈里人管这叫「挂上去」。
每天早晨刷一遍arXiv,看看自己关注的几个分类底下有没有新东西,是这个圈子里研究人员大部分人的基本习惯。
江松然这个习惯保留了十几年,从上学的时候到谷歌再到创业公司。
回国陪床这两个多月,工作上的事他已经全放掉了,但每天刷刷arXiv的习惯还保留着。
目光快速划过,一篇新发布的论文题目吸引了他的注意力。
《On Adapting Memory-Efficient Attention to Non-CUDA Heterogeneous Accelerators: A Single-Operator Case Study》(非CUDA硬体上的注意力算子适配:一个单算子的案例研究)
作者只有一个名字,Wenyuan Zhao。
江松然在脑子里把这个名字过了一遍,没什麽印象。
他本来想直接划走。
非CUDA适配这种东西arXiv上一搜一大把,大多是国产晶片厂出钱让自家工程师挂名做的样子工程,没什麽真东西。
但他还是点开了。
因为是单作者。
非CUDA适配这种活儿,正常挂名至少四五个:硬体厂的人挂、软体团队挂、算法挂、做评测的挂。
单作者意味着两种可能,要麽是没团队,要麽是作者把所有人都压下去了,只给自己署名。
这两种可能都挺有意思的,值得看看这篇论文。
PDF加载出来。
摘要的第一句话是:
「本文报告了一款国产的非CUDA加速器上内存高效注意力机制的端到端实现:在单节点8卡配置下,吞吐达到对应cuDNN参考实现的83%,数值误差在2.3e-6以内。」
江松然把屏幕字体调大一点,接着往下翻。
背景写得简洁,没注水。
实现那一节贴了具体的优化方法和代码片段,不是泛泛而谈。
评估那一节有完整的对照、不同上下文长度下的吞吐曲线、还把每一项优化的贡献单独拆出来量化。这些是做评估的人最容易偷懒的几个地方,他都没偷懒。
最让江松然多看了两遍的,还是局限性那一节。
作者自己写道:「本工作只完成了单算子(SDPA),没涉及LayerNorm、Softmax、各类Optimizer等数十个其他算子;没涉及多卡通信库;也没涉及训练场景下的反向传播与混合精度,不构成一套可用的训练栈。」
非常诚实,不像是来刷脸的。
他又翻上去,看了一下团队,Source Intelligence AI。
是个没听过的公司。
江松然往後靠在摺叠椅上,把眼睛揉了揉。
国内居然还真有人在做这种事。
这种吃力不讨好的事。
做出来发不了顶会,打不响知名度,也融不到资金,做的时候也没人知道你在做什麽、做的有多难。
最关键是,因为其他的配套都没有,单做一个出来也是真没什麽用。
这种活儿他熟,谷歌TPU团队的前两年就是这麽熬出来的。
只不过谷歌当年有几百个工程师。
8张卡,一个算子。
江松然在心里量了一下,从这里到「能跑一个能用的训练系统」中间还差什麽。
剩下的几十上百个算子,多卡通信库,分布式训练框架,编译器,容错和检查点。
每一项,都是三五十人的工程团队、两到三年的活儿。
他在矽谷那家公司就做这套东西,做了五年。
如果国内真能有几百个团队,都像这一个一样,安静地做这种没人鼓掌的事。
那国产化也未必没有可能。
可惜,没有几百个这样的团队。
正想着,母亲从外面进来了,一进来就开始唠叨。
「松然,累坏了吧,快回去睡会,你在医院陪床的时候也得注意休息,别你爸还没醒过来,自己就先病倒了……」
江松然也确实是累坏了。
他和母亲交代了几句,稍微收拾了一下,拿上电脑,走出了病房。
一路走到住院部一楼,他看到一个瘦高帅气的年轻人站在大门的位置,背着一个双肩包,好像在找人。
江松然正看着,正好那个年轻人也看了过来,好像看到了他,冲他笑着点了下头,向他走来。
那人的眼神亮的惊人。
江松然不确定他是不是冲着自己来的,也回应了一个点头。
http://www.biluotiandao.com/yt127308/48867585.html
请记住本书首发域名:www.biluotiandao.com。碧落天刀手机版阅读网址:www.biluotiandao.com