硅谷战场ChatGPT背后天才的故事
01故事的起源
时间倒推到年,ImageNet项目举办一年一届的大规模视觉识别挑战赛(ILSVRC)。
ImageNet项目是一个用于视觉对象识别软件研究的大型可视化数据库。ImageNet项目的创建者叫李飞飞,华裔女科学家,世界知名的AI专家,斯坦福大学终身教授,她发明了ImageNet和ImageNetChallenge,曾任GoogleAI/ML首席科学家。
ImageNet项目年ImageNet比赛,获得第一的是来自加拿大多伦多大学的,AlexNet团队。
AlexNet团队利用基于一个卷积神经网络,一个模仿人类大脑神经元网络的数学系统。它不仅拿了第一,且精度是第二名的两倍。
AlexNet由三个大学师徒开发的:计算机老教授辛顿(GeoffreyHinton),他的两个学生,AlexKrizhevsky和IlyaSutskever。恰好两个学生,都出生在苏联。
I左起Sutskever、KrizhevsGeof、Hinton大赛夺魁后,AlexNet声名鹊起,引起科技巨头的竞相洽购。据说第一个找上门来的是百度。李彦宏希望深度合作,开口先提供万美元研究经费。
师徒三人发现了商机。于是他们成立一家叫DNNresearch公司,没有收入,没有流水,没有业务,只有三个人。他们决定通过拍卖方式,卖掉这家什么都没有的公司,争取利益最大化。
百度先叫牌,万美元开始。价格一步步上升,来到万美元。只剩下谷歌和微软。两家都势在必得,准备更高的报价。这时候,体现了工程师独特的精神需求。三个人不打算让两家巨头继续加价,而是开始关心钱之外的事情,选择了谷歌。最终谷歌用万美元的报价,买来一位老教授和两位天才少年。
而买主,谷歌的两位创始人之一的谢尔盖·布林(SergeyBrin),恰好也出生在俄罗斯。
谢尔盖·布林也有段往事:他的父亲,曾供职苏联国家计划委员会,主要的工作是用专业的数学统计论证苏联人的生活水平远比美国人高。多年后,布林父亲带着家人移民美国。
所以这个故事开头是:一个出生中国的女科学家,在美国发掘了两位出生俄罗斯的少年天才,并加入职俄罗斯裔创建的互联网巨头企业,一起推动AI发展的故事。
谷歌创始人拉里佩奇和谢尔盖布林02硅谷的AI战场
当时Google、Microsoft、Facebook的AI战争已经全面打响,三家都想执牛耳令天下。
Google手握Andriod,抢走微软的“操作系统之王”的地位。且Google搜索眼中看不见微软Bing。微软被戏称年迈的老人,而谷歌正是风头无两。
年,Google用6.5亿美元,收购只有50人的DeepMind。DeepMind创始人是英国人戴密斯·哈萨比斯(DemisHassabis)。他有1/4中国血统,其母亲是华裔新加坡人。
据称当时收购DeepMind,最后只剩下Google和新巨头Facebook。如果DeepMind选择Facebook的收购方案,团队每人分到的现金是Google方案的两倍。但是团队成员依旧选择了谷歌。新晋土豪Facebook也有撒钱得不到的人。
有人说,是谷歌一句slogen,不作恶(don’tdoevil),喊进了天下极客的心坎。不过成也萧何败也萧何,后文会提到。
DeepMind创始人DemisHassabis输掉了DeepMind,扎克伯格肯定不服气。年,卷积神经网络(CNN)之父,杨立昆(YannLeCun)加入Facebook。恰好老教授辛顿(GeoffreyHinton),和杨立昆(YannLeCun),以及YoshuaBengio共同获得年图灵奖。
杨立昆GeoffreyHintonYoshuaBengio接下来就是年,AI行业大事件,AlphaGo大战人族巅峰李世石。
年那场棋局,表面上看是AlphaGo单挑李世石。但是背后,是谷歌和Facebook的AI之争。
Facebook抢先手,到处宣扬自己在AI上的投入和成果,一点点进展就开发布会。目的就是希望树立起Facebook是人AI领域的领导者地位。当时DeepMind在一次闭门比赛,打败了三届欧洲围棋冠军。
YannLeCun于是放狠话:不可能!以我在行业的地位,如果真的开发出来了,一定会有人告诉我。AI要战胜顶级围棋棋手,还要几年时间。Facebook是领先的。正在攻克围棋,再过几年Facebook的人工智能就能战胜人类最好的棋手。
之后发生的一切,是人类科技史上极端残忍的一幕,AlphaGo吊打李世石。Google在首尔对Facebook的大型鞭尸。
左起:李世石,DemisHassabis、布林这场比赛,除了DeepMind创始人DemisHassabis之外,上文提到的卖身成功的IlyaSutskever,已经在谷歌打卡,协助DeepMind推动AlphaGo的项目。为年的这场历史性的棋局,也做出了基石性的贡献。
03搅局者马斯克
人间富贵花,埃隆马斯克。他卖掉PayPal后,倒腾起特斯拉项目。
Google两位创始人,拉里佩奇和谢尔盖布林,不仅是特斯拉第一批白鼠用户,还直接投资了马斯克。据说他们三人可基情满满,马斯克出差去硅谷,经常去布林或者佩奇家里住,即使男主人不在家。所以年,布林突然宣布离婚,马斯克则跳出来辟谣戴帽子。
但是马斯克拆了Google的ChatGPT这事儿,还真是他干的。
IlyaSutskever撬走少年天才IlyaSutskever。
Sutskever为爱打卡谷歌。先是创造性地将数学引入翻译,给每个句子一个向量,根据神经网络做出了全世界最好的机器翻译系统。而后在AlphaGo项目,Sutskever也启动了基石性的作用。
意见领袖马斯克,在外部世界,先举起“AI会毁灭人类”大旗。这让处于研究最前沿的Sutskever,非常认可。
年7月,马斯克在加州门洛帕克市瑰丽酒店攒了个饭局,大佬云集:YCombinator总裁SamAltman(现OpenAICEO)、,DeepMind早期投资人PeterThiel(PayPal创始人)、ReidHoffman(LinkedIn创始人)、GreyBrockman(StripeCTO)。这次会议探讨利用AI的技术,实现更多的产品,为人类造福。
饭后,GregBrockman和SamAltman,立即回到了旧金山,与马斯克一起举创办了非营利性人工智能组织OpenAI,并对IlyaSutskever等9位天才发出组队邀请。
OpenAI成立时便宣称:要向全世界公开分享他们的研究成果。这一点便是卖身Google的DeepMind做不到的。这彻底触动了IlyaSutskever的极客内心,随后放弃了Google的万美刀的薪酬。还影响了一批Google的天才跳槽。
且最近数个月,OpenAI至少挖走了12名Google核心工程师。
媒体公布的Google跳槽OpenAI工程师名单不过跳槽这事儿,也不能全责怪OpneAI。近些年Google也用石头砸自己命根子:年,谢尔盖布林接待美国国防部长,双方洽谈马文项目(ProjectMaven),目的是用大数据和机器学习改造战争。这引起巨大风波,Google内部有3人签名反对,而公司外部也有0名业界学者施压,要求谷歌不得用数据和AI技术用于军事用途。
最终这事儿Google迫于压力取消了合同,但伤了一众极客天才的心。后续爆出一封Email显示,时任谷歌AI首席科学家李飞飞,和谢尔盖布林一起支持与军方合作。李飞飞也于离开Google回到斯坦福大学。
此事后,谷歌的行为准则页面(CodeofConduct),开头的“不作恶”(don’tbeevil)被删掉了。曾经那些理想主义的科学天才,拒绝微软加钱,也要去谷歌。这样的时光,估计以后不再有了。
04追求梦想的天才
在ChatGPT大火之前,IlyaSutskever默默领导的GPT(GenerativePre-trainedTransformer升级工作,做了五年。#万物皆可ChatGPT#
GPT-1(年):是在一个大规模的互联网文本数据集上训练的。它的关键创新之一是使用无监督的预训练,在这种情况下,模型学习根据前面的单词的上下文来预测句子中的单词。这使得该模型能够学习语言结构,并生成类似人类的文本。
GPT-2(年):在GPT-1的成功基础上,它在一个更大的数据集上进行了训练,产生了一个更强大的模型。GPT-2的主要进步之一是它能够就广泛的主题生成连贯和流畅的文本段落,这使它成为了无监督语言理解和生成任务的关键角色。
GPT-3(年):GPT-3在规模和性能上都是一个实质性的飞跃。它是在一个大规模的数据集上训练的,使用了亿个参数,比以前的模型大得多。GPT-3在广泛的语言任务上取得了最先进的性能,如问题回答、机器翻译和总结,具有接近人类的能力。它还显示了执行简单的编码任务、编写连贯的新闻文章、甚至生成诗歌的能力。
GPT-4(年):ChatGPT版Bing宣称使用GPT-4内核,预计随后对外发布。
ChatGPTChatGPT如今的大火,人们却遗忘了曾经的AI寒冬。数十年来,AI前辈们吹了太多的牛,最后都没有落地。整个业界已经惧怕“通用人工智能”了。而那些在研究院的天才大脑,只要调整下方向,搞搞数据分析,智能推荐,互联网公司的数百万年薪跪着送过来。谁又能抵得住这些现实诱惑?
但是人类的进展,依旧有IlyaSutskever类似的人。ChatGPT爆火,让Google拉响,紧急警报!退居前年四年的谢尔盖布林,突然亲自下场,要求对Google聊天机器人Bard代码审查。OpenAI也放弃了非盈利的性质,加入了微软的阵营,新版的Bing,吓掉了谷歌千亿市值。
Google曾经了小甜甜,成了如今的牛夫人。而当年众人嫌弃的小软软Microsoft,现在高攀不起。踹了Google人工智能家当的马斯克,也会被OpenAI开掉。
这个江湖依旧延续着他们的故事。
05故事终篇:天才需要沃土
这个故事的开端,有中国天才李飞飞,俄罗斯天才AlexKrizhevsk,IlyaSutskever,法国科学家YannLeCun,还有背后的俄罗斯裔大佬谢尔盖布林。如今都在美国国土,为印度裔人打工(谷歌和微软CEO均是印度裔)。
其实商业的核心竞争,归根都是人才的竞争。
我们也不用去过度责怪“抢菜”的国内互联网企业。我们也看到王慧文,自掏腰包求同志入伍的壮志未酬。
毕竟一个国家,一个社会,既需要执着企业利润的商业大佬,也需要一些想法独特,价值观固执的怪才。人类的顶级创新,需要这类怪才。同时也需要商业大佬为这些天才提供一个安静的角落,让他们保存理想主义,做自己认定的事儿。
如今我们直面与美国的科技之战、人才之战。也注定需要整个社会,一起创造这样的系统和环境。为理想主义的天才们,提供一份土壤。
转载请注明:http://www.abuoumao.com/hykz/3644.html