揭秘OpenAI,Elon Musk解放人工智能的疯狂计划

揭秘OpenAI,Elon Musk解放人工智能的疯狂计划
去年12月 份的一个周五的下午,在 Montreal 举办的一场为期一周的 AI 会议快要结束的时候,特斯拉公司创始人 Elon Musk 和科技孵化器 Y Combinator 的掌门人 Sam Altman 在会议上宣布成立新的非盈利性的人工智能公司 OpenAI

他们选择在那天会议的最后时刻宣布 OpenAI 这个项目是有原因的。不是因为没有人关注他们,而是因为每个人都在关注他们。当硅谷的一些科技巨头听说了这个项目后,他们便立刻着手花重金从 OpenAI 这个刚成立的项目里挖那些人工智能方面科研人员为自己所独用。有的甚至在会议期间就开始高价挖人,他们的开价之高迫使 Musk 和 Altman 不得不推迟宣布这个新项目,以防被挖墙脚。Wojciech Zaremba 是一位人工智能研究员,他是在 Google 和 Facebook 实习过后最终选择加入 OpenAI 的,他也被高价挖过,但没挖走,并表示 “那些挖人的公司开的价格实在是太疯狂了。”

究竟疯狂到什么程度?2年 前,机器学习技术市场便开始升温了,微软研究院副总裁 Peter Lee 就曾说过,在正常情况下,一位顶尖的人工智能专家的价格甚至能超过一位全美橄榄球联赛的顶级四分卫的价格,而当硅谷最著名的两位企业家都想挖走你的顶尖人工智能专家时,他们的开价更是高得出奇。Zaremba 表示,在 OpenAI 成立的时候,一些挖他的公司给他开出的薪酬是他的市场价值的 2 至 3 倍。

而 OpenAI 并没有开出那么高的薪酬,不过它提供了一些其它很有诱惑力的条件:科研人员在 OpenAI 可以专心探索面向未来的技术研究,无需关心产品和季度盈利,同时可以将大部分研究成果与需要它的所有人共享。没错,Musk、Altman 和 OpenAI 的目标是将那些可能会成为 21 世纪最具革命性的技术免费共享给所有人。

Zaremba 表示,尽管他非常尊重 Google 和 Facebook 这样的大公司,然而这些公司疯狂的开价最终让他决定拒绝他们的 offer。他认为,那些公司之所以重金挖人,一是为了阻止 OpenAI 的成立,二是为了让这些人仅仅为自己的公司所用并维护自己公司的业务,这让 Zaremba 更加坚信 OpenAI 的崇高使命并加入进来。

这里有一个非常具有讽刺性的地方:那些世界上最强大的科技公司都在紧紧抓住研究人员不放,让他们为自己所用,就像全美橄榄球联赛球队紧紧抓住自己的明星四分卫不放一样,但是研究人员自己却想去分享研究的技术成果。在人工智能研究的纯净世界里,最聪明的人才不会受下一个产品周期或利润率所驱动,至少不完全由它们驱动。这些聪明绝顶的研究人员想让人工智能变得更好,然而如果你将自己所有的研究成果仅为自己所用的话,人工智能是不可能变得更好的。

就在昨天,OpenAI 发布了自己的第一批人工智能软件Gym,它是一个利用 “增强学习” 技术来开发人工系统的工具包。增强学习是很多科技成果的核心技术,Google 在前段时间人机大战里的功臣 AlphaGo 的核心技术正是增强学习。有了 Gym 这个工具包,你可以开发新一代机器人系统、玩 Atari 游戏,当然也可以和 Google 一样开发下围棋的系统。

在游戏领域的运用只是人工智能在实际中运用的一个开始。为了推动人工智能向前发展,OpenAI 将为此花费数十亿美元。如果你知道 OpenAI 是如何成立的以及它未来的计划的话,你就能看到下一波创新浪潮正在形成。我们暂时还不知道 OpenAI 是否能成为下一波创新变革浪潮的主体。但推动 OpenAI 这个不同寻常的创业公司创立的背后那股强大的力量向我们表明:新一代人工智能不仅会重塑科技,而且还会重塑科技的建设方式。

人工智能无处不在

揭秘OpenAI,Elon Musk解放人工智能的疯狂计划

在人工智能领域,变革是真实发生的。在 Google 和 Facebook 等一些公司里,深度学习技术已经在帮助一些服务识别图片中的人脸、识别智能手机语音指令、响应搜索查询等。深度学习技术未来还会继续解决很多其它任务。它能够帮助机器理解自然语言,即人类交流与写作的自然方式。它可以帮助开发新一代机器人,它不仅能让机器人执行任务,还能在工作中进行学习。有一部分人坚信人工智能最终能赋予机器人 “常识”,即像真人一样思考的能力。

愿景很美好,伴随而来的是担忧。Musk 和 Altman 担心,如果人们可以利用人工智能做一些好事,那么他们也可以利用人工智能去干坏事。Musk 和 Altman 并不是唯一有这种担忧的人。不过他们同时认为,与邪恶人工智能斗争的最好方式不是限制人工智能的接入和使用,而是更广泛地推广它。这也是 Musk 和 Altman 能够吸引一批年轻聪明的理想主义者加入 OpenAI 这个新项目的原因之一。

在去年夏天的一个晚上,OpenAI 项目是在硅谷的一个名为 Rosewood 酒店的包房里悄然开始的。那天晚上,Elon Musk 和 Ilya Sutskever 在这里一块吃了顿饭,Sutskever 当时还在 Google Brain 工作。Google 的 Google Brain 项目的主要任务是开发深度神经网络,这种神经网络人工智能系统可以通过分析海量数据来执行任务,包括识别图片、书写电子邮件和对话等。Sutskever 是这个项目的核心人员。

揭秘OpenAI,Elon Musk解放人工智能的疯狂计划

(图中为 Ilya Sutskever)

为这次聚餐会面牵线搭桥的是 Y Combinator 的掌门人 Sam Altman,YC 孵化出很多知名公司,包括 Airbnb、Dropbox 和 Coinbase 等。Altman 将一些人工智能研究方面的专家和一位虽然年轻但经验丰富的公司创始人 Greg Brockman (硅谷知名的支付公司 Stripe 的 CTO)聚在一起。这些人虽然看起来互不搭边,不过他们有一个共同的目标:创建一个不受 Google 或其它任何公司控制的全新人工智能实验室。Brockman 表示:“我能想象的最酷的事情就是以一种安全的方式推动人类朝开发真正的人工智能迈进。”

Musk 之所以也出现在那次聚餐中不仅因为他是 Altman 的老朋友,还因为人工智能对他自己公司的很多业务以及对未来世界都是非常重要的。特斯拉自动驾驶汽车需要人工智能,SpaceX 要想将人类送入太空并让人类能在太空中生存的话同样需要人工智能。然而有些人警告说人工智能一旦强大到能够自我学习的时候,人类就控制不了它了,而 Musk 也曾发出过同样的警告。

问题是:全世界有能力解决这些问题的顶尖人才中的很多都已经加入 Google、Facebook、微软百度Twitter 这样的大公司了。即使这个新项目有 Musk 和 Altman 做后盾,饭桌上的人中依然没有一个能确定可以吸引那些顶尖人才加入这个新公司。但有一个关键人物对跳槽加入这个新项目是保持开放心态的,那就是 Sutskever,他表示:“这里面是有风险,但我觉得如果能尝试一下的话也会非常有趣。”

花大力气招人工智能方面的顶尖人才

在与 Musk、Altman 和饭桌上的其他人交流后,Brockman 倍受鼓舞,于是他很快就开始着手建设大家设想中的人工智能实验室。Brockman 全职投入到这个项目里,他还联系并拜访了 Montreal 大学的计算机科学家、深度学习运动的先驱之一 Yoshua Bengio。除了 Bengio 外,深度学习领域的另外两位先驱分别是 Geoff Hinton 和 Yann LeCun,Hinton 现在在 Google 工作,而 LeCun 则被 Facebook 招入麾下。Bengio 致力于将自己的一生都奉献在人工智能的学术研究上,不怎么关注这个产业。Bengio 给 Brockman 列出了一份人工智能领域的顶尖研究人员的名单,在之后的几周时间里,Brockman 想尽办法拜访了这个名单里的每一个人以及其他一些这个领域的专家。揭秘OpenAI,Elon Musk解放人工智能的疯狂计划(图中为 Greg Brockman, OpenAI 的创始人之一兼 CTO)

Brockman 拜访的很多研究人员都非常喜欢自己的想法,同时对加入这个新项目又都非常谨慎。于是 Brockman 从中选择了 10 位他自己最想要的研究人员并邀请他们周六一整天到一家位于 Napa Valley 的酒庄一起喝酒吃饭。对于 Brockman 来说,坐车前往 Napa Valley 的路中也是推销这个项目的一个难得的机会。所以 Brockman 一路上和他们畅谈这个项目。到达酒庄后,他们的畅谈还意犹未尽。与交流相比,喝酒其实是次要的。

在一天的吃喝畅谈即将结束的时候,Brockman 真诚邀请这 10 名研究人员加入这个实验室,并给他们 3 周时间去考虑。三周后,10 个人中有 9 个人决定加入。虽然后来硅谷的很多大公司的开价很高,他们依然选择 OpenAI。Sutskever 说到自己的老雇主 Google 时这样说:“Google 的待遇非常诱人,离开 Google 其实并不是一个容易的决定。但最终我还是选择加入 OpenAI,部分原因是因为 OpenAI 的团队非常强大,不过更多的是因为我坚信 OpenAI 的使命。”

深度学习运动起始于学术圈,谷歌、Facebook、微软等公司也是在最近一段时间才进入这个领域,因为计算能力的提升让打造深度神经网络成为现实。像 Hinton 和 LeCun 这样的技术大佬之所以后来选择离开学术圈转而加入了 Google 和 Facebook 等公司,这是因为这些公司拥有大量资源。不过他们依然想和其他人工智能方面的思想家合作。如 LeCun 说的那样,深度学习研究是需要不同思想的自动流动的,如果你进行秘密研究,你就会落后。

所以现在一些大公司开始越来越多地分享自己在人工智能方面的研究成果。这是真实的变化,Google 在这方面的变化最大,因为 Google 之前对自己技术的保密程度是非常高的。最近,Google 开源了能够驱动神经网络的软件引擎,但它对一些关乎未来的很多核心的研究成果依然是严格保密的。Brockman、Altman 和 Musk 的目的就是进一步推动开放的理念,他们不希望人工智能的未来被少数几家大公司所控制。

开放存在的限制

这一切听起来很美好,但对于 OpenAI 的所有理想主义研究人员而言,他们现在依然不得不像在之前的公司一样做出一些妥协。开放是有一定的局限性的。人工智能的长远愿景并非参与人员的唯一感兴趣的地方。OpenAI 也并非慈善机构。Musk 的公司可能会从 OpenAI 项目的研究成果中获益良多,Y Combinator 孵化的公司也同样如此。LeCun 表示:“当然会有一些竞争目标,OpenAI 虽然是非盈利性机构,但它和 Y Combinator 关系密切,员工在 OpenAI 工作就像是在这个行业里的其他公司工作一样,毕竟他们也是拿工资的。”

Brockman 表示,OpenAI 给员工开的工资没有像 Google 和 Facebook 这样的大公司开的高,但 OpenAI 是想给员工很高的待遇的,它会用股票期权来补偿研究人员,开始的时候会用 Y Combinator 股票,未来可能还会用 SpaceX 的股票来补偿他们。

Brockman 坚持表示 OpenAI 不会给姐妹公司提供特别的待遇,OpenAI 是一家研究机构,而并非是咨询公司。然而当面临外来压力时,Brockman 也承认 OpenAI 的理想主义愿景是有它的局限性的。OpenAI 可能不会将自己的所有研究成果都公开,尽管它的目标是最终分享大部分的研究成果,可能通过发表研究论文的形式公开,也可能直接在网络上公开。Brockman 表示:“所有研究都公开进行不是最好的研究方式。你首先需要孕育想法,看它的发展方向,等时机成熟后再发表。我们会编写很多开源代码,但依然还有很多我们没做好准备去公开的东西。”

Sutskever 和 Brockman 还表示,OpenAI 未来可能会为一些自己的研究成果申请专利。“我们在短期内不会申请任何专利,但未来如果我们发现这么做对世界最有利的时候,我们就会改变策略。”

人工超级智能可能会引发的问题

当 Musk 和 Altman 发布 OpenAI 的时候,他们将这个项目描述成一种能够抵消邪恶的人工超级智能可能带来的威胁的方式。当然,人工超级智能可能会源于 OpenAI 创造的技术,但是他们坚持认为,因为 OpenAI 开发的技术是所有人都可以用的,这就能减轻超级智能可能会带来的威胁。“我们认为未来更有可能出现的情景是很多人工智能一起努力去阻止偶然出现的有威胁性的恶意人工智能。” Altman 如是说。

但并非所有人都赞同这一观点。就像 Musk 一样,牛津大学的哲学家 Nick Bostrom 就对 AI 的危险发出过警告。Bostrom 认为,如果毫无限制地分享人工智能的研究成果的话,在没能确保安全的情况下,一些不怀好意的人可能就会利用它干坏事。斯特罗姆称:“如果你有一个按钮,只要按一下就能够对世界造成破坏,你肯定不希望每个人都拥有一个这样按钮。” 而从另一方面看,如果 OpenAI 为避免人工智能被坏人所用而选择不公开自己的研究成果的话,那么 OpenAI 和 Google、Facebook 还有区别吗?

不过 Bostrom 表示,OpenAI 的非盈利的性质可能会改变一些事情。这个项目的真正力量是能够监督 Google、Facebook 这些公司,它能减少人工超级超级智能被垄断的可能性。。

OpenAI 就像当初施乐帕克研究中心一样

在今年1月 的月初,9 位人工智能研究人员来到 Brockman 的住所开会。因为这是一个全新的项目,所以他们当时连一块开会用的白板都没有,他们那天临时买了一些白板,然后就开始工作了。

Brockman 说 OpenAI 的工作需要从探索增强学习开始,增强学习就是机器通过一次又一次地重复任务然后追踪那种方法是完成任务的最好方法。另外一个主要目标是 “无监督学习”,也就是打造在不需要人类的指导下就能自行学习的机器。今天,深度学习是由认真标注的数据驱动的。如果你想教会神经网络识别猫的图片,你必须在里面添加一定量的贴有猫的标签的图片。它的这种学习过程在人类标签员的监督下进行的。和很多其他的研究人员一样,OpenAI 的目标是开发一个不需要小心地贴标签数据就能自动学习的神经网络。“如果你有非常好的非监督学习技术,机器就可以从互联网上学习所有知识,就像人类可以通过阅读学习一样。” Brockman 如是说。

Brockma 将 OpenAI 看作是施乐帕克研究中心的化身,施乐帕克研究中心在 20 世纪 70 年代是它最辉煌的时候。帕克研究中心的研究成果是开放的,它推动了图形用户界面、激光印刷机和面向对象编程的诞生,Brockman 和他的团队探索的是更深层的东西,甚至包括一些我们之前认为是科幻的东西。帕克研究中心虽然是施乐的,但它的研究成果让很多公司都能从中受益,苹果公司是最大受益者之一。在 OpenAI,Brockman 希望每一个人了解 OpenAI 的研究成果。

就在这个月,为了更快地推动这个项目,OpenAI 又招来了几名非常厉害的研究人员,其中包括前 Google Brain 团队的资深研究员 Ian Goodfellow。Brockman 表示:“帕克研究中心最特殊的地方在于它聚集了一批绝顶聪明的研究人员,他们想到哪里就到哪里,你需要的是一个大家认同的愿景,而不是集中式的控制。”

愿意放弃控制权是开源理想主义的核心。如果足够多的人愿意为一个统一的目标奋斗的话,那么他们最终的研究成果是可以彻底击败你秘密研究的任何成果的。

发表评论

电子邮件地址不会被公开。