题图：拉里·佩奇和埃隆·马斯克在有关人工智能风险的争论中处于对立面。 HOKYOUNG KIM
旧金山——2015年7月，埃隆·马斯克庆祝了自己44岁生日，他的妻子在加州一个酒庄度假村里为其举办了一场持续三天的派对。受邀的都是家人和朋友，这个位于纳帕谷的高档酒店由许多木屋客房组成，孩子们在里面奔跑嬉戏。
[xyz-ihs snippet=”In-article-ads”]
当时距离Twitter成为X以及特斯拉盈利还有数年时间，距离马斯克和妻子塔鲁拉·莱利结束他们的第二次婚姻还有一年的时间。派对嘉宾拉里·佩奇当时仍是谷歌的首席执行官。而就在几年前，人工智能才刚刚进入公众视野，曾被用于在YouTube上识别猫，准确率为16%。
第一天晚饭后，马斯克和佩奇在泳池边的火堆旁坐了下来，深入探讨起人工智能这个话题。这两位亿万富翁已经是十多年的朋友了。
但在那个晴朗的夜晚，谈话的气氛很快变得激烈起来，人工智能最终是促进人类进步还是毁灭人类，两人在这个问题上产生了分歧。
随着深夜寒意渐起，讨论的气氛变得越来越热络，30多名参加派对的人聚拢在一旁听他们谈话。十多年来，佩奇的声带一直受到一种不寻常的疾病困扰，他低声描述了自己对数字乌托邦的愿景。他说，人类最终将与人工智能机器融合。总有一天，将会出现多种智能争夺资源的情景，强者生存。
如果出现了这种情况，马斯克说，我们就完蛋了。机器将毁灭人类。
带着一丝沮丧，佩奇坚称他的乌托邦是值得去争取的。最后，他称马斯克为“物种主义者”，是那种偏袒人类而不是未来数字生命形式的人。
马斯克后来说，那句中伤成了“最后一根稻草”。
八年后再来看，两人当时的争论似乎颇有预见性。人工智能究竟是提升还是毁灭世界——或者至少造成严重破坏，这个问题在硅谷的创始人、聊天机器人用户、学者、立法者和监管机构之间引发了一场持续不断的辩论，它涉及究竟应该对人工智能技术进行管控，还是任其自由发展。
这场辩论让一些世界上最富有的人相互对立：马斯克、佩奇、“元宇宙”平台公司的马克·扎克伯格、科技投资者彼得·蒂尔、微软的萨蒂亚·纳德拉，以及OpenAI的萨姆·奥尔特曼。所有人都在为分得一杯羹和塑造它的权力而战。
这场争论的核心是一个令人费解的悖论。那些说自己最担心人工智能的人，也恰恰是最积极推动它的发展并从中获利者。他们认为他们的宏伟构想是正当的，理由是基于一种坚定的信念：只有他们才能阻止人工智能危害地球。
那个夏天的派对结束后不久，马斯克和佩奇就不再来往了。几周后，在加州门洛帕克瑰丽酒店的一个包间里，马斯克与当时正在经营一家科技孵化器的奥尔特曼以及几位研究人员共进晚餐。
[xyz-ihs snippet=”GoogleADresponsive”]
那次晚宴促成了当年晚些时候一家名为OpenAI的初创公司的成立。在马斯克和其他投资方数亿美元的支持下，该实验室承诺保护世界免受佩奇那种愿景的影响。
凭借ChatGPT聊天机器人，OpenAI从根本上改变了科技行业，并向世界展示了人工智能的风险和潜力。据两名熟悉OpenAI最新一轮融资情况的人士透露，该公司的估值超过800亿美元，不过马斯克和奥尔特曼的合作没能持续下去。两人此后也不再来往。
“有分歧、不信任和自负的原因，”奥尔特曼说。“人们越是朝着相同的方向前进，分歧就越大。在宗教团体和教派中也是如此。最亲近的人之间往往吵得越凶。”
上个月，这种内讧出现在了OpenAI的董事会上。起来造反的董事会成员试图逼走奥尔特曼，因为他们认为，自己无法再相信他能打造出造福人类的人工智能。在充满混乱的五天时间里，OpenAI看起来似乎难以为继了，直到董事会在大投资者以及威胁要跟随奥尔特曼离职的员工施加的压力下，才最终做出了让步。
OpenAI内部的闹剧让世人第一次看到了那些将决定人工智能未来的人之间的激烈争斗。
但在OpenAI几近崩溃的数年前，硅谷曾发生过一次鲜为人知的激烈竞争，争夺这项目前正在迅速重塑世界的技术的控制权。《纽约时报》采访了80多位高管、科学家和企业家，其中包括2015年参加马斯克生日派对的两个人，讲述了这个关于雄心、恐惧和金钱的故事。
DeepMind的诞生
在纳帕谷派对的五年前，以及YouTube上猫取得突破两年前，34岁的神经科学家德米斯·哈萨比斯走进一场在蒂尔的旧金山宅邸举行的鸡尾酒会，他立刻意识到机会来了。蒂尔的客厅里摆着一个国际象棋棋盘。哈萨比斯曾经是国际象棋世界14岁以下组第二名。
“我为那次会面准备了一年时间，”哈萨比斯说。“我想这会是我独有的敲门砖：我知道他喜欢下国际象棋。”
2010年，哈萨比斯和两位同住在英国的同事正在寻找资金，开始创建通用人工智能，也就是一种可以做大脑能做的任何事情的机器。当时，很少有人对人工智能感兴趣。
不过，一些科学家和思想家已经开始关注人工智能的风险。包括这三名来自英国的年轻人在内，许多人都与互联网哲学家、自学成才的人工智能研究者埃利泽·尤德科夫斯基保持着联系。尤德科夫斯基是一群自称为理性主义者的领袖，这些人后来称自己为有效利他主义者。
因为对Facebook的早期投资以及在PayPal早期与马斯克的合作，蒂尔变得非常富有。他对“奇点”产生了浓厚的兴趣，奇点是科幻小说中的一个比喻，用来描述智能技术不再受人类控制的那一刻。
尤德科夫斯基用来自蒂尔的资金扩大了自己的人工智能实验室，并创办了一个以“奇点”为主题的年度会议。多年前，哈萨比斯的两名同事之一曾与尤德科斯基见过面，尤德科斯基为他们三人安排了在会上发言的机会，确保他们会被邀请参加蒂尔的聚会。
尤德科夫斯基将哈萨比斯介绍给了蒂尔。
蒂尔被迷住了，第二天就邀请他们三人再次来到家中。这三人介绍了他们的计划，不久，蒂尔和他的风险投资公司就同意为他们的初创公司投资140万英镑（约合225万美元）。蒂尔是他们的第一位主要投资人。
[xyz-ihs snippet=”googleAD300x100″]
他们给公司起名DeepMind，寓意与人工智能系统通过分析大量数据学习技能的所谓“深度学习”、神经科学，以及科幻小说《银河系漫游指南》中的“深思”超级计算机有关。到2010年秋，他们开始建造自己的梦想机器。他们真心诚意地认为，因为自己懂得其中的风险，所以唯有他们可以保护世界。
“我不认为这是一个矛盾的立场，”DeepMind的三名创始人之一穆斯塔法·苏莱曼说。“这些技术将带来巨大的好处。目标不是排除它们或暂停它们的发展，而是减少不利因素。”
获得了蒂尔的支持后，哈萨比斯开始努力进入马斯克的轨道。大约两年后，两人在蒂尔的投资基金组织的一个会上见了面，该基金也曾投资马斯克的SpaceX公司。哈萨比斯获得了参观SpaceX总部的机会。之后，两人在公司食堂一起吃了午饭，并进行了交谈。
马斯克解释说，他的计划是殖民火星，以逃避地球上人口过剩的问题和其他危险。哈萨比斯答道，这个计划可行，只要具有超级智能的机器不跟到火星上来摧毁人类。
马斯克无言以对。他还没有考虑过这种不寻常的危险。不久，马斯克加入了蒂尔的行列，开始给DeepMind投资。
资金充裕的DeepMind雇来了专门从事神经网络研究的人。神经网络是一种模仿人脑过程的复杂算法，本质上是一个在大量数字数据中识别模式的巨大数学系统，识别一个模式有时需要几天、几周甚至几个月。最早的神经网络是20世纪50年代研究出来的，可用于学习自行处理任务。例如，在分析了写在数百个信封上的潦草姓名和地址后，神经网络能识别手写的文件。
DeepMind进一步发展了这个概念。公司为了展示神经网络能做什么，造了一个能学习玩经典游戏“雅达利”的系统。
这引起了硅谷另一家巨头谷歌的注意，尤其是佩奇。
人才拍卖会
2012年秋，加拿大多伦多大学64岁的教授杰弗里·辛顿和两名研究生一起，发表了一篇研究论文，展示了人工智能的能力。他们训练了一个用于识别常见物体的神经网络，比如花、狗和汽车。
辛顿和他的学生们研制出来的技术的准确性使科学家们惊奇。他们的工作尤其引起了人工智能研究者余凯的注意。余凯最近已开始为中国互联网巨头百度工作，他曾在一次学术会议上见过辛顿。按照三名知情人士的说法，百度提出为辛顿和他的学生们提供1200万美元，邀请他们加入这家北京的公司。
辛顿拒绝了百度的邀请，但这笔钱引起了他的注意。
“我们原来不知道我们值多少钱，”辛顿说。他咨询了与公司收购有关的律师和专家，拿出了一个方案：“我们要组织一场拍卖，把自己卖出去。”这场拍卖发生在赫拉斯太浩湖度假娱乐场酒店举行的人工智能年会期间。
谷歌出了价。微软也出了价。DeepMind很快就退出了。行业巨头们将竞价提高到了2000万美元，接着又提高到2500万美元。竞价超过3000万美元时，微软退了出来，但在竞价达到3700万美元时再次参加竞拍。
后来，微软第二次退出。只剩下百度和谷歌，它们把竞价推到了4200万美元、4300万美元。竞价达到4400万美元时，辛顿和他的学生们终于停止了拍卖。虽然竞价仍在上升，但他们想为谷歌工作。而且，这个价钱已经令人难以置信了。
这是一个确定无疑的迹象，表明财力雄厚的公司有决心收买最有才华的人工智能研究者。这一点没有逃过DeepMind的哈萨比斯的注意。他曾一直对员工们说，DeepMind会保持其独立公司的地位。他相信，那是确保公司技术不变得危险的最好办法。
但随着大科技公司加入到人才竞赛中来，哈萨比斯做出了决定，他别无选择：把实验室卖掉的时候到了。
据三名知情人士，到2012年底时，谷歌和Facebook都在考虑收购这家位于伦敦的实验室。哈萨比斯和实验室的联合创始人坚持有两个条件：任何DeepMind技术都不能用于军事目的，其通用人工智能技术必须由一个独立的技术和伦理委员会监督。
谷歌出价6.5亿美元。Facebook的扎克伯格向DeepMind的创始人们出了更高的价，但他不同意那两个条件。 DeepMind选择了谷歌。
消失的伦理委员会
马斯克投资DeepMind时打破了自己一条不成文的规定，那就是他不投资任何不由他本人运行的公司。他在生日派对上与佩奇发生口角的事儿过去了还不到一个月，他与这名同是亿万富翁的前朋友再次面对面坐下来时，他投资DeepMind决定的不利方面已显而易见。
那是在DeepMind伦理委员会于2015年8月14日召开第一次会议的时候。该委员会是在这家初创公司创始人的坚持下成立的，目的是确保他们的技术卖出后不会造成任何伤害。据三名了解会议情况的人，委员会成员在马斯克SpaceX办公室外的一间会议室召集了这次会议。
[xyz-ihs snippet=”In-article-ads”]
但那也是马斯克的控制结束的地方。谷歌把DeepMind买下来时收购了整个公司。马斯克出局了。
三名现在牢牢控制着DeepMind的谷歌高管都在会上：佩奇，谷歌联合创始人、特斯拉投资者谢尔盖·布林，以及谷歌董事长埃里克·施密特。其他与会者包括PayPal创始人之一里德·霍夫曼，还有研究“与人类存在相关风险”的澳大利亚哲学家托比·奥德。
DeepMind的创始人们在会上汇报了他们正在推进的工作，但他们意识到这项技术会带来严重的风险。
八个月后，DeepMind取得了震惊人工智能界和全世界的重大进展。一台名为AlphaGo的DeepMind机器击败了世界上最好的围棋手之一。全球有2亿人观看了那场在互联网上直播的比赛。大多数研究人员之前认为，人工智能把围棋学到这种水平还需要十年时间。
分道扬镳
马斯克深信佩奇对人工智能的乐观看法完全错误，并对失去DeepMind感到愤怒，他决定成立自己的实验室。
2015年底，OpenAI成立了。
据四名知情人士，2017年底，马斯克策划了一个从奥尔特曼和其他创始人手中夺走OpenAI控制权的计划，他想把这个实验室变成能与特斯拉联手的商业实体，让其靠汽车公司正在研发的超级计算机运行。
遭到奥尔特曼和其他人的反对后，马斯克表示退出实验室，并说他将集中精力在特斯拉搞自己的人工智能系统。2018年2月，马斯克在这家初创公司用一个卡车工厂改造的办公楼的顶层向OpenAI员工们宣布他将离开，三名参加了那次会议的人说。
OpenAI突然急需得到新资金。奥尔特曼在飞往太阳谷参加一个会议时遇到了微软首席执行官萨蒂亚·纳德拉。合作看来是自然的事情。双方在2019年达成协议。
奥尔特曼和OpenAI在原来的非营利框架下成立了一家营利性公司，他们得到了10亿美元的新资本，微软则有了一个新方法来将人工智能纳入其庞大的云计算服务。
[xyz-ihs snippet=”GoogleADresponsive”]
揭晓
OpenAI从微软获得了又一笔20亿美元的资金后，奥尔特曼和另一名高管格雷格·布罗克曼在比尔·盖茨位于西雅图市外华盛顿湖畔的豪宅里拜访了后者。
盖茨在吃晚饭时对他们说，他对大型语言模型的有效性持怀疑态度。他说，他会继续持怀疑态度，直到该技术能完成需要批判性思维的任务，例如做生物学大学先修试题时得到及格的成绩。
五个月后，2022年8月24日那天，奥尔特曼和布罗克曼再次来到盖茨家，还带来了名叫切尔西·沃斯的OpenAI研究员。 沃斯高中时获得过国际生物学奥林匹克竞赛奖牌。
在盖茨客厅外的一个巨大数字显示屏上，OpenAI工作人员向他演示了一项名为GPT-4的技术。
布罗克曼把一份高等生物学选择题试卷提交给系统，由沃斯给机器的答案打分。
总共有60个试题。GPT-4只答错了一个。
坐在椅子上的盖茨挺直了身子，睁大了眼睛。研究人员1980年给他演示图形用户界面时，他有过类似的反应。图形用户界面是当代个人计算机的基础，盖茨认为GPT具有那种革命性。
到2022年10月时，微软已在其在线服务，包括必应搜索引擎中添加了GPT技术。两个月后，OpenAI发布了ChatGPT聊天机器人，有1亿人现在每周使用它。
OpenAI击败了Anthropic公司的有效利他主义者。虽然谷歌的佩奇乐观派们急忙发布了自己的聊天机器人Bard，但人们普遍认为他们在与OpenAI的竞争中失利。ChatGPT发布了三个月后，谷歌股价下跌了11%。马斯克做的东西还没有踪影。
但这只是开始。
来源：纽约时报中文版
翻译：杜然、Cindy Hao
10,601 views
