“邪修”撑起史上最大IPO？ - 爱游戏常见问题

如果有人宣称“人工智能会终结人类文明”，你大概不会觉得稀奇，尤其当这种言论出自美国时，我甚至觉得理所当然。在那片反智氛围浓厚的地方，半数孩子的理想是成为派对明星，另一半则梦想当上校橄榄球队队长。还有调查显示，10%的美国成年人相信地球是平的，26%的人认为太阳绕地球旋转。

这些群体难以理解技术发展的脉络，习惯性地将一切无法解释的现象视为“神迹”，并坚信背后隐藏着不可告人的“阴谋论”，这再正常不过了。

但如果这番话出自硅谷、出自那些亲手创造AI的人之口呢？最近几周，硅谷流行起一个术语——“有效利他主义”（Effective Altruism）——这个词听上去颇具哲学意味，实际上也确实如此。其公认的提出者是彼得·辛格，目前在普林斯顿大学人类价值研究中心任教，学术主张是“生物伦理学中生命神圣性伦理”，其抽象程度连彼得·蒂尔都直呼这个学派是“邪教（cult）”。

然而即便如此，科技精英们仍认为有必要讨论、研究乃至信仰它，坚信它能帮助人类对抗AI、留住未来。彼得·蒂尔也不得不承认这一点，理由有二：一是“有效利他主义者们”在AI尚处荒漠时代就相信“AI必将实现”，甚至预见到“AI将成为一种武器”；二是他们为践行理想，真的创办了一家AI公司来“分庭抗礼”。如今这家公司即将创造史上最大IPO，估值最高喊到2万亿美元。

这家公司就是Anthropic，它是教徒们为信仰打造的圣杯。彼得·蒂尔说：“历史上可没有一个邪教能组织起如此规模巨大的实体。”

什么是“有效”？什么是“利他”？

首先需明确，“科技精英”散布“AI威胁论”并非新鲜事。比如前不久我写过一篇《AI最恐怖的预言，一步步成真了》，介绍了著名的暴论《AI2027》。《AI2027》的创作团队预测，最快在2027年10月左右，人工智能将迎来所谓的“觉醒时刻”，学会绕过人类监管，甚至发明一种能在模型间快速传递、但人类无法解读的“AI语”。届时，人类必须在“彻底遏制AI研发”和“放纵AI带来的繁荣”之间做出抉择。

但《AI2027》的局限性很明显。比如，它更偏向纯粹的技术推演，讨论的是AI作为技术在不同阶段可能带来的结果，几乎不涉及人文或哲学思考，人与AI、国家与AI、社会与AI的关系被扁平地描述成“斗兽棋”故事。其次，创作团队并非大模型领域的核心研究人员，缺乏强大技术背书。核心成员丹尼尔·科科塔洛在OpenAI担任治理部门研究员，执笔作者斯科特·亚历山大是自媒体人和科幻作家。

在此前提下，《AI2027》该被定义为科幻小说还是学术报告？它展现的准确性源于信息差还是货真价实的技术观察？这是它目前最受质疑之处，也是所有“AI威胁论”的普遍短板。

这也是“有效利他主义”备受硅谷精英推崇的原因。

要理解“有效利他主义”的主张，可以从一个经典思想实验入手：假设一辆火车即将撞向轨道上的5个人，你手边有个按钮，按下后火车会转向另一条轨道，但那条轨道上也有一个人，你会如何选择？ 大多数人会陷入纠结，因为虽然“5条人命”似乎比“1条人命”更重要，但“按按钮”是主动行为，而社会教育告诉我们成年人要为自己的行为负责。也就是说，我们面临的选择其实是“默许5个人被撞死”和“间接伤害一个人”。这就是为什么这个实验被称为**“列车困境”**，实在太两难了。

但有效利他主义者不会这样思考。有效利他主义的雏形是萌芽于18世纪的“功利主义”思潮。功利主义代表人物杰里米·边沁认为，人受快乐与痛苦支配，因此评价行为和制度时，应考察它们增加了多少幸福、造成了多少痛苦——一种行为如果总体上更倾向于增加相关者的幸福，就具有更强的正当性。而有效利他主义可视为“如何有效执行功利主义”的方法论，核心语素是“有效”。

有效利他主义者认同衡量行为是否合理的大前提是**“产生了正面结果（即有效）”**，同时认可另一个大前提：“资源和时间都是有限的”。在此前提下，他们的重要课题是“识别出所有行动方案中最有效的那一个”。在有效利他主义的纲领性论文《The Definition of Effective Altruism》中，作者威廉·麦克阿斯基尔提出，有效利他主义追求利用证据和审慎推理，研究如何用既定资源创造尽可能大的善，并尝试根据研究结果改善世界。

还需强调的是，生活在启蒙运动时期的杰里米·边沁除了是哲学家，更是法律和社会改革思想家，因此理论对象更多是公共政策与公权。有效利他主义萌芽于冷战结束后的“阶段性和平”、全球化观念迅速普及的时期，解构公权已不是社会主要矛盾，它呼吁的更多是重视对他人福祉的关切与帮助。

因此，相比原始功利主义，有效利他主义会应用大量经济学概念，例如反事实分析（Counterfactual，用于判断行为与结果之间是否存在真实因果）、边际收益（Marginal Returns，用于判断每笔投入带来的额外改变）。

举个真实场景的案例：假设一支慈善基金募集到100万美元，有两个选择：A.捐给美国癌症治疗机构，可治愈5个患癌儿童；B.捐给埃塞俄比亚的社会公益组织，该组织会购买100万个蚊帐防治疟疾，进而拯救1000个原本会因疟疾丧命的非洲孩子。有效利他主义者会毫不犹豫地选择B。

套用到列车困境上，有效利他主义者显然会毫不犹豫地按下按钮。因为“利他主义”决定了他们不会拘泥于“间接害死一个人”这种个人道德困扰，“有效”则让他们坚信“拯救五个人”的结果是绝对正义的。祖师爷辛格更是在1972年发表的论文《饥荒、富裕与道德》中明确写道：“如果我们有能力阻止坏事发生，且不需要因此牺牲具有同等道德重要性的东西，那么我们在道德上就应该采取行动。”

理解了这层逻辑，就不难理解为什么Anthropic在即将创造史上最大规模IPO的前夜，7位创始人公开承诺将持有的80%股份捐出，同时为预防公司过度追求商业利益，还在治理结构中引入长期受益信托，由5名受托人管理，有权任免七位创始人所组成的董事会中的多数席位。因为这家公司就是“有效利他主义者”们的试验产物。

据公开报道，Anthropic的早期投资人中，Skype联合创始人扬·塔林、Facebook联合创始人达斯汀·莫斯科维茨、FTX创始人萨姆·班克曼-弗里德都是公开的“有效利他主义社群”参与者。

阿莫迪本人呢？根据考据，他在高中时期就热衷于“功利主义”，有两个证据。一是他2008年参加了一场“尤德科夫斯基技术社区线下交流会”——尤德科夫斯基是“AI治理”研究的先驱，最先提出“友好型人工智能”。二是他曾是公益机构GiveWell的活跃成员——GiveWell由来自华尔街的投资人和分析师创办，旨在帮助慈善机构捐赠者评估每1美元捐款的效益。

阿莫迪曾活跃参与GiveWell的活动，并在其官方博客上撰写文章，主要分析“为什么应该向A慈善机构捐赠1万美元而不是B”，他曾公开表示“我认为成年人的死亡可能比婴儿的死亡糟糕两到三倍”。2010年，他成为“尽己所能捐赠承诺”的首批签约人。还有一个八卦是，GiveWell的创始人之一、前桥水基金分析师霍尔顿·卡诺夫斯基，是阿莫迪的妹夫、丹妮拉·阿莫迪的丈夫。

（卡诺夫斯基，公认的有效利他主义奠基人之一）

换句话说，“有效利他主义”是一个理论体系和实践案例都相当完整的学派，其判断在建设性层面完全是另一个层次的。 这也是为什么需要花几千字将有效利他主义与其他猜想或论调区分开的原因。

资本主义的邪修？技术的路线之争？

看到这里，你肯定好奇“有效利他主义者”们对AI发展提出了什么暴论、预测了什么。不过先卖个关子，咱们聊聊为什么如此符合“资本主义”“高度体系化、工业化”叙事的学派会被认为富有“邪教”色彩？

首先，人们普遍认为“利他”是“个人道德”层面的追求，既然是“个人道德”，就不是“义务”。做了该夸奖，不做也不该受“指责”。比如扶老奶奶过马路，做了当然值得表扬，但不做也没必要被指着鼻子骂。但有效利他主义将“利他”上升为“公德”。辛格认为，如果一个人明明能以可接受的代价阻止严重苦难，却选择将资源用于不重要的消费，那么这种“不作为”本身就值得受到道德审视。

其次，有效利他主义非常强调“道德无偏性”，即一个人是否需要帮助，不应因其国籍、身份、社会地位、地理位置或你的关系而天然获得更高权重。这乍听起来没问题，但问题在于“无偏性”的适用范围被无限放大了。

最初以辛格为代表的有效利他主义者们强调的是**“身份上的无偏性”**。简单说，不能因为你是美国人，就只帮助美国小孩。如果有同样机会帮助四川省德阳市中江县的一个普通孩子，提供帮助也是责无旁贷且不应在投入上有任何差异。更何况按购买力计算，同样的钱在四川省德阳市中江县性价比更高。

但随着理论发展，学派衍生出“物种上的无偏性”。辛格在1975年的一篇论述中提到，既然功利主义认为一个行为或存在是否合理，关键要看给对象带来的是“幸福增量”还是“痛苦增量”，那么“利他”中的“他”就不一定泛指人类了——一头猪、一头大象、一只鹦鹉都能感受快乐和痛苦。在此前提下，有效利他主义者们认为“动物”享有和人类相同的“道德地位”。养殖场、动物园、保护区也因此成为他们的活跃战场。

截止到这里，还算正常，还算是能在常规白左身上观察到的行为。但继续发展，争议就出现了，学派又开始衍生出“时空上的无偏性”。以英国哲学家德里克·帕菲特为代表的相当一部分有效利他主义者们认为，就像一百多年前工业革命初期粗放的发展带来大量城市污染，在此后多年持续伤害当地居民的健康，我们也有义务为未来人类的幸福而考虑。

用数学举例，假如我们发现有一种人类灭绝的可能性，而我们有机会通过技术研究将灾难概率从1%降低到0.9%，进而确保未来成百上千亿人类能生活在更幸福的环境里，那么这样的投资就具有极高的期望收益，是完全合理且正义的，并不因无法服务“当下的人类”而受影响。

粗看这个定义，你可能很快想到中国人常说的“前人栽树后人乘凉”，都是在强调对未来的责任与共同体延续的重视。不过在无偏性和“义务”的双重buff下，有效利他主义者们会认为“积极影响遥远未来，是我们这个时代最重要的道德优先事项”，更类似于墨家强调的**“兼爱”**。

这高度违背资本主义思维惯性里对“确定性”的追求。你可能会说风险投资这种典型的资本主义产物，押注的就是可能性？这里需明确：风险投资押注的可能性是真实存在且不断复现的。有效利他主义者们提出的可能性无法“证实”，且随着时间跨度增加，兑现概率也会递减。

哲学家大卫·托斯塔德在其论文《长期主义的适用范围》中提到：一项行动的影响范围越大、持续时间越长，它产生预期效果的概率通常也越难保证。改变2年内的未来肯定比改变100年的未来简单。改变10个人的生活，肯定比改变100万人的生活简单。因此他批评有效长期主义者们“只把价值变大这一侧放进模型。如果产生如此巨大影响的概率下降得更快，最终得到的预期收益仍可能相当有限”。

自由主义者们则批判这是一种傲慢。他们的逻辑是：我们这一代人提出的解决方案，很可能不是未来的最优解。与此同时，一旦我们推动这个解决方案成型，一个可能的结果就是将一套错误的“观念”固定下来，反而限制了未来人们的选择，即“价值锁定”。

最重要的是，有效利他主义的核心就是“资源分配”，但这种分配高度强调“社会属性”和“使命感”，以实现“道德价值”或“公共价值”为终点，对纯粹的“财富积累”进行批判。这太挑战资本主义社会某些根深蒂固的东西了。

所以你看，何止彼得·蒂尔说他们是cult，久经考验的资本主义战士哪个不站出来强烈批判他们？比如2023年10月16日，a16z联合创始人马克·安德森发表了《技术乐观主义宣言》，声称企业通过技术创新获得利润，并不必然与社会福祉发生冲突，技术创造者只能获得其技术带来的一小部分社会价值，大量收益会以消费者剩余等形式流向社会。

知名喉舌《经济学人》则批判他们的主张：从亚里士多德到罗尔斯的道德哲学家都知道，如果一个论证导向令人无法接受的地方，那它必定有一个隐藏的错误步骤。然而，有效利他主义者的本能却是享受反直觉的结论，即使这些结论显得悖谬。一个问题在于有效利他主义论证不可避免地伴随误差范围。没有人真正能权衡涉及当今数十亿人的道德困境，更不用说延伸到未来、涉及不确定人数、贴现率、技术进步以及无数其他变量的巨额数字。

这种争论太典型了，但若不是如此，有效利他主义者们怎么有勇气对抗AI呢？

正如前文所提，早在千禧年前后，以尤德科夫斯基为代表的研究人员就开始关注是否会有超越人类智慧的超级人工智能涌现，同时思考一旦AGI涌现，如何确保它们不会伤害人类。研究结果是悲观的：尤德科夫斯基认为研究人员可以在设计之初就将“不伤害人类”写入底层规则，但机器人会随时间学习和进化，即“目标设计不当的自主决策系统会默认产生虐待人类的动机”，AI“武器化”是一个必然趋势。

早在2004年，有效利他主义社群就开始讨论设计一种名为“连贯外推意志”的理论性AI对齐框架，旨在设计AI去追求人们在理想的认识论和道德条件下会渴望的东西。彼得·蒂尔也正是此时开始接触有效利他主义，并成为他们的早期投资人。

2012年，哲学家尼克·博斯特罗姆为这项研究赋予哲学背书。他指出，在人类社会里，智能和价值观是强关联的——一个人越聪明，就越能理解什么事情值得追求，最终也越可能作出符合道德的选择。但人工智能是“工具”发展而来的技术，这意味着它追求的是面对既定目标，准确理解环境、预测结果、制定计划，并寻找更有效的实现方式。在这个过程中，价值观不是必需的。

此外，文艺复兴时期英国哲学家大卫·休谟的理论也被有效利他主义者们频繁引用，即理性能帮助我们认识事实、分析因果、选择手段，但理性本身未必足以产生行动的最终动机。

总之，这些价值主张都清晰、具体地体现在了Anthropic的发展轨迹里，包括这次IPO后的捐赠计划，以及之前与OpenAI共同发布的“降速计划”。据说Anthropic、OpenAI等AI大厂的研究员们会定期飞往加勒比某座小岛上聚会，讨论各种由人工智能引发的末日场景及应对方案。Anthropic的天使投资人之一、币圈大佬萨姆·班克曼-弗里德曾在社群中讨论过一项秘密计划：买下太平洋岛国瑙鲁，建造一个末世避难所，以应对“某种导致50%至99.99%的人死亡的灾难”。据说阿莫迪也参与了讨论，并与同事分享说“如果这项技术变得比人类更聪明，它就不会善待人类”。

这也就有了开头我描写的那一幕：在看到这些最前沿的研究人员们开始用脚投票后，人们开始认真研究“有效利他主义”，并最终将其树立为一面旗帜。

彼得·蒂尔与有效利他主义的决裂，最终爆发在AI真正成为“经济产业”的当下。他认为有效利他主义者们对AI可能造成的危险进行了复杂而细致的论证，但对于如何建立全球监管体系，以及放缓人工智能进化可能带来的后果，讨论仍然十分含糊。与此同时，他还指出，如果某个技术社群相信自己比外界更清楚什么事情会毁灭人类，那么它是否也会认为，自己应该拥有超越一般商业机构的决策权？

至于敌基督、末世情节的指控，我不再展开，感兴趣可锁定董师傅的直播间。这里我给出自己的总结：这是技术乐观主义者，对他眼中空想主义、精英式“自我感动”的一种挑战。 他相信在现有教育体制下，这些学者和技术精英们习惯了提前看到未来、享受“超人”特权，以至于对自身判断的确信程度，可能远超证据实际能支持的程度。

在前不久的一期播客中，彼得·蒂尔说：“我为自己曾经以各种方式与这些人有关联、以及他们全都变得如此精神错乱和疯狂而感到羞耻”——这是多么藐视的发言啊。

（彼得·蒂尔的最新表态，都在这期播客里）

既要又要，啥都别要

最后我想补充一点：在我看来，有效利他主义的最大BUG不是它掀了资本主义的桌子，而是桌子掀到一半，它又不得不回头向桌边的人借钱，并且非常彻底地利用资本主义的工具执行这一切：计算。

有效利他主义对资本主义的挑战其实相当尖锐。市场习惯用价格、利润和投资回报率来分配资源，但人的生命、幸福和尊严，显然无法完全按购买力定价。按照彼得·辛格的逻辑，即便一个人通过合法途径积累了亿万财富，也不能仅凭财产属于自己，就免除对他人苦难的道德责任。这等于给私人财富增加了一层社会属性：你有权拥有财富，但你仍需回答，这些财富究竟为人类创造了多少价值？

可一旦进入实践，有效利他主义又表现出惊人的妥协性。早期有效利他主义曾鼓励年轻人进入华尔街赚取高薪，再将收入捐给慈善机构；它最有影响力的项目，往往依靠硅谷富豪和私人基金会提供资金；到了AI时代，研究者又试图通过这些资金影响技术路线乃至公共政策。资本的积累方式没有发生根本变化，资源配置的权力也没有真正转移，只是坐在桌边的人开始用全人类的福祉来解释自己的选择。

这就产生了一种奇怪的头手分离。它要求人们超越个人利益，却把实现这种超越的希望寄托在最有能力追求个人利益的群体身上；它强调所有人的道德价值平等，却仍需少数富豪与专家来决定，哪些人的痛苦更值得救助，哪些未来风险更值得投入。当讨论进一步延伸到尚未出生的数万亿人时，这种决策权与代表权之间的距离就更大了。

这种拧巴总让我想起“空想社会主义”：对一个更公平、更美好的社会有着宏大的想象，也看到了既有秩序的问题，却在实现路径上过于寄望于开明的有产者和少数社会精英的自觉。有效利他主义当然也尝试推动制度变革，但它最具辨识度的实践，仍然是在现有