← 返回列表

[译苑雅集Vol. 18]扎克伯格最新长文阐述 Meta 回归开源理念:超级智能的未来应该属于每一个人

单站 表图 发布 Wed, 12 Aug 2026 22:42:00 +0800 入库 2026-11-18T14:00:09

四楼南侧东 2026-08-12 22:42 北京

在 Meta 开源 Muse Glimmer 模型,回归开源模型积极支持者的同时,扎克伯格发表长文,阐述以个人赋权、发明创造和权力制衡为核心的超级智能路线:广泛提供个人智能体和开源模型,同时通过政府协作、独立治理与分布式制衡应对就业、安全和失控风险。

作者:Mark Zuckerberg

时间:2026 年 08 月 10 日

原文:https://www.meta.com/thefutureisforeveryone/

我们有幸生活在人类历史上一个非凡的时刻。在未来几年里,人们将能够使用超越人类能力的超级智能,创造和发现非凡的新事物,创办新企业,表达新思想,学习新概念,并改善人类健康与生活质量。随着这一时刻日益临近,我们需要形成一套关于如何善用超级智能的理念,确保它能够改善所有人的生活、工作和社区,并增进我们的自由与安全。

这个时代最关键的问题是:谁能够使用超级智能?我们又会让它去做什么?超级智能会被集中起来,只供少数机构使用,还是会成为赋能每一个人的工具?

我们提出的理念以个人赋权为繁荣之源,以发明创造为超级智能的首要用途,以权力制衡为安全的基础。

每一种新技术都会带来机遇和挑战。超级智能将是人类历史上最重要的技术之一,因此,它带来的机遇和挑战很可能超过我们一生中见过的任何技术。我们应当极其严肃地对待这件事。

即便如此,许多 AI 开发者的论述中充斥着末日叙事,仍然令人意外。如果一个人相信 AI 会消灭大多数工作,让人类失去大部分价值与作用,我无法理解他为什么还要急着把这样的未来变成现实。还有一种观点认为,AI 危险到只有将权力极度集中起来才能确保安全,这种想法本身就很成问题。从历史来看,寄望绝对权力足够开明,进而善意地照料全人类,从未带来安全或积极的结果。

人类已经见证过许多改变世界的进步。每一次,人们都会担心一部分人被时代抛下;但每一次,人类最终都让更多人共享了更大的繁荣、更好的健康和更多的自由。我们相信,AI 也会如此,未来的富足可以由每一个人共享。我们也相信,正是自由、开放探索、自由企业和平等机会这些价值观让我们走到了今天,它们同样能够帮助我们建设一个积极的未来。

把力量交到人们手中,让每个人追求自己的理想,是人类取得最大进步的方式。新颖的想法和重大的突破,很少只来自既有机构。它们来自相信人类能够飞翔的自行车店兄弟,来自没有受过正规教育却发现如何发电的装订工学徒,也来自那个待在车库里、相信个人电脑可以走进每个人生活的年轻人。我们相信,未来依然如此。随着每个人都获得更强大的工具,所有人塑造未来的能力都会增强。

发明创造,而非自动化,将是超级智能最大的贡献。早期 AI 能够回答问题并完成常规工作。很快,它将越来越多地帮助我们发现新知识——从研发新药、治愈家人的疾病,到寻找改善企业经营的新方法。一个人每天能够提出的问题是有限的,超级智能为实现这些目标所能创造的有价值事物却没有上限。

当智能变得充裕,最重要的问题将是我们如何引导它。一些人主张,应当由超级智能本身,或控制它的少数专家,决定什么对人类最有利。我们不赞同这种观点。民主和经济发展的历史已经表明,对于什么才是最好的生活,并不存在一个适用于所有人的客观答案。因此,最好的方式是让每个人决定,什么对自己的生活最重要。

我们相信,让每个人都能使用超级智能,正是回答这个问题的方法。这延续了一条由来已久的道路:我们曾把超级计算机和互联网的力量放进每个人的口袋,摆上每个人的书桌。超级智能同样应当广泛分发,让每个人都有能力引导它,避免权力集中在少数机构手中。这有望开启一个个人赋权的新时代:每个人都可以利用这种强大的新能力,充分发挥潜力,追求自己的兴趣,以前所未有的方式改善自身生活和整个世界。

为了让这个愿景更加具体,下面是 Meta 正在通过个人超级智能改善所有人生活的几个方向:

以上是 Meta 当前重点推进的一些方向。每一个方向都在践行个人赋权的价值观,并推动这样一个未来:与今天相比,每个人都能在塑造世界的过程中发挥更大作用。如果这些努力取得成功,未来的个人自主与思想表达将更加充分,人际关系更加深厚,经济和个人生活更加富足,健康状况得到改善,还会出现今天无法想象的种种发明。更重要的是,这个未来将由我们所有人共同创造,并映照出所有人的价值观与不同视角。

与此同时,新技术也会带来新的风险。我们正集中精力应对许多重要问题,包括工作岗位被替代,如何确保本地社区从数据中心建设中受益,以及 AI 被滥用于网络攻击和制造生物风险。此外,我们还要防止政府暴政与监控,确保美国及其他民主国家保持领先,并最终保证人类始终掌控超级智能,让它服务于我们,避免它危及人类。

一种主流观点认为,这些问题都源于技术本身;只要投入足够多的时间,我们就能完善技术,或让它实现对齐,最终创造出一个单一而仁慈的超级智能。我认为,这种对“对齐”的理解存在根本性缺陷。

人类社会并非价值观完全一致的单一文化。人们拥有不同的价值观,也会在重大问题上作出不同的权衡。任何技术方案都无法同时与彼此冲突的利益和价值观对齐。单一超级智能必然会优先考虑一部分价值观,把另一部分置于次要位置,因此不可能善待每一个人。

我们提出另一种思路:像西方社会设计民主治理制度那样,从建立适当权力制衡的角度审视这些问题,会更有成效。利益相互竞争的个人和机构会自然地彼此约束、相互制衡,推动社会走向积极的结果。建设一个积极的 AI 未来,最好也最现实的路径,就是让每个人都能使用超级智能。

我们可以做一个思想实验。假设只有一个人拥有超级智能律师,那么他在法庭上将拥有不公平的优势——哪怕他在事实和法理上都站不住脚。这会让社会变得更糟。现在再想象一下,如果每个人都有一名超级智能律师,司法就能比今天运行得更加公平、高效,因为当下的诉讼中,专业能力和资源失衡十分常见。

同样,如果只有一个人拥有网络安全超级智能,他很可能可以攻破几乎任何技术系统,整个世界也会变得远不如今天安全。但如果每个人都能使用网络安全超级智能,广泛部署的超级智能就会帮助所有技术系统持续加固和更新,让这些系统比今天更加安全。

如果只有一家企业拥有超级智能,它将击败所有竞争对手,最终形成一个活力更弱、广泛繁荣程度更低的市场。但如果每个人都能使用超级智能,所有人都会获得创造新事物的工具,突破今天的能力边界,整个经济也会更有活力,并创造更广泛的繁荣。

当人们获得更强的能力,他们自然会在经济、社会、政治以及人类互动的其他层面展开竞争并相互制衡。个人也会制衡企业、政府等机构的权力。

超级智能的力量一旦掌握在少数个人、企业、政府,甚至 AI 自身手中,结果自然会对其他所有人更加不利。这与技术原理无关,关键在于权力制衡。能够善待所有人的单一超级智能并不存在。

因此,要为每个人创造一个积极的未来,关键是建立一种有利于个人的权力平衡。具体的做法,是确保超级智能得到广泛分发,用它增强每个人的能力。

Meta 当前的首要重点,是为每个人打造个人超级智能。其他大多数实验室都专注于为企业、政府或其他机构开发 AI。如果这些实验室取得领先,权力平衡就会向大型机构倾斜,对个人不利。Meta 自创立以来,其使命始终是把力量交到人们手中。如果我们的信念和原则成为主导,权力平衡就会有利于个人,并为每个人带来一个更好的未来。

下面,我们更详细地讨论前面提到的每一项风险。

人们担心,自动化的发展速度会超过个人能力的提升,导致工作岗位被替代,随后还要经历一段艰难时期,重新学习如何从事新的工作。但没有任何规律决定 AI 推动自动化的速度一定会快于它提升个人能力或创造新技能需求的速度。近期统计数据表明,个人能力的增长可能达到甚至超过自动化的发展速度。如果真是这样,人们将在现有工作发生变化之前,先获得从事许多新工作的能力。这将形成一种健康的平衡,甚至可能推动就业增长。

最终出现哪种结果,取决于自动化与个人赋权和发明创造两方面的相对进展。如果专注于自动化知识工作的实验室取得领先,我预计个人和整个经济都将经历一场困难得多的转型。但如果每个人都能使用扩展自身能力的个人超级智能,平衡就会向个人赋权倾斜,把我们带向一个更加积极的未来。

我们有几个理由相信,未来会有充足的工作机会。无论 AI 变得多么智能,可用算力始终是有限的,因此如何使用算力必然存在机会成本。如果人们可以利用 AI 发明极具价值的新事物,把算力投入这些发明,就会比用来自动化现有岗位创造更大的价值。超级智能越多地被用作发明创造的工具,个人能力就越有可能跑在自动化前面,未来也会对人们更加有利。

人们还会不断提出改善生活的新想法,并创造新工作,把这些想法变成现实。一代人以前,应用开发者、社交媒体创作者、电动汽车技术人员和数据中心运营人员都还不存在。在不久的将来,还会出现一些今天并不常见的新工作:例如,由一个人运营的产品工作室,为客户设计定制玩具、家具或服装;创造游戏、故事和冒险体验的世界构建者与体验设计师;利用超级智能制定个性化治疗方案的个人生物学家;以及更多今天的我们还想象不到的职业。

从许多方面看,这只是历史趋势的延续。工业革命之前,90% 的人都是农民,种植粮食以维持生存。技术进步逐渐让越来越多人摆脱单纯维持生计的劳动,把更多精力投入自己选择的追求。在每一个阶段,人们都利用新获得的生产力,取得过去不可能实现的成就,同时也把更多时间用于创造、文化和人际关系,享受生活。

当然,我们的工作方式会有一些变化,就像计算机、互联网以及每一种新技术出现时一样。这意味着人们必须适应,过程也会充满挑战。不过,如果每个人都有一个拥有超级智能、善于教授新技能并帮助我们适应变化的个人智能体,这场转型就会顺利得多。

公司的规模可能会缩小,就像经济从工业巨头向科技公司转型时发生的那样。整体工作岗位未必会因此减少,更可能出现的情况是公司数量增加,每家公司的人员变少。值得建设的公司和服务,远比今天人们有能力建设的更多。我预计,我们将开始看到少数几个人借助个人超级智能,运营规模可观的企业。未来,小企业仍将是经济的支柱,但每家小企业都能产生大得多的影响。

例如,Meta 正在路易斯安那州里奇兰堂区建设一座大型数据中心。由于我们的投资增加了当地税收收入,当地教师今年拿到的年度奖金最高超过 5 万美元。学区负责人告诉我们,如今教师正从全美各地迁往那里,他相信这里将成为美国最优秀的学区之一。

知识工作面临岗位被替代的担忧,而满足基础设施建设需求的木匠、电工和建筑工人等技术工种却存在短缺。Meta 已经成立“美国劳动力学院”(America’s Workforce Academy),为技术工人提供免费培训,并在我们建设数据中心的地区提供有保障的高薪工作。

无论在哪里投资,我们都会建设自己的能源生产基础设施,帮助当地维持较低的电价。这可以确保我们的项目不会消耗原本可供当地社区使用的能源;在某些情况下,我们甚至会向社区供应富余的低成本能源。我们认为,这是实现可持续发展的一个重要投资原则。

我们的数据中心也以达到全球领先的用水效率为设计目标。我们承诺实现“水资源正效益”:到 2030 年,在开展业务的流域中,恢复的水量将超过自身用水量。在水资源压力较大的地区,我们的目标是恢复相当于自身用水量 200% 的水资源。

我们发现,与投机者几乎不为社区投入便启动建设的地方相比,获得长期投资的社区更支持开发建设。从历史上看,引入铁路、公路、电力和宽带的城镇会发展为科研、商业和工业中心,随后迎来人口与经济增长。我们相信,AI 基础设施也能发挥类似作用,前提是以稳固的“社区契约”为基础,为当地留下耐久资产,也让下一代有充分理由在这里扎根、建设并发展自己的生活。

基础设施建设还涉及国家利益与国家安全。与地缘政治对手相比,如果美国及其盟友能够在 AI 领域保持领先,美国社区将拥有更大的繁荣与更强的安全保障。然而,相较于中国等国家,美国的一个显著劣势是在本土建设基础设施更加困难。因此,找到一套能够支持全美可持续发展的“社区契约”,将让所有人共同受益。

应对网络安全、生物恐怖主义及其他威胁的具体策略各不相同,但总体规律是一致的:社会必须确保负责遏制恶意行为者的防御方,始终拥有更强大的力量与更多资源。

一些人认为,降低风险的最好方法是限制个人可以使用的能力。然而,赋予人们网络安全能力,也是保护数量庞大的长尾系统的方式;赋予人们科学能力,则能推动科学进步,从长期来看降低伤害风险。限制能力会把我们带向权力集中、缺乏制衡的道路,因此,我们必须极其谨慎地对待这种做法,尤其是在其他国家选择较少限制的发展路径时。

在网络安全领域,广泛部署的开源系统已经被证明更加安全,因为更多人可以发现漏洞、加固系统,并轻松升级到安全性最高的最新版本。就在最近几周,我们看到 Hugging Face 等公司在处理安全事件时,依靠广泛可用的开放模型修补漏洞。从长期来看,我预计广泛部署且具备强大网络安全能力的 AI 模型会让系统更加安全。等到超级智能能够让世界上大部分代码达到可验证的安全水平,这一点将得到确凿证明。长期解决方案应当是建立一种广泛分发超级智能的权力平衡,而非封锁相关能力。

短期内,加快关键系统的加固十分重要。我建议,开发前沿 AI 的公司应承诺投入大量技术资源,帮助政府加固关键基础设施。我还建议,前沿 AI 实验室不必等到训练全部完成,而应把新模型训练过程中的中间检查点交给政府使用和审查。这样一来,政府就能提前使用最强大的模型,并获得一大批能力出色的工程师,帮助发现和修复安全问题。实验室还应与执法部门合作,识别试图滥用其系统的恶意行为者。这些措施可以加快安全部署,同时不减缓模型创新速度,也不会明显推迟个人使用相关技术。

在生物和化学风险方面,人们担心,让科学家能够设计新药物的同一种能力,也可能帮助恶意行为者设计有害化合物。这使问题看起来像是一种权衡:一边是推动科学进步、治疗癌症及其他疾病所带来的巨大益处,另一边是可能出现的新风险。理想的做法是加速科学进步,同时减轻相关风险。

我认为,我们需要以更加谦逊的态度看待这种风险,因为几乎没有历史先例可以帮助我们判断它出现的概率究竟有多高。几十年来,恶意行为者一直有可能合成有害化合物,但这很少发展成重大问题,原因或许在于,这里缺少网络攻击背后常见的经济动机。尽管如此,如果我们开始看到造成危害的实际案例,就应当调整策略,采取适当措施降低风险。

实验室应继续努力降低模型带来的生物和化学风险。与此同时,我认为政府需要在多个领域更新政策。首先,我们应重点限制有害材料的实际生产与流通。与阻止知识传播相比,监管和控制物理材料可能更加容易,因此这应成为政策关注的重要领域。其次,我们应加快整个社会开发新疗法的能力,在新威胁出现时迅速建立免疫和防护。这也包括简化美国食品药品监督管理局及其他监管机构测试和批准新疗法的流程。随着 AI 加快药物发现的速度,我们无论如何都需要更新这些流程,使其跟上创新步伐。

从长期来看,应对新科学发现所带来风险的方法,是加快科学进步,而非放慢它。

为了维护自由,我们必须确保超级智能主要用于增强个人的能力。自由民主的理想是,个人天然享有一切权利,只有为了保护公共利益,才同意限制其中一部分自由。同样,个人应当有权使用个人超级智能,只有在确有必要时才受到限制。

隐私是个人赋权与自由的重要基础。我们认为,个人智能体应当提供一种完全私密的模式。在这种模式下,即使是 Meta 或其他服务提供商,也无法查看你的信息或授权他人访问。这与我们将 WhatsApp 打造成全球领先的端到端加密服务的理念相似:你可以自由交流,同时确保消息始终保持私密与安全。

与此同时,我们也必须确保政府拥有执行法律、维护安全所需的工具和资源。实验室与政府可以建立更深入、更主动的合作,在不限制或推迟个人使用先进模型的前提下,增强政府维护国家安全的能力。

具体而言,领先的实验室不必等到模型准备发布后,才交由政府审查和使用。我的建议是,实验室应向政府提供新一代先进模型在训练过程中的中间检查点,并派出技术人员,帮助政府加固关键系统,防范新风险。这样,政府就能增强安全能力,同时不限制或推迟个人获得个人超级智能,也不会造成权力失衡。

要开发最先进的模型和产品,我们必须认识到,AI 很可能是有史以来竞争最激烈的行业。创新成果会被迅速复制,并在几个月内被竞争对手吸收。但人们总希望使用最先进的模型,或者在特定成本下最先进的模型,因此,即使只保持两个月的领先也极具价值。这说明领先优势的窗口非常短,也凸显出采取行动加快美国创新、延缓地缘政治对手发展的重要性。

影响这一局面的主要政策因素包括:我们能以多高的效率建设物理基础设施,是否会引入拖慢美国实验室发展的环节,以及能否通过出口管制延缓外国实验室的进展。

在基础设施方面,美国及其盟友目前在芯片设计上拥有优势,但在能源产能和物理基础设施的建设速度上处于劣势。中国等国家大约每两周就会新增超过 1 吉瓦的核电装机,因此,要保持竞争力,我们必须同时加快能源设施和数据中心建设。在这一关键时期,针对芯片实施的出口管制已经成功延缓了外国实验室的发展,继续实行这些措施是正确的战略选择。

任何拖慢美国模型发布速度的政策,即使只造成一个月的延误,也可能显著增加美国失去领先地位的风险,让外国模型抢先一步。与此同时,当新的能力出现时,美国政府必须提前掌握相关信息,拥有加固关键系统所需的资源,并可能需要在使用先进系统方面保持一段时间的优势。

前文中,我提出了一种合作模式:实验室与政府共享训练过程中的中间检查点,并提供技术人员。考虑到 AI 领域变化迅速、竞争激烈,我认为,前沿实验室与政府建立紧密、主动的合作,会比要求所有情况都遵循僵化的流程和审查时限更有成效。有时,美国实验室可能把领先优势扩大到几个月以上,此时投入更多时间降低新风险,有助于形成更安全的解决方案。另一些时候,即使推迟发布一个月,也可能让美国失去领先地位,造成更糟的结果。只要确保政府能够提前获得模型,我们就应当可以在尽量不推迟公开发布的同时增进国家安全。

美国及其盟友能否在开源 AI 生态中保持领先同样重要,因为开源生态未来将占全球 AI 使用量的很大一部分。

目前,外国实验室在这方面拥有几项优势,因为美国实验室在训练数据上必须遵守更多额外限制。如果希望美国开源模型长期保持领先,美国政策就必须减少这类额外阻力。我不认为限制人们使用外国开源模型是有效的解决方案。我们的目标应当是让美国的开源模型成为全球最好的模型,这需要清除阻碍它们参与竞争的障碍。无论领先的开源模型来自哪里,限制个人和企业使用它们,都会降低可用 AI 的质量,并推动 AI 走向集中,削弱个人手中的力量。

要让美国在开源领域取得领先,我们需要重新思考多个方面的政策,包括模型蒸馏和训练数据的使用。模型能够向其他模型学习,是开源生态运行的一项重要原则。所有 AI 模型都源自人类知识。一些人试图把模型蒸馏描述成一种有害行为,但我认为,必须保护这样一项原则:人们可以学习自己能够观察到的一切。现实世界本就是如此;如果美国在这方面自我设限,就无法保持领先。

从全局来看,美国在 AI 领域整体落后,几乎肯定会成为一个比开发过程中任何具体问题都更严重、更长期的国家安全问题。

通过建立适当的合作,美国应当能够让私营部门和公共部门同时保持领先,在促进国家安全的同时,把体现个人赋权和民主原则的个人超级智能带给全世界。

一种健康的权力平衡,应当避免出现单一、集中的超级智能,让尽可能多的个人和企业拥有不同的超级智能体。这些智能体与各自使用者的目标对齐,按照自然经济的运行方式相互制衡、彼此竞争。如果还有多家前沿实验室,其模型体现不同的价值观并能相互制衡,这种平衡将得到进一步加强。

发布高能力模型确实存在风险,但从这个角度看,最危险的情形是领先的 AI 实验室训练出强大的模型,却只留给自己使用。无论一家实验室如何以责任或安全为理由解释这种做法,它走上的都是开发单一超级智能的道路,而其他系统无法对其形成制衡。

开发个人智能体,需要我们以一种新的方式理解“对齐”。今天,大多数实验室把对齐视为一种防御措施,用来强制执行一套集中的价值观。例如,某个领先模型曾拒绝帮助一所学校起草致意向学生家长的信,理由是它认为标准化考试不符合道德。

我们的理解有所不同:对齐应当确保智能体遵循使用者的目标和价值观,而非我们公司的目标和价值观。当然,法律和安全方面仍有一些重要边界,但从根本上说,对齐应当帮助人们追求社会中广泛存在的不同目标和观点,不应成为强制推行集中化教条的方法。

在实际使用中,如果人们不信任智能体,就不会把敏感信息和任务交给它。如果智能体服务于一家与用户价值观不一致的公司,因而作出违背使用者利益的行为,人们也不可能信任它。

解决对齐问题,是让数十亿人采用个人超级智能体的必要条件。这也意味着,如果未来有数十亿人使用并检验个人超级智能体,我们就已经解决了智能体与个人利益对齐的问题。这应当足以建立积极、安全的未来所需的权力平衡,以及自然形成的制衡机制。

这样理解时,对齐首先要让个人智能体变得有用且值得信任,进而形成真正保障我们安全的社会权力平衡。寄望某种理想化技术让单一超级智能在未来永远保持仁慈,并不是对齐的意义所在。

在递归式自我改进的情况下,仍有几种方式可以形成权力平衡。最简单的一种,是多家实验室在大致相同的时间实现递归式自我改进。如果其中部分或全部超级智能能够以某种方式保持仁慈,它们就可以彼此制衡。尽管如此,我们看不出有什么理由可以期待超级智能天然仁慈,也不能依赖一个不受人类引导的超级智能为我们创造积极的未来。

为了确保人类始终掌握控制权,绝大多数智能必须由人们引导,用于推进人们自己的目标。这意味着,Meta、其他前沿实验室,以及那些致力于增强个人力量的云服务商,必须共同建设足够庞大的算力。这样,我们既能分配足够算力用于递归式自我改进、保持竞争力,又能继续把绝大多数算力用于每个人自己的目标。

如前文所述,要让数十亿人采用并信任个人超级智能体,我们必然需要解决智能体与个人利益对齐的问题,并建立大规模的制衡机制。与此同时,任何开展递归式自我改进的 AI,本质上都在引导和推进自己的目标。所有实验室都应仔细观察它的目标,以及我们控制这些目标的能力;一旦出现任何有害行为的迹象,各方就应协调行动并作出适当调整。不过,只要总体权力平衡仍然有利于人类,允许一个 AI 系统或任何其他主体引导自身目标,即使这些目标并未与许多人完全一致,也不必然造成伤害。权力平衡理论的基本前提是,利益竞争是一种自然状态;确保人类价值观得到遵循的唯一方式,是让人们掌握更大的力量。

个人赋权、发明创造和权力平衡这套理念,会带来几项政策含义:

能够亲历这个非凡时刻,是我们的幸运。超级智能的发展,将成为我们有生之年所见最深刻的技术进步。

随着这一时刻日益临近,我们越来越需要一套清晰的理念和价值观,指导超级智能如何造福人类。Meta 承诺按照以下原则开展建设:个人赋权是繁荣的源泉,发明创造是 AI 的目的,有利于个人的权力平衡则是应对安全风险的基础。

如果这些价值观能够引领未来,我相信接下来的几十年将成为人类历史上最令人惊叹的时期之一。人类文明发展的轨迹,一直在朝着把更多力量交到人们手中的方向延伸,让每个人都能按照自己认为最好的方式生活并塑造世界。超级智能有望把这种力量交给每一个人,帮助我们为所有人建设一个积极的未来。

——马克

2026 年 8 月 10 日

原文链接:https://mp.weixin.qq.com/s?__biz=MzUzOTI4NDQ3NA==&mid=2247485155&idx=1&sn=3af50866eb930eaa0f4830f5d86215d6