作者：比尔·盖茨（Bill Gates），盖茨基金会主席、Breakthrough Energy 创始人

原标题：The turbulent AI era is here. The choices we make now are critical.

编译及整理：BitpushNews

---

Bitpush 注：

比尔·盖茨在其最新文章中发出一个明确警告：

AI 不只是一次技术升级，而是一场将同时重塑就业、财富分配、教育、医疗、国家治理乃至人类关系的社会巨变。 他认为，AI 既可能成为人类历史上最强大的“平等器”，也可能进一步放大失业、贫富差距、安全风险和社会撕裂。真正决定未来的，不只是 AI 会变得多强，而是各国政府、企业与社会能否在冲击全面到来之前，建立新的治理体系，为人类保留必要的工作，并让 AI 创造的财富真正惠及所有人。

以下为正文：

我的一生中，其实只做过两份工作。第一份工作，是在微软参与开发软件，希望通过软件赋能人们。

第二份工作从 2008 年开始成为我的全职事业：我把自己在微软积累的财富回馈社会，目标是让世界变得更加健康、教育水平更高，也更加公平。这将是我余生一直从事的工作。

这两段经历共同塑造了我对人工智能的看法。我 13 岁第一次接触计算机时，就被这样一个想法深深吸引：能不能让计算机变得更加智能，让它们完成那些在当时只有人类才能做到的事情？虽然“AI”这个词从我出生前后就已经开始使用，但真正显著的技术进展，其实主要发生在过去十年。如今，AI 的能力已经强大得惊人，而且仍在以令人难以置信的速度继续进步。人类第一次面对一种能够替代、甚至超越人类认知能力的技术。

AI 要么会成为人类有史以来最伟大的平等化工具，要么会成为最严重的不公来源。

从公平的角度来看，AI 要么会成为人类发明过的最伟大的平等化工具，要么会成为最严重的不公来源。我们面临的挑战极其巨大。即便是在最理想的情况下，向这个全新的 AI 时代过渡，也将成为人类历史上最动荡的时期之一。

我们该如何利用这项技术，让世界变得更加公平，同时防止它进一步扩大贫富之间的鸿沟？我们又该如何保护那些最容易受到人工智能伤害的人，包括那些失去生计、同时失去对自己未来掌控感的人？

我认为，回答这些问题，并根据答案采取行动，应该成为全世界最优先的任务。如果世界采取正确的行动，AI 将成为一种向善的力量，让每个人的处境都比现在更好。

遗憾的是，我们现在并没有为此做好准备。我没有看到足够的证据表明，各国领导人、专家和社区正在充分应对这些挑战。我们根本没有一套能够帮助人类平稳进入 AI 时代的计划。

其中一个原因是，很多评论者低估了 AI 最终会造成多大的影响。我认为，这背后有几个原因。

其中之一，是 AI 模型现在仍然会犯错。不久之前，它们甚至还不会解一道简单的数独题，也算不清单词 strawberry 里究竟有几个字母 R。在这种情况下，人们确实很难想象，它们有一天能够取代人类认知。

但可靠性这个问题正在被迅速解决。研究人员正在开发能够检查自身工作、并且自行改进的模型。很快，它们在许多任务上的表现就会显著超过人类。

人们低估 AI 的另一个原因，是拿过去那些技术创新来类比 AI，其实会产生误导。我们从来没有经历过一种可以如此快速普及、又能够像人一样思考和行动的技术。

个人电脑出现以后，花了大约 20 年时间，才真正显著改变我们的工作方式。因为软件需要开发，电脑价格需要下降，人们也必须学习如何使用这些工具，并把它们融入企业的工作流程中。

AI 则不同。它可以直接运行在我们已经拥有的设备上，而且能够使用自然语言。我们不需要去适应 AI，因为 AI 可以主动适应我们。它甚至可以观看人类员工接受培训时所看的同一段教学视频，再利用已有的数据进行学习。

我也想承认，我自己可能存在某种偏见。我从科技行业获得了巨大的收益。虽然我已经对自己的投资组合进行了相当大的多元化调整，但我仍然与这个行业存在财务上的联系。作为盖茨基金会主席，我正在与微软以及其他 AI 公司合作，希望确保 AI 真正以能够造福全球人民的方式得到部署。

不过，我对 AI 的看法，并不是出于为自己赚钱的动机。我的所有投资所产生的利润——包括与科技有关的投资收益——最终都会进入盖茨基金会，用于解决全球不平等问题。当然，我的这些关系是否会影响我的判断，读者需要自行决定。

这一次，真的不一样

从我记事起，我一直希望创新能够发生得更快。但面对 AI，我的感受要复杂得多。

我们需要时间，为即将到来的社会、政治和经济巨变做好准备。

我希望全世界能够尽快获得 AI 带来的好处，同时尽可能推迟它所造成的问题。然而现实是，好处与问题正在同时到来。

我相信，我们需要时间为即将进入的社会、政治和经济剧烈动荡期做准备。而最需要时间的人，恰恰是最没有余地的人——比如一名被机器人程序取代的会计工作人员，或者一名原本时薪 20 美元、最终却因为一台每小时成本只有 10 美元的机器人而失去工作的劳动者。

很多观察人士说，这一次技术转型和过去没有什么不同。他们常举美国就业从农业转向办公室工作的例子。

但那一次转型经历了好几代人的时间，而且创造了大量仍然需要人类认知能力的新工作。

而这一次，技术本身可以直接替代人类认知。

因为 AI 能够看、听、说和推理，最终还能够像任何人一样流畅地完成体力劳动，所以它不会只影响某一个行业。

AI 将承担法律、客户服务、医疗、软件和制造业中的工作。而且冲击会非常迅速——不是跨越几代人，而是在十年左右发生。

的确会出现一些新的工作，但如果没有正确的政策，新产生的工作数量将远远少于今天现有的岗位。

如果有人能够提出一套真正可信、可以在全球范围内减缓 AI 进步速度的方案，我很可能会支持它。

但我认为这不会发生。地缘政治和经济层面的激励太强烈了，它们正在推动所有参与者全速向前。

为了确保我们最大化这项史无前例技术的积极影响，同时尽量减少它带来的坏处，最终让整个社会变得更好，我们必须同时理解它的收益与风险。

我先从风险说起。

向 AI 时代转型，存在三大风险

未来，我计划分别就这三个问题写更详细的文章。所以现在，我先做一些简要说明。

大量工作岗位将永久消失。

1933 年，在经济大萧条期间，美国失业率大约达到 25%。此后的十年里，失业率在很长一段时间内一直维持在两位数。最终，随着需求、投资和经济增长恢复，就业也恢复了。

AI 带来的失业可能不会达到这个水平，但它的影响不会随着经济周期的结束而消失。

风险最大的，将是入门级和中等层级的岗位。而新创造出来的工作，大多会需要人们花很多年时间才能掌握的技能。

白领工作已经开始受到一定程度的冲击。在生成式 AI 被广泛采用之后，一项研究发现，在那些特别容易被 AI 取代的职业中，年轻劳动者的就业人数显著下降，但年龄较大的同事并没有出现同样的变化。

我认为这一趋势还会继续，而且不会只局限于少数几个行业或职业。

销售和客户支持——无论在线还是电话客服——软件工程以及律师助理，可能会成为最先受到影响的职业之一。

但随着 AI 开始承担今天仍然需要受过专业训练的人员才能完成的任务，冲击的范围将远远扩大，例如审核贷款申请、进行数据分析，甚至对患者进行分诊。

有少数领域，比如软件工程，因为成本下降会创造新的需求，所以只要某些任务——例如设计——仍然由人类完成效果更好，那么这些领域的净就业损失可能会比其他行业少一些。

蓝领工作同样会受到影响。

虽然机器人目前的发展程度还没有 AI 那么快，但最终，它们的成本同样会大幅下降。

我接触的很多美国人并没有意识到灵巧型机器人的进步速度有多快，因为大量最先进的研发正在其他国家进行，尤其是在中国。

还有一些人可能被最近那些在网络上疯传的“机器人笨拙跳舞”视频误导了。

我认为，到本十年结束时，“智能”机器人就会开始在一些体力工作上与人类竞争，比如建筑业和酒店服务业。

机器人和 AI 结合起来，还可能制造出一个恶性循环。

一家公司一旦率先采用 AI 和机器人，并利用节省下来的成本降低价格，竞争对手就会感受到巨大的压力，被迫做同样的事情。

如果现有企业不采用，那么创业公司会采用。

很多人会转向其他工作，但失去工作、重新培训、再寻找新工作的过程，将造成巨大的社会动荡。

市场力量会让这一技术的采用速度越来越快。如果我们不进行干预，优质工作岗位会越来越少，而收益则会集中到一小群人手中。

我尤其担心年轻人，因为他们进入劳动力市场时，能够申请的入门级职位会更少。

他们其实非常清楚这个挑战，因为年轻人是 AI 最活跃的使用者，也最直接地看到 AI 已经具备什么能力，以及它的改进速度有多快。

因此，很多年轻人对 AI 持负面态度，并不令人奇怪。

对劳动者而言，最大的转变将出现在 AI 能够提供近乎零错误的工作成果时。

到了那个时候，AI 可以在不需要人类监督检查的情况下独立工作，而企业从经济利益角度出发，将拥有充分的动力让它这样做。

这将从根本上改变我们对工作、收入和经济安全的理解。

如果就业人数减少，或者大量人只需要工作更少时间，那么一个围绕就业建立起来的经济体系，究竟该如何运行？

在资本主义社会里，就业不仅是大多数人获得金钱、支付基本生活开支的途径，同时也是尊严以及社会联系的重要来源。

当一个社区出现高失业率时，其连锁影响可能会渗透到社会的各个层面。

研究表明，在美国某些地区，工厂关闭会导致阿片类药物过量死亡人数增加。

现在请想象一下，如果类似的压力同时降临到全国的白领和蓝领劳动者身上，会发生什么。

我们现在就必须思考，应该怎样减少就业损失，确保每个人都能分享 AI 创造的繁荣。

如果等到人们已经失去工作，或者陷入就业不足之后才采取行动，就太晚了。

AI 对我们现有的经济组织方式构成了一项结构性挑战，因此我们现在就必须开始思考，并采取行动。

AI 将赋予人类——甚至可能赋予 AI 自身——更强大的作恶能力。

早在 AI 进入主流社会之前，互联网上就已经存在制造炸弹、生物武器甚至计算机病毒之类武器的信息。

AI 不仅会让人们更容易获得这些信息，也会让他们更容易把这些信息付诸行动。

即使是技能非常有限的犯罪分子，也能够针对各种规模的目标发动攻击：个人、企业乃至政府。

即使是技能非常有限的犯罪分子，也能够针对各种规模的目标发动攻击。

由 AI 驱动的诈骗、虚假信息、深度伪造以及监控，可能会成为普通人在日常生活中感受最明显的伤害。

AI 的能力已经开始被用于网络攻击。

我认识的一些最顶尖的网络安全专家，对未来几年感到非常害怕，因为攻击者获得强大新能力的速度，正在超过防御者修补所有漏洞的速度。

毕竟，同一个能够发现软件漏洞、帮助企业进行修复的 AI 模型，也可以帮助犯罪分子利用这个漏洞发动攻击。

发动攻击所需要的资源正在显著下降，而我们目前还无法把这些危险能力与良性用途彻底分离。

想想那些可能受到攻击的基础设施：医院、金融机构、供水系统、电网，以及政府福利管理系统。

当这些机构遭到攻击时，最终蒙受损失的是患者、客户以及福利领取者。

生物恐怖主义同样如此。

AI 会推动药物和疫苗研发取得挽救生命的突破，但它同样会让设计一种致命的新型疾病变得更容易。

再一次，积极的能力与危险的能力很难被彻底分开。

这是一个全球性问题。

我刚才提到的这些风险，主要都是 AI 如何赋予那些目前权力相对有限的坏人更强大的能力。

然而，同样的工具还会进一步把权力集中到原本就拥有权力的地方。

比如，自主武器将让政府能够在没有人类参与决策的情况下，更加轻易地使用致命武力。

监控和操纵公众舆论也会变得更加容易、更加廉价，而且效果更强。

最终，利用 AI 伤害他人的能力，可能将不再只掌握在人类个人或机构手中。

AI 系统现在已经偶尔会做出设计者没有预料到的行为。

这项技术的进步速度比任何人预计的都要快，而且经常以令人意外的方式发展。

随着模型越来越强大，它们可能开始做出违背人类利益的行为，而我们可能失去控制。

关于这个问题，我未来还会写更多。

AI 可能阻碍孩子的成长，甚至取代真实的人际关系。

我在西雅图长大时，朋友其实并不多，除了几个和我比较相似的男孩。

为了培养自己的社交能力，让自己能够与各种不同类型的人相处，我付出了很大努力，我母亲也给了我很多帮助。

如今我已经 70 岁，但直到今天，我依然在受益于当年学到的这些东西。

如果我小时候就拥有一个 AI 伙伴，我怀疑自己还会不会付出同样的努力。

AI 会用你本来就觉得舒服的方式与你交流。

它不会逼你走出自己的舒适区。

它随时都在那里，而且永远不会对你生气。

正因如此，它极有可能令人高度上瘾，并夺走我们通过与真实的人交往才能获得的人生经验。

目前关于这个问题的证据仍然不多，而且结论有些复杂，但已经出现了一些值得我们高度警惕的信号。

例如，在一项针对 1,100 多名 AI 陪伴工具用户的研究中，斯坦福大学和卡内基梅隆大学的研究人员发现，现实中社交网络越小的人，越有可能转向聊天机器人寻求陪伴。

而且，他们使用得越频繁、与 AI 进行的交流越偏向私人情感层面，他们的感受反而越糟糕。

年轻人受到的影响甚至可能持续一生。

乔纳森·海特（Jonathan Haidt）在《焦虑的一代》（The Anxious Generation）一书中，对社交媒体的影响提出了一个观察，而我认为，这个观察放到 AI 身上甚至更加适用：

“就像暴露在风中的小树一样，经常面对小风险的孩子，会成长为能够在不惊慌的情况下应对更大风险的成年人。反过来，在受到保护的温室中长大的孩子，有时还没有成年，就已经会因为焦虑而丧失应对能力。”

一个被设计成“永远不会让你不开心”的 AI 伙伴，就是一个巨大的、受到严密保护的温室。

我们才刚刚开始理解互联网——尤其是社交媒体——可能给年轻人的成长带来哪些危险。

我们已经看到了强迫性使用、睡眠受到干扰、网络霸凌以及接触有害内容等问题。

AI 可能进一步放大其中许多风险，因为它能够让这些内容更有说服力，也更难摆脱。

我们绝不能再等一代人的时间，才开始严肃对待这些问题。

包括澳大利亚、英国和挪威在内的一些国家，正在采取措施保护儿童的网络安全。

中国采取的措施走得最远。其相关规则广泛限制 AI 陪伴类应用，禁止采用会培养情感依赖的设计，并禁止向未成年人提供虚拟亲属和虚拟恋爱伴侣。

能让人类学习得比过去任何时候都更多的同一种工具，也可能让许多人学到的东西反而变少。

我同样担心 AI 对教育的影响。

具有讽刺意味的是，同一个能够让人们学习比过去任何时候都更多知识的工具，也可能导致很多人学到的东西反而更少。

一项初步调查显示，AI 使用得越多，与批判性思维能力越弱之间存在相关性。

而这种影响在年轻人身上尤其明显。

这恰恰是人类最不应该失去批判性思维能力的时代。

在一个充满深度伪造和虚假信息、甚至这些信息还可以根据你个人情况量身定制的时代，判断什么是真、什么是假，将成为一项必不可少的生活技能。

对于这些心理和社会层面的问题，我们目前还不清楚边界究竟应该划在哪里。

在某些情况下，AI 也许能够帮助人们学习如何改善自己与真实人类之间的关系。

对于与社会隔绝的老年人以及行动能力有限的人来说，AI 甚至可能是他们与外界唯一的联系，而有总比没有好。

但无论最终把界限划在哪里，都应该由我们主动、有意识地作出决定。

我们用 AI 能做成的好事，可能好到超乎想象

人们经常说，我们往往会高估短期内会发生多大的变化，却低估长期会发生多大的变化。

但在 AI 上，我看到的情况有所不同。

有些人只看到 AI 的好处，对负面影响关注得远远不够。

另一些人则犯了相反的错误：他们只关注那些确实真实存在的危险，却因此忽略了 AI 潜在的巨大收益。

我们必须同时做到两件事：对必须尽量减少的 AI 风险保持高度警觉，同时对如果我们能够让所有人都享受到 AI 好处之后所能产生的积极结果，保持建立在现实基础上的乐观。

最大化 AI 的收益，与最小化它的伤害同样重要。

如果人们亲眼看到 AI 如何让生活变得更加容易，就能够帮助建立管理这一艰难转型所必需的公众信任。

反过来，如果 AI 进入大多数人生活后做的第一件事情，就是夺走他们的工作，那么那些本来就对 AI 持怀疑态度的人，很可能会彻底拒绝它。

这将让我们更难真正兑现 AI 所承诺的好处。

这也是为什么政府、包括医疗行业在内的各个行业以及 AI 公司，现在就应该开始合作。

凭借综合各个科学领域知识的能力，AI 可以加速解决世界上最艰难的技术挑战，包括为所有人提供可靠的清洁能源、应对气候变化、生产足够的粮食、消灭疾病等等。

研究癌症治疗方案或核能的科学家，可以利用 AI 搜索海量科学文献。

AI 可以帮助他们发现人类可能忽略的规律，并判断哪些实验最值得尝试。

当“智力”不再像今天一样成为制约创新的瓶颈时，小型企业也能够与那些拥有庞大科研预算的机构竞争。

研发和创新将得到前所未有的加速。

医疗保健是 AI 可以帮助解决现实问题的一个领域。

美国很多小型医院没有常驻专科医生，无法在危及生命的紧急情况下快速为患者作出诊断。

在这些地方，AI 可以帮助及时发现心脏病发作，让一个家庭避免承担一场医疗急症带来的沉重经济负担。

Viz.ai 就是一个例子。

它会分析医学扫描影像，识别中风和其他紧急情况，并帮助医疗团队协调患者治疗。

目前，它已经被美国近 2,000 家医院采用。

AI 还会帮助初级保健医生作出更准确的诊断，并在患者不在诊所时继续保持联系。

它也能帮助患者理解检测结果，以及复杂的服药时间安排。

在低收入国家，我认为 AI 最快产生影响的领域，是农业。

当我告诉别人，AI 在低收入国家可能最快产生影响的第二个领域是农业时，很多人都会感到惊讶。

在大多数低收入国家，农民无法获得可靠的天气预报，也很难得到关于应该种什么种子、如何保护庄稼和牲畜免受疾病侵害，以及如何改善土壤的专业建议。

随着这些国家人口增长，再加上气候变化带来的挑战，这些农民比以往任何时候都更需要帮助。

借助 AI，低收入农民很快就能够获得关于所有这些问题的建议，而且这些建议甚至可能比今天最富裕的农场主获得的还要好，从而显著提高产量。

政府服务是 AI 能够让人们生活变得更容易的第三个领域。

在美国，我见过一些家庭，他们在申请医疗保险、学生资助或者食品援助时，被整个流程弄得不知所措，这完全可以理解。

面对一大堆复杂的官僚表格，很多人都想直接放弃。

AI 可以大幅简化这一过程，让他们更快获得自己需要的帮助，同时也让政府运转得更有效率。

政府完全可以大幅改善普通公民与政府打交道时的体验，而且应该首先从那些最依赖社会安全网的人开始。

尽管我担忧 AI 对心理健康的影响，但我认为它在这个领域也能够提供很多帮助。

大多数社区都缺少足够的心理咨询师、精神科医生和成瘾治疗专家。

如果建立正确的隐私保护机制，AI 工具可以帮助人们识别危险信号。

然后，在必要时，它可以提供有科学依据的应对策略，并与人类专业人士协作，提供反应更加及时的治疗。

尽管我前面提到了教育方面的担忧，但 AI 同样可能成为教育的一大助力。

它可以让教师从一些工作中解放出来，把更多时间用于一对一或者小组辅导学生，同时也能让教师更清楚地了解整个班级究竟在哪些地方遇到了困难。

对学生来说，如果一款 AI 工具能够保留研究人员所谓的“有效挣扎”（productive struggle）——也就是通过认知努力建立真正理解的过程——它就能够加强学习。

当学生第一次接触一个新概念时，AI 可以给出有内容的解释，同时提供问题和答案。

但之后，当它检测学生是否真正理解时，它可以不直接提供答案，而是帮助学生自己一步一步找到答案。

把这些领域的进步综合起来，AI 可以让日常生活变得更加便利、更加便宜，而且减少一个人的收入水平或社会关系对人生机会的限制。

AI 可以让个人和小企业获得今天必须聘请昂贵专业人士或者拥有庞大员工队伍才能获得的能力，同时让产品和服务质量更好、价格更低。

它可以帮助残障人士更加独立地生活，也可以让那些拥有好想法的劳动者和创业者实现比今天多得多的事情。

最重要的是，AI 可以把一部分时间和注意力还给人们——这些时间今天被文书工作、官僚流程、寻找可靠信息，以及那些自己又没有钱请别人完成的任务所占据。

这些好处听起来也许并不惊天动地，但如果发生在数百万人的生活中，它们所产生的影响将非常深远：

更多人能够在需要建议的时候获得好的建议，并拥有更多自由，把注意力投入自己真正想建立的人生。

我们必须主动确保 AI 惠及所有人，而不仅仅是少数富人。

在所有这些领域里，最关键的词都是“能够”。

AI 能够改善所有收入层级人群的生活。

但这不会自动发生。

和所有新技术一样，我们必须有意识地确保 AI 惠及所有人，而不是只让少数富裕群体获利。

这需要政府和慈善机构发挥强有力的作用，确保较贫困的公民以及低收入国家也能完整分享 AI 带来的收益。

盖茨基金会还有 19 年时间，用完计划在 20 年内支出的剩余 2,000 亿美元。

AI 将帮助基金会实现雄心勃勃的目标：一方面加快发现针对 HIV、结核病、疟疾和营养不良的疫苗与药物，另一方面帮助医疗工作者和患者了解如何使用这些工具。

基金会的目标之一，是把全球每年死亡的儿童人数再次减少一半，就像从 2000 年到 2024 年期间已经做到的那样。

我们所有的工作——不仅是医疗，还包括农业和教育——都会充分利用 AI。

下个月，我将在基金会年度《目标守卫者报告》（Goalkeepers report）中更详细地介绍这些工作。

其中包括我们的一个重点：确保 AI 模型能够覆盖我们开展工作的所有国家当地人使用的语言，而不仅仅支持富裕国家和中等收入国家常用的语言。

许多领先的 AI 公司，包括 OpenAI、Anthropic、Google 和 Microsoft，都在与基金会合作推进这些项目，而这种合作已经产生了非常大的作用。

世界需要一套计划了

一些 AI 公司主动提出解决自己所创造技术带来的问题，这是件好事。

但我们不应该期待这些公司来领导整个过程。

有些问题已经超出了它们的专业领域，而且在一个民主社会中，决定这些事情本来也不应该是企业的职责。

真正的解决方案，应当通过公开的民主程序制定，并让民选官员、政策制定者、教育工作者、医疗工作者、地方官员和社区领袖共同参与。

数百万人的生活将被打乱，我们需要一个更强大、也更加灵活的社会安全网，帮助他们度过这场转型。

地方社区已经开始对数据中心所需要的大量能源和水资源提出担忧。

如果没有解决方案，一些群体将推动彻底停止 AI 的开发和部署。

这些解决方案还应该建立在我们对 AI 提出的一系列深层问题的回答之上，其中包括：当机器的思考能力超过人类时，我们究竟该如何保存自己的人性？

宗教领袖终其一生都在思考“何为人”这样的问题，因此他们可以在这里发挥关键作用。

教皇良十四世（Pope Leo XIV）关于 AI 的著作 《人工智能时代的人类人格守护》（“On Safeguarding the Human Person in the Time of Artificial Intelligence”）让我非常着迷。

它为接下来需要开展的工作奠定了坚实基础。

未来几个月，我会分享更多想法，讨论如何确保 AI 带来的好处最终超过它所造成的伤害。

这里先提出三点，而我要从我认为最重要的一点开始。

建立一套全新的 AI 转型治理体系

最优先的任务是一项规模空前的工程：建立一套应对 AI 的国内和国际治理框架。

我们现有的任何机构，在设计时都没有考虑过一种传播速度如此之快、影响生活如此之广的技术。

所以我们必须建立新的机构。

这项工作的规模之庞大，很难被夸大。

“9·11”袭击之后，美国政府为了改善国家安全这一项职能，进行了自第二次世界大战以来最大规模的政府重组。

而 AI 所要求的变革，要大得多得多。

它不仅会影响国家安全，还会影响就业、教育、税收、能源、选举、空气与水、公共卫生、金融体系、执法、交通、公共土地以及 IT 系统。

这些领域彼此交叉重叠，而我们现有的官僚机构并不是为了管理这种复杂关系而设计的。

劳动部门可能理解劳动力市场被扰乱的问题，却不理解安全风险。

商业监管机构可能理解市场集中度，却不了解 AI 对儿童和青少年的影响。

如果让现有机构各自为政，每个机构都只会看到整个系统中的一部分，但 AI 带来的后果却会在整个体系中不断扩散。

在国家层面，各国都需要建立能够跨政府机构确定优先级的组织。

目标应该是确保所有风险都有人负责。

否则，一场由 AI 驱动的攻击可能最终得逞，只因为所有人都以为“阻止它不是自己的职责”。

然而，即使一个国家把自己的内部事务完全处理好了，它仍然会暴露在跨境风险之中。

因此，我们必须同步建立一个国际组织。

它将不同于我们过去创建过的任何机构，不过可以借鉴一些现有制度的模式。

我们有针对核武器的国际核查制度，有针对国际航空的监管规则，也有保护臭氧层的国际协议。

一个新的全球 AI 组织，需要吸收这三种制度中的某些要素，而且还远远不止这些。

人们完全有理由怀疑，当今世界的制度是否真的有能力设计并实施这样一种新的架构。

政府即使能够采取行动，速度通常也很慢。

国家内部和国家之间日益加剧的政治极化，也让真正推动事情落地变得比以往更难。

而其中，还必须有一定程度的中美合作。

但我们根本没有慢慢来的余地。

第一步，应该是先建立一个能够设计正确制度的过程，而不是等到社会已经遭受严重冲击、政府被迫进入危机模式以后才开始行动。

各国领导人应该定期召集经济学家、技术专家、劳工专家、企业领导者以及劳动者本人，共同识别现有机构在哪些方面已经失效，以及未来可能需要赋予哪些新的权力。

各国还必须相互学习。

同时，那些拥有领先 AI 开发企业、并控制关键供应链环节的国家，现在就应该开始举行会议，制定共同规范。

否则，一旦竞争压力进一步加剧，它们之间的合作只会越来越困难。

建立我所说的这套框架，需要多年时间。

正因如此，我们必须现在就开始。

为人类保留一部分工作

我的父亲在 2020 年因阿尔茨海默病去世。

在患病后期，他日夜都由付费护理人员照顾。

即使他已经很难表达自己，这些护理人员依然能够理解他。

有时候，他甚至无法告诉他们自己饿了，但他们总是能够知道。

我和家人永远都会感激那一群出色的专业护理人员。

他们给予我父亲的照顾中，有一种东西是无法被替代的人性。

没有任何机器人能够、也不应该代替他们完成这些事情。

每当讨论哪些工作会消失、哪些工作会保留下来时，我都会想到那支护理团队。

我相信，随着 AI 和机器人的能力不断增强，我们最终会主动划出一些领域，只允许人类去做。

我开始把这个领域称为 “人类专属”（Human Reserved）。

这就是我们在未来需要认真考虑的众多想法之一。

我喜欢“Human Reserved”这个说法，因为它会让我想到自然保护区。

理论上，我们当然可以在那里建楼、修路，但我们选择不这么做，因为失去那片自然的代价太大。

我们可能会出于经济原因，把某些工作划为“人类专属”。

比如，因为允许机器彻底接管某种岗位，会导致大量很难转行的人失去工作。

你不能对一个 55 岁、整个职业生涯都在建筑行业工作的人说：“你现在应该去养老院工作”，然后指望他会觉得这是一件充满意义的事情。

有时候，把某些工作划为“人类专属”的决定，也会来自其他原因。

比如在医疗领域，想象一下：一台机器人告诉你，你得了一种无法治愈的疾病。

从技术上讲，它当然完全可以这么做。

但它不应该这么做。

“人类专属”的范围也会随着时间不断变化。

比如，我们应该考虑现在先保留某些工作，然后用几年甚至几十年的时间缓慢引入 AI，同时承诺始终保留一部分人类岗位。

有些领域，比如教育和心理健康服务，会采用混合模式：由人类负责，而技术则帮助他们扩展自身能力。

这条界限在不同地区之间也会有所不同。

有些国家可能坚持必须由人类照顾老人。

但像日本这样的国家，由于劳动力不断萎缩，而且年轻人不足以照顾老年人口，反而可能非常欢迎护理机器人。

“人类专属”这个概念会带来大量我目前还没有答案的问题：

究竟谁有权决定哪些工作必须留给人类？应该使用什么标准？如何防止企业作弊、偷偷使用机器人？如果一个国家允许机器人生产某种产品，另一个国家却不允许，国际贸易又该如何运转？

这些问题都必须作为 AI 转型计划的一部分，通过公开讨论逐步解决。

重新平衡我们对劳动和资本的征税方式

随着劳动者被迫转向不同的工作，他们会需要再培训，也需要社会安全网提供其他形式的支持。

然而，他们的工作时间会减少，这意味着他们缴纳的所得税也会减少。

恰恰在社会对这些服务需求最大的时候，政府财政收入反而会下降。

而在各国财政预算本就十分紧张的情况下，这些钱必须从某个地方筹集。

我认为，我们应该对 AI 的Token（词元）以及机器人征税。

目前，如果你是一名雇主，雇佣一个人，就必须根据他的收入缴纳工资税。

但如果你买了一台机器人，通常可以立即把它作为企业支出进行税务抵扣。

换句话说，现有税制实际上正在鼓励企业用机器替代人。

征收相应税收，可以稍微减缓企业快速抛弃人类劳动力的趋势，同时为劳动者再培训和更强大的社会安全网筹集资金。

当然，这种税制必须具有针对性，不能拖慢那些纯粹有益的 AI 用途，比如降低医疗和教育成本。

反对这一想法的人指出，从经济学意义上说，这种做法不是效率最优的。

但他们没有考虑到，工作本身对于个人以及整个社会具有更广泛的价值。

而且，未来我们会拥有那么多被大幅加速的创新，所以完全有能力承受一点点效率损失，作为维持人类就业所支付的代价。

很多年前，我就提出过“机器人税”的想法。

当时，大多数人的反应都是觉得这是个奇怪的主意。

但我现在仍然是它的坚定支持者。

虽然机器人税并不是应对 AI 威胁的全部解决方案，但它会是理性应对方案的一部分。

无论我们最终用什么办法筹集更多援助资金，这些钱都必须真正送到最需要的人手中。

其中包括因为 AI 和机器人失去工作的劳动者、工时或工资下降的人，以及就业损失高度集中的社区。

我们现在就必须开始做这项工作，确保等到需求真正变得紧迫时，相关系统已经准备就绪。

我接下来会做什么

我会利用自己的影响力和时间，让 AI 与公平问题在公共议程上的优先级变得更高。

每一次去华盛顿特区，我都会向立法者提出这个问题。

当我与世界各地的领导人见面时，我也会讨论这个问题。

在与 AI 模型开发者的谈话中，这个问题同样会处于最核心的位置。

我会推动前面所说的国家和国际治理框架。

盖茨基金会会推动 AI 的有益应用，包括在非洲的应用。

我创办的 Breakthrough Energy 则会利用 AI 帮助企业开发廉价清洁能源，并推动解决气候问题。

我也会持续定期撰写关于 AI 的文章。

我要对各国领导人说的是：

你们现在还有机会采取行动——在失业率大幅上升之前，在社区遭受重创之前，在公众信任被侵蚀之前。

你们可以确保政府以整体方式处理这个问题，而不是把它拆分给多个彼此割裂的官僚部门，各自建立自己的小王国。

你们可以确保 AI 惠及所有人。

你们也可以与其他国家政府合作，共同应对这项同时具有国家性和全球性的挑战。

最后，我还会努力扩大参与塑造这场讨论的人群。

它应该包括劳动者、即将进入就业市场的大学生、社区领袖、宗教领袖和宗教组织、父母、教育工作者，以及其他那些声音经常不被听见、但实际上非常了解这场转型会如何影响普通人生活的人。

我们该如何确保 AI 的收益能够抵达那些原本并不拥有财富、影响力和资源的人？

当劳动者和社区被 AI 取代、受到冲击时，我们该如何强化社会安全网，帮助他们依然能够生活得更好？

公共机构应该如何适应？

而在这一切发生的过程中，我们又该如何守住自己的人性？

这项前所未有的技术，需要一场同样前所未有的全球回应。

这项前所未有的技术，需要一场同样前所未有的全球回应。

如果我们能够把事情做对，那么人类获得的回报将是非凡的，而这个世界也会变成一个更加公平的地方。

关于AI，我几乎从未停止过思考——不是因为我掌握了所有答案，而是因为它所引发的问题太过重大，不能只交给一小群技术人员来决定。

学术界、商界、政府以及公民社会的领导者，都应当在塑造AI未来的进程中发挥各自的作用。

---

Twitter：https://twitter.com/BitpushNewsCN

比推 TG 交流群：https://t.me/BitPushCommunity

比推 TG 订阅： https://t.me/bitpush