来源：纽约时报

原标题：Why A.I. is the Hidden Minefield of Trump’s China Visit

编译及整理：BitpushNews

---

两国领导人预计将讨论人工智能带来的风险，但双方都不愿率先放慢研发脚步。

当特朗普总统与中国国家主席习近平本周在北京会面时，预计他们将首次讨论如何管理人工智能（A.I.）的风险。但在许多方面，两国在这个问题上的分歧似乎比以往任何时候都大。

美国和中国都在竞相开发人工智能驱动的武器，这些武器可能会在没有人类参与的情况下造成巨大破坏。强大的新型人工智能模型可能会使网络攻击成为可能，从而瘫痪全球的银行和电网。专家们还对人工智能可能被恐怖分子误用，甚至产生自我意识并毁灭人类敲响了警钟。

然而，美中两国正陷入一场争夺人工智能霸权的斗争，这使得政策制定者和一些研究人员对接触越来越谨慎，尽管他们也在警告该技术带来的风险。在两国，许多政策制定者担心，对人工智能发展设置护栏——例如限制该技术制造生物武器的能力——会给对方提供反超的机会。

最近几周，美国官员夸耀说，人工智能正在帮助他们在伊朗战争中选择目标。而中国在去年的大型阅兵式上，展示了旨在与战斗机并肩飞行的自主无人机。

哪怕是那些支持合作的人也必须谨言慎行，以免在两国紧张的地缘政治关系中遭到政治回击。

例如，主要人工智能学术论坛 NeurIPS 的组织者在今年早些时候宣布，他们将不接受来自受美国制裁机构的研究人员的论文，其中包括多家中国主要的机构和公司。虽然组织者最终撤回了这一决定，但许多中国学者仍表示将通过抵制该论坛来表达抗议。

当佛蒙特州参议员伯尼·桑德斯（Bernie Sanders）邀请美中人工智能研究人员在华盛顿举行公开论坛，讨论两国如何合作预防人工智能相关风险时，他遭到了猛烈批评，其中包括来自财政部长斯科特·贝森特（Scott Bessent）的批评。贝森特在塑造美国人工智能政策方面发挥着主导作用，他在 X（原推特）上写道，桑德斯不应“邀请外国人来告诉美国如何监管人工智能”。

在特朗普访华前的几周里，两国政府在技术问题上公开冲突。白宫最近指责中国人工智能公司“工业规模级”地窃取美国公司的知识产权。而北京方面则以国家安全为由，阻止了 Meta 对 Manus 的收购——后者是一家由中国工程师创立的人工智能初创公司。

一些专家持谨慎乐观态度，认为特朗普的访问可能会重新启动合作努力。此前一直强调放宽人工智能监管的特朗普政府，在最近几周对人工智能可能给网络安全带来的威胁表示了担忧，尤其是在美国公司 Anthropic 发布了其强大的新模型 Mythos 之后。

人工智能监管方面的合作与以往应对全球挑战的努力有所不同。在冷战期间，美国和苏联在避免未经授权或意外使用核武器的需求上达成了共识，因此他们共享信息以减少这种威胁。

但在人工智能领域，目前尚不清楚该技术究竟会带来什么风险，或者如何最好地缓解这些风险。

美国学者通常倾向于讨论存在性风险——如人工智能设计的病原体或意外的核战争——以及“超人工智能”（即能力超过人类大脑的人工智能）的可能性。中国研究人员和官员则更多地强调对社会稳定和国家安全的风险，这包括人工智能驱动的虚假信息，以及聊天机器人产生的挑战国家严格互联网管制的回答。

“想要在一种战略技术上达成合作已经够难了，”乔治·华盛顿大学研究美中人工智能竞争的教授Jeffrey Ding说。“当我们对想要解决的问题甚至没有一个清晰且统一的看法时，这就更难了。”

这些分化的优先级从一开始就困扰着合作努力。2023年11月，时任总统拜登与习近平宣布达成协议，讨论人工智能相关的风险——这是两国领导人首次公开承认这一话题。大约六个月后，双方代表在日内瓦会面。美国官员希望讨论人工智能可能被误用的问题，包括被中国误用。而中国官员则将重点放在他们认为旨在阻碍中国人工智能发展的美国出口管制上。

官员们最初将那次会议描述为多次会议中的第一次，但随后再未举行后续会议。

2024年底，在拜登总统任期的最后一次会晤中，习主席和拜登确实同意确保对核武器的人类控制，而不是将其留给人工智能。但在这个问题上，也没有更多细节出台。

卡内基国际和平基金会研究中国人工智能政策的辛格（Scott Singer）表示，美国最初并不担心将中国纳入人工智能安全讨论，部分原因是美国对其技术领先地位充满信心。他说，直到2025年初，随着拥有强大模型的中国初创公司 DeepSeek 的出现，美国政策制定者才充分意识到中国的人工智能也可能影响美国的国家安全。

这种认识强化了华盛顿的竞争心态。特朗普政府已明确将“赢得竞赛”作为放宽国内人工智能监管的理由。

尽管如此，即便正式的人工智能谈判已经停滞，两国的学者仍通过学术会议或智库举行非正式讨论。参与者形容这些会议气氛活跃，并表示会议产生了许多合作建议，例如建立应对人工智能相关事故的紧急热线，或制定测试人工智能是否具有合成生物危害能力的共同标准。

但这些交流也未能幸免于政治压力。

曾多次参与美方学者讨论的上海复旦大学教授Tianjiao JIANG表示，许多中国学者，特别是安全和国防界的学者，对美方同行的意图持怀疑态度。他们指出，特朗普在美推行放宽人工智能限制的举措，证明了安全讨论只是一个减缓中国发展的陷阱。

“这些人认为美国说的是一套，做的是另一套，”JIANG教授说，但他补充道，他个人支持继续接触。在那些怀疑者的心目中，他说，“中国永远不应该在任何涉及全人类的人工智能双边合作提议上信任美国。那只是一种幻想。”

而在美国方面，许多学者和官员认为中国正在秘密向人工智能超级智能冲刺，尽管北京对此几乎没有公开提及，且中国学者坚持认为这不是重点。相反，北京在公开场合一直强调人工智能的实际应用。

此外，还存在更基本的分歧。在华盛顿智库布鲁金斯学会与北京清华大学共同主办的长期对话中，参与者创建了一个术语表。布鲁金斯学会研究员 Kyle Chan 表示，双方对“失去控制”（loss of control）等基本术语的含义并未达成共识。

“尽管这些对话很有帮助，但在某些方面，我们仍处于一个非常早期的起点，”Chan 先生说。“还有很长的路要走。”

乔治·华盛顿大学的Jeffrey Ding教授表示，或许习近平与特朗普会晤最重要的成果，就是明确人工智能领域的合作在政治上是可以接受的。

“我不认为我们需要双方达成一个全面且具有约束力的双边协议，”他说。“你只需要发出一个信号，表明这是一个中国和美国的利益相关者可以继续合作的领域。”

---

Twitter：https://twitter.com/BitpushNewsCN

比推 TG 交流群：https://t.me/BitPushCommunity

比推 TG 订阅： https://t.me/bitpush