习近平在盛大的特朗普峰会上敦促对人工智能进行“人类控制”

中国国家主席周四在白宫呼吁,在世界两个超级大国争夺技术霸主之际,人工智能应继续“处于人类控制之下”。

一位美国官员表示,习近平的言论反映出中国越来越担心华盛顿或北京政府是否能够掌握具有潜在变革能力的技术。

立法者和人工智能行业领袖敦促特朗普总统利用本周与习近平的峰会,寻求一个人工智能安全框架,研究人员警告称,该框架可能很快就会超越人类的理解。

但特朗普在这次会议之前在社交媒体上发帖称,他无意就人工智能发展的限制进行谈判。

“与中国习主席的重要日子” 特朗普写道。 “超级情报(SI)将成为讨论的一个大话题,但我想把它留在原地。这也是中国的立场。我们的护栏是司法部!”

特朗普在白宫对习近平进行了盛大的欢迎后,顺便提到了人工智能。他说:“我们今天在这些领域做出的决定可以促进未来几十年的和平与繁荣。”

但习近平表达了严重关切,并指出人工智能是两国讨论的首要任务之一。

习近平表示:“中美都是人工智能领域的领先国家。” “我们有能力也有责任永久开发和管理人工智能,并确保人工智能的发展始终处于人类的控制之下并服务于人类的福祉。”

两人在玫瑰园参加阅兵式并在蓝厅交换礼物后,在椭圆形办公室与助手举行了私人会议。

晚上,包括人工智能行业负责人在内的顶级银行和技术领导人的嘉宾名单将出席在白宫东厅举行的国宴。

战略与国际研究中心瓦德瓦尼人工智能中心主任 Aalok Mehta 表示,“鉴于特朗普在峰会上表示他不想要扶手,我对人工智能方面的实际成果抱有不温不火的期望”。

梅塔补充道:“最有可能的情况似乎是建立一条热线——尽管这条热线的用处取决于热线的工作人员以及各国政府对热线的重视程度,还可能就阻碍合作的问题进行一些讨论,例如蒸馏,并承诺进行持续的对话。”

据美国官员称,本周早些时候,在纽约联合国大会期间,美国财政部长斯科特·贝森特会见了中国财政部长,主要讨论人工智能的发展。

“我们讨论的是建立一个机制,因此将其称为美中人工智能对话。我们同意再次会面,”贝森特周一表示。 “美国提议我们在两国之间建立一个通报机制,我们希望有共同目标和共同威胁的共同愿景。”

尽管特朗普团队在是否以及在多大范围内监管人工智能方面仍存在分歧,但贝森特倾向于采取谨慎的态度,主张采取适度、自愿的保障措施,这在近几个月影响了政府政策。

尽管两国之间存在深深的不信任,但中国也越来越愿意开放人工智能沟通渠道。

特朗普总统和中国国家主席习近平周四在椭圆形办公室会面。

(杰奎琳·马丁/美联社)

OpenAI和Anthropic这两家美国人工智能公司被认为正在开发世界上最先进的人工智能模型,引领着技术突破的前沿。

两者都开始使用最复杂的模型来训练下一代,这一过程被称为递归自我完善。研究人员和行业专家认为,第一家掌握这一流程的公司可以开始指数级的进步循环,遥遥领先,以至于竞争对手无法再赶上。

但这些公司也担心他们正在创造的东西:能够不断提高自身智能的机器,推动人工智能的发展超越人类的控制。

两家公司的领导人敦促北京和华盛顿合作,并警告说,地缘政治竞争可能会阻止两国避免人类灾难。

习近平在讲话中表示,中美“合则两利、斗则俱伤”。

“我们不需要回避提及竞争,但我们的竞争应该是良性的、应该控制在限度之内,”中国国家主席说。 “这应该是一场追赶的竞赛,而不是一场非分胜负的战斗。中美之间应该坚守不冲突、不对抗的底线。”

“我们两军必须保持定期对话,完善沟通和危机预防机制,”他继续说道,并补充了历史上反对既定力量的崛起的参考:“修昔底德陷阱是可以克服的。”

习近平访问华盛顿仅几个月前,特朗普于 5 月对北京进行国事访问,美国总统在北京受到了同样盛大的欢迎。

这次峰会的领导人几乎没有取得什么成果。但特朗普在离开北京时宣布此行成功,强调了他与中国几代人中最有权势的领导人习近平个人关系的重要性。

这一次,特朗普亲自在习近平抵达安德鲁斯联合基地时在停机坪上迎接——这是近几十年来只有天主教教皇才享有的罕见荣誉——然后为这位中国领导人铺上了几条红地毯并举行了有遮盖的仪式。

约翰·霍普金斯大学高级国际学院美国、中国和全球事务未来研究所所长杰西卡·陈·韦斯表示,国事访问期间的华丽表现符合中国长期以来在国际舞台上获得尊重和尊严的愿望。

“特朗普是一个爱奇观的人,现在这种奇观对两位领导人都有利,”韦斯说。

她认为,对习近平来说,这些仪式提供了一个机会来证明与美国的关系仍然受到控制,并且中国被视为重要的全球大国。

根据最近的民意调查,这次国事访问正值美国人对中国的态度似乎升温之际。芝加哥全球事务委员会最近的一项民意调查发现,大多数美国人认为美国应该与中国建立友好合作关系。

“我倾向于认为我们过于关注光学,”韦斯说。 “但我也认为,将中国视为世界舞台上的重要参与者并不是一种让步。如果我们想要稳定的关系并且几乎没有什么可担心的,那么这是适当的。”

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注