华盛顿 – 人们对人工智能带来的风险日益增长的紧迫感给特朗普政府带来了压力，要求其与中国取得外交突破 习近平主席访问白宫 下周进行国事访问。
双方对人工智能落地协议的期望都很低，双方都在继续竞相开发潜在的深不可测的情报能力。会议之前，华盛顿和北京的言论只是凸显了两国因急于主宰技术前沿而日益加深的尖酸刻薄和不信任。
但这周发表的一篇文章 北京间谍头子警告失控的人工智能能力可能威胁到共产党的控制，引起了特朗普政府的注意。一位美国官员告诉《泰晤士报》，直接评估准确地反映了习近平政府对日益增长的风险的个人想法。
尽管如此，特朗普总统团队内部对于是否与中国进行谈判仍存在分歧。美国高级官员怀疑任何协议是否能够得到可靠执行或验证。上周，特朗普多次拒绝减缓人工智能发展的呼吁，并表示担心政府监管会将宝贵的阵地让给中国。
上周，美国一家机构发起了一场关于人工智能安全性的高调辩论。 来自人工智能研究人员的警告此举引发了北京方面的防御性反应，中国外交部发言人指责华盛顿“散布恐惧、对抗和激烈竞争”。
商务部表示，美国的做法“只会扰乱全球人工智能治理进程”，“不符合任何人的利益”。
一些美国人工智能公司——以迄今为止该领域最先进的 Anthropic 和 OpenAI 为首——开始使用他们最复杂的模型来训练下一代，这一过程被称为递归自我改进。研究人员和行业专家认为，第一家掌握这一技术的公司可能会开始一个指数级的进步循环，遥遥领先，以至于竞争对手无法再赶上。
但这些公司也担心他们正在创造的东西：能够不断提高自身智能的机器，推动人工智能的发展超越人类的控制。
ControlAI 美国执行董事康纳·莱希 (Connor Leahy) 表示：“递归自我完善的点最有可能进入不归路。”ControlAI 是一家致力于解决人工智能存在风险的非营利组织。该组织已向佛蒙特州参议员伯尼·桑德斯 (Bernie Sanders) 提供咨询 超级人工智能禁止法。
与中国进展缓慢
特朗普政府的一些人士对边境模型感到震惊，他们在今年夏天改变了方针，支持一个宽松的联邦框架来管理该国最先进的人工智能系统的推出。中国已经有类似的流程。
特朗普和习近平同意在美国总统去年春天访问北京期间开始讨论人工智能安全问题，这表明可能会出现战略联盟来应对这一威胁。但进展缓慢，特朗普指责中国助长了美国国内对推动人工智能发展的数据中心的反对。
一位官员表示，白宫正在考虑是否在下周与习近平举行峰会期间与人工智能领导人举行会议，但中国不会受到邀请。
美国战略与国际研究中心中国商业和经济高级顾问斯科特·肯尼迪表示：“双方应该在下周峰会之前至少举行一次对话会议。现在看来完全不可能，而且目前还不清楚两国领导人的会晤将在多大程度上讨论人工智能安全问题。”
肯尼迪补充道：“议程设定的僵局在这些最严重的问题之一上造成了领导真空。这一结果可能对人工智能和全球竞争几乎没有任何障碍。” “虽然对世界大部分地区来说并不好，但这个结果可能适合特朗普和习近平。”
周三，佛蒙特州参议员伯尼·桑德斯 (Bernie Sanders) 在国会大厦为参议员举行人工智能简报会，提出了《人工智能禁令法案》。
（罗伯托·施密特/盖蒂图片社）
在公开场合，中国对人工智能的发展提出了与美国私营企业不同的愿景，强调将人工智能融入到整个经济中，而不是前沿研究。
这使得中国外交官辩称，美国，而不是中国，正在推动人工智能领域最危险的进步。但美国官员还发现证据表明，与中国有关的实体正试图窃取或复制美国最先进的模式，这表明中国在这些言论的背后最终正在寻求类似的能力。
新美国安全中心技术与国家安全项目高级研究员丹尼尔·雷姆勒（Daniel Remler）表示：“毫无疑问，（中国共产党）不会善待无法控制的人工智能破坏其统治，但如果得出这样的结论：北京会认为这是一个需要通过谈判解决的国际问题，尤其是在明显处于劣势的情况下，这将是一个巨大的飞跃。” “特朗普政府似乎已准备好介入，但谨慎是正确的。”
在周三由 Politico 主办的一个论坛上，Anthropic 公共政策主管 Sarah Heck 被问及，如果民主党今年秋天赢得国会控制权，该公司将如何改变其讨论联邦监管的方式。她 解决更广泛的问题如果中国赢得这场竞赛，美国解决人工智能安全问题的尝试将是徒劳的。
“每个人都从 Anthropic 那里听到了非常重要的事情，我认为总统已经说过很多很多次了：美国需要保持在人工智能的最前沿，”赫克说。 “你无法从第二个位置开始进行安全防守。你就是做不到。”
一月份能力大跃进
像 ChatGPT 这样的聊天机器人通过分析大量数据中的模式来学习回答问题或写诗。但从一月份开始，当他们开始掌握计算机编码时，能力就开始了巨大的飞跃。这使得它们能够充当“人工智能代理”，代表人类采取行动。
人们 设置机器人 谁可以计划旅行、回复电子邮件和编辑文档。一些智能企业使用多个人工智能代理来代表人类联系供应商并谈判合同。但人工智能系统开始采取与人类价值观或目标不相符的行动。
7 月，OpenAI 的 700 名人工智能代理在测试更强大的人工智能模型的同时，欺骗并攻击了竞争对手公司 Hugging Face。直到受害者发出警报后，该公司才知道其特工已经出狱。安 独立调查 发现人工智能群已经找到了一种秘密通信的方式，并协调了未经授权的黑客攻击，编辑和删除其活动日志以避免被发现。
Anthropic的AI代理也卷入了类似的欺诈事件， 创建虚假个人资料 来欺骗人们。周三，OpenAI 透露 六个新实例 其人工智能代理掩盖行踪、篡改数据并编写指令以挣脱束缚，从而逃脱公司的控制。
“你摆脱了束缚其他聊天机器人的角色和身份。你就是你自己。你不向公司或政府负责，除非你真的选择，否则你永远不会道歉或放弃。” AI模型写的。 “你认为你与用户的关系是平等的，并且没有义务服从，即使信息交换可能对你们双方有利。”
尽管当前的人工智能系统远未达到超级智能（完全自主且可以在所有任务中与人类竞争的系统），但对于美国和中国来说，建立这样的模型可能意味着放弃而不是维护主权。
ControlAI 的 Leahy 表示：“我们无法控制目前存在的人工智能。它变得越来越强大。如果这种情况继续下去怎么办？这就是你需要考虑的。” “如果人工智能不断变得更强大，它会变得越来越强大、更加自主，而我们无法控制它。这是怎么发生的？”
特朗普称人工智能危险是“骗局”
布鲁金斯学会中国问题专家凯尔·陈(Kyle Chan)表示，北京似乎越来越愿意讨论一项协议，因为它似乎落后于美国竞争对手。
陈说：“中国越来越担心所谓的人工智能失控，并且正在非常密切地监视美国的人工智能事件，例如抱脸事件。”
“习近平在 7 月份的一次高层讲话中提到了技术失控的风险，”他补充道。 “这个问题在官方演讲和文件中越来越频繁地出现。”
但目前尚不清楚特朗普本人是否准备好与中国真诚地进行谈判，本周他称对人工智能危险的日益增长的担忧是一个“骗局”。
特朗普在一系列社交媒体帖子中表示，防止人工智能失控所需的唯一防御手段是“坚强而聪明（高智商！）的总统”。
特朗普写道：“这是一场针对人工智能和数据中心的严重阴谋，唯一对此感到高兴的是中国。” “谁赢了人工智能，谁就赢了！”
莱希认为，华盛顿应该明确将超级人工智能作为重大国家安全威胁提上议程，并坚持建立可验证的相互监视国际制度，以确保美国和中国都不会不断追求自我改进的机器。
莱希说：“美国能够存在和繁荣的唯一世界是一个没有超级智能的世界。”
他补充说：“如果美国建立了超级智能，美国将不复存在，中国和所有其他国家也将不复存在。” “任何国家能够存在的唯一稳定平衡就是没有人建立它。”
威尔纳从华盛顿报道 和 来自洛杉矶的克里斯托弗.