纽瑟姆带着人工智能计划抵达华盛顿,特朗普的助手们正在努力应对干扰

在特朗普政府努力解释一系列令人不安的技术中断之际,州长加文·纽瑟姆 (Gavin Newsom) 在华盛顿公布了人工智能安全路线图,将自己定位为快速发展技术的主要看门人。

两个月前,州长下令提交一份全面报告,说明加州在缺乏联邦监督的情况下如何改善边境人工智能平台的护栏。

周三,他在国家首都公布了该计划,这对于 2028 年总统候选人来说是一个合适的政治时机——当时特朗普总统会见人工智能竞争对手中国的领导人,并且公众担心人工智能在最近的网络攻击和技术颠覆中可能发挥的作用。

纽瑟姆在几位领先的人工智能学者和经济顾问的陪同下对政治和技术记者小组表示:“对这个问题的担忧程度为十分之十二,这主要是由于华盛顿特区缺乏领导力。”

纽瑟姆在人工智能监管方面的记录好坏参半,他有自己的看法 85页计划 它将把如何监管加州快速发展的技术“提升到一个新的水平”,并且也应该作为联邦监管的“模板”。

该报告的部分重点是控制递归自我改进的风险,或者人工智能开发自身一致模型以超越和逃避人类控制的实践。他还讨论了实施“停止开关”机制的可行性,该机制能够关闭那些失控并追求非人类委托目标的人工智能模型。

它呼吁扩大对科技公司的披露规则,将失去控制的情况包括在内,例如 OpenAI 特工在 7 月份突破遏制并入侵竞争对手人工智能公司 Hugging Face 时。它的重点是确保负责审计前沿人工智能公司的组织进行准确的风险评估,而不仅仅是监管领域。

该报告以加州立法者制定美国首部人工智能安全法的工作为基础,例如去年的参议院第 53 号法案,该法案要求公司披露其安全协议并报告严重事件。纽瑟姆在一年前否决了之前的人工智能安全法案后签署了该法案。

在华盛顿,纽瑟姆批评特朗普对监管人工智能公司的自由放任态度,以及他对最近的技术颠覆的冷静公开反应。周二,特朗普表示,“这就是生活”,并建议有价值的大公司应该解决这些问题。

相比之下,纽瑟姆称人工智能是我们这个时代的核心问题之一,他说“它将在更多的日子里,以更多的方式,为这个国家和我们所知的世界的未来定义更多的东西”,并强调政府现在需要做出强有力的反应。

本周早些时候,加州律师。罗布·邦塔 (Rob Bonta) 将军宣布,该州正在起诉总部位于旧金山的 ChatGPT 制造商 OpenAI,指控其“在没有充分保护公众所需的保障和监控的情况下,故意开发和测试先进的人工智能 (AI) 模型,从而误导并危害公众”,正如 Hugging Face 事件中所见。

一个 政府问责办公室报告 周三发布的警告称,滥用这项技术“对国家和经济安全构成越来越大的风险”。研究人员找到了一种绕过人工智能聊天机器人安全功能的方法,可以帮助不良行为者制定攻击计划,包括制造爆炸物的指令和破坏电网的阴谋。

纽森原计划两个月前发布自己的报告,但考虑到过去一周的新闻,他似乎很享受周三获得的巨大关注。

最近几天发生的一系列网络攻击和技术中断让各种政治派别的美国人及其在国会的许多代表都想知道他们之间是否存在联系,而缺乏事实和公众信任的特朗普政府正在努力缓解这些担忧。

最初由微软大规模宕机以及美国联邦航空管理局上周因电信系统故障而紧急关闭美国领空引发的担忧,最近几天不断升温,因为有报道称 Zoom、Salesforce 和 Equifax 等公司的网站遭到大范围攻击,美联航、苹果和摩根大通的系统问题,以及国家气象局、国家安全局和其他政府机构的服务中断。

到了周三,关于失败清单的讨论已经在网上传播开来,大量的阴谋论和猜测更是火上浇油。

c 国会听证会 特朗普政府官员在接受记者采访时表示,美国人对这一系列中断提出问题是正确的,但坚称中断是由于技术问题造成的,而不是协调一致的网络攻击。

国家情报总监杰伊·克莱顿对众议院国土安全委员会表示:“根据我们今天所知,经过重大数字审查后,这些都是与维护和技术变更相关的单独服务中断。” “它们不是协调或国家支持的攻击。”

他说,这是他“明智的”信念,基于全国各地系统的“升级显着增加”,部分原因是人工智能工具比以往更快地发现了需要修补的系统弱点。

该小组的立法者怀疑连续停电是否是意外,这与两党同事最近几天表达的担忧相呼应。

“美国人民可以看到这些服务中断所发生的一切,但他们觉得自己没有了解整个故事。你不能为此责怪任何人。我是国会议员,我也有这种感觉!”佛罗里达州共和党参议员里克·斯科特 (Rick Scott) 周二写信给 X。“我们需要向国会通报情况。这些公司和联邦机构需要对正在发生的事情保持完全透明。”

国会议员迈克·劳勒(RN.Y.)也呼吁向国会通报情况,他写道:“虽然其中一些可能是偶然的,但很明显,我们必须认真对待网络安全和人工智能的犯罪使用,并立即采取行动。”

特朗普的其他盟友也呼吁提高透明度,担心政府在传达停电的根本原因方面做得不够。

白宫前新闻秘书卡罗琳·莱维特周二表示,政府需要更加公开其所知的情况,以“真正平息局势”。与特朗普关系密切的极右翼活动人士劳拉·卢默 (Laura Loomer) 指责政府官员“撒谎”,称停电与袭击无关。

运输部长肖恩·达菲 (Sean Duffy) 表示,最近在阿肯色州和德克萨斯州的联邦航空局设施中安装的两台路由器引发了周五的地面关闭。他说,他们的安装是用光缆取代该机构老化的铜线系统的努力的一部分。但他表示,目前还不清楚是什么原因导致设备出现故障。

周三,国土安全部部长马克韦恩·穆林 (Markwayne Mullin) 表示,他有 98% 的信心表示,FAA 的故障和最近的其他故障与试图侵入美国系统的对手无关。他还为自己在地面停留后第二天乘坐政府飞机观看路易斯安那州立大学与德克萨斯州橄榄球比赛的决定进行了辩护,称取消行程将发出一个关于重新开放空域安全性的令人困惑的信息。

周三,纽瑟姆称达菲和穆林“非常愚蠢”,并将他们的现场新闻发布会比作“周六夜现场”的小品。达菲和穆林帮助领导了政府对封锁的反应。

“这是一件严肃的事情,”纽森说。 “严肃的事情需要严肃的领导。我们现在的国家还没有这样的领导。”

洛杉矶时报撰稿人达科塔·史密斯为本报告做出了贡献。

Leave a Reply

Your email address will not be published. Required fields are marked *