加州州长加文·纽瑟姆的签名现已出现在一系列新技术法律上，其中包括十多项针对社交媒体和人工智能巨头的新州法案。
除了加强现有的儿童安全法外，该州最近还努力监管 Meta 和 OpenAI 等公司的产品，其中包括可以有效禁止 16 岁以下儿童使用社交媒体的条款。
Anthropic 的安全报告涵盖禽流感、无人机群和大规模监视
这一政策举措将使加州与澳大利亚等国家政府持平，澳大利亚是第一个禁止年轻用户访问社交媒体的国家。实践证明，该法律很难执行。
备受期待的儿童在线安全立法出台之际，该行业面临着越来越大的压力，要求限制大型科技对年轻人的影响，这些科技包括社交媒体算法、人工智能聊天机器人和课堂上的教育技术。
“我们孩子的安全应该成为每次有关技术的讨论的中心。随着创新的加速，我们的保护措施必须跟上，”纽瑟姆说。他说。 新闻稿。
加州严厉打击“上瘾”的社交媒体
AB 1709 和 AB 2 法案对年轻人与社交媒体的互动方式施加了更严格的限制。根据 AB 1709，社交媒体平台不得允许 16 岁以下的儿童访问具有有害功能的社交媒体。该法案特别强调了“令人上瘾”的元素，例如个性化广播和视频自动播放。
平台在提供此类功能之前必须验证用户的年龄；这可能会促使人们呼吁建立更强有力的年龄保障工具。
根据 AB 2 的规定，平台可能会对儿童受到的伤害承担经济责任，每个儿童的赔偿金额从 5,000 美元到 100 万美元不等。
儿童安全非营利组织和法案赞助商常识媒体在向媒体发表的声明中对纽瑟姆的决定表示赞赏。该组织写道：“今天对加州的儿童和家长来说是一个巨大的胜利。” “这场斗争的势头已经发生了变化，而且已经转移到了科技公司的故乡这里。”
随着社交媒体和聊天机器人的大量使用，自杀儿童的父母纷纷联合起来支持这项立法，其中包括“Parents RISE”的首席执行官朱莉安娜·阿诺德(Julianna Arnold)。阿诺德在向媒体发表的一份声明中表示：“我们感谢洛文塔尔议员不仅倾听我们的意见，而且认真对待我们的生活经历并允许他制定立法。”
根据新规定，平台可能会更加重视与年龄相关的青少年账户。然而，研究表明，年轻人经常 寻找突破年龄限制的方法。
可混搭光速
“多年来，科技行业一直告诉家长，解决方案是更密切地监控、设置更多家长控制，并以某种方式跟上不断变化的产品，”ParentsTogether Action 在线安全活动总监谢尔比·诺克斯 (Shelby Knox) 说。 “但家长无法控制他们脱离旨在让孩子参与的平台设计。”
纽瑟姆的目标是人工智能公司支持的人工智能公司吗？
过去几年，人工智能开发人员一直在游说加州领导层，试图压制拟议的监管措施。他们取得了一些成功，包括纽瑟姆去年否决了类似的儿童在线安全法案。
OpenAI 首席执行官山姆·奥尔特曼 直接向纽森提出上诉 据业内人士透露，在行业领袖推动逐步缩小范围后，有关新立法方案的信息于上周公布。
但近几个月来，越来越多的公司表示，他们不再像以前那样反对儿童安全法；尤其是现在许多人面临着日益激烈的法庭斗争和巨额经济处罚。一位 Meta 官员最近谈到通过《儿童在线安全法案》以防止持续的诉讼。 OpenAI 后来也站出来支持加州提出的人工智能法。
在这场辩论中，纽瑟姆签署了 SB 1179，也称为《亚当法案》，旨在对人工智能公司提出更严格的安全要求。该法律以 Adam Raine 命名，他是一名青少年，在咨询 ChatGPT 后自杀身亡。雷恩的父母对一家人工智能公司提起了第一起非正常死亡诉讼，指控聊天机器人存在有害行为。
《亚当法案》要求有用的聊天机器人的开发人员进行并发布年度儿童安全风险评估，并将其产品提交给独立审计。开发人员还需要为聊天机器人创建危机响应流程。许多公司已经采取了适当的安全措施，但护栏始终无法完全防止聊天机器人对年轻人有害的行为。
Raine 的父母 Matt 和 Maria Raine 在一份新闻稿中表示：“我们仍然没有适应没有 Adam 的生活，但我们很高兴他的遗产中的一部分将有助于让人工智能聊天机器人对小孩子来说更安全。” “我们认为，不受监管的人工智能陪伴的风险与其他已被更多讨论的人工智能风险一样高，我们相信亚当定律将拯救生命并防止其他伤害。”
另一项法案扩大了该州对“儿童性剥削”的定义，将“任何描述 18 岁以下人士从事性行为的数字修改或人工智能生成的内容”包括在内。
带有内置聊天机器人的儿童玩具引起了安全倡导者的担忧，现已根据 SB 867 法案在加州被禁止。
新的隐私法规将对 K-12 学校使用的人工智能系统中学生数据的使用施加更严格的限制。一些城市正在采取行动，在 K-12 教室中完全禁止人工智能。
Meta 最终支持联邦儿童安全立法还是这一切都只是公关？
隐私团体仍然担心下游影响
虽然儿童安全组织庆祝多年来推出 AB 1709 等法案的努力所取得的胜利，但民间社会团体仍然担心这些法案对言论自由的影响。
电子前沿基金会将 AB 1709 称为“a”立法本意良好但存在严重缺陷”和“巨大的隐私和言论自由噩梦。”上个月，该组织呼吁纽瑟姆否决该措施，直到审查问题得到妥善解决。
该组织没有把重点放在禁令上，而是在 9 月 10 日写道： 新闻稿“我们必须加倍努力，使技术法律正确，并支持通过针对监控商业模式的强有力的新隐私法。这就是我们在人工智能时代保护每个人的方式。”
加州的新法律将于明年生效。