加州AI安全法案引发争议

关键要点

加州一项备受争议的AI安全法案在州预算委员会通过，但部分批评者表示修改未能有效保护AI创新和初创企业。法案要求AI开发者防止大规模伤亡和重大的网络安全事件。法案对计算能力超过1026 FLOPS和成本至少1亿美元的AI模型施加各项要求。开源模型开发者可能面临法律责任，进一步限制了创新能力。

在加州，一项引发广泛争议的AI安全法案于周四在州预算委员会通过。尽管做出了多项修订以回应科技行业的关切声音，但部分批评者认为这些变化仍不足以避免法案对AI创新、初创企业和开源项目的压制。

加州参议院法案1047SB 1047规定，AI开发者需要负责防止AI系统引发大规模伤亡例如，利用AI开发生物或核武器或造成超过5亿美元损失的重大网络安全事件。

法案仅适用于计算能力超过1026浮点运算每秒FLOPS且成本至少为1亿美元的AI模型，并规定多项要求，包括特定的安全测试和审计、安全事件报告以及“关闭开关”的实施。加州州政府还可对因这些模型而导致灾难性事件的开发者提起诉讼。

Dane Grace，网络安全风险管理公司Brinqa的技术解决方案经理认为：“在我看来，这根本就是在表演，是一次赤裸裸的尝试来抓住一个瞬息万变的潮流。整体上，这似乎只是另一项无用的技术监管，惩罚小企业，奖励科技巨头，却毫无实质性成果。”

此前，法案曾设定更为严格的法律标准和惩罚，可能会在未发生安全事件前就对开发者施加伪证罪的指控。新版本的法案将“合理保证”的语言修改为“合理谨慎”，要求确保AI模型不构成灾难性风险。这些修改部分是应AI公司Anthropic的请求，法案赞助人、旧金山民主党参议员Scott Weiner表示。

尽管对“覆盖模型”的计算能力和成本阈值进行了规定，关于法案要求可能给初创企业带来不必要负担的担忧并未平息。来自风险投资公司Andreessen Horowitza16z法律代表的一封信指出，许多科技初创企业已经为其AI培训获得了这样的资金水平。

另一大关注点是对开源模型开发者施加的负担，他们可能因其他人使用其模型而造成的损害而被追究责任。此法案可能会使开发者不愿发布开源模型，从而移除AI开发生态系统中初创企业、学术界及其他创新者宝贵的工具。八名美国国会议员在8月15日给加州州长Gavin Newsom的信中指出了这一问题。

Grace进一步评论道：“一般而言，这种监管主要针对较小、较年轻的企业家。我相信这将显著提高新进入AI领域的玩家的门槛，尤其是在合成开源LLMS崛起的背景下，他们在某种程度上关上了更具道德的参与者的大门。”

尽管对法案的修订获得了批准，批评者依然认为该法案模糊不清，将对AI创新造成伤害，并未妥善解决AI系统可能带来的风险。例如，国会议员们提到法案集中关注AI导致的大规模伤亡事件这一假设情景，而忽略了更直接且明显的关切，如虚假信息的传播和未经同意的深度伪造。此外，当前缺乏标准化的AI安全框架，使得该法案的要求显得“为时已晚”。

Martin Casado，a16z的合伙人，在X上的评论中表示，法案的修订“只是表面功夫”，“没有解决法案的真正问题或批评”。

Grace对于法案的修改同样不感兴趣。他指出：“法案要求开发者采取‘合理谨慎’以确保AI模型不构成重大风险，而非之前的‘合理保证’标准，这引发

老版本旋风加速免费