美国加州人工智能法案SB 1047饱受争议

该法案被视为美国AI监管的排头兵，将对美国未来的人工智能监管架构形成深远影响，也可能在全球引发涟漪效应。

一、SB 1047 的背景和主要内容

该法案由代表旧金山的州参议员斯科特·维纳 (Scott Wiener) 提出，他主张立法对人工智能进行监管，以保护公众免受技术快速发展带来的潜在风险。维纳认为，积极主动的立法对于防止人工智能变得无法管理或无法控制至关重要。鉴于旧金山是几家大型人工智能开发商的所在地，包括ChatGPT 的创建公司 OpenAI，维纳的担忧尤其有意义。

该法案旨在从模型层面对人工智能进行监管，要求对先进的人工智能模型进行严格的安全测试，特别是那些开发成本超过1亿美元或需要大量计算能力的模型。它还要求开发人员实施“终止开关”（kill switch），以在人工智能模型发生故障时将其关闭，并赋予州检察长在人工智能对关键基础设施构成威胁的情况下起诉不合规开发人员的权力。此外，该法案还要求开发者聘请第三方审计员评估他们的安全实践，并为揭露人工智能滥用行为的举报人提供额外保护。

二、反对者担忧“抑制创新”

 该法案一经提出就被AI界视为大敌，包括OpenAI、Meta和Alphabet在内的一众科技巨头及多达百名业内人士对SB 1047表达了强烈的反对。

其中，AI界最反对的一条规定为，模型开发者对模型的下游使用及微调承担法律责任。比如有人微调了GPT模型，开发出包含恶意及非法内容的人工智能产品，那么OpenAI就需要为此承担责任。

8月22日，OpenAI首席战略官Jason Kwon在给牵头该法案的参议员维纳的信中表示，该法案的核心问题在于它试图将人工智能技术置于过度的监管之下，这种做法可能会威胁加州未来增长、拖慢创新、赶走加州的世界级工程师和企业家，并建议在联邦层面而非地方层面推出AI大模型监管法案。据悉，由于担心加州监管环境的不确定性，OpenAI已经搁置了扩建旧金山办公室的讨论。

人工智能教母，斯坦福大学教授李飞飞则在《财富》杂志网站上发文详细解释反对理由，认为这一法案的主要问题有4点：过度惩罚开发者，有可能扼杀创新；“终止开关”将束缚开源开发工作，摧毁开源社区；削弱学术界和公共部门的AI研究，还有可能阻碍学术界获得更多资金；并未解决AI进步带来的潜在危害，如偏见或深度伪造问题。

三、马斯克带头支持

8月27日，马斯克在社交媒体上发文表达对加州AI法案的支持。他说，“这是一个艰难的决定，会让一些人不满，但综合考虑，我认为加州应该通过SB 1047 AI安全法案。在过去20多年里，我一直是AI监管的倡导者，就像我们监管任何对公众有潜在风险的产品/技术一样。”

与此同时，图灵奖得主杰弗里·辛顿和约书亚·本吉奥也表态支持该法案，认为加州AI法案是有效监管AI技术的“最低要求”。他们称，法案没有许可证制度，不要求公司在培训或部署模型之前获得政府机构的许可。它依赖于公司对风险的自我评估，甚至在发生灾难时也不要求公司承担严格的责任。相对于我们面临的风险，这是一项非常宽松的立法。目前监管AI的法律还没有监管三明治店的严格，取消该法案的基本性措施将是一个历史性的错误——1年后，当下一代更为强大的AI系统发布时，这一错误将变得更加明显。 

相关链接：

[1] Reuters.Big Tech wants AI to be regulated. Why do they oppose a California AI bill?[EB/OL].[2024-08-21].https://www.reuters.com/technology/artificial-intelligence/big-tech-wants-ai-be-regulated-why-do-they-oppose-california-ai-bill-2024-08-21

[2]Financial Times.OpenAI joins opposition to California AI safety bill[EB/OL].[2024-08-22].https://www.ft.com/content/bdba5c71-d4fe-4d1f-b4ab-d964963375c6

[3] 36氪. 美国AI法案大削弱，AI圈炸锅，李飞飞公开谴责，国内AI企业关心的全在这了[EB/OL].[2024-08-16].https://36kr.com/p/2908286694840965