加州人工智能法案分裂硅谷

Josiah02

加州立法机构正在审议一项旨在规范强大人工智能模型的法案，尽管有人抗议该法案可能会扼杀其试图控制的技术。
该法案的提案人、旧金山民主党州参议员斯科特·维纳 (Scott Wiener) 表示：“由于国会在人工智能监管问题上陷入僵局……加州必须采取行动，应对快速发展的人工智能带来的可预见风险，同时促进创新。”
但包括美国国会民主党议员在内的批评人士认为，对新兴领域的开发商采取惩罚措施的威胁可能会扼杀创新。
加利福尼亚州颇具影响力的民主党女众议员南希·佩洛西 (Nancy Pelosi) 在一份新闻稿中表示：“我们国会中的许多人认为，SB 1047 法案虽然出发点良好，但却是错误的。”她指出，党内高层已经与维纳分享了他们的担忧。
佩洛西表示：“虽然我们希望加州在保护消费者、数据、知识产权等方面引领人工智能发展，但 SB 1047 法案弊大于利。”
佩洛西指出，斯坦福大学计算机科学教授李飞飞也是反对该法案的人之一。她以在人工智能领域的地位将李飞飞称为“人工智能教母”。
有害还是有益？
李飞飞本月早些时候在 X 上撰文称，这项名为《前沿人工智能模型安全创新法案》的法案并不能解决其想要解决的问题，而且会“严重损害人工智能学术界、小科技和开源社区”。小科技指的是初创企业和小公司，以及研究人员和企业家。
韦纳表示，该立法旨在为训练成本超过 1 亿美元的系统开发商制定安全标准，确保大规模人工智能模型的安全开发。
该法案要求大型“前沿”人工智能模型的开发者采取预防措施，例如部署前测试、模拟黑客攻击、安装网络安全保障措施以及为举报人提供保护。
该法案最近的修改包括用罚款等民事处罚取代违法行为的刑事处罚。
OpenAI 及其首席执行官 Sam Altman 也公开反对该法案，称国家规则更有意义。
维纳认为，人工智能安全与创新并不互相排斥，对该法案的修改已经解决了一些批评者的担忧。
ChatGPT 的创建者 OpenAI 也对该法案表示反对，称其更倾向于制定国家规则，担心美国各州的人工智能监管法规会陷入混乱。
据全国州议会会议称，今年至少有 40 个州提出了规范人工智能的法案，其中六个州通过了针对该技术的决议或颁布了立法。
OpenAI 表示，加州的法案还可能将创新者赶出硅谷所在地加州。
但另一家可能受该法案影响的生成人工智能公司 Anthropic 表示，经过一些受欢迎的修改后，该法案的好处多于缺陷。
该法案还得到了人工智能界的知名支持者。
“强大的人工智能系统带来了令人难以置信的希望，但风险也非常真实，应该极其认真地对待，”计算机科学家、“人工智能教父”杰弗里·辛顿 (Geoffrey Hinton) 在维纳引用的《财富》专栏文章中表示。
“SB 1047 采取了非常明智的方法来平衡这些担忧。”
辛顿表示，具有“真正效力”的人工智能监管至关重要，而加利福尼亚州是自然的起点，因为它是这项技术的发射台。
与此同时，加州理工学院的教授和学生正在敦促人们签署反对该法案的信。
加州理工学院教授 Anima Anandkumar 在 X 上表示：“我们认为，这项拟议的立法对人工智能发展施加了繁琐且不切实际的规定，对我们推进研究的能力构成了重大威胁。”