加州州长阻止了具有里程碑意义的人工智能安全法。这就是为什么这项裁决对全球人工智能的未来如此重要
在人工智能迅速塑造未来的世界里，加州正处于一个关键时刻。美国加州州长加文·纽瑟姆最近阻止了一项旨在加强对生成式人工智能开发监管的关键人工智能安全法案。许多人认为《前沿人工智能模型安全创新法案》（SB 1047）是技术发展的必要保障。生成式人工智能涵盖生成文本、视频、图像和音乐等新内容的系统——通常是响应用户的问题或“提示”。
但纽森表示，该法案可能会“限制推动有利于公共利益的进步的创新”。虽然他同意需要保护公众免受技术威胁，但他辩称，SB 1047 并不是“最佳方法”。
加州发生的事情非常重要，因为它是硅谷的所在地。在全球排名前 50 的人工智能公司中，目前有 32 家公司的总部设在该州。因此，加州立法机构在确保人工智能技术安全方面发挥着独特的作用。
但纽瑟姆的决定也反映了一个更深层次的问题：创新和安全能否真正共存，还是我们必须牺牲一个来促进另一个？
加州的科技产业为该州经济贡献了数十亿美元，创造了数千个就业机会。纽森和马克·安德森等知名科技投资者都认为，过多的监管可能会减缓人工智能的发展。安德森赞扬了这项否决，称它支持“经济增长和自由”，而不是过度谨慎。
然而，快速发展的人工智能技术可能带来严重风险，包括传播虚假信息、发动可能危害社会的复杂网络攻击等。其中一项重大挑战是了解当今人工智能系统到底有多强大。
生成式人工智能模型（如 OpenAI 的 GPT-4）能够进行复杂的推理，并能生成类似人类的文本。人工智能还可以制作极其逼真的假图像和视频，即所谓的深度伪造视频，这些视频可能会破坏人们对媒体的信任并扰乱选举。例如，公众人物的深度伪造视频可能被用来传播虚假信息，导致混乱和不信任。
人工智能产生的错误信息还可能被用来操纵金融市场或煽动社会动荡。令人不安的是，没有人确切知道接下来会发生什么。这些技术为创新打开了大门——但如果没有适当的监管，人工智能工具可能会以难以预测或控制的方式被滥用。
对于可以创建人工图像或视频的生成式人工智能工具而言，传统的软件测试和监管方法显得力不从心。这些系统的发展方式甚至连其创造者都无法完全预料，尤其是在经过与数百万人互动的大量数据训练之后，例如ChatGPT。
SB 1047 试图解决这一问题，要求公司在其 AI 软件中安装“终止开关”，一旦出现问题，即可停用该技术。该法律还要求他们为预算超过 1 亿美元（7720 万英镑）的任何 AI 项目制定详细的安全计划。
批评人士称，该法案范围太广，甚至会影响到风险较低的项目。但该法案的主要目标是为这个发展速度可能超出立法者能力的行业建立基本的保护措施。
加州作为全球领导者
加州的决定可能会影响世界。作为全球科技领导者，该州监管人工智能的方法可能会为其他国家树立榜样，就像它过去所做的那样。例如，加州通过《加州消费者隐私法案》（CCPA）制定严格的车辆排放标准，以及其对自动驾驶汽车的早期监管，已经影响了其他州和国家采取类似措施。
但通过否决 SB 1047，加州可能发出了一个信号，即它还没有准备好在人工智能监管方面发挥带头作用。这可能会给其他国家留下介入的空间——这些国家可能不像美国那样关心道德和公共安全。
特斯拉首席执行官埃隆·马斯克谨慎地支持该法案，承认虽然这是一个“艰难的决定”，但这可能是一个好主意。他的立场表明，即使是科技界人士也认识到人工智能带来的风险。这可能是一个信号，表明该行业已准备好与政策制定者合作，以最好地监管这种新技术。
认为监管会自动扼杀创新的想法是误导性的。有效的法律可以创建一个框架，不仅可以保护人类，还可以让人工智能可持续发展。例如，法规可以帮助确保人工智能系统以负责任的方式开发，同时考虑到隐私、公平和透明度。这可以建立公众信任，这对于广泛采用人工智能技术至关重要。
人工智能的未来不必在创新和安全之间做出选择。通过实施合理的保障措施，我们可以充分发挥人工智能的潜力，同时保证社会安全。公众参与在这一过程中至关重要。人们需要了解人工智能的能力和风险，才能参与制定反映社会价值观的政策。
风险很高，人工智能正在迅速发展。现在是时候采取主动行动，确保我们在不损害自身安全的情况下享受人工智能带来的好处。但加州否决人工智能法案也引发了一个更广泛的问题：科技公司日益增长的权力和影响力，因为它们提出了反对意见，导致该法案被否决。
页:
[1]