欧盟最近出台的《人工智能法案》对程序员来说意味着什么？
欧盟的人工智能法于 8 月 1 日生效。新的《人工智能法》主要规定了人工智能在欧盟可以做什么和不能做什么。由萨尔大学计算机科学教授 Holger Hermanns 和德累斯顿工业大学法学教授 Anne Lauber-Rönsberg 领导的团队研究了新立法对程序员实际工作的影响。他们的分析结果将于秋季公布。该论文发表在arXiv预印本服务器上。
萨尔大学计算机科学教授霍尔格·赫尔曼斯表示：“《人工智能法案》表明，政治家们已经认识到人工智能可能带来危险，尤其是当它影响敏感或与健康相关的领域时。”但《人工智能法案》如何影响实际开发人工智能软件的程序员的工作呢？
Hermanns 表示，几乎所有程序员都会对新法规提出一个问题：“那么我到底需要知道什么？”毕竟，没有多少程序员有时间或意愿从头到尾阅读整部 144 页的法规。
但这个常见问题的答案可以在研究论文《工作程序员的人工智能法案》中找到，该论文由 Hermanns 与他的博士生 Sarah Sterz、博士后研究员 Hanwei Zhang、德累斯顿工业大学法学教授 Anne Lauber-Rönsberg 及其研究助理 Philip Meinel 合作撰写。
斯特兹总结了论文的主要结论：“总体而言，软件开发人员和人工智能用户不会真正注意到太大的差异。《人工智能法案》的规定只有在开发高风险人工智能系统时才真正具有相关性。”
《欧洲人工智能法案》旨在保护系统的未来用户，避免人工智能以歧视、有害或不公正的方式对待他们。如果人工智能不侵入敏感领域，它就不会受到适用于高风险系统的广泛监管。
Hermanns 举了以下具体例子来说明这在实践中意味着什么：“如果人工智能软件的目的是在人力资源专业人员参与之前筛选求职申请并可能筛选出求职者，那么该软件的开发者将在程序上市或投入运营后立即受到《人工智能法案》规定的约束。然而，模拟电脑游戏中对手反应的人工智能仍然可以开发和上市，而应用程序开发者不必担心《人工智能法案》。
但高风险系统除了上述申请人追踪软件外，还包括算法信用评级系统、医疗软件或管理大学等教育机构访问权限的程序，必须符合即将生效的《人工智能法案》中规定的一套严格的规则。
“首先，程序员必须确保训练数据符合目的，并且从中训练出来的人工智能能够真正正确地执行任务，”赫尔曼斯解释道。例如，不能因为训练数据中的代表性偏差而歧视一组申请人。
“这些系统还必须保存记录（日志），以便能够重建事件发生的时间和时间，类似于安装在飞机上的黑匣子记录器，”斯特兹说。《人工智能法案》还要求软件供应商记录系统的功能——就像传统的用户手册一样。供应商还必须向部署者提供所有信息，以便在使用过程中对系统进行适当的监督，以检测和纠正错误。（研究人员最近在另一篇论文中讨论了寻找有效的“人工监督”策略。）
Hermanns 总结了《人工智能法案》的影响：“《人工智能法案》引入了许多非常重要的限制，但大多数软件应用程序几乎不会受到影响。”如今已经非法的事情，例如使用面部识别算法来解读情绪，仍将受到禁止。非争议性人工智能系统，例如视频游戏或垃圾邮件过滤器中使用的系统，几乎不会受到《人工智能法案》的影响。
“上述高风险系统只有在进入市场或投入运营时才会受到立法监管，”斯特兹补充道。无论是在公共领域还是私人领域，研发都将继续不受限制。
“我认为，《人工智能法案》不会让欧洲落后于国际发展，”赫尔曼斯说。事实上，赫尔曼斯和他的同事们对《人工智能法案》总体上持积极态度——这是第一部为整个大陆使用人工智能提供法律框架的立法。“该法案试图以合理和公平的方式监管人工智能，我们相信它是成功的。”
更多信息： Holger Hermanns 等人，《AI Act for the Working Programmer》，arXiv (2024)。DOI ：10.48550/arxiv.2408.01449
期刊信息： arXiv
页:
[1]