联合国专家警告称，人工智能发展不能由市场决定

Josiah02 · 发表于 2024-9-20 13:43:30

联合国专家周四警告称，人工智能的发展不应仅由市场力量引导，并呼吁创建全球合作工具。
但他们没有建议建立一个强有力的全球管理机构来监督这项技术的推出和发展，这项技术的普及引发了人们对偏见、滥用和依赖的担忧。
该小组由联合国秘书长安东尼奥·古特雷斯于 10 月成立，由约 40 名来自技术、法律和数据保护领域的专家组成。
他们的报告是在备受瞩目的“未来峰会”开幕前几天发布的，对人工智能缺乏全球治理以及发展中国家被排除在有关该技术未来的讨论之外提出了警告。
在联合国 193 个成员国中，只有 7 个成员国参与了与人工智能相关的七大举措，而 118 个成员国完全缺席——其中大部分是全球南方国家。
专家在报告中警告称：“目前全球在人工智能方面存在治理缺陷”，而人工智能的本质是跨境的。
古特雷斯本周表示：“人工智能必须公平、安全地为人类服务。”
“如果不加以控制，人工智能带来的危险可能会对民主、和平与稳定产生严重影响。”
该报告赞成在联合国秘书处内设立一个轻触式“协调”结构。
'为时已晚'？
在他的号召下，专家们呼吁联合国成员国建立机制，促进全球在这一问题上的合作，并防止意外扩散。
报告指出：“这种技术的开发、部署和使用不能仅仅由市场来决定。”
该决议首先呼吁创建一个人工智能科学专家组，其模式应是政府间气候变化专门委员会（IPCC）专家论坛，其报告将是气候变化问题的最终定论。
该小组将向国际社会介绍新出现的风险，确定研究需求以及如何利用这些研究来减轻饥饿、贫困和性别不平等等目标。
该提案包含在目前仍在讨论中的《全球数字契约》草案中，该草案将于周日的“未来峰会”上通过。
该报告支持在联合国秘书处内设立一个轻触式“协调”结构。
作者承认，由于人工智能变化的速度太快，试图列出一份全面的危险清单是没有意义的。
但它未能成为一个成熟的国际治理机构——就像古特雷斯所追求的那样——以联合国核监督机构国际原子能机构的模式为基础。
报告称：“如果人工智能的风险变得更加严重、更加集中，成员国可能有必要考虑建立一个具有监测、报告、核实和执法权力的更强大的国际机构。”
作者承认，由于人工智能变化的速度太快，试图列出一份由这项不断发展的技术所带来的危险的综合清单是毫无意义的。
但他们特别指出了虚假信息对民主的危害、越来越逼真的深度伪造（特别是色情内容），以及犯罪和恐怖组织对自主武器的演变和人工智能的使用。
“然而，考虑到人工智能系统的速度、自主性和不透明性，等待威胁出现可能意味着任何反应都为时已晚，”报告称。“持续的科学评估和政策对话将确保世界不会感到意外。”

账号		自动登录	找回密码
密码			立即注册