地方政府使用人工智能没有明确的规则或政策，公众也不知道

Josiah02

2017 年，荷兰鹿特丹市部署了一套人工智能 (AI) 系统，用于确定福利领取者实施欺诈的可能性。在分析数据后，该系统出现了偏见：它将女性、年轻人、有孩子且荷兰语水平较低的人标记为“高风险”。
鹿特丹系统在外部伦理审查后于 2021 年被暂停，但它表明，当政府在没有适当监督的情况下采用人工智能系统时，可能会出现什么问题。随着越来越多的地方政府转向人工智能，努力为居民提供实时和个性化的服务、“更智能”的环境和更好、更安全的系统，风险也在上升。
作为我们正在进行的研究的一部分，我们研究了世界各地 170 个使用各种人工智能系统的地方政府。
我们发现人工智能已经触及公共服务的几乎每个方面，而大多数政府甚至还没有发布有关人工智能的政策。
人工智能在日常治理中的应用
人工智能应用正在深刻影响地方治理。我们的国际调查发现，170 个地方议会共有 262 起采用人工智能的案例​​，涉及广泛的技术和服务。
我们发现这些技术正在部署到五个关键领域。
1. 行政服务。例如，西班牙马德里的VisitMadridGPT旅游聊天机器人为游客提供个性化推荐、实时支持和文化见解。
2. 医疗保健和福祉。例如，在 2021 年新冠疫情最严重的时候，美国波士顿市长办公室推出了一款人工智能驱动的聊天机器人，用于非接触式送餐，同时解决了饥饿和安全问题。
3. 交通和城市规划。澳大利亚洛根市实施了实时人工智能系统，让司机了解哪里有停车位，从而减少拥堵和沮丧。同时，人工智能驱动的公共交通路线优化正在被广泛采用，以节省时间和排放。
4. 环境管理。在中国杭州，人工智能系统正被用于更有效地对垃圾进行分类，从而提高回收率。
5. 公共安全和执法。美国芝加哥已使用传感器和人工智能自动化来制定执法策略。据报道，通过精确定位犯罪热点，该市在 2018 年将枪支暴力减少了 25%。然而，这项技术也引发了人们对种族定性的道德担忧。
人工智能的双刃剑
我们利用人工智能进行的研究发现，截至 2023 年 5 月，只有 26 个国家发布了人工智能政策，不到 16%。大多数国家都在部署强大的人工智能系统，但没有公开的公共监督或问责框架。
这引发了人们对违反道德、系统性偏见和不受监管的数据使用的严重担忧。
如果没有强有力的政策，地方政府就有可能在没有严格检查或外部监督的情况下部署强大的人工智能系统。在分配公共住房或医疗服务等资源时，算法可能会无意中歧视某些群体。风险可能非常高，就像鹿特丹的福利欺诈风险评分一样。
在制定人工智能政策的委员会中，明确强调与利益相关者的合作、提高员工和公民的意识以及确保透明度和监管。
其中，巴塞罗那市议会的人工智能政策尤为突出，其政策包括人工智能透明化、确保人工智能决策可解释、公平公正等原则，为其他城市树立了标杆。
公众处于黑暗之中
我们团队最近在澳大利亚、西班牙和美国进行的一项调查显示，公众对人工智能的认识与地方政府的行动之间存在巨大差距。超过 75% 的受访者知道人工智能技术及其在日常生活中日益增长的影响力，但对地方政府的举措却一无所知。
平均而言，一半的受访者不知道当地政府正在积极将人工智能应用于公共服务。更令人担忧的是，68% 的受访者表示，他们不知道当地政府有或可能制定管理人工智能使用的政策。
这种明显的缺乏意识引发了人们对地方议会透明度和沟通能力的迫切质疑。随着人工智能越来越多地融入城市管理——从交通监控到公共安全和环境可持续性——更好地向公众通报信息至关重要。
如果没有公众的理解和参与，在治理中为人工智能建立信任、问责和道德监督的努力可能会面临重大障碍。
我们面临的未来
毫无疑问，人工智能系统在改善城市治理方面具有巨大潜力。但如果没有优先考虑透明度、问责制和道德使用的政策，城市就有可能释放出一种弊大于利的系统。
然而，对于地方政府和公民来说，避免这种严峻的未来还为时不晚。地方政府可以制定强有力的人工智能政策，确保公平、透明和合乎道德地使用数据。公民可以了解人工智能在地方治理中的作用。p
人工智能应用正在重塑和改变我们的世界。但我们如何引导它们融入我们的社区将决定它们是一股向善的力量，还是仅仅会实现偏见和隐藏的议程。
我们的项目正在与澳大利亚、美国、西班牙、香港和沙特阿拉伯的地方政府合作，制定指导人工智能原则，目标是在 2025 年底前完成。