人工智能可以帮助扩大人道主义响应。但它也可能有很大的弊端

Josiah02

近年来，国际救援委员会一直在应对流离失所者数量的急剧增加，该难民援助组织一直在尽一切可能提高效率，包括使用人工智能。
自 2015 年以来，IRC 一直投资 Signpost，这是一个移动应用和社交媒体渠道组合，可以为处于危险境地的人以不同语言解答问题。Signpost 项目包括许多其他组织，迄今已覆盖 1800 万人，但 IRC 希望通过使用 AI 工具大幅扩大其覆盖范围。
冲突、气候紧急情况和经济困难推高了对人道主义援助的需求，联合国难民署的数据显示，2024 年将有超过1.17 亿人被迫流离失所。随着人道主义组织遇到更多需要帮助的人，他们也面临着巨大的资金短缺。转向人工智能技术在一定程度上是由需求和资源之间的巨大差距推动的。
为了实现在三年内为一半流离失所者提供帮助的目标，IRC 正在建立一个人工智能聊天机器人网络，以提高人道主义官员和通过 Signpost 直接为人们服务的当地组织的能力。目前，该项目在萨尔瓦多、肯尼亚、希腊和意大利开展，并以 11 种语言进行响应。它借鉴了一些最大的科技公司的大型语言模型，包括 OpenAI、Anthropic 和谷歌。
国际救援委员会提供的这些未注明日期的截图显示，聊天机器人正在使用人工智能回答难民或其他流离失所者可能会提出的测试问题。国际救援委员会正在一个名为 Signpost.AI 的项目中测试人工智能工具，试图增加他们能够向流离失所者提供关键信息的人数。图片来源：国际救援委员会，美联社照片
聊天机器人响应系统还使用 Zendesk 的客户服务软件，并得到谷歌和思科系统的其他支持。
除了开发这些工具之外，IRC 还希望免费将这一基础设施扩展到其他非营利人道主义组织。他们希望创建共享技术资源，让技术不太注重的组织可以使用这些资源，而无需直接与科技公司谈判或管理部署风险。
国际救援委员会首席研究与创新官珍妮·安南 (Jeannie Annan) 表示：“我们试图真正弄清楚合理的担忧在哪里，但要对机遇保持乐观，同时不要让我们服务的人群落后于具有人与人或其他技术无法实现的扩展潜力的解决方案。”
Signpost 聊天机器人提供的回复和信息经过当地组织的审查，以确保其是最新的，并且能够反映人们可能遇到的危险情况。IRC 分享的一个例子是，一名萨尔瓦多妇女带着她的儿子经墨西哥前往美国，她正在为孩子寻找庇护所和服务。该机器人提供了她所在地区的服务提供商列表。
更复杂或更敏感的查询将被升级以供人工响应。
这些工具最重要的潜在缺点是它们不起作用。例如，如果当地情况发生变化而聊天机器人不知道怎么办？它提供的信息可能不仅是错误的，而且是危险的。
第二个问题是，这些工具可以收集有关弱势群体的宝贵数据，而这些弱势群体可能会成为敌对行为者的目标。如果黑客成功获取了包含个人信息的数据，或者这些数据被意外分享给了专制政府，该怎么办？
IRC 表示，他们已与技术提供商达成协议，不会使用 IRC、当地组织或他们所服务的人生成的数据来训练他们的任何 AI 模型。他们还努力将数据匿名化，包括删除个人信息和位置信息。
作为Signpost.AI项目的一部分，IRC还在测试数字自动导师和地图等工具，这些工具可以整合多种不同类型的数据，以帮助预防和应对危机。
非营利研发公司 MITRE 的 Cathy Petrozzino 表示，人工智能工具确实具有很高的潜力，但风险也很大。她说，要负责任地使用这些工具，组织应该问问自己，这项技术是否有效？公平吗？数据和隐私是否受到保护？
她还强调，组织需要召集各种人员来帮助管理和设计该计划——不仅仅是技术专家，还有对背景有深入了解的人、法律专家以及将使用这些工具的团体的代表。
她说：“许多优秀的模型都被埋葬在了人工智能的坟墓里，因为它们没有与用户社区共同协作开发出来。”
Petrozzino 表示，对于任何可能改变生活的系统，团体都应该聘请外部专家来独立评估他们的方法。她说，人工智能工具的设计者需要考虑它将与之交互的其他系统，并且他们需要计划随着时间的推移监控该模型。
CDAC 网络执行董事海伦·麦克埃尔希尼 (Helen McElhinney) 表示，咨询流离失所者或人道主义组织服务的其他人员可能会增加设计这些工具所需的时间和精力，但如果没有他们的意见，就会引发许多安全和道德问题。它还可以解锁本地知识。
她说，接受人道主义组织服务的人应该被告知，人工智能模型是否会分析他们提供的任何信息，即使其目的是帮助该组织更好地做出反应。她说，这需要有意义且知情的同意。她说，他们还应该知道人工智能模型是否在做出改变生活的资源分配决定，以及这些决定的责任在哪里。
索马里和肯尼亚非营利组织 Adeso 的首席执行官 Degan Ali 长期以来一直倡导改变国际发展中的权力格局，将更多资金和控制权交给当地组织。她询问 IRC 和其他追求这些技术的公司如何克服接入问题，并指出飓风海伦在美国造成了长达一周的停电，她说，在没有设备、互联网或电力的情况下，聊天机器人无济于事。
阿里还警告说，很少有地方组织有能力参加大型人道主义会议，在这些会议上讨论人工智能的伦理问题。她说，很少有组织拥有足够资深和知识渊博的工作人员来真正参与这些讨论，尽管他们了解这些技术可能带来的潜在力量和影响。
“我们必须格外小心，不要通过技术复制权力不平衡和偏见，”阿里说。“最复杂的问题总是需要当地、背景和生活经验才能以有意义的方式回答。”