人工智能贷款可能会使金融交易对女性更加不公平——以下是如何避免这种情况

Josiah02 · 发表于 2024-9-3 12:43:10

众所周知，女性从销售人员那里借钱时获得的贷款条件平均比男性差。最近一项针对美国汽车经销商贷款实践的研究证实了这一点。同样，世界各地的银行贷款和抵押贷款多年来也存在同样的情况。
学术文献表明，销售人员可能会向女性提供更差的条件，因为他们认为女性对市场了解较少，因此无法评估她们是否得到了公平的待遇。女性也可能因为不像男性那样自信而受到惩罚。
一个日益紧迫的问题是，随着人工智能 (AI) 在贷款领域发挥更大作用，它将如何影响这一领域。尽管银行和其他贷款机构可能对在贷款领域使用机器学习和生成式人工智能的程度讳莫如深，但这肯定已经在幕后发生，并且将在未来几年变得更加重要。
您可能认为人工智能可以减少对女性的贷款歧视，也许是通过消除销售代表的偏见。事实上，我的研究小组的一项新研究表明，这种情况可能会变得更糟。那么为什么会这样呢？可以避免吗？
我们的研究调查了加拿大 50,000 多笔汽车贷款，发现更多证据表明贷款歧视妇女。在信贷研究领域，比较贷款的标准方法被称为“预期效用”。
该指标通过考虑利率、贷款获批的可能性以及销售人员为借款人付出的努力等因素来衡量贷款给借款人带来的收益。我们发现女性的贷款预期效用比男性低 68%。
为了了解人工智能如何改变汽车行业（该行业仍处于采用人工智能的早期阶段），我们研究了机器学习如何优化贷方向销售人员支付的佣金，以安排购车者的贷款。佣金在汽车贷款中起着至关重要的作用，影响销售代表的贷款定价决策，并占经销商收入的很大一部分。
也许在理想情况下，将人工智能纳入这一流程意味着您可以实现贷款定价自动化，消除销售人员的参与，并取消他们的佣金。但现实是，贷方之间的竞争已经足够激烈，经销商从佣金中赚取了如此多的利润，他们可能会将业务转移到其他地方。因此，贷款佣金模式不太可能改变——无论是在汽车行业还是在更广泛的消费贷款领域。
相反，贷方的机会是使用机器学习来优化佣金，以便销售代表选择能为贷方带来更高预期利润的贷款利率，并有动力为客户投入足够的精力，让他们同意这笔交易。通过这样做，我们发现贷方能够将利润提高 8%。当然，这是以牺牲客户为代价的。我们发现，在这种情况下，贷款对客户的预期效用会下降 20%。
然而，当我们比较男性和女性借款人时，我们发现女性的贷款下降幅度为 42%，而男性的贷款下降幅度仅为 17%。我们没有测试到底发生了什么，但可以合理地假设，由于回溯数据被针对女性的不良贷款交易“污染”，人工智能假设女性比男性更能容忍更差的贷款交易，从而加剧了这种情况。
解决方法
这证实了一些行业观察家长期以来的担忧，即人工智能最终可能扩大贷款方面的歧视，不仅针对女性，还针对获得较不优惠贷款条件的其他群体，例如某些少数民族。
有人可能会说，谨慎的做法是让贷方完全避开人工智能。但我们想知道是否有可能达成妥协。我们能否鼓励贷方更负责任地使用人工智能，以改变利润和社会正义之间的权衡？
我们在研究中测试了这一点，通过编写机器学习算法来最大化利润，同时不降低女性贷款的预期效用。换句话说，效用只对男性下降。在这一限制下，我们发现贷款人仍然可以将利润提高 4%。
这表明，如果使用得当，人工智能既可以造福贷方，又可以保护弱势群体。对于那些宁愿让人工智能远离金融服务的人来说，接受它的必然性并将其用作使贷款更加公平的工具可能更好。

账号		自动登录	找回密码
密码			立即注册